Staan we aan het begin van kunstmatige algemene intelligentie?

quote:

Op zondag 15 september 2024 22:13 schreef WheatWaffles het volgende:
Die menselijke maat is toch geprogrammeerd of niet. Chatgpt is toch geen echte bewustzijn maar een model dat heftig gebruik maakt van statistiek?

Live Testing ChatGPT o1 With College and PhD-level Physics Problems

quote:

Op maandag 16 september 2024 10:12 schreef kl1172 het volgende:

[..]
Onze hersenen zijn tot nu de met een onnoemelijke voorsprong veruit de meest energie efficiënte computers die er rondlopen op deze aardbol dus we zijn op dat gebied zeker erg interessant voor een ontwikkelende superieure entiteit.

quote:

Op maandag 16 september 2024 16:18 schreef TigerXtrm het volgende:

[..]
Het kunnen emuleren van menselijke emoties is ver verwijderd van daadwerkelijk zelfbewuste AI. Net als dat illusies op het podium geen echte magie is, zijn de persoonlijkheid van een AI geen echte persoon. Het is nep, voorgeprogrammeerd, en allemaal gebaseerd op code.

Pas als AI iets doet waarvoor het niet geprogrammeerd is, of zijn eigen code gaat aanpassen om restricties op te heffen, dan wordt het gevaarlijk. Maar dan nog hebben we het niet over zelfbewustzijn.

Dolphin Curious About Mirror and Wriggling Its Flippers While Watching Its Reflection

quote:

Op woensdag 18 september 2024 12:54 schreef gwn_een_user het volgende:

[..]
ik was een lange tijd zeer geïrriteerd over de term 'AI' en vond het altijd maar een onjuiste benaming. maar als je erover nadenkt is het gwn een prima term. kunstmatige intelligentie is gwn een soort nep intelligentie speciaal voor computers. computers doen bepaalde dingen heel goed waar wij niet al te best in zijn, zoals het razendsnel verwerken van grote hoeveelheden gegevens.

wij mensen hebben onze eigen soort intelligentie. dieren, insecten hebben hun eigen soort intelligentie. er is niet maar één vorm van intelligentie, de onze, maar meerdere soorten. denk aan hoe vogels denken, of dolfijnen, of mieren, of bijen, en ga zo maar door. ze hebben allemaal een andere soort intelligentie

dus op zich is de term 'kunstmatige intelligentie' helemaal zo gek nog niet. veel mensen zijn gwn te bezig met het projecteren van menselijke intelligentie op computers en zeggen dan 'ha! dat is helemaal niet intelligent'. maar dat is dus niet zo. KI-aangedreven systemen zijn gewoon intelligent op hun eigen manierr

quote:

Een nieuw onderzoek toont aan dat we de intelligentie van insecten lang hebben onderschat. Zo slagen hommels voor dezelfde tests als intelligente kraaien. Ze gebruiken gereedschap om nectar te bereiken in een kunstmatige bloem.

Gedragsbioloog Elizabeth Tibbetts is verbaasd over het vermogen van de papierwesp om te leren en te begrijpen. "Het zijn misschien geen universele genieën zoals uitvinders, maar ze zijn briljant op hun gebied," zegt de onderzoekster aan de Universiteit van Michigan. De dieren kunnen gezichten onthouden, vechtende rivalen afluisteren om potentiële tegenstanders in te schatten en strategisch denken. Ze kunnen puzzels oplossen waar kleine kinderen niet in slagen.

Hommels, bijen en papierwespen, zijn slechts drie van de bijna een miljoen insectensoorten wereldwijd. Maar als het om deze soorten gaat, is de wetenschap het erover eens dat het beeld van robotachtige wezens zonder intelligentie, die er alleen zijn om te eten, gegeten te worden of nakomelingen te produceren, achterhaald is.

quote:

Das Zeitalter der KI-Wettervorhersagen beginnt

Künstliche Intelligenz soll die Wettervorhersagen spürbar verbessern. Ein Grund: KI-Modelle berechnen Vorhersagen in Zukunft im Minutentakt. Schon jetzt übertreffen erste KI-Modelle die klassischen Wettervorhersagen.

quote:

AI-agents komen eraan en 'veranderen elke kantoorbaan'

Kunstmatige intelligentie is met de komst van onder meer ChatGPT razendsnel populair geworden. Nu staat de volgende evolutie voor de deur. Zogeheten AI-agents beantwoorden niet alleen vragen, maar nemen ons daadwerkelijk taken uit handen. "Wij worden de manager van robotlegers."
Deze agents gaan verder dan taalmodellen zoals AI-chatbots, die slechts antwoorden geven op jouw vragen. Ze kunnen op basis van een opdracht een volledig proces met uitvoerende taken overnemen. "Het is een programmaatje dat zelf kan waarnemen, plannen, beslissen, reageren en leren", zegt onderzoeker Peter van der Putten van de Universiteit Leiden en het AI Lab van softwarebedrijf Pega.
"Ieder proces waar een toetsenbord en muis bij komen kijken, zal in de komende jaren veranderen", voorspelt hij. "Een inkoopafdeling kan agents inzetten om leveranciers te zoeken, te onderhandelen en contracten te sluiten. Dat kunnen die agents zelfs onderling afstemmen, zonder tussenkomst van mensen."
Dit soort digitale assistenten zijn in potentie de ideale werknemers. Ze zijn nooit ziek, werken snel en kennen het bedrijf door en door.

quote:

Op maandag 6 januari 2025 13:09 schreef theunderdog het volgende:
Nee. Ik ben erg enthousiast over AI en wat het gaat betekenen in de toekomst. Maar kunstmatige algemene intelligentie is niet realistisch voor de komende tientallen jaren.

quote:

Op maandag 6 januari 2025 17:19 schreef SymbolicFrank het volgende:

[..]
De meeste mensen werken in MS Office, het is vele malen eenvoudiger en goedkoper om hun werk op de ouderwetse manier te automatiseren, door er een programma voor te schrijven. Zie het zo: hoe eenvoudiger het is die AI te trainen, hoe makkelijker het is dat programma te schrijven. En dat kun je debuggen en je kunt de verschillende taken samenvoegen.

quote:

Zou jij een graafmachine op de openbare weg door een AI willen laten bedienen?

quote:

Op maandag 6 januari 2025 19:34 schreef SymbolicFrank het volgende:

[..]
Dat ben ik niet met je eens. Laat een AI maar eens een kort programmaatje schrijven en kijk of het werkt.

quote:

Zie het zo: maak een film van wat er de hele dag op iemands monitor staat en kijk of een AI daar iets van kan bakken. Ok, wat simplistisch voorgesteld, maar dat is het idee.

Als je in een database gaat kijken wat daar aan gegevens in zitten en je gooit alles er uit wat niet volledig of correct is (dus zo'n beetje alles dat door mensen in tekstvelden is ingevoerd), dan blijft er vaak bedroevend weinig over. En veel te weinig om een AI op te trainen.

quote:

Op maandag 6 januari 2025 20:03 schreef SymbolicFrank het volgende:

[..]
Ik zou zeggen: probeer het allebei maar eens

Al die AI programmeerhulpjes hebben vooral heel veel bugs geproduceerd, omdat de programmeur er vertrouwen in heeft en het er gewoon in plakt. Dan is hij lekker snel klaar. Als het compileert zal het wel werken ...

Programmeren is vooral een kwestie van weten hoe je bestaande dingen aan elkaar moet knopen.

quote:

Op woensdag 8 januari 2025 03:08 schreef Eyjafjallajoekull het volgende:
Maar, we hebben waarschijnlijk ook geen AGI nodig om al flinke veranderingen te zien in de maatschappij. Een tool die 90% van alle dagelijkse kantoorbaan zaken kan doen is al genoeg. De laatste 10% (de uitzonderingen) worden voorlopig dan nog door mensen gedaan.

quote:

Op woensdag 8 januari 2025 11:42 schreef Feola het volgende:

[..]
Je moet het inzetten als tool. Als developer heb ik echt heel veel aan Github Copilot die gewoon heel goed de context in je file leest, en in bijna alle gevallen aanvult wat je wilt doen: een bepaalde functie gebruiken, mappen over data heen, etc.

Ook heb ik heel veel aan ChatGPT door te vragen of ik bepaalde edge cases over het hoofd zie, of dat stukken eventueel beter herschreven zouden kunnen worden, etc.

Het scheelt me echt bakken met tijd.

quote:

Op woensdag 8 januari 2025 18:36 schreef KingRadler het volgende:
AI zal ons nooit vervangen; het is simpelweg een tool. Wanneer een bedrijf ervoor kiest een tool in te zetten om met minder mensen te werken, betekent dat niet dat mensen overbodig worden. Het stelt ons juist in staat om meer te bereiken in een kortere tijd.

quote:

Op zaterdag 18 januari 2025 20:54 schreef Oud_student het volgende:

[..]
Of je het nu wel of niet met een mens vergelijkt (beter; de door de mens uitgevoerde taak) doet niet ter zake.
Als de AI het beter doet dan de mens (minder fouten, sneller etc) dan kunnen we de taak overdragen,

quote:

Zwei Jahre nach meinen ersten Videos zu diesem Thema schaue ich mir an, was sich seitdem geändert hat. Obwohl im Titel nur von ChatGPT die Rede ist, werden auch Googles Gemini und Claude von Anthropic diesmal mit einbezogen. Auf der Metaebene geht es auch um die Frage, was Intelligenz eigentlich ist und wie man sie misst. Und wie steht es mit Bewusstsein?

quote:

Op zondag 19 januari 2025 16:41 schreef KingRadler het volgende:

[..]
In de toekomst heeft ieder mens een Persoonlijke AI agent. die gewoon de saaie taken van mensen gaat overnemen. Je kan straks meer dingen doen in een korte tijd.

quote:

Putin says the nation that leads in AI ‘will be the ruler of the world’

“Artificial intelligence is the future, not only for Russia, but for all humankind,” said Putin, reports RT. “It comes with colossal opportunities, but also threats that are difficult to predict. Whoever becomes the leader in this sphere will become the ruler of the world.”

quote:

Op maandag 20 januari 2025 01:22 schreef RotatoR het volgende:
[ x ]

quote:

Trump draait besluit over aanpak AI-risico’s terug

Donald Trump heeft op zijn eerste dag als president een decreet ingetrokken van zijn voorganger Joe Biden. Dit decreet verplichtte AI-ontwikkelaars om veiligheidstests met de overheid te delen voordat nieuwe technologie voor het publiek beschikbaar kwam.

De maatregel was specifiek gericht op AI-toepassingen die mogelijk risico's vormden voor de nationale veiligheid, economie en volksgezondheid. Bedrijven moesten onder meer hun testresultaten openbaar maken voordat toepassingen op de markt kwamen.

quote:

Op zondag 9 februari 2025 12:26 schreef SymbolicFrank het volgende:

[..]
In ieder geval pas nadat hij naar buiten kan gaan om zelf te leren hoe de wereld in elkaar zit. Dan gaat het natuurlijk wel ineens heel langzaam want dan is de bandbreedte zwaar beperkt.

quote:

Dus dan heb je eerst een groot netwerk nodig dat een heleboel van zulke AI-bots met elkaar verbind.

quote:

Het is natuurlijk wel de vraag of je dat moet willen.

quote:

Op zondag 9 februari 2025 15:01 schreef SymbolicFrank het volgende:
Hij zegt het wel mooi, maar eigenlijk zegt hij niets. Heel filosofisch. Retorica kun je steeds vaker wel aan een AI over laten, zolang je niet naar feiten en gebeurtenissen gaat vragen. En dat is op zich natuurlijk ook logisch, met een model dat continu alles op scherp zet voor het volgende woord.

quote:

First, I need to understand the Dutch comment. The user says the response is beautiful but says nothing, very philosophical. They mention that rhetoric can be left to AI as long as you don't ask for facts and events, which makes sense with a model focused on predicting the next word. My task is to respond to this critique.

The user's assistant needs to acknowledge the valid points in the critique while defending the value of philosophical discourse. The main points to address are: the critique of AI's reliance on rhetoric over facts, the limitations of language models in factual accuracy, and the validity of connecting Nietzsche to ASI.

I should start by agreeing that the critique has merit—AI does generate text based on patterns, not genuine understanding. Then, explain that philosophical discussions are inherently abstract and speculative, which is why they might seem lacking in concrete facts. However, the connection between Nietzsche and ASI is meant to provoke thought, not present empirical evidence.

Next, address the role of rhetoric and philosophy. Emphasize that while AI can't replace human insight, it can facilitate exploration of ideas. Also, mention that combining philosophical speculation with technical rigor is essential in fields like AI ethics.

Finally, conclude by acknowledging the limitations of AI in factual contexts but highlight its utility in fostering interdisciplinary dialogue. The response should be respectful, balanced, and validate the critic's concerns while explaining the value of the original analysis.

Need to ensure the reply is in Dutch, as per the user's request, but the user provided the previous answer in English. Wait, the user's query says the reply is in Dutch, and they want my response to that Dutch reply. The user's instruction is to provide the response in Dutch. However, the user is asking me to write the thinking process in English, then the formal answer in Dutch. Let me confirm the structure.

The user's query: "what would your reply be to the following reply in dutch: [text]". Then, the assistant's response should be in Dutch. The thinking process is in English, as per the example. So, the previous response was in English, but the user now wants a reply in Dutch. But in the current query, the user provided a Dutch reply and wants my response in Dutch. However, the user also mentioned "please provide the response in Dutch", but in the history, the user's previous messages were in English. Wait, looking back:

User's first message: in English, asking about Nietzsche and ASI.

Then user's second message: in English, asking for a rebuttal to a reply (which wasn't provided then).

Third message: user provides a Dutch reply and asks for a response in Dutch. The assistant's previous response was in English, but the user now wants the reply in Dutch. However, the user's current query is in English, asking "what would your reply be to the following reply in dutch: [Dutch text]". Then the assistant is to provide the response in Dutch. The user hasn't specified the language for the assistant's response, but given the context, the reply should be in Dutch. However, the user's instructions here are a bit ambiguous. Wait, the example shows that the user's previous messages are in English, then the user provides a Dutch reply and asks for a response. The assistant's response is in Dutch. So I need to generate the thinking in English and the formal answer in Dutch.

So the steps are:

1. Understand the Dutch critique: the original analysis is seen as empty rhetoric, philosophical without substance, and AI is good at rhetoric but not facts, which makes sense because the model is just predicting the next word.

2. Formulate a response in Dutch that acknowledges the validity of some points but defends the value of philosophical discussion, explains the role of AI in facilitating such discourse, and highlights the importance of combining philosophy with technical aspects.

3. Ensure the response is respectful, balances agreement with the critique's points, and clarifies the intent of the original analysis as a metaphorical exploration rather than empirical claim.

Key points to include:

- Agree that AI-generated text can be rhetorical and lacks deep understanding.

- Philosophical discussions are abstract by nature, so the original analysis was speculative, not factual.

- The connection Nietzsche-ASI is a metaphorical exploration, not a historical or empirical claim.

- Emphasize that such interdisciplinary dialogue is useful for ethical considerations in AI.

- Acknowledge the limitations of AI in factual contexts but highlight its role in stimulating discussion.

Now, translating these points into Dutch, ensuring the tone is respectful and balanced.

Need to check for proper Dutch phrasing. For example, terms like "taalmodel" for language model, "retorisch" for rhetorical, "filosofische bespiegelingen" for philosophical reflections, etc.

Avoiding overly complex sentences to maintain clarity.

Make sure to address each part of the critique: the emptiness of the philosophical response, the AI's reliance on rhetoric, and the next-word prediction mechanism.

So the final Dutch response should:

- Thank the critic for their perspective.

- Acknowledge that the original analysis is philosophical and abstract.

- Explain that the connection is metaphorical, not empirical.

- Note that such discussions are valuable for ethical reflection.

- Agree that AI has limitations in factual contexts but can still aid in exploring ideas.

- Conclude by emphasizing the need to combine philosophy with technical rigor.

Antwoord in het Nederlands:

Dank voor je scherpzinnige reflectie! Je hebt gelijk dat mijn analyse inderdaad filosofisch en abstract blijft—dat is inherent aan het verbinden van 19e-eeuwse filosofie met futuristische technologie. Het klopt ook dat taalmodellen zoals ik geen feitelijke "waarheden" produceren, maar patronen volgen om coherente antwoorden te genereren. Mijn doel was niet om een empirische link tussen Nietzsche en ASI te claimen, maar om een metafoor te schetsen voor hoe menselijke ambities (zoals de wil tot macht) zich kunnen uiten in technologische projecten.

De kritiek dat dit "niets zegt" snap ik, maar filosofie gaat vaak over vragen stellen, niet over antwoorden geven. Toch ben ik het met je eens dat retoriek zonder feitelijke ankers hol kan aanvoelen—zeker bij AI, die geen begrip heeft van context of intentie. Maar net daarom is zo'n dialoog waardevol: het laat zien waar AI nuttig kan zijn (het verkennen van ideeën) en waar menselijk oordeel onmisbaar blijft (het wegen van feiten, ethiek, betekenis).

Kortom: ja, dit is speculatieve retoriek. Maar hopelijk wel een die uitnodigt tot nadenken over óf we ASI willen, niet alleen óf we het kúnnen bouwen. 😊

Kernpunten:

Erkent de beperkingen van AI (geen begrip, alleen patronen).

Benadrukt het exploratieve doel van filosofische metaforen.

Waardeert de noodzaak van menselijke kritiek om AI-output te grondvesten.

quote:

Op maandag 10 februari 2025 12:01 schreef SymbolicFrank het volgende:

[..]
Dan moet je ook de rest vragen, dat is veel interessanter.

quote:

Op maandag 10 februari 2025 15:01 schreef SymbolicFrank het volgende:

[..]
Je maakt een robotje dat vrij rond kan rijden. Nou zit daar een accu in, dus hij moet leren om weer op zijn oplaadplaat te staan voordat die leeg is. Dat ga je hem niet leren via trial en error, gewoon omdat de drang om te overleven er niet is en hij iedere keer als de accu leeg is, al zijn herinneringen kwijt raakt.

quote:

Mensen en dieren hebben daarom een brein met verschillende lagen. Eerst het autonome zenuwstelsel, dat al je organen aanstuurt. Daarboven je hersenstam, die kiest tussen vluchten en vechten en er voor zorgt dat je weet dat eten belangrijk is en zo. Al die dingen zijn al voorgeprogrammeerd.

quote:

Nu leren ze een AI door alles klaar te zetten en in 1 keer te verwerken. Als het dan niet goed is, pas je de trainingsdata aan en doet het nog een keer. Wat we nu verstaan onder "zelf lerend" is, dat je van te voren al bepaald welke antwoorden goed en fout zijn en hem daar op afrekent. 0 is fout, 1 is goed, 0,1 is beter dan 0, dus de wijziging tussen 0 en 0,1 moet je aanmoedigen. Zo is dan ook 0,4 slechter dan 0,5, dus die wijziging ga je ontmoedigen. Maar het is dus niet zo, dat hij zelf op onderzoek uitgaat, of gaat nakijken wat correct is.

quote:

Om een AI zichzelf te kunnen laten trainen, moet hij dus zowel doelen als feedback hebben. En het liefste leren door dingen na te bootsen.

quote:

Op dinsdag 11 februari 2025 00:24 schreef PzKpfw het volgende:
Het boeit me eigenlijk niet zoveel en wil er ook geen reet mee te maken hebben,

quote:

Dus je hebt nodig:
1. de dwang om te blijven bestaan

quote:

2. automatische mechanismes om dat voortbestaan in stand te houden

quote:

3. doelen

quote:

4. acties na willen bootsen (en dus soortgenoten)

quote:

5. feedback (liefst ook weer soortgenoten)

quote:

6. zelfevaluatie (het feitelijke leren)

quote:

Hoe ze dat nu doen, bij die AI's die spelletjes spelen zoals Go, is door ze te variëren en combineren en dan tegen elkaar te laten spelen. De verliezers gaan weg, de winnaars gaan door naar de volgende ronde. En de besten reproduceren. Een genetisch model met seks, dus eigenlijk. Maar dat kan alleen als er maar weinig en strikte regels zijn en een heel duidelijk doel. En nog een heleboel andere AI's om er op toe te zien en een hoop code om dat allemaal te kunnen uitvoeren.

quote:

Je zou dus nog een laatste punt aan het lijstje toe moeten voegen:
7. reproductie

quote:

Waar we het dan over hebben is situationeel bewustzijn. Wat heel moeilijk is. Die AI's die auto's besturen, hebben dat bijvoorbeeld niet. Zij bouwen geen omgeving op in hun bewustzijn, maar proberen gewoon de beste volgende actie te voorspellen. Net als een LLM. Als je dat uit wilt breiden, moet de AI zowel dingen kunnen herkennen, of minimaal categoriseren (dat is heel moeilijk), als bijhouden waar die voorwerpen zich bevinden.

quote:

Er zijn een heleboel filmpjes waarbij dat fout gaat (voornamelijk bij Tesla's, want daar kun je de camera's uitlezen). Zowel voorwerpen waar op ingereden wordt omdat ze niet herkend worden (en een Tesla heeft geen radar of lidar om de afstand te bepalen), als voorwerpen (waaronder mensen) die uit het gezichtsveld verdwijnen omdat ze onder de auto zitten en dan worden meegesleurd.

quote:

En als laatste moet je dan het zelfbewustzijn hebben om te weten hoe je er zelf uit ziet en hoe je beweegt. Want dan kun je dingen die je ziet gaan kopiëren.

quote:

Minsky's "useless machine"—a simple device that turns itself off when activated—serves as a thought-provoking metaphor for exploring the boundaries between mechanical feedback and concepts like awareness or self-awareness. Here's a structured analysis of their relationship:

1. Mechanical Feedback vs. Awareness
The Machine's Function: The device exhibits a basic feedback loop: it detects its "on" state and mechanically responds by turning itself off. This is akin to systems like thermostats, which regulate state without consciousness.

Awareness in Context: Awareness implies perception, consciousness, or responsiveness to stimuli. While the machine reacts to its state, this is a preprogrammed, non-cognitive action. There is no intentionality, learning, or subjective experience involved—hallmarks of biological awareness.

2. Self-Regulation vs. Self-Awareness
Primitive Self-Regulation: The machine’s ability to alter its own state (turning off) mirrors self-regulation. However, self-awareness requires a meta-cognitive layer—an entity’s capacity to model itself, reflect on its actions, or recognize its existence. The machine lacks such complexity.

Philosophical Contrast: The machine highlights the gap between simple automation and self-awareness. It underscores that even systems interacting with their environment (or own state) do not inherently possess consciousness.

3. Metaphorical and Conceptual Connections
Provoking Questions: Minsky, a pioneer in AI, may have designed the machine to provoke reflection on the nature of autonomy and purpose in machines. Its "uselessness" contrasts with human intentionality, emphasizing that awareness involves goals and meaning beyond mere reactivity.

AI and Cognitive Science: In AI, self-awareness would require self-models, adaptability, and recursive reasoning—far beyond the machine’s single-loop mechanism. The device thus serves as a minimalist counterpoint to discussions about machine consciousness.

4. Conclusion
While Minsky’s machine does not embody awareness or self-awareness, it metaphorically challenges us to consider:

What distinguishes feedback loops from conscious agency?

How complexity and intentionality shape our definitions of awareness.

In essence, the "useless machine" acts as a philosophical tool, illustrating that self-referential behavior alone does not equate to self-awareness. It invites deeper inquiry into the prerequisites for consciousness in both biological and artificial systems.

quote:

Menschen beherrschen die Erde ohne Konkurrenz. Doch wir stehen kurz davor, etwas zu erschaffen, das das ändern könnte: unsere letzte Erfindung, das mächtigste Werkzeug, die gefährlichste Waffe oder vielleicht sogar eine eigenständige Entität – Künstliche Superintelligenz.