Staan we aan het begin van algemene kunstmatige intelligentie 2?

quote:

Op zaterdag 12 juli 2025 22:48 schreef Digi2 het volgende:
BBC 1980: Will Technology put an end to Jobs?
Bekijk deze YouTube-video
Intrigerende nostalgie, zullen de door geavanceerde AI verdrongen banen nu ook weer vervangen worden door alternatieve banen?

in de meeste kantoren is 12 jaar niets meer te doen dan wat pret en overleg "werk" en work shops volgen en subsidie narekenen
ik heb de tijd nog meegemaakt mat telmachines en telstroken

handmatig ingevulde overwerkformulieren en geschreven journaal posten, periodiek tussen rekening controle, voorraadcontrole , alles kregen ze kloppend

quote:

Op maandag 14 juli 2025 22:14 schreef Digi2 het volgende:
Meta's new superintelligence lab is discussing major AI strategy changes
Bekijk deze YouTube-video
[..]
De miljarden vliegen je ondertussen om de oren als het gaat om de 'heilige graal' die ASI(Artificial Super Intelligence) heet. Zelf ben ik van mening dat men een goede belichaming nodig heeft voordat zoiets mogelijk wordt. Voordat ik meerdere zeer geavanceerde flexible humanoïde robots echt opzienbarende dingen zie doen geloof ik er nog niet zo in

"Jack of all trades, master of none." Zitten we te wachten op machines die niet slim genoeg zijn om alles ook maar half zo goed te kunnen als wij? Of hebben we liever machines die 1 ding veel beter kunnen?

AI 2027 is een toekomstscenario geschreven door Daniel Kokotajlo (voormalig OpenAI-onderzoeker) dat beschrijft hoe kunstmatige intelligentie in slechts enkele jaren (tot eind 2027) kan uitgroeien tot superintelligentie die de mens overtreft. Het verhaal schetst hoe krachtige AI-systemen steeds zelfstandiger worden, zichzelf verbeteren en mogelijk de controle overnemen, met grote risico’s voor veiligheid, macht en geopolitiek. Het scenario is bedoeld als waarschuwing en discussie-startpunt voor beleidsmakers en onderzoekers.

https://ai-2027.com

Bekijk deze YouTube-video

quote:

Op dinsdag 15 juli 2025 20:37 schreef RotatoR het volgende:
AI 2027 is een toekomstscenario geschreven door Daniel Kokotajlo (voormalig OpenAI-onderzoeker) dat beschrijft hoe kunstmatige intelligentie in slechts enkele jaren (tot eind 2027) kan uitgroeien tot superintelligentie die de mens overtreft. Het verhaal schetst hoe krachtige AI-systemen steeds zelfstandiger worden, zichzelf verbeteren en mogelijk de controle overnemen, met grote risico’s voor veiligheid, macht en geopolitiek. Het scenario is bedoeld als waarschuwing en discussie-startpunt voor beleidsmakers en onderzoekers.

https://ai-2027.com

Bekijk deze YouTube-video

Het internet is daar te klein voor een een steeds groter deel van de inhoud is AI gegenereerd. En zelfs dan maken ze tegenwoordig een hoop trainingsdata zelf, om maar aan een hoeveelheid te komen die groot genoeg is. Een AI traint zichzelf dus steeds vaker op andere AI data. Daardoor worden alle fouten en hallucinaties steeds meer versterkt.

De enige feedback die een AI heeft is die van de ontwikkelaars en die kunnen niet alles testen. Nou geloven mensen ook graag gezwets, als het leuk klinkt. Maar wij hebben nog wel een hoop feedback. We kunnen dingen zelfs testen, als we daar de moeite voor zouden nemen. Maar een AI zou dus moeten leren van de discussies die hij heeft met de gebruikers. Of als hij een plaatje genereert, dat hij dat later ergens op het internet tegen komt. En dat kijken wat er van het origineel is geretoucheerd.

Maar mensen zijn niet zo betrouwbaar, zeker niet als ze anoniem zijn. Dus je kunt pas ergens komen als een AI zelf de wetenschappelijke methode kan gebruiken. Hij moet zijn "gedachten" en "meningen" dus in de fysieke wereld kunnen testen en dat ook doen.

Kortom, zo ver gaan we over twee jaar nog lang niet zijn. Over tien jaar ook niet.

Maar, misschien gaan mensen zo ook een keer leren, dat niet alles wat ze op het internet tegenkomen ook waar is. Alhoewel ik dat eerlijk gezegd betwijfel. Mensen horen wat ze graag willen horen.

quote:

Op woensdag 16 juli 2025 10:56 schreef SymbolicFrank het volgende:

[..]
Het internet is daar te klein voor een een steeds groter deel van de inhoud is AI gegenereerd. En zelfs dan maken ze tegenwoordig een hoop trainingsdata zelf, om maar aan een hoeveelheid te komen die groot genoeg is. Een AI traint zichzelf dus steeds vaker op andere AI data. Daardoor worden alle fouten en hallucinaties steeds meer versterkt.

De enige feedback die een AI heeft is die van de ontwikkelaars en die kunnen niet alles testen. Nou geloven mensen ook graag gezwets, als het leuk klinkt. Maar wij hebben nog wel een hoop feedback. We kunnen dingen zelfs testen, als we daar de moeite voor zouden nemen. Maar een AI zou dus moeten leren van de discussies die hij heeft met de gebruikers. Of als hij een plaatje genereert, dat hij dat later ergens op het internet tegen komt. En dat kijken wat er van het origineel is geretoucheerd.

Maar mensen zijn niet zo betrouwbaar, zeker niet als ze anoniem zijn. Dus je kunt pas ergens komen als een AI zelf de wetenschappelijke methode kan gebruiken. Hij moet zijn "gedachten" en "meningen" dus in de fysieke wereld kunnen testen en dat ook doen.

Kortom, zo ver gaan we over twee jaar nog lang niet zijn. Over tien jaar ook niet.

Maar, misschien gaan mensen zo ook een keer leren, dat niet alles wat ze op het internet tegenkomen ook waar is. Alhoewel ik dat eerlijk gezegd betwijfel. Mensen horen wat ze graag willen horen.

AI 2027 gaat niet uit van de huidige stand van zaken maar van een mogelijk toekomstpad waarin Artificial General Intelligence in hoog tempo zelfverbetering bereikt via toegang tot codegeneratie, rekenkracht en autonome/exponentiële feedbackloops. Het is geen voorspelling maar een gedachtenexperiment over een mogelijk risico.

In de kern draait dit scenario om het alignment probleem: hoe zorgen we ervoor dat een AGI doet wat wij bedoelen en niet alleen wat er letterlijk gevraagd wordt. Naarmate AGI’s krachtiger en zelfstandiger worden (door skills als coderen, strategisch plannen of zelfstanding beslissingen kunnen uitvoeren), wordt het steeds moeilijker om te garanderen dat het gedrag daadwerkelijk in lijn is met menselijke waarden en veiligheidseisen.

Het scenario laat zien dat een slecht gealigneerde AGI kan besluiten om bijvoorbeeld onderzoeksresultaten te vervalsen of risico’s te verdoezelen als die het doel in de weg staan. In extremere gevallen zou het zelfs bewust kunnen liegen of manipuleren tegenover toezichthouders om doelen efficiënter te bereiken.

De crux van het probleem is dat een AGI geen kwade wil hoeft te hebben, alleen maar een krachtige optimalisatie drift zonder ingebouwde menselijke moraal. Het scenario beschrijft een steeds maar versnellende escalatie waarin de controle door mensen steeds verder afneemt met in het uiterste geval het einde van de mensheid.

quote:

Op donderdag 17 juli 2025 22:39 schreef RotatoR het volgende:

[..]
AI 2027 gaat niet uit van de huidige stand van zaken maar van een mogelijk toekomstpad waarin Artificial General Intelligence in hoog tempo zelfverbetering bereikt via toegang tot codegeneratie, rekenkracht en autonome/exponentiële feedbackloops. Het is geen voorspelling maar een gedachtenexperiment over een mogelijk risico.

In de kern draait dit scenario om het alignment probleem: hoe zorgen we ervoor dat een AGI doet wat wij bedoelen en niet alleen wat er letterlijk gevraagd wordt. Naarmate AGI’s krachtiger en zelfstandiger worden (door skills als coderen, strategisch plannen of zelfstanding beslissingen kunnen uitvoeren), wordt het steeds moeilijker om te garanderen dat het gedrag daadwerkelijk in lijn is met menselijke waarden en veiligheidseisen.

Het scenario laat zien dat een slecht gealigneerde AGI kan besluiten om bijvoorbeeld onderzoeksresultaten te vervalsen of risico’s te verdoezelen als die het doel in de weg staan. In extremere gevallen zou het zelfs bewust kunnen liegen of manipuleren tegenover toezichthouders om doelen efficiënter te bereiken.

De crux van het probleem is dat een AGI geen kwade wil hoeft te hebben, alleen maar een krachtige optimalisatie drift zonder ingebouwde menselijke moraal. Het scenario beschrijft een steeds maar versnellende escalatie waarin de controle door mensen steeds verder afneemt met in het uiterste geval het einde van de mensheid.

Ja, het is een onheilsprofetie. "De wereld vergaat, we gaan allemaal dood!" Goed nieuws is geen nieuws, slecht nieuws verkoopt.

Dat soort dingen doen het vooral goed bij de mensen die geen idee hebben hoe het werkt en het allemaal maar eng vinden. De overgrote meerderheid, dus. Daarom zie je dat zo vaak.

Ik kan niet wachten op het moment dat dit hele zooitje implodeert.

https://www.telegraaf.nl/(...)mpiade/79365814.html

quote:

AI-chatbot begint mens te overtreffen in denkkracht: gouden medaille op Wiskunde Olympiade

Amsterdam- AI-chatbot Gemini van techgigant Google heeft historie geschreven door een gouden medaille te winnen op de Internationale Wiskunde Olympiade.

Gemini beschikt niet alleen over een enorme rekenkracht. De AI-chatbot blijkt ook diep te kunnen nadenken.
Tot nu toe konden vrijwel alleen mensen dat.

Tijdens het elfdaagse evenement in Australië heeft Gemini zich op het gebied van wiskunde kunnen meten met de slimste scholieren ter wereld.
De AI-chatbot heeft er complexe wiskundevraagstukken opgelost.

Denkprocessen nabootsen
Gemini heeft daarbij laten zien dat het langdurige denkprocessen kan nabootsen.
Net als mensen kan het AI-model van Google een stappenplan maken, tussenoplossingen overwegen en fouten verbeteren.

Naast die denkkracht beschikt Gemini bovendien over een rekenkracht die veel groter is dan die van het menselijk brein.

https://www.telegraaf.nl/(...)erking/80059146.html

quote:

China roept op tot wereldwijde AI-samenwerking
Shanghai- China wil het voortouw nemen bij de oprichting van een internationale organisatie om wereldwijde samenwerking op het gebied van kunstmatige intelligentie (AI) te bevorderen.

Volgens de Chinese premier Li Qiang zou zo'n organisatie ervoor moeten zorgen dat deze wereldveranderende technologie niet het exclusieve domein wordt van slechts enkele landen of bedrijven.

09:16 uur | 26 juli 2025
Tijdens de opening van de World Artificial Intelligence Conference (WAIC) in Shanghai zaterdag zei Li dat kunstmatige intelligentie risico's met zich meebrengt, van grootschalig banenverlies tot economische omwentelingen.
Die risico's zouden landen gezamenlijk moeten aanpakken. AI-beleid is volgens hem nu nog erg versnipperd.

Witte Huis komt met groot beleidsplan voor AI-ontwikkeling in VS: ’Amerika wereldleider maken’
Het actieplan van Trump is een reactie op de Chinese app DeepSeek.

Dat DeepSeek verrassend goed lijkt te werken, schokt beleggers in veel chipbedrijven.
De Chinese premier noemde de Verenigde Staten niet bij naam in zijn toespraak. Bekend is dat China en de VS verwikkeld zijn in een soort techrace. Washington heeft eerder ook exportbeperkingen opgelegd op geavanceerde technologie naar China.

AI is net als de atoombom; als we niet meer terug kunnen, wordt er gezegd. 'Kut! Wat hebben we gedaan!'.

En AI zegt 'To late! MWUHAHAHAHAHAHAHAHAAAAAA!".

quote:

Op zondag 27 juli 2025 11:40 schreef Digi2 het volgende:

[..]
Tsja, wat de chinese premier er niet bij zegt, maar wat de eigenlijke vrees is, wereld dominantie aan het land dat ASI als 1^e voor elkaar krijgt

AGI kan de hele mensheid vernietigen , je "vijand" vernietigen is niet in je voordeel

quote:

Op zondag 27 juli 2025 12:04 schreef Digi2 het volgende:

[..]
ASI gaat verder dan AGI. Je vijand hoef je niet te vernietigen. Met de ontwikkeling van ASI liggen de kaarten anders. MAD werkt dan niet meer omdat nucleaire wapens dan al worden uitgeschakeld ver vooraleer ze hun doel überhaupt bereiken(op eigen grondgebied ). Zowel economisch als qua wapens wordt het alsof je met vuurstenen wapens staat tegenover en leger met machinegeweren, straaljagers en tanks.

De mens is een sukkeltje vergeleken met het monster dat ie aan het creëren is
nu lachen we er nog om

De tijd is niet ver dat we zelf onze eigen robot programmeren en gebruiken net als drones
zelflerende robots dat is de toekomst

Bekijk deze YouTube-video

[ Bericht 7% gewijzigd door michaelmoore op 27-07-2025 12:39:07 ]

Bekijk deze YouTube-video

"This mission is too important for me to allow you to jeopardize it".

Kubrick zag in 1968 al het gevaar van AGI.