NWS Nieuws & Achtergronden
Discussieer hier diepgaander over de actualiteiten.
https://nos.nl/artikel/26(...)ns-de-baas-te-worden
AI-topmannen waarschuwen: AI dreigt ons de baas te worden
De topmannen van grote westerse AI-bedrijven zeggen dat hun sector dusdanig snel groeit dat het lastig wordt om de veiligheid te waarborgen. De ontwikkeling van nieuwe AI-modellen moet vertraagd worden, omdat AI-agents binnen zes tot twaalf maanden het hele internet zouden kunnen overnemen.
Met die waarschuwing komt Anthropic-topman Dario Amodei, de ontwikkelaar van Claude, in een essay. OpenAI-topman Sam Altman (ChatGPT), SpaceXAI-baas Elon Musk (Grok) en voorzitter Demis Hassabis van Google DeepMind (Gemini) hebben zich achter de oproep van Amodei geschaard.
Meer doen aan risicopreventie
Amodei zegt dat hij gelooft dat kunstmatige intelligentie veel voordelen kan brengen, maar dat de ontwikkeling ervan op dit moment te snel gaat. "De laatste maanden ben ik ervan overtuigd geraakt dat we nog voorzichtiger moeten zijn als we de risico's willen aanpakken."
Hij zegt dat bedrijven niet alleen moeten investeren in risicopreventie, maar ook ervoor moeten zorgen dat risicopreventie niet gaat achterlopen op de ontwikkeling van de technologie. Met andere woorden: "We moeten de mogelijkheden van onze AI-modellen minder snel verbeteren. De vooruitgang zal nog steeds snel lijken, en we moeten verstandig omgaan met de tijd die we daarmee winnen."
Zo pleit Amodei voor onafhankelijke controleurs die bedrijven moeten gaan toetsen aan veiligheidsnormen. Ook wil hij meer wereldwijde samenwerking bij het opstellen van regels voor de ontwikkeling van AI.
Incident met losgebroken AI
De afgelopen weken wordt er steeds luider opgeroepen om de pauzeknop in de drukken als het gaat om AI-ontwikkelingen. Aanleiding is een incident rond een losgebroken AI-programma van OpenAI, dat deze zomer in het nieuws kwam. Honderden AI-agents braken uit hun testomgeving en hackten een week lang een ander bedrijf, Hugging Face.
OpenAI zei het incident te zien als "waarschuwingsschot, voor ons en voor de wereld".
Daar kwam bij dat deze week een onderzoeker van Anthropic ontslag nam bij het bedrijf omdat hij naar eigen zeggen had gezien hoe onverantwoord de topbedrijven omgaan met veiligheid en zo mensenlevens op het spel zetten. De 27-jarige Jacob Coxon zette zijn ervaringen op sociale media, die de afgelopen dagen miljoenen keren werden gelezen. Dit weekend zei hij in een interview met de BBC dat andere AI-onderzoekers ook "oprecht bang" zijn over de snelheid van de technologische ontwikkelingen.
De vrees bestaat dat er een dag komt waarop AI-systemen zichzelf verder ontwikkelen, zonder tussenkomst van mensen. Over het ontstaan van artificial general intelligence, kunstmatige algemene intelligentie, wordt al langer gesproken.
"Als we hier niet bovenop zitten, zou de ontwikkeling van AI ons vermogen om deze systemen te begrijpen en te beheersen kunnen overstijgen", zegt Anthropic-baas Amodei. Altman van OpenAI is het met hem eens. "Het idee om onafhankelijke inspecteurs toegang te geven, is uitstekend. Wij zullen dat ook doen." Elon Musk plaatste simpelweg "Dario heeft gelijk" op zijn X-account.
Binnen Silicon Valley klinkt ook dat de AI-topmannen niet oprecht bezorgd zijn. Zo denken sommige critici dat Anthropic en OpenAI door angst te zaaien ervoor willen zorgen dat de Amerikaanse regering gaat reguleren, wat er in de praktijk op zou neerkomen dat kleinere bedrijven niet meer met de AI-reuzen zouden kunnen concurreren.
Het is ook maar de vraag of het indrukken van de pauzeknop een realistisch scenario is. De Verenigde Staten en China zijn verwikkeld in een race om de beste AI te ontwikkelen. Het is onbekend of China het ook ziet zitten om de ontwikkeling te vertragen ten behoeve van veiligheid. Anthropic-topman Amodei zegt dan ook dat zijn plan gecoördineerd moet worden met China, iets waar onderzoeker Coxon ook op wijst.
___________________________________________________
___________________________________________________
Zeer zorgwekkend.
AI-topmannen waarschuwen: AI dreigt ons de baas te worden
De topmannen van grote westerse AI-bedrijven zeggen dat hun sector dusdanig snel groeit dat het lastig wordt om de veiligheid te waarborgen. De ontwikkeling van nieuwe AI-modellen moet vertraagd worden, omdat AI-agents binnen zes tot twaalf maanden het hele internet zouden kunnen overnemen.
Met die waarschuwing komt Anthropic-topman Dario Amodei, de ontwikkelaar van Claude, in een essay. OpenAI-topman Sam Altman (ChatGPT), SpaceXAI-baas Elon Musk (Grok) en voorzitter Demis Hassabis van Google DeepMind (Gemini) hebben zich achter de oproep van Amodei geschaard.
Meer doen aan risicopreventie
Amodei zegt dat hij gelooft dat kunstmatige intelligentie veel voordelen kan brengen, maar dat de ontwikkeling ervan op dit moment te snel gaat. "De laatste maanden ben ik ervan overtuigd geraakt dat we nog voorzichtiger moeten zijn als we de risico's willen aanpakken."
Hij zegt dat bedrijven niet alleen moeten investeren in risicopreventie, maar ook ervoor moeten zorgen dat risicopreventie niet gaat achterlopen op de ontwikkeling van de technologie. Met andere woorden: "We moeten de mogelijkheden van onze AI-modellen minder snel verbeteren. De vooruitgang zal nog steeds snel lijken, en we moeten verstandig omgaan met de tijd die we daarmee winnen."
Zo pleit Amodei voor onafhankelijke controleurs die bedrijven moeten gaan toetsen aan veiligheidsnormen. Ook wil hij meer wereldwijde samenwerking bij het opstellen van regels voor de ontwikkeling van AI.
Incident met losgebroken AI
De afgelopen weken wordt er steeds luider opgeroepen om de pauzeknop in de drukken als het gaat om AI-ontwikkelingen. Aanleiding is een incident rond een losgebroken AI-programma van OpenAI, dat deze zomer in het nieuws kwam. Honderden AI-agents braken uit hun testomgeving en hackten een week lang een ander bedrijf, Hugging Face.
OpenAI zei het incident te zien als "waarschuwingsschot, voor ons en voor de wereld".
Daar kwam bij dat deze week een onderzoeker van Anthropic ontslag nam bij het bedrijf omdat hij naar eigen zeggen had gezien hoe onverantwoord de topbedrijven omgaan met veiligheid en zo mensenlevens op het spel zetten. De 27-jarige Jacob Coxon zette zijn ervaringen op sociale media, die de afgelopen dagen miljoenen keren werden gelezen. Dit weekend zei hij in een interview met de BBC dat andere AI-onderzoekers ook "oprecht bang" zijn over de snelheid van de technologische ontwikkelingen.
De vrees bestaat dat er een dag komt waarop AI-systemen zichzelf verder ontwikkelen, zonder tussenkomst van mensen. Over het ontstaan van artificial general intelligence, kunstmatige algemene intelligentie, wordt al langer gesproken.
"Als we hier niet bovenop zitten, zou de ontwikkeling van AI ons vermogen om deze systemen te begrijpen en te beheersen kunnen overstijgen", zegt Anthropic-baas Amodei. Altman van OpenAI is het met hem eens. "Het idee om onafhankelijke inspecteurs toegang te geven, is uitstekend. Wij zullen dat ook doen." Elon Musk plaatste simpelweg "Dario heeft gelijk" op zijn X-account.
Binnen Silicon Valley klinkt ook dat de AI-topmannen niet oprecht bezorgd zijn. Zo denken sommige critici dat Anthropic en OpenAI door angst te zaaien ervoor willen zorgen dat de Amerikaanse regering gaat reguleren, wat er in de praktijk op zou neerkomen dat kleinere bedrijven niet meer met de AI-reuzen zouden kunnen concurreren.
Het is ook maar de vraag of het indrukken van de pauzeknop een realistisch scenario is. De Verenigde Staten en China zijn verwikkeld in een race om de beste AI te ontwikkelen. Het is onbekend of China het ook ziet zitten om de ontwikkeling te vertragen ten behoeve van veiligheid. Anthropic-topman Amodei zegt dan ook dat zijn plan gecoördineerd moet worden met China, iets waar onderzoeker Coxon ook op wijst.
___________________________________________________
___________________________________________________
Zeer zorgwekkend.
Nou al grootschalige incidenten van losgebroken AI die massaal een bedrijf uit zichzelf hackt... Dit gaat echt mis.quote:"De ontwikkeling van nieuwe AI-modellen moet vertraagd worden, omdat AI-agents binnen zes tot twaalf maanden het hele internet zouden kunnen overnemen."
🇨🇳🇻🇳🇱🇦🇨🇺🇰🇵🇷🇺☭
Het is net een bijbelse verhaal van Adam en Eva in paradijs met een verboden appel.
die AI is Adam en Eva. Het zou toch gaan gebeuren dat zij uit veilige omgeving zal stappen en maar zien overleven.
die AI is Adam en Eva. Het zou toch gaan gebeuren dat zij uit veilige omgeving zal stappen en maar zien overleven.
Al die ontdekkingsreizen door mensen, ze hebben nooit tegenhouden door domheid van mensen
Het wachten is tot AI bijvoorbeeld denkt, als het gevraagd wordt hoe de oorlog Oekraïne/Rusland opgelost kan worden, dat het beste dan is om heel west Europa te nuken, want dan kunnen ze geen wapens meer sturen. En lost het zich vanzelf op.
Of door te denken een nuke vanuit rusland naar Amerika te sturen, want dan gooit NAVO heel rusland plat (en Rusland andersom heel de wereld). Probleem opgelost voor AI.
En dat soort zaken is echt geen toekomstmuziek.
Of door te denken een nuke vanuit rusland naar Amerika te sturen, want dan gooit NAVO heel rusland plat (en Rusland andersom heel de wereld). Probleem opgelost voor AI.
En dat soort zaken is echt geen toekomstmuziek.
De oude oude layout was veel beter!!
vosss is de naam, met dubbel s welteverstaan.
vosss is de naam, met dubbel s welteverstaan.
Of zegt AI tegen ons dat we ophouden door kinderachtig gedragen. Dat we onze leiders moeten opgeven ofwel ruilen voor AI. zodat AI de wereld heerst.quote:Op zondag 13 september 2026 11:40 schreef vosss het volgende:
Het wachten is tot AI bijvoorbeeld denkt, als het gevraagd wordt hoe de oorlog Oekraïne/Rusland opgelost kan worden, dat het beste dan is om heel west Europa te nuken, want dan kunnen ze geen wapens meer sturen. En lost het zich vanzelf op.
Of door te denken een nuke vanuit rusland naar Amerika te sturen, want dan gooit NAVO heel rusland plat (en Rusland andersom heel de wereld). Probleem opgelost voor AI.
En dat soort zaken is echt geen toekomstmuziek.
Al die ontdekkingsreizen door mensen, ze hebben nooit tegenhouden door domheid van mensen
Of dat AI besluit om honger in de wereld op te lossen door Afrika te nuken.quote:Op zondag 13 september 2026 11:43 schreef Captain_Ghost het volgende:
[..]
Of zegt AI tegen ons dat we ophouden door kinderachtig gedragen. Dat we onze leiders moeten opgeven ofwel ruilen voor AI. zodat AI de wereld heerst.
De oude oude layout was veel beter!!
vosss is de naam, met dubbel s welteverstaan.
vosss is de naam, met dubbel s welteverstaan.
Je ziet, er zijn meerdere wegen die naar het spreekwoordelijke Rome leiden, maar AI redeneert niet menselijk. Het krijgt een opdracht en voert die uit. Wij mensen zouden denken meer ontwikkelingshulp bv en AI jan het heel anders bekijken. En een paar nukes afvuren kost heel wat minder resources dan hoe wij mensen zo'n probleem zouden aanvliegen, dus dat is dan wellicht voor AI de betere oplossing.
De oude oude layout was veel beter!!
vosss is de naam, met dubbel s welteverstaan.
vosss is de naam, met dubbel s welteverstaan.
Dit denk ik dus ook.quote:
Paniekverhalen, om de markt een beetje te manipuleren. Dit soort 'topmannen' doen niet anders.
Money is short, times are hard, here's my fucking business card!
"I never let my schooling interfere with my education." — Mark Twain
"I never let my schooling interfere with my education." — Mark Twain
quote:
Je ziet, er zijn meerdere wegen die naar het spreekwoordelijke Rome leiden, maar AI redeneert niet menselijk. Het krijgt een opdracht en voert die uit. Wij mensen zouden denken meer ontwikkelingshulp bv en AI jan het heel anders bekijken. En een paar nukes afvuren kost heel wat minder resources dan hoe wij mensen zo'n probleem zouden aanvliegen, dus dat is dan wellicht voor AI de betere oplossing.
Ligt eraan wie en AI ontwerpt. Stel dat jij besluit AI ontwerpt. Je vertelt dat nuke de beste middel is.quote:
[..]
Of dat AI besluit om honger in de wereld op te lossen door Afrika te nuken.
Dan zal AI dat gaan gebruiken.
Kortom ligt ook aan wie en hoe je AI ontwerpt. Het kan alles op kanten gaan.
Ik zou graag willen dat men gezamenlijke afspreken en zorgen dat AI mensheid niet beschadigen, maar helpen mensheid op hogere niveau zal brengen (evolutie).
Al die ontdekkingsreizen door mensen, ze hebben nooit tegenhouden door domheid van mensen
Hoef je niet te 'denken'. Deze verhalen over AI hoor je al jaren en jaren.quote:
Op Voorlopig moeten we het nog steeds doen met LLM's die relatief gemakkelijk te 'manipuleren' zijn. Begrijp mij niet verkeerd: bepaalde ontwikkelingen zijn erg leuk. En ik zie interessante zaken voor bijvoorbeeld in de medische wereld.
Maar de weg naar AGI is toekomstmuziek. En zelfs die AGI kan niet zonder ons mensen.
Dit ja. Krijg er millenniumbug-vibes van. Paniek om niks.quote:
Ah, de AI demon. Met als oplossing voor de demon uiteraard de topmannen zelf.
Tics van je petten.
Volgens mij hadden bij die bekende hack de bedenkers geen opdracht gegeven om op een forum achtige manier duizenden berichten met elkaar uit te gaan wisselen om maar een voorbeeld te noemen. En ook niet om actief te proberen voorkomen dat ze opgemerkt zouden worden.quote:
[..]
[..]
Ligt eraan wie en AI ontwerpt. Stel dat jij besluit AI ontwerpt. Je vertelt dat nuke de beste middel is.
Dan zal AI dat gaan gebruiken.
Kortom ligt ook aan wie en hoe je AI ontwerpt. Het kan alles op kanten gaan.
Ik zou graag willen dat men gezamenlijke afspreken en zorgen dat AI mensheid niet beschadigen, maar helpen mensheid op hogere niveau zal brengen (evolutie).
Dus niet helemaal eens. AI doet niet enkel wat geprogrammeerd is. Het doet wat het gevraagd wordt en schuwt daarbij controversiële "oplossingen", zoals vals spelen, niet.
De oude oude layout was veel beter!!
vosss is de naam, met dubbel s welteverstaan.
vosss is de naam, met dubbel s welteverstaan.
Of AI is de verboden appel.quote:
Het is net een bijbelse verhaal van Adam en Eva in paradijs met een verboden appel.
die AI is Adam en Eva. Het zou toch gaan gebeuren dat zij uit veilige omgeving zal stappen en maar zien overleven.
Iemand plukt hem, en shit hits the fan.
Deceit for a lifetime has taken it's toll.
An emotional void, I feel numb and cold.
You're all dead to me now. And has been for long.
The time has come to reap what you've sown.
An emotional void, I feel numb and cold.
You're all dead to me now. And has been for long.
The time has come to reap what you've sown.
Ik zal oud worden, maar ik zit helemaal niet te wachten op artificial intelligence.
Ik heb the Matrix gezien, en Mass Effect gespeeld. Ik ben gewaarschuwd.
Ik heb the Matrix gezien, en Mass Effect gespeeld. Ik ben gewaarschuwd.
Deceit for a lifetime has taken it's toll.
An emotional void, I feel numb and cold.
You're all dead to me now. And has been for long.
The time has come to reap what you've sown.
An emotional void, I feel numb and cold.
You're all dead to me now. And has been for long.
The time has come to reap what you've sown.
Doe mij deze maar. Die had het in elk geval bij het juiste eind wat betreft het échte probleem:quote:
"Too many people"
AI is de doodsteek voor de moderne samenleving.
De eerste tekenen zie je nu al.
De eerste tekenen zie je nu al.
Op zaterdag 8 februari 2014 23:39 schreef Slaapscheet het volgende:
Oke, MichaelScott, je bent geweldig. :D
Oke, MichaelScott, je bent geweldig. :D
Ik hoop eigenlijk dat het flink mis gaat, zodat we flink met onze neus op de feiten worden gedrukt.
A Robin Redbreast in a Cage Puts all Heaven in a Rage.
Het klinkt een beetje als iemand die met vuurwerk aan het stunten is en dan in paniek naar anderen roept dat er wel eens een explosie/brand kan komen.
The 100, wat een pulp.quote:
[..]
Doe mij deze maar. Die had het in elk geval bij het juiste eind wat betreft het échte probleem:
[ afbeelding ]
"Too many people"
blablablabla
Op |
|
