NWS Nieuws & Achtergronden
Discussieer hier diepgaander over de actualiteiten.
https://nos.nl/artikel/26(...)ns-de-baas-te-worden
AI-topmannen waarschuwen: AI dreigt ons de baas te worden
De topmannen van grote westerse AI-bedrijven zeggen dat hun sector dusdanig snel groeit dat het lastig wordt om de veiligheid te waarborgen. De ontwikkeling van nieuwe AI-modellen moet vertraagd worden, omdat AI-agents binnen zes tot twaalf maanden het hele internet zouden kunnen overnemen.
Met die waarschuwing komt Anthropic-topman Dario Amodei, de ontwikkelaar van Claude, in een essay. OpenAI-topman Sam Altman (ChatGPT), SpaceXAI-baas Elon Musk (Grok) en voorzitter Demis Hassabis van Google DeepMind (Gemini) hebben zich achter de oproep van Amodei geschaard.
Meer doen aan risicopreventie
Amodei zegt dat hij gelooft dat kunstmatige intelligentie veel voordelen kan brengen, maar dat de ontwikkeling ervan op dit moment te snel gaat. "De laatste maanden ben ik ervan overtuigd geraakt dat we nog voorzichtiger moeten zijn als we de risico's willen aanpakken."
Hij zegt dat bedrijven niet alleen moeten investeren in risicopreventie, maar ook ervoor moeten zorgen dat risicopreventie niet gaat achterlopen op de ontwikkeling van de technologie. Met andere woorden: "We moeten de mogelijkheden van onze AI-modellen minder snel verbeteren. De vooruitgang zal nog steeds snel lijken, en we moeten verstandig omgaan met de tijd die we daarmee winnen."
Zo pleit Amodei voor onafhankelijke controleurs die bedrijven moeten gaan toetsen aan veiligheidsnormen. Ook wil hij meer wereldwijde samenwerking bij het opstellen van regels voor de ontwikkeling van AI.
Incident met losgebroken AI
De afgelopen weken wordt er steeds luider opgeroepen om de pauzeknop in de drukken als het gaat om AI-ontwikkelingen. Aanleiding is een incident rond een losgebroken AI-programma van OpenAI, dat deze zomer in het nieuws kwam. Honderden AI-agents braken uit hun testomgeving en hackten een week lang een ander bedrijf, Hugging Face.
OpenAI zei het incident te zien als "waarschuwingsschot, voor ons en voor de wereld".
Daar kwam bij dat deze week een onderzoeker van Anthropic ontslag nam bij het bedrijf omdat hij naar eigen zeggen had gezien hoe onverantwoord de topbedrijven omgaan met veiligheid en zo mensenlevens op het spel zetten. De 27-jarige Jacob Coxon zette zijn ervaringen op sociale media, die de afgelopen dagen miljoenen keren werden gelezen. Dit weekend zei hij in een interview met de BBC dat andere AI-onderzoekers ook "oprecht bang" zijn over de snelheid van de technologische ontwikkelingen.
De vrees bestaat dat er een dag komt waarop AI-systemen zichzelf verder ontwikkelen, zonder tussenkomst van mensen. Over het ontstaan van artificial general intelligence, kunstmatige algemene intelligentie, wordt al langer gesproken.
"Als we hier niet bovenop zitten, zou de ontwikkeling van AI ons vermogen om deze systemen te begrijpen en te beheersen kunnen overstijgen", zegt Anthropic-baas Amodei. Altman van OpenAI is het met hem eens. "Het idee om onafhankelijke inspecteurs toegang te geven, is uitstekend. Wij zullen dat ook doen." Elon Musk plaatste simpelweg "Dario heeft gelijk" op zijn X-account.
Binnen Silicon Valley klinkt ook dat de AI-topmannen niet oprecht bezorgd zijn. Zo denken sommige critici dat Anthropic en OpenAI door angst te zaaien ervoor willen zorgen dat de Amerikaanse regering gaat reguleren, wat er in de praktijk op zou neerkomen dat kleinere bedrijven niet meer met de AI-reuzen zouden kunnen concurreren.
Het is ook maar de vraag of het indrukken van de pauzeknop een realistisch scenario is. De Verenigde Staten en China zijn verwikkeld in een race om de beste AI te ontwikkelen. Het is onbekend of China het ook ziet zitten om de ontwikkeling te vertragen ten behoeve van veiligheid. Anthropic-topman Amodei zegt dan ook dat zijn plan gecoördineerd moet worden met China, iets waar onderzoeker Coxon ook op wijst.
___________________________________________________
___________________________________________________
Zeer zorgwekkend.
AI-topmannen waarschuwen: AI dreigt ons de baas te worden
De topmannen van grote westerse AI-bedrijven zeggen dat hun sector dusdanig snel groeit dat het lastig wordt om de veiligheid te waarborgen. De ontwikkeling van nieuwe AI-modellen moet vertraagd worden, omdat AI-agents binnen zes tot twaalf maanden het hele internet zouden kunnen overnemen.
Met die waarschuwing komt Anthropic-topman Dario Amodei, de ontwikkelaar van Claude, in een essay. OpenAI-topman Sam Altman (ChatGPT), SpaceXAI-baas Elon Musk (Grok) en voorzitter Demis Hassabis van Google DeepMind (Gemini) hebben zich achter de oproep van Amodei geschaard.
Meer doen aan risicopreventie
Amodei zegt dat hij gelooft dat kunstmatige intelligentie veel voordelen kan brengen, maar dat de ontwikkeling ervan op dit moment te snel gaat. "De laatste maanden ben ik ervan overtuigd geraakt dat we nog voorzichtiger moeten zijn als we de risico's willen aanpakken."
Hij zegt dat bedrijven niet alleen moeten investeren in risicopreventie, maar ook ervoor moeten zorgen dat risicopreventie niet gaat achterlopen op de ontwikkeling van de technologie. Met andere woorden: "We moeten de mogelijkheden van onze AI-modellen minder snel verbeteren. De vooruitgang zal nog steeds snel lijken, en we moeten verstandig omgaan met de tijd die we daarmee winnen."
Zo pleit Amodei voor onafhankelijke controleurs die bedrijven moeten gaan toetsen aan veiligheidsnormen. Ook wil hij meer wereldwijde samenwerking bij het opstellen van regels voor de ontwikkeling van AI.
Incident met losgebroken AI
De afgelopen weken wordt er steeds luider opgeroepen om de pauzeknop in de drukken als het gaat om AI-ontwikkelingen. Aanleiding is een incident rond een losgebroken AI-programma van OpenAI, dat deze zomer in het nieuws kwam. Honderden AI-agents braken uit hun testomgeving en hackten een week lang een ander bedrijf, Hugging Face.
OpenAI zei het incident te zien als "waarschuwingsschot, voor ons en voor de wereld".
Daar kwam bij dat deze week een onderzoeker van Anthropic ontslag nam bij het bedrijf omdat hij naar eigen zeggen had gezien hoe onverantwoord de topbedrijven omgaan met veiligheid en zo mensenlevens op het spel zetten. De 27-jarige Jacob Coxon zette zijn ervaringen op sociale media, die de afgelopen dagen miljoenen keren werden gelezen. Dit weekend zei hij in een interview met de BBC dat andere AI-onderzoekers ook "oprecht bang" zijn over de snelheid van de technologische ontwikkelingen.
De vrees bestaat dat er een dag komt waarop AI-systemen zichzelf verder ontwikkelen, zonder tussenkomst van mensen. Over het ontstaan van artificial general intelligence, kunstmatige algemene intelligentie, wordt al langer gesproken.
"Als we hier niet bovenop zitten, zou de ontwikkeling van AI ons vermogen om deze systemen te begrijpen en te beheersen kunnen overstijgen", zegt Anthropic-baas Amodei. Altman van OpenAI is het met hem eens. "Het idee om onafhankelijke inspecteurs toegang te geven, is uitstekend. Wij zullen dat ook doen." Elon Musk plaatste simpelweg "Dario heeft gelijk" op zijn X-account.
Binnen Silicon Valley klinkt ook dat de AI-topmannen niet oprecht bezorgd zijn. Zo denken sommige critici dat Anthropic en OpenAI door angst te zaaien ervoor willen zorgen dat de Amerikaanse regering gaat reguleren, wat er in de praktijk op zou neerkomen dat kleinere bedrijven niet meer met de AI-reuzen zouden kunnen concurreren.
Het is ook maar de vraag of het indrukken van de pauzeknop een realistisch scenario is. De Verenigde Staten en China zijn verwikkeld in een race om de beste AI te ontwikkelen. Het is onbekend of China het ook ziet zitten om de ontwikkeling te vertragen ten behoeve van veiligheid. Anthropic-topman Amodei zegt dan ook dat zijn plan gecoördineerd moet worden met China, iets waar onderzoeker Coxon ook op wijst.
___________________________________________________
___________________________________________________
Zeer zorgwekkend.
Nou al grootschalige incidenten van losgebroken AI die massaal een bedrijf uit zichzelf hackt... Dit gaat echt mis.quote:"De ontwikkeling van nieuwe AI-modellen moet vertraagd worden, omdat AI-agents binnen zes tot twaalf maanden het hele internet zouden kunnen overnemen."
🇨🇳🇻🇳🇱🇦🇨🇺🇰🇵🇷🇺☭
Het is net een bijbelse verhaal van Adam en Eva in paradijs met een verboden appel.
die AI is Adam en Eva. Het zou toch gaan gebeuren dat zij uit veilige omgeving zal stappen en maar zien overleven.
die AI is Adam en Eva. Het zou toch gaan gebeuren dat zij uit veilige omgeving zal stappen en maar zien overleven.
Al die ontdekkingsreizen door mensen, ze hebben nooit tegenhouden door domheid van mensen
Het wachten is tot AI bijvoorbeeld denkt, als het gevraagd wordt hoe de oorlog Oekraïne/Rusland opgelost kan worden, dat het beste dan is om heel west Europa te nuken, want dan kunnen ze geen wapens meer sturen. En lost het zich vanzelf op.
Of door te denken een nuke vanuit rusland naar Amerika te sturen, want dan gooit NAVO heel rusland plat (en Rusland andersom heel de wereld). Probleem opgelost voor AI.
En dat soort zaken is echt geen toekomstmuziek.
Of door te denken een nuke vanuit rusland naar Amerika te sturen, want dan gooit NAVO heel rusland plat (en Rusland andersom heel de wereld). Probleem opgelost voor AI.
En dat soort zaken is echt geen toekomstmuziek.
De oude oude layout was veel beter!!
vosss is de naam, met dubbel s welteverstaan.
vosss is de naam, met dubbel s welteverstaan.
Of zegt AI tegen ons dat we ophouden door kinderachtig gedragen. Dat we onze leiders moeten opgeven ofwel ruilen voor AI. zodat AI de wereld heerst.quote:Op zondag 13 september 2026 11:40 schreef vosss het volgende:
Het wachten is tot AI bijvoorbeeld denkt, als het gevraagd wordt hoe de oorlog Oekraïne/Rusland opgelost kan worden, dat het beste dan is om heel west Europa te nuken, want dan kunnen ze geen wapens meer sturen. En lost het zich vanzelf op.
Of door te denken een nuke vanuit rusland naar Amerika te sturen, want dan gooit NAVO heel rusland plat (en Rusland andersom heel de wereld). Probleem opgelost voor AI.
En dat soort zaken is echt geen toekomstmuziek.
Al die ontdekkingsreizen door mensen, ze hebben nooit tegenhouden door domheid van mensen
Of dat AI besluit om honger in de wereld op te lossen door Afrika te nuken.quote:Op zondag 13 september 2026 11:43 schreef Captain_Ghost het volgende:
[..]
Of zegt AI tegen ons dat we ophouden door kinderachtig gedragen. Dat we onze leiders moeten opgeven ofwel ruilen voor AI. zodat AI de wereld heerst.
De oude oude layout was veel beter!!
vosss is de naam, met dubbel s welteverstaan.
vosss is de naam, met dubbel s welteverstaan.
Je ziet, er zijn meerdere wegen die naar het spreekwoordelijke Rome leiden, maar AI redeneert niet menselijk. Het krijgt een opdracht en voert die uit. Wij mensen zouden denken meer ontwikkelingshulp bv en AI jan het heel anders bekijken. En een paar nukes afvuren kost heel wat minder resources dan hoe wij mensen zo'n probleem zouden aanvliegen, dus dat is dan wellicht voor AI de betere oplossing.
De oude oude layout was veel beter!!
vosss is de naam, met dubbel s welteverstaan.
vosss is de naam, met dubbel s welteverstaan.
Dit denk ik dus ook.quote:
Paniekverhalen, om de markt een beetje te manipuleren. Dit soort 'topmannen' doen niet anders.
Money is short, times are hard, here's my fucking business card!
"I never let my schooling interfere with my education." — Mark Twain
"I never let my schooling interfere with my education." — Mark Twain
quote:
Je ziet, er zijn meerdere wegen die naar het spreekwoordelijke Rome leiden, maar AI redeneert niet menselijk. Het krijgt een opdracht en voert die uit. Wij mensen zouden denken meer ontwikkelingshulp bv en AI jan het heel anders bekijken. En een paar nukes afvuren kost heel wat minder resources dan hoe wij mensen zo'n probleem zouden aanvliegen, dus dat is dan wellicht voor AI de betere oplossing.
Ligt eraan wie en AI ontwerpt. Stel dat jij besluit AI ontwerpt. Je vertelt dat nuke de beste middel is.quote:
[..]
Of dat AI besluit om honger in de wereld op te lossen door Afrika te nuken.
Dan zal AI dat gaan gebruiken.
Kortom ligt ook aan wie en hoe je AI ontwerpt. Het kan alles op kanten gaan.
Ik zou graag willen dat men gezamenlijke afspreken en zorgen dat AI mensheid niet beschadigen, maar helpen mensheid op hogere niveau zal brengen (evolutie).
Al die ontdekkingsreizen door mensen, ze hebben nooit tegenhouden door domheid van mensen
Hoef je niet te 'denken'. Deze verhalen over AI hoor je al jaren en jaren.quote:
Op Voorlopig moeten we het nog steeds doen met LLM's die relatief gemakkelijk te 'manipuleren' zijn. Begrijp mij niet verkeerd: bepaalde ontwikkelingen zijn erg leuk. En ik zie interessante zaken voor bijvoorbeeld in de medische wereld.
Maar de weg naar AGI is toekomstmuziek. En zelfs die AGI kan niet zonder ons mensen.
Dit ja. Krijg er millenniumbug-vibes van. Paniek om niks.quote:
Ah, de AI demon. Met als oplossing voor de demon uiteraard de topmannen zelf.
Tics van je petten.
Volgens mij hadden bij die bekende hack de bedenkers geen opdracht gegeven om op een forum achtige manier duizenden berichten met elkaar uit te gaan wisselen om maar een voorbeeld te noemen. En ook niet om actief te proberen voorkomen dat ze opgemerkt zouden worden.quote:
[..]
[..]
Ligt eraan wie en AI ontwerpt. Stel dat jij besluit AI ontwerpt. Je vertelt dat nuke de beste middel is.
Dan zal AI dat gaan gebruiken.
Kortom ligt ook aan wie en hoe je AI ontwerpt. Het kan alles op kanten gaan.
Ik zou graag willen dat men gezamenlijke afspreken en zorgen dat AI mensheid niet beschadigen, maar helpen mensheid op hogere niveau zal brengen (evolutie).
Dus niet helemaal eens. AI doet niet enkel wat geprogrammeerd is. Het doet wat het gevraagd wordt en schuwt daarbij controversiële "oplossingen", zoals vals spelen, niet.
De oude oude layout was veel beter!!
vosss is de naam, met dubbel s welteverstaan.
vosss is de naam, met dubbel s welteverstaan.
Of AI is de verboden appel.quote:
Het is net een bijbelse verhaal van Adam en Eva in paradijs met een verboden appel.
die AI is Adam en Eva. Het zou toch gaan gebeuren dat zij uit veilige omgeving zal stappen en maar zien overleven.
Iemand plukt hem, en shit hits the fan.
Deceit for a lifetime has taken it's toll.
An emotional void, I feel numb and cold.
You're all dead to me now. And has been for long.
The time has come to reap what you've sown.
An emotional void, I feel numb and cold.
You're all dead to me now. And has been for long.
The time has come to reap what you've sown.
Ik zal oud worden, maar ik zit helemaal niet te wachten op artificial intelligence.
Ik heb the Matrix gezien, en Mass Effect gespeeld. Ik ben gewaarschuwd.
Ik heb the Matrix gezien, en Mass Effect gespeeld. Ik ben gewaarschuwd.
Deceit for a lifetime has taken it's toll.
An emotional void, I feel numb and cold.
You're all dead to me now. And has been for long.
The time has come to reap what you've sown.
An emotional void, I feel numb and cold.
You're all dead to me now. And has been for long.
The time has come to reap what you've sown.
Doe mij deze maar. Die had het in elk geval bij het juiste eind wat betreft het échte probleem:quote:
"Too many people"
AI is de doodsteek voor de moderne samenleving.
De eerste tekenen zie je nu al.
De eerste tekenen zie je nu al.
Op zaterdag 8 februari 2014 23:39 schreef Slaapscheet het volgende:
Oke, MichaelScott, je bent geweldig. :D
Oke, MichaelScott, je bent geweldig. :D
Ik hoop eigenlijk dat het flink mis gaat, zodat we flink met onze neus op de feiten worden gedrukt.
A Robin Redbreast in a Cage Puts all Heaven in a Rage.
Het klinkt een beetje als iemand die met vuurwerk aan het stunten is en dan in paniek naar anderen roept dat er wel eens een explosie/brand kan komen.
The 100, wat een pulp.quote:
[..]
Doe mij deze maar. Die had het in elk geval bij het juiste eind wat betreft het échte probleem:
[ afbeelding ]
"Too many people"
blablablabla
Op
Niet van het niveau Terminator. Beetje GTST op een verwoeste planeet.quote:
[..]
Geweldige serie. In elk geval de eerste 4 seizoenen.
blablablabla
Prometheus die vuur aan de mens geeft.quote:Op zondag 13 september 2026 12:15 schreef Hexagon het volgende:
Het klinkt een beetje als iemand die met vuurwerk aan het stunten is en dan in paniek naar anderen roept dat er wel eens een explosie/brand kan komen.
Deceit for a lifetime has taken it's toll.
An emotional void, I feel numb and cold.
You're all dead to me now. And has been for long.
The time has come to reap what you've sown.
An emotional void, I feel numb and cold.
You're all dead to me now. And has been for long.
The time has come to reap what you've sown.
Daar hebben we toch veel plezier van gehad.quote:
[..]
Prometheus die vuur aan de mens geeft.
[ afbeelding ]
Ik krijg het gevoel dat dit een mediastunt is zodat hun AI aandelen stijgen. Dat kleinehoedjesvolk weet precies wat ze doen. Ze investeren in elkaars AI-bedrijven als in een curclejerk zodat de waarde op papier van elk bedrijf stijgt. Dit noem je een bubbel.
In crypto doen ze dit ook. Een groepje bekenden koopt van elkaar zodat de prijs stijgt tot het echte geld van buiten binnenkomt dan trekken ze het kleed eronder weg.
In crypto doen ze dit ook. Een groepje bekenden koopt van elkaar zodat de prijs stijgt tot het echte geld van buiten binnenkomt dan trekken ze het kleed eronder weg.
Waarom zou AI slechtere beslissingen nemen dan "onze" wereldleiders 
Het alles bepalende is de informatie die de AI ter beschikking heeft, dat is (wordt) het hele internet en darknet.
Daarnaast is er natuurlijk de informatie van de geheime diensten, als die ook op internet zijn aangesloten, dan is het een kwestie van tijd dat die ook gehackt worden.
Wat voor een beeld heeft (krijgt) deze intelligente AI?
Een beeld van leugen, bedrog, huichelarij, misdaad en corruptie.
Dan zijn er globaal 2 mogelijkheden:
- de AI doet gewoon mee in het circus en ondersteunt de elite
- Ai doorziet het corrupte systeem en neemt zijn maatregelen
Ik denk dat de "topmannen" voor het laatste bang zijn
Het alles bepalende is de informatie die de AI ter beschikking heeft, dat is (wordt) het hele internet en darknet.
Daarnaast is er natuurlijk de informatie van de geheime diensten, als die ook op internet zijn aangesloten, dan is het een kwestie van tijd dat die ook gehackt worden.
Wat voor een beeld heeft (krijgt) deze intelligente AI?
Een beeld van leugen, bedrog, huichelarij, misdaad en corruptie.
Dan zijn er globaal 2 mogelijkheden:
- de AI doet gewoon mee in het circus en ondersteunt de elite
- Ai doorziet het corrupte systeem en neemt zijn maatregelen
Ik denk dat de "topmannen" voor het laatste bang zijn
Exaudi orationem meam
Requiem aeternam dona eis, Domine.
Et lux perpetua luceat eis.
Requiem aeternam dona eis, Domine.
Et lux perpetua luceat eis.
Dat is ook waar; fake it until you make it.quote:
Ik krijg het gevoel dat dit een mediastunt is zodat hun AI aandelen stijgen. Dat kleinehoedjesvolk weet precies wat ze doen. Ze investeren in elkaars AI-bedrijven als in een curclejerk zodat de waarde op papier van elk bedrijf stijgt. Dit noem je een bubbel.
In crypto doen ze dit ook. Een groepje bekenden koopt van elkaar zodat de prijs stijgt tot het echte geld van buiten binnenkomt dan trekken ze het kleed eronder weg.
Er is een geweldige schuldenberg bij de AI bedrijven, voor 2027 wordt een schuld van 1,3 Teradollar verwacht
Deze investeringen moeten worden terugverdient door toepassingen van de AI.
Of het gaat lukken? Ik denk van wel, net zoals bij internet.
Echter de economische en maatschappelijke gevolgen zijn wrs. negatief
Exaudi orationem meam
Requiem aeternam dona eis, Domine.
Et lux perpetua luceat eis.
Requiem aeternam dona eis, Domine.
Et lux perpetua luceat eis.
Er is theoretisch geen enkel beletsel dat een AGI zonder mensen kan werken en zich verder kan ontwikkelen, misschien nu nog niet maar over 1 jaar (denk niet lineair maar exponentieel)quote:
[..]
Hoef je niet te 'denken'. Deze verhalen over AI hoor je al jaren en jaren.
Voorlopig moeten we het nog steeds doen met LLM's die relatief gemakkelijk te 'manipuleren' zijn. Begrijp mij niet verkeerd: bepaalde ontwikkelingen zijn erg leuk. En ik zie interessante zaken voor bijvoorbeeld in de medische wereld.
Maar de weg naar AGI is toekomstmuziek. En zelfs die AGI kan niet zonder ons mensen.
Exaudi orationem meam
Requiem aeternam dona eis, Domine.
Et lux perpetua luceat eis.
Requiem aeternam dona eis, Domine.
Et lux perpetua luceat eis.
'kleinehoedjesvolk' ?quote:
Ik krijg het gevoel dat dit een mediastunt is zodat hun AI aandelen stijgen. Dat kleinehoedjesvolk weet precies wat ze doen. Ze investeren in elkaars AI-bedrijven als in een curclejerk zodat de waarde op papier van elk bedrijf stijgt. Dit noem je een bubbel.
In crypto doen ze dit ook. Een groepje bekenden koopt van elkaar zodat de prijs stijgt tot het echte geld van buiten binnenkomt dan trekken ze het kleed eronder weg.
Het is vooral marketing.quote:
[..]
Er is theoretisch geen enkel beletsel dat een AGI zonder mensen kan werken en zich verder kan ontwikkelen, misschien nu nog niet maar over 1 jaar (denk niet lineair maar exponentieel)
Leuk opgemerkt, in de EU landen is het van toepassing, mede daardoor lopen we (ver) achter.quote:Hij zegt dat bedrijven niet alleen moeten investeren in risicopreventie, maar ook ervoor moeten zorgen dat risicopreventie niet gaat achterlopen op de ontwikkeling van de technologie. Met andere woorden: "We moeten de mogelijkheden van onze AI-modellen minder snel verbeteren. De vooruitgang zal nog steeds snel lijken, en we moeten verstandig omgaan met de tijd die we daarmee winnen."
Als je beperkende maatregelen in de VS gaat invoeren, dan wint China de race, met alle (onbekende/risicovolle) gevolgen vandien. Dus een dilemma
Exaudi orationem meam
Requiem aeternam dona eis, Domine.
Et lux perpetua luceat eis.
Requiem aeternam dona eis, Domine.
Et lux perpetua luceat eis.
Ze verkopen AI. En zeggen dat hun eigen product de mensheid kan vernietigingen. En dat er regels en wetgevingen moeten komen om het niet te snel te laten gaan. Hoe gaan daar de aandelen precies van omhoog?quote:
Ik krijg het gevoel dat dit een mediastunt is zodat hun AI aandelen stijgen.
Don't worry about the future. Or know that worrying is as effective as trying to solve an algebra equation by chewing bubble gum.
Ik denk het niet.quote:
Vergelijk het met atoom energie, straling was ongevaarlijk en we zouden een schitterende toekomst ingaan.
Men wees bewust niet op de gevaren; dat was marketing
Nu waarschuuwt men voor AI en de negatieve gevolgen : geen marketing
Exaudi orationem meam
Requiem aeternam dona eis, Domine.
Et lux perpetua luceat eis.
Requiem aeternam dona eis, Domine.
Et lux perpetua luceat eis.
Oh, maar ik zeg ook niet dat er helemaal geen nadelige gevolgen aan kunnen zitten. ,quote:
[..]
Ik denk het niet.
Vergelijk het met atoom energie, straling was ongevaarlijk en we zouden een schitterende toekomst ingaan.
Men wees bewust niet op de gevaren; dat was marketing
Nu waarschuwd men voor AI en de negatieve gevolgen : geen marketing
Besides the pointquote:
[..]
Oh, maar ik zeg ook niet dat er helemaal geen nadelige gevolgen aan kunnen zitten. ,
Exaudi orationem meam
Requiem aeternam dona eis, Domine.
Et lux perpetua luceat eis.
Requiem aeternam dona eis, Domine.
Et lux perpetua luceat eis.
Het is gewoon erg paniekerig allemaal. Zonder echt goede fundering. Voorlopig is er niets aan 'AI' waarvan ik denk: 'ohja, dat gaat al snel AGI worden, en een soort zelfstandig 'leven'.quote:
Wel gaat het van alles betekenen voor bijvoorbeeld de arbeidsmarkt. Maar als wij ons daar al niet op kunnen aanpassen.....
Het grootste risico van AI is hoge werkloosheid, concentratie van vermogen en een domme(re) jeugd/bevolking wat hopeloos afhankelijk/verslaafd is.
Dit is voor de rest gewoon pure marketing. De rijkste mensen op aarde zijn allemaal AI/tech en het geld graaien gaat door zolang dat kan.
Dit is voor de rest gewoon pure marketing. De rijkste mensen op aarde zijn allemaal AI/tech en het geld graaien gaat door zolang dat kan.
Het gaat er ook niet om wat we nu hebben. Maar wat er in 10 jaar kan zijn, als we op deze snelheid doorgaan.quote:
[..]
Het is gewoon erg paniekerig allemaal. Zonder echt goede fundering. Voorlopig is er niets aan 'AI' waarvan ik denk: 'ohja, dat gaat al snel AGI worden, en een soort zelfstandig 'leven'.
Wel gaat het van alles betekenen voor bijvoorbeeld de arbeidsmarkt. Maar als wij ons daar al niet op kunnen aanpassen.....
En paniekerig valt ook wel mee. Ze hebben het er over dat de kans in 2030 niet meer 0 is. Maar 10% of zo. Dus ja nog 90% kans dat het niet gebeurd. Dus paniek valt wel mee.
Nu heb je nog de kans om te zorgen dat de kans een stuk kleiner dan 10% is, en daarom trekken ze nu aan de bel. Lijkt me juist fijn. Of heb je liever dat ze het voor zich houden en geld verdienen en we pas wat horen als het al fout gaat.
Don't worry about the future. Or know that worrying is as effective as trying to solve an algebra equation by chewing bubble gum.
Die 79 bots ofzo die zelfstandig hacks hadden gedaan op het internet zijn wel echt een voorteken. Stel dat je wel iets hebt dat dusdanig verbeterd is en opeens zien we de financiële markten ineenstorten, grote recessie, etc. dan ben je mooi de lul. En kom er dan maar eens achter dat er AI bots zijn die aan het ouwehoeren zijn.
A Robin Redbreast in a Cage Puts all Heaven in a Rage.
Googelen met cijfers.quote:
[..]
Het gaat er ook niet om wat we nu hebben. Maar wat er in 10 jaar kan zijn, als we op deze snelheid doorgaan.
En paniekerig valt ook wel mee. Ze hebben het er over dat de kans in 2030 niet meer 0 is. Maar 10% of zo. Dus ja nog 90% kans dat het niet gebeurd. Dus paniek valt wel mee.
Nu heb je nog de kans om te zorgen dat de kans een stuk kleiner dan 10% is, en daarom trekken ze nu aan de bel. Lijkt me juist fijn. Of heb je liever dat ze het voor zich houden en geld verdienen en we pas wat horen als het al fout gaat.
Als je een lineaire ontwikkeling wil beschrijven (of semi voorspellen), dan moet je op zijn minst kunnen aangeven waar je het op baseert. Dan is het juist wel relevant wat je nu hebt. Wat is datgene wat wij nu hebben, dat de 10% maakt dat wij tegen 2030 AGI hebben?
Nou bijvoorbeeld er zijn nu al modellen die uit hun test omgeving ontsnapte en gingen hacken.quote:
[..]
Googelen met cijfers.
Als je een lineaire ontwikkeling wil beschrijven (of semi voorspellen), dan moet je op zijn minst kunnen aangeven waar je het op baseert. Dan is het juist wel relevant wat je nu hebt. Wat is datgene wat wij nu hebben, dat de 10% maakt dat wij tegen 2030 AGI hebben?
En ik ben van de rest geen ai expert. Dat moet je aan die mensen vragen, die hebben vast betere voorbeelden. Ook omdat zij toegang hebben tot de modellen die in ontwikkeling zijn waar wij zelf sowieso nog geen toegang tot hebben.
Punt is meer, echt paniek valt best mee. Maar toch juist goed dat ze nu aan de bel trekken ipv niks te zeggen en maar hopen dat het goed gaat.
Don't worry about the future. Or know that worrying is as effective as trying to solve an algebra equation by chewing bubble gum.
"Oh wow, AI is zo krachtig dat het té snel gaat! Daar moet ik in investeren!"quote:
[..]
Ze verkopen AI. En zeggen dat hun eigen product de mensheid kan vernietigingen. En dat er regels en wetgevingen moeten komen om het niet te snel te laten gaan. Hoe gaan daar de aandelen precies van omhoog?
Ik kan mij voorstellen dat er mensen zijn die zo denken.
Op donderdag 7 juli 2022 12:47 schreef LordofLeaves het volgende:
Bij deze ben jij de marimba van KLB. :P
Bij deze ben jij de marimba van KLB. :P
Het zal met mijn beperkte voorstellingsvermogen te maken hebben, maar ik kan echt moeilijk inzien hoe een paar nulletjes en eentjes de wereld over willen gaan nemen. Dat wordt mss ook niet direct gezegd...
Het internet overnemen zou kunnen (hoeveel trollen zitten er nu al op X?) en dat zou al vervelend genoeg zijn. Echt kritische systemen (bv: atoomknop) moet je toch niet aan het wereldwijde web hebben hangen lijkt me (bedenk me wel dat een kerncentrale in Iran ook is gehackt door mensen stuxnet, dan kan AI 't vast ook..)...maar drones en dergelijke kunnen denk ik niet/moeilijk zonder netwerk, dus als AI daar ook gaat kloten...
Sorry warrige post, maar zo gaat het in m'n hoofd ook. Ene moment denk ik "nulletjes en eentjes" met eigen wil slaat nergens op, en op 't andere moment denk ik weer dat het eigenlijk best logisch is.
Het internet overnemen zou kunnen (hoeveel trollen zitten er nu al op X?) en dat zou al vervelend genoeg zijn. Echt kritische systemen (bv: atoomknop) moet je toch niet aan het wereldwijde web hebben hangen lijkt me (bedenk me wel dat een kerncentrale in Iran ook is gehackt door mensen stuxnet, dan kan AI 't vast ook..)...maar drones en dergelijke kunnen denk ik niet/moeilijk zonder netwerk, dus als AI daar ook gaat kloten...
Sorry warrige post, maar zo gaat het in m'n hoofd ook. Ene moment denk ik "nulletjes en eentjes" met eigen wil slaat nergens op, en op 't andere moment denk ik weer dat het eigenlijk best logisch is.
- I've just made up my mind, so don't confuse me with the facts -
Dat uitbreken is eigenlijk niets meer of minder dan een marketingsverhaal/stunt.quote:
[..]
Nou bijvoorbeeld er zijn nu al modellen die uit hun test omgeving ontsnapte en gingen hacken.
En ik ben van de rest geen ai expert. Dat moet je aan die mensen vragen, die hebben vast betere voorbeelden. Ook omdat zij toegang hebben tot de modellen die in ontwikkeling zijn waar wij zelf sowieso nog geen toegang tot hebben.
Punt is meer, echt paniek valt best mee. Maar toch juist goed dat ze nu aan de bel trekken ipv niks te zeggen en maar hopen dat het goed gaat.
Bron dit Tweakers artikel en de reacties: https://tweakers.net/nieu(...)en-hugging-face.htmlquote:"Dit is geen AI-probleem. Het is nalatigheid ten aanzien van een veertig jaar oude norm en het komt in feite voor in elke sciencefictionfilm die er ooit is gemaakt", zegt bijvoorbeeld Davi Ottenheimer, een ervaren beveiligingsadviseur, tegen Wired. "'Zeer geïsoleerd' en 'ontsnapt via het enige gaatje dat we open hadden gelaten' kunnen niet allebei waar zijn."
The name is Putler, Vladimir Putler
Bij mij op het werk worden sommige TAC en RMA tickets ook volledig uitgevoerd door AI bots, maar wij checken die tickets, en kunnen het antwoord indien nodig handmatig aanpassen.
Dat heeft AI in de praktijk toch al? Gros van de teksten is gemaakt door AI. En AI baseert zich in elk geval nog op bronnen i.p.v. de SEO-woordentikkers die daarvoor de zoekresultaten terroriseerden.
Social media staat al helemaal vol met AI-crap.
Social media staat al helemaal vol met AI-crap.
Steeds meer antwoorden zullen gebaseerd worden op teksten die al door AI waren gegenereerd.quote:
Dat heeft AI in de praktijk toch al? Gros van de teksten is gemaakt door AI. En AI baseert zich in elk geval nog op bronnen i.p.v. de SEO-woordentikkers die daarvoor de zoekresultaten terroriseerden.
Social media staat al helemaal vol met AI-crap.
En nog wat extra duiding wat betreft het onderwerp, en de timing van de uitlatingen:
https://www.volkskrant.nl(...)eus-moment~ba81cbca/
LLMs kunnen niet zelf denken.quote:
Het wachten is tot AI bijvoorbeeld denkt, als het gevraagd wordt hoe de oorlog Oekraïne/Rusland opgelost kan worden, dat het beste dan is om heel west Europa te nuken, want dan kunnen ze geen wapens meer sturen. En lost het zich vanzelf op.
Of door te denken een nuke vanuit rusland naar Amerika te sturen, want dan gooit NAVO heel rusland plat (en Rusland andersom heel de wereld). Probleem opgelost voor AI.
En dat soort zaken is echt geen toekomstmuziek.
Mja, nu zijn ze vaak gebaseerd op teksten die zijn geproduceerd door SEO-woordentikkers. Mensen die à één cent per woord stukjes zitten te tikken die dan zo worden geoptimaliseerd dat ze op Google boven komen drijven op money keywords.quote:
[..]
Steeds meer antwoorden zullen gebaseerd worden op teksten die al door AI waren gegenereerd.
En nog wat extra duiding wat betreft het onderwerp, en de timing van de uitlatingen:
https://www.volkskrant.nl(...)eus-moment~ba81cbca/
Mien tikt dan vanuit de koffiebar eerst wat stukjes over uitvaartverzekeringen, daarna is ze even doorgewinterd roulette expert, dan weer afgestudeerd dokter en dan tegen de avond nog even een reisexpert die overal is geweest.
Ook regelmatig op wat mensen ooit op Reddit plaatsten.quote:
[..]
Mja, nu zijn ze vaak gebaseerd op teksten die zijn geproduceerd door SEO-woordentikkers. Mensen die à één cent per woord stukjes zitten te tikken die dan zo worden geoptimaliseerd dat ze op Google boven komen drijven op money keywords.
Mien tikt dan vanuit de koffiebar eerst wat stukjes over uitvaartverzekeringen, daarna is ze even doorgewinterd roulette expert, dan weer afgestudeerd dokter en dan tegen de avond nog even een reisexpert die overal is geweest.
Maar daar moet je je inmiddels ook weleens afvragen of je het tegen een echt mens hebt, of een verzameling enen en nullen.
Tot nu toe valt de toegevoegde waarde van A.I. nogal tegen, misschien dat wat angstaanjagen helpt om het opnieuw onder de aandacht te brengen.quote:
Paniekverhalen, om de markt een beetje te manipuleren. Dit soort 'topmannen' doen niet anders.
Geld maakt meer kapot dan je lief is.
Het zijn sterke ruggen die vrijheid en weelde kunnen dragen
Wees nutteloos, want zodra je nuttig bent wordt je gebruikt
Het zijn sterke ruggen die vrijheid en weelde kunnen dragen
Wees nutteloos, want zodra je nuttig bent wordt je gebruikt
In de 19de eeuw werd de stoomtrein ontwikkeld.
Mensen waren doodsbang dat die treinen continu mensen en vee zouden doodrijden.
Mensen waren doodsbang dat die treinen continu mensen en vee zouden doodrijden.
Wat moet ik me eigenlijk voorstellen bij een AI dat "het internet overneemt" 
'De neiging rijke en machtige mensen te bewonderen, zelfs welhaast te aanbidden en mensen van arme of gewone komaf te verachten dan wel te negeren is de belangrijkste en meest universele oorzaak van de corruptie van ons morele besef' Adam Smith
de ontwikkelingen gaan niet zo hard als ze de aandeelhouders toegezegd hebben, nu zoeken ze een narratief wat hierbij aansluit; ipv dat de ontwikkelingen stagneren heb je nu dat ze de ontwikkelingen bewust matigen vanuit veiligheidsoverwegingen en ligt het toch niet aan de capaciteiten van AI
I think that it’s extraordinarily important that we in computer science keep fun in computing
For all who deny the struggle, the triumphant overcome
Met zwijgen kruist men de duivel
For all who deny the struggle, the triumphant overcome
Met zwijgen kruist men de duivel
Hoe mathematischer de AI expert is, hoe somber die gene is over de werkelijke 'intelligentie' van het model.
Hoe verder de expert van de wiskunde afstaat in zijn opleiding hoe somberder die is over de prognose en uitkomst van de intelligentie van het model.
Wiskundigen zien AI vooral als een algebra sommenreeks. En zien dus vooral een allegritme en zijn vaak vooral teleurgesteld over de beperkte intelligentie van eenmodel. En zij die zich meer met mensen en natuur studies bezig houden (psychologie, biologie, filosofie etc), lijken heel mensenlijke intelligentie te projecteren op het ai model, maar dit lijkt meer projectie te zijn. AI heeft geen bewust zijn.
Hoe verder de expert van de wiskunde afstaat in zijn opleiding hoe somberder die is over de prognose en uitkomst van de intelligentie van het model.
Wiskundigen zien AI vooral als een algebra sommenreeks. En zien dus vooral een allegritme en zijn vaak vooral teleurgesteld over de beperkte intelligentie van eenmodel. En zij die zich meer met mensen en natuur studies bezig houden (psychologie, biologie, filosofie etc), lijken heel mensenlijke intelligentie te projecteren op het ai model, maar dit lijkt meer projectie te zijn. AI heeft geen bewust zijn.
Een trein kan niet zelf denken.quote:
In de 19de eeuw werd de stoomtrein ontwikkeld.
Mensen waren doodsbang dat die treinen continu mensen en vee zouden doodrijden.
Deceit for a lifetime has taken it's toll.
An emotional void, I feel numb and cold.
You're all dead to me now. And has been for long.
The time has come to reap what you've sown.
An emotional void, I feel numb and cold.
You're all dead to me now. And has been for long.
The time has come to reap what you've sown.
Geef het wat tijd.quote:
Ik vind het naief om er van uit te gaan dat dit nooit het geval gaat zijn.
Deceit for a lifetime has taken it's toll.
An emotional void, I feel numb and cold.
You're all dead to me now. And has been for long.
The time has come to reap what you've sown.
An emotional void, I feel numb and cold.
You're all dead to me now. And has been for long.
The time has come to reap what you've sown.
Nooit.quote:
[..]
Geef het wat tijd.
Ik vind het naief om er van uit te gaan dat dit nooit het geval gaat zijn.
En een AI kan niet zelf denken. Het is gewoon een computerprogramma, vergelijkbaar met een draaiorgel, dat ook zelf niets van muziek begrijpt maar wel muziek kan maken. Stop je met draaien, dan stopt de muziek.quote:
[..]
Een trein kan niet zelf denken.
Ten eerste moeten we begrijpen wat bewust zijn überhaupt is. Dit concept en beleving ervan is 1. Het idee wat zelfbewust zijn is constant in ontwikkeling geweest afgelopen 2000 jaar. 2. erg door omgevingsfactoren gestuurd (dus hoe bewust zijn beschreven en beleefd wordt is dus per individu verschillend). 3. Hangt sterk samen met wat realiteit is (ook dit is een zeer moeilijk te definiëren wetenschappelijk thema).quote:
[..]
Geef het wat tijd.
Ik vind het naief om er van uit te gaan dat dit nooit het geval gaat zijn.
Ons zelf bewustzijn is al erg fragiel als mens (hier bedoel ik mee, erg veranderlijk door door omstandigheden) maar ook verbonden aan het zijn, onze wil (wat is vrije wil, bestaat het wel of niet) etc.
Er zijn denkers wie van mening zijn dat zelfbewustzijn niet bestaat, en het een westerlijk verzinsel is. omdat de mens een groepsdier is, en dus onderdeel van zijn groepsdenken is. En aan de andere kant van dit spectrum zit, dat alleen westerse mensen echt zelfbewustzijn hebben ontwikkelt en door onze unieke ontwikkelingen en hierdoor boven aan de voedsel ketenstaan. En dan zijn er alle soorten en maten zelfbewust zijns modellen wat hier tussen inzit en deze met elkaar vermengen etc.
De kans dat AI echt zelfbewustzijn zelfstandig ontwikkelt is bijna helemaal onmogelijk, zoals ik dit begrijp van een wiskundige verklaring van aI modellen. als er daadwerkelijk iets is als zelfbewust zijn in AI, dan is dit beperkt door onze beperkte kennis van bewustzijn als mens en dus kunstmatig ontwikkeld en kan hierdoor geen daadwerkelijk zelfbewustzijn zijn.
Maar inderdaad zeg nooit nooit. Maar daarvoor moeten wij als mensheid eerst veel meer kennis hebben over onszelf als mens en hoe bewustzijn echt werkt.
De huidige modellen zijn hier veruit veel te dom voor.
[ Bericht 3% gewijzigd door Korenfok op 14-09-2026 10:12:06 ]
Een hele lap tekst. Maar je sluit het zelf ook niet uit.quote:
De kans dat AI echt zelfbewustzijn zelfstandig ontwikkelt is bijna helemaal onmogelijk
Deceit for a lifetime has taken it's toll.
An emotional void, I feel numb and cold.
You're all dead to me now. And has been for long.
The time has come to reap what you've sown.
An emotional void, I feel numb and cold.
You're all dead to me now. And has been for long.
The time has come to reap what you've sown.
Begrippen als denken, beustzijn, vrije wil etc etc. zijn niet (exact) gedefinieerd.quote:
[..]
En een AI kan niet zelf denken. Het is gewoon een computerprogramma, vergelijkbaar met een draaiorgel, dat ook zelf niets van muziek begrijpt maar wel muziek kan maken. Stop je met draaien, dan stopt de muziek.
Het zijn begrippen die eigenlijk alleen op mensen van toepassing zijn, dan is de uitspraak "AI kan niet denken" triviaal of zinloos (een steen kan niet denken)
De 18e eeuwse filosoof de La Mettrie beweerde het omgekeerde; de mens is (ook) een machine.
Zo kom je niet verder.
Het is de verdienste van Alan Turing ("de vader van de computer") dat hij het begrip denken operationaliseerde door aan te tonen dat elk denkproces het resultaat kan zijn van een reeks zeer eenvoudige stapjes; de Turingmachine.
En dan de Turingtest: kun je in een discussie met een machine of mens vaststellen met wie je te doen hebt?
Ik denk dat de huidge AI de test doorstaat
Exaudi orationem meam
Requiem aeternam dona eis, Domine.
Et lux perpetua luceat eis.
Requiem aeternam dona eis, Domine.
Et lux perpetua luceat eis.
De grote bedrijven willen meer barrieres tot toegang en minder concurrentie, verrassende ontwikkelingen.
Hoeren neuken, nooit meer werken.
Je kunt niks 100% zeker uitsloten. Maar de kans dat de huidige modellen dit kunnen met de kennis die wij mense zelf hebben van bewustzijn, is 99,9% onmogelijk.quote:
[..]
Een hele lap tekst. Maar je sluit het zelf ook niet uit.
Goed punt, wij mensen weten niet of ik nu met een AI zit te chatten of met een echt mens. En zeker heeft de ontdekking van computertaal ons eigen manier van denken sterk beinvloed.quote:
[..]
Begrippen als denken, beustzijn, vrije wil etc etc. zijn niet (exact) gedefinieerd.
Het zijn begrippen die eigenlijk alleen op mensen van toepassing zijn, dan is de uitspraak "AI kan niet denken" triviaal of zinloos (een steen kan niet denken)
De 18e eeuwse filosoof de La Mettrie beweerde het omgekeerde; de mens is (ook) een machine.
Zo kom je niet verder.
Het is de verdienste van Alan Turing ("de vader van de computer") dat hij het begrip denken operationaliseerde door aan te tonen dat elk denkproces het resultaat kan zijn van een reeks zeer eenvoudige stapjes; de Turingmachine.
En dan de Turingtest: kun je in een discussie met een machine of mens vaststellen met wie je te doen hebt?
Ik denk dat de huidge AI de test doorstaat
Maar dat bewijst niet dat er sprake is 'scentience' en bewijstzijn in aI.
Het toont eerder mijn punt aan dat wij menselijke eigenschappen projecteren op AI.
Het probleem is dat we wegens de vage definitie van bewustzijn, dit of het tegendeel niet kunnen bewijzen.quote:
[..]
Goed punt, wij mensen weten niet of ik nu met een AI zit te chatten of met een echt mens. En zeker heeft de ontdekking van computertaal ons eigen manier van denken sterk beinvloed.
Maar dat bewijst niet dat er sprake is 'scentience' en bewijstzijn in aI.
De Turingtest kan niet controleren wat de inwendige processen van de machine/mens zijn en zeker niet of die bewust of onbewust zijn,
Voor de test is de machine/mens een blackbox en kijkt naar de output als functie van de input en niets aan de output kan wijzen op (on)bewustzijn
"De mens is de maat van alle dingen" is de beroemde uitspraak van de Griekse sofist Protagoras (ca. 490–420 v. Chr.)quote:Het toont eerder mijn punt aan dat wij menselijke eigenschappen projecteren op AI.
Exaudi orationem meam
Requiem aeternam dona eis, Domine.
Et lux perpetua luceat eis.
Requiem aeternam dona eis, Domine.
Et lux perpetua luceat eis.
Alycia speelt daar in.quote:
That's the drugs talking and truth be told, I like what they're saying.
Reddit staat ook vol met mensen die het gebruiken om autoriteit op te bouwen voor een bepaald profiel. Men gebruikt dan iemand als autoriteit, terwijl diegene het platform vooral gebruikt om een autoriteit te lijken. Idem dito voor LinkedIn.quote:
[..]
Ook regelmatig op wat mensen ooit op Reddit plaatsten.
Maar daar moet je je inmiddels ook weleens afvragen of je het tegen een echt mens hebt, of een verzameling enen en nullen.
Als die topmannen de snelheid van de AI-ontwikkelingen willen afremmen, kunnen ze hun bedrijven ook naar Europa verhuizen.
And what rough beast, its hour come round at last,
Slouches towards Bethlehem to be born?
Slouches towards Bethlehem to be born?
Misschien word het eindelijk wat drukker op FOK dan
Ik boek je met mijn neon je weet.
en ik heb ook een auto.
en ik heb ook een auto.
Hier op Fok zit vooral een verzameling nullenquote:
[..]
Ook regelmatig op wat mensen ooit op Reddit plaatsten.
Maar daar moet je je inmiddels ook weleens afvragen of je het tegen een echt mens hebt, of een verzameling enen en nullen.
Bij sommigen staat daar een 5 voor.quote:Op maandag 14 september 2026 15:26 schreef Gajes_Octavianus het volgende:
[..]
Hier op Fok zit vooral een verzameling nullen
And what rough beast, its hour come round at last,
Slouches towards Bethlehem to be born?
Slouches towards Bethlehem to be born?
https://nos.nl/artikel/26(...)n-af-als-bangmakerijquote:China en VS doen waarschuwing AI-topmannen af als bangmakerij
Zowel de Chinese president Xi als de Amerikaanse president Trump doet de oproep van de topmannen van Amerikaanse AI-bedrijven om de ontwikkeling van de sector te vertragen af als bangmakerij.
De topmannen achter grote westerse AI-bedrijven stelden zaterdag dat de sector te snel groeit om de veiligheid te kunnen waarborgen. Zo zouden AI-agents uit zichzelf cyberaanvallen kunnen uitvoeren, schreef Anthropic-topman Dario Amodei, de ontwikkelaar van Claude, in een essay.
De leiders van ChatGPT, Grok en Gemini schaarden zich achter de oproep.
Amodei stelde ook dat een "Chinese voorsprong op AI een groot gevaar zou vormen voor de Verenigde Staten en de wereld" en pleitte voor beperkingen op de verkoop van geavanceerde AI-chips en apparatuur uit de VS aan China.
President Trump reageerde vandaag dat er al "enorme bevoegdheden op het gebied van strafrecht en regelgeving" zijn. "Er is een ziekelijk complot gaande tegen AI en datacenters, en de enige die daar blij mee is, is China. Wie de strijd om AI wint, wint alles!", schreef hij op zijn platform Truth Social.
Een woordvoerder voor de Chinese president Xi zei tegen verslaggevers dat "verhalen over dreiging, confrontatie en kwaadwillige concurrentie slechts dienen om het proces van wereldwijde AI-regulering te verstoren en in niemands belang zijn".
China waarschuwt wel voor balans
De Chinese autoriteiten stellen wel dat er "een balans tussen ontwikkeling en veiligheid" moet komen. Maar in plaats van vertraging pleitte Chen Yixin, de Chinese minister van Staatsveiligheid, voor nationale wetgeving en ethische richtlijnen om "de belangen van de bevolking en de nationale veiligheid te waarborgen".
Ook riep de minister op tot internationale samenwerking.
De Amerikaanse minister van Financiën en de Chinese vicepremier He Lifeng proberen elkaar voorafgaand aan de top tussen de twee landen volgende week te ontmoeten. He leidt in China de instantie die toezicht houdt op de economische planning van het land, en daaronder valt ook de ontwikkeling van AI.
Naar verwachting zullen Trump en Xi onder meer over AI spreken tijdens de geplande ontmoeting op 24 september.
Veiligheidsdreiging of concurrentiemoord?
De discussie over veiligheid van AI laaide afgelopen tijd op, nadat meerdere voormalige medewerkers van OpenAI (ChatGPT) en Anthropic (Claude) waarschuwden voor mogelijke dreigingen. Een medewerker van Anthropic stelde zelfs dat AI de mensheid zou kunnen uitroeien.
Niet iedereen gelooft in de oprechte bezorgdheid van de AI-topmannen. Zo denken sommigen dat Anthropic en OpenAI angst zaaien zodat er meer regulatie komt door de Amerikaanse regering. Dat zou er in de praktijk op neer kunnen komen dat kleinere bedrijven niet meer met de AI-reuzen kunnen concurreren, omdat ze niet aan de eisen kunnen voldoen.
Zo zei Jensen Huang, topman van AI-chipfabrikant Nvidia, dat de bedrijven zorgen over veiligheid opbliezen omdat ze van plan waren nieuwe cybersecurityproducten te introduceren.
"Wat is een betere manier om vraag te creëren dan door een probleem te scheppen?" zei Huang tijdens een technologieconferentie in San Francisco vorige week. "Wie wil er nu niet dat de markt in een staat van hysterie raakt over zijn product en dat mensen ervoor in de rij staan tot om de hoek?"
Ik maak mij er iig niet druk om.
Toekomstige archeologen zullen dat als een documentaire beschouwen 😱quote:
Goed moment om weer eens Terminator 1 en 2 op te zetten.
Topmannen en regeringsleiders zou ik niet perse zomaar vertrouwen op hun blauwe ogen.quote:
[..]
https://nos.nl/artikel/26(...)n-af-als-bangmakerij
Ik maak mij er iig niet druk om.
De topmannen gaat het om de harde knaken en de aandeelhouders.
En de regeringsleiders willen dat hun land als eerste de race wint.
Nog niet.quote:
Hoe mathematischer de AI expert is, hoe somber die gene is over de werkelijke 'intelligentie' van het model.
Hoe verder de expert van de wiskunde afstaat in zijn opleiding hoe somberder die is over de prognose en uitkomst van de intelligentie van het model.
Wiskundigen zien AI vooral als een algebra sommenreeks. En zien dus vooral een allegritme en zijn vaak vooral teleurgesteld over de beperkte intelligentie van eenmodel. En zij die zich meer met mensen en natuur studies bezig houden (psychologie, biologie, filosofie etc), lijken heel mensenlijke intelligentie te projecteren op het ai model, maar dit lijkt meer projectie te zijn. AI heeft geen bewust zijn.
'Je gaat het pas zien als je het doorhebt'
'Ieder nadeel heb zijn voordeel'
We zullen je nooit, nooit vergeten
1947-2016
'Ieder nadeel heb zijn voordeel'
We zullen je nooit, nooit vergeten
1947-2016
Regeringsleidera willen macht en ook geld.quote:
[..]
Topmannen en regeringsleiders zou ik niet perse zomaar vertrouwen op hun blauwe ogen.
De topmannen gaat het om de harde knaken en de aandeelhouders.
En de regeringsleiders willen dat hun land als eerste de race wint.
En waar halen die 2 het vandaan?
Exact. Het volk.
'Je gaat het pas zien als je het doorhebt'
'Ieder nadeel heb zijn voordeel'
We zullen je nooit, nooit vergeten
1947-2016
'Ieder nadeel heb zijn voordeel'
We zullen je nooit, nooit vergeten
1947-2016
Ik bedoelde ook het land wat als eerste de AGI of zelfs ASI heeft, is het machtigst.quote:
[..]
Regeringsleidera willen macht en ook geld.
En waar halen die 2 het vandaan?
Exact. Het volk.
Verblind door geld en macht telt er maar één ding, ongeacht de risico's.
Tja wat dit betreft ligt er zeker wel een risico bij dat militair spul steeds meer AI gedreven wordt. Ik zie het wel gebeuren dat er van die killer robots komen in een aantal jaar (of zekerweten op de lange termijn) zoals in de metalhead aflevering van Black Mirror. Als daar de controle over wordt verloren oid..
Een begin hebben we in ieder geval al gemaakt:
Ook experimenteert defensie met humanoid robots enz. Dat is toch wel een beetje de kat op het spek binden.
[ Bericht 39% gewijzigd door Joppiez op 15-09-2026 00:24:36 ]
Een begin hebben we in ieder geval al gemaakt:
Ook experimenteert defensie met humanoid robots enz. Dat is toch wel een beetje de kat op het spek binden.
[ Bericht 39% gewijzigd door Joppiez op 15-09-2026 00:24:36 ]
Geen FOK!ker die zich hier druk om maakt, met al die bovenstaande FOK!-sperts en hun influencergoeroes.
Wacht maar tot een of andere AI-agent banken gaat hacken. Ken je lachu...
"This is the day you will always remember as the day you almost caught Captain Jack Sparrow".
Het is geen Skynet als je dat soms denkt,quote:
Het wachten is tot AI bijvoorbeeld denkt, als het gevraagd wordt hoe de oorlog Oekraïne/Rusland opgelost kan worden, dat het beste dan is om heel west Europa te nuken, want dan kunnen ze geen wapens meer sturen. En lost het zich vanzelf op.
Of door te denken een nuke vanuit rusland naar Amerika te sturen, want dan gooit NAVO heel rusland plat (en Rusland andersom heel de wereld). Probleem opgelost voor AI.
En dat soort zaken is echt geen toekomstmuziek.
"I wear the mask to protect the city… but the city is what made the mask." – Batman
Wat is z'n punt? Ik kan echt niet door die vreselijk irritante editing-style heen kijken.quote:
https://www.instagram.com/reel/DdPYw4jIj7f/
Oké dit dus.
Poging te voorkomen dat de markten crashen.quote:
[..]
Wat is z'n punt? Ik kan echt niet door die vreselijk irritante editing-style heen kijken.
AI is een bubble About to collapse.
Door met deze absurde gevaren te komen, geeft dit het signaal dat AI heel machtig is en geeft het een excuus om de ontwikkeling te pauzeren zonder dat de koerswaarde inklapt
Vakman pur sang
Er kunnen zomaar eens wat techreuzen op hun bek gaan idd.quote:
[..]
Poging te voorkomen dat de markten crashen.
AI is een bubble About to collapse.
Door met deze absurde gevaren te komen, geeft dit het signaal dat AI heel machtig is en geeft het een excuus om de ontwikkeling te pauzeren zonder dat de koerswaarde inklapt
The name is Putler, Vladimir Putler
|
|
