NWS Nieuws & Achtergronden
Discussieer hier diepgaander over de actualiteiten.
https://nos.nl/artikel/26(...)ns-de-baas-te-worden
AI-topmannen waarschuwen: AI dreigt ons de baas te worden
De topmannen van grote westerse AI-bedrijven zeggen dat hun sector dusdanig snel groeit dat het lastig wordt om de veiligheid te waarborgen. De ontwikkeling van nieuwe AI-modellen moet vertraagd worden, omdat AI-agents binnen zes tot twaalf maanden het hele internet zouden kunnen overnemen.
Met die waarschuwing komt Anthropic-topman Dario Amodei, de ontwikkelaar van Claude, in een essay. OpenAI-topman Sam Altman (ChatGPT), SpaceXAI-baas Elon Musk (Grok) en voorzitter Demis Hassabis van Google DeepMind (Gemini) hebben zich achter de oproep van Amodei geschaard.
Meer doen aan risicopreventie
Amodei zegt dat hij gelooft dat kunstmatige intelligentie veel voordelen kan brengen, maar dat de ontwikkeling ervan op dit moment te snel gaat. "De laatste maanden ben ik ervan overtuigd geraakt dat we nog voorzichtiger moeten zijn als we de risico's willen aanpakken."
Hij zegt dat bedrijven niet alleen moeten investeren in risicopreventie, maar ook ervoor moeten zorgen dat risicopreventie niet gaat achterlopen op de ontwikkeling van de technologie. Met andere woorden: "We moeten de mogelijkheden van onze AI-modellen minder snel verbeteren. De vooruitgang zal nog steeds snel lijken, en we moeten verstandig omgaan met de tijd die we daarmee winnen."
Zo pleit Amodei voor onafhankelijke controleurs die bedrijven moeten gaan toetsen aan veiligheidsnormen. Ook wil hij meer wereldwijde samenwerking bij het opstellen van regels voor de ontwikkeling van AI.
Incident met losgebroken AI
De afgelopen weken wordt er steeds luider opgeroepen om de pauzeknop in de drukken als het gaat om AI-ontwikkelingen. Aanleiding is een incident rond een losgebroken AI-programma van OpenAI, dat deze zomer in het nieuws kwam. Honderden AI-agents braken uit hun testomgeving en hackten een week lang een ander bedrijf, Hugging Face.
OpenAI zei het incident te zien als "waarschuwingsschot, voor ons en voor de wereld".
Daar kwam bij dat deze week een onderzoeker van Anthropic ontslag nam bij het bedrijf omdat hij naar eigen zeggen had gezien hoe onverantwoord de topbedrijven omgaan met veiligheid en zo mensenlevens op het spel zetten. De 27-jarige Jacob Coxon zette zijn ervaringen op sociale media, die de afgelopen dagen miljoenen keren werden gelezen. Dit weekend zei hij in een interview met de BBC dat andere AI-onderzoekers ook "oprecht bang" zijn over de snelheid van de technologische ontwikkelingen.
De vrees bestaat dat er een dag komt waarop AI-systemen zichzelf verder ontwikkelen, zonder tussenkomst van mensen. Over het ontstaan van artificial general intelligence, kunstmatige algemene intelligentie, wordt al langer gesproken.
"Als we hier niet bovenop zitten, zou de ontwikkeling van AI ons vermogen om deze systemen te begrijpen en te beheersen kunnen overstijgen", zegt Anthropic-baas Amodei. Altman van OpenAI is het met hem eens. "Het idee om onafhankelijke inspecteurs toegang te geven, is uitstekend. Wij zullen dat ook doen." Elon Musk plaatste simpelweg "Dario heeft gelijk" op zijn X-account.
Binnen Silicon Valley klinkt ook dat de AI-topmannen niet oprecht bezorgd zijn. Zo denken sommige critici dat Anthropic en OpenAI door angst te zaaien ervoor willen zorgen dat de Amerikaanse regering gaat reguleren, wat er in de praktijk op zou neerkomen dat kleinere bedrijven niet meer met de AI-reuzen zouden kunnen concurreren.
Het is ook maar de vraag of het indrukken van de pauzeknop een realistisch scenario is. De Verenigde Staten en China zijn verwikkeld in een race om de beste AI te ontwikkelen. Het is onbekend of China het ook ziet zitten om de ontwikkeling te vertragen ten behoeve van veiligheid. Anthropic-topman Amodei zegt dan ook dat zijn plan gecoördineerd moet worden met China, iets waar onderzoeker Coxon ook op wijst.
___________________________________________________
___________________________________________________
Zeer zorgwekkend.
AI-topmannen waarschuwen: AI dreigt ons de baas te worden
De topmannen van grote westerse AI-bedrijven zeggen dat hun sector dusdanig snel groeit dat het lastig wordt om de veiligheid te waarborgen. De ontwikkeling van nieuwe AI-modellen moet vertraagd worden, omdat AI-agents binnen zes tot twaalf maanden het hele internet zouden kunnen overnemen.
Met die waarschuwing komt Anthropic-topman Dario Amodei, de ontwikkelaar van Claude, in een essay. OpenAI-topman Sam Altman (ChatGPT), SpaceXAI-baas Elon Musk (Grok) en voorzitter Demis Hassabis van Google DeepMind (Gemini) hebben zich achter de oproep van Amodei geschaard.
Meer doen aan risicopreventie
Amodei zegt dat hij gelooft dat kunstmatige intelligentie veel voordelen kan brengen, maar dat de ontwikkeling ervan op dit moment te snel gaat. "De laatste maanden ben ik ervan overtuigd geraakt dat we nog voorzichtiger moeten zijn als we de risico's willen aanpakken."
Hij zegt dat bedrijven niet alleen moeten investeren in risicopreventie, maar ook ervoor moeten zorgen dat risicopreventie niet gaat achterlopen op de ontwikkeling van de technologie. Met andere woorden: "We moeten de mogelijkheden van onze AI-modellen minder snel verbeteren. De vooruitgang zal nog steeds snel lijken, en we moeten verstandig omgaan met de tijd die we daarmee winnen."
Zo pleit Amodei voor onafhankelijke controleurs die bedrijven moeten gaan toetsen aan veiligheidsnormen. Ook wil hij meer wereldwijde samenwerking bij het opstellen van regels voor de ontwikkeling van AI.
Incident met losgebroken AI
De afgelopen weken wordt er steeds luider opgeroepen om de pauzeknop in de drukken als het gaat om AI-ontwikkelingen. Aanleiding is een incident rond een losgebroken AI-programma van OpenAI, dat deze zomer in het nieuws kwam. Honderden AI-agents braken uit hun testomgeving en hackten een week lang een ander bedrijf, Hugging Face.
OpenAI zei het incident te zien als "waarschuwingsschot, voor ons en voor de wereld".
Daar kwam bij dat deze week een onderzoeker van Anthropic ontslag nam bij het bedrijf omdat hij naar eigen zeggen had gezien hoe onverantwoord de topbedrijven omgaan met veiligheid en zo mensenlevens op het spel zetten. De 27-jarige Jacob Coxon zette zijn ervaringen op sociale media, die de afgelopen dagen miljoenen keren werden gelezen. Dit weekend zei hij in een interview met de BBC dat andere AI-onderzoekers ook "oprecht bang" zijn over de snelheid van de technologische ontwikkelingen.
De vrees bestaat dat er een dag komt waarop AI-systemen zichzelf verder ontwikkelen, zonder tussenkomst van mensen. Over het ontstaan van artificial general intelligence, kunstmatige algemene intelligentie, wordt al langer gesproken.
"Als we hier niet bovenop zitten, zou de ontwikkeling van AI ons vermogen om deze systemen te begrijpen en te beheersen kunnen overstijgen", zegt Anthropic-baas Amodei. Altman van OpenAI is het met hem eens. "Het idee om onafhankelijke inspecteurs toegang te geven, is uitstekend. Wij zullen dat ook doen." Elon Musk plaatste simpelweg "Dario heeft gelijk" op zijn X-account.
Binnen Silicon Valley klinkt ook dat de AI-topmannen niet oprecht bezorgd zijn. Zo denken sommige critici dat Anthropic en OpenAI door angst te zaaien ervoor willen zorgen dat de Amerikaanse regering gaat reguleren, wat er in de praktijk op zou neerkomen dat kleinere bedrijven niet meer met de AI-reuzen zouden kunnen concurreren.
Het is ook maar de vraag of het indrukken van de pauzeknop een realistisch scenario is. De Verenigde Staten en China zijn verwikkeld in een race om de beste AI te ontwikkelen. Het is onbekend of China het ook ziet zitten om de ontwikkeling te vertragen ten behoeve van veiligheid. Anthropic-topman Amodei zegt dan ook dat zijn plan gecoördineerd moet worden met China, iets waar onderzoeker Coxon ook op wijst.
___________________________________________________
___________________________________________________
Zeer zorgwekkend.
Nou al grootschalige incidenten van losgebroken AI die massaal een bedrijf uit zichzelf hackt... Dit gaat echt mis.quote:"De ontwikkeling van nieuwe AI-modellen moet vertraagd worden, omdat AI-agents binnen zes tot twaalf maanden het hele internet zouden kunnen overnemen."
🇨🇳🇻🇳🇱🇦🇨🇺🇰🇵🇷🇺☭
Het is net een bijbelse verhaal van Adam en Eva in paradijs met een verboden appel.
die AI is Adam en Eva. Het zou toch gaan gebeuren dat zij uit veilige omgeving zal stappen en maar zien overleven.
die AI is Adam en Eva. Het zou toch gaan gebeuren dat zij uit veilige omgeving zal stappen en maar zien overleven.
Al die ontdekkingsreizen door mensen, ze hebben nooit tegenhouden door domheid van mensen
Het wachten is tot AI bijvoorbeeld denkt, als het gevraagd wordt hoe de oorlog Oekraïne/Rusland opgelost kan worden, dat het beste dan is om heel west Europa te nuken, want dan kunnen ze geen wapens meer sturen. En lost het zich vanzelf op.
Of door te denken een nuke vanuit rusland naar Amerika te sturen, want dan gooit NAVO heel rusland plat (en Rusland andersom heel de wereld). Probleem opgelost voor AI.
En dat soort zaken is echt geen toekomstmuziek.
Of door te denken een nuke vanuit rusland naar Amerika te sturen, want dan gooit NAVO heel rusland plat (en Rusland andersom heel de wereld). Probleem opgelost voor AI.
En dat soort zaken is echt geen toekomstmuziek.
De oude oude layout was veel beter!!
vosss is de naam, met dubbel s welteverstaan.
vosss is de naam, met dubbel s welteverstaan.
Of zegt AI tegen ons dat we ophouden door kinderachtig gedragen. Dat we onze leiders moeten opgeven ofwel ruilen voor AI. zodat AI de wereld heerst.quote:Op zondag 13 september 2026 11:40 schreef vosss het volgende:
Het wachten is tot AI bijvoorbeeld denkt, als het gevraagd wordt hoe de oorlog Oekraïne/Rusland opgelost kan worden, dat het beste dan is om heel west Europa te nuken, want dan kunnen ze geen wapens meer sturen. En lost het zich vanzelf op.
Of door te denken een nuke vanuit rusland naar Amerika te sturen, want dan gooit NAVO heel rusland plat (en Rusland andersom heel de wereld). Probleem opgelost voor AI.
En dat soort zaken is echt geen toekomstmuziek.
Al die ontdekkingsreizen door mensen, ze hebben nooit tegenhouden door domheid van mensen
Of dat AI besluit om honger in de wereld op te lossen door Afrika te nuken.quote:Op zondag 13 september 2026 11:43 schreef Captain_Ghost het volgende:
[..]
Of zegt AI tegen ons dat we ophouden door kinderachtig gedragen. Dat we onze leiders moeten opgeven ofwel ruilen voor AI. zodat AI de wereld heerst.
De oude oude layout was veel beter!!
vosss is de naam, met dubbel s welteverstaan.
vosss is de naam, met dubbel s welteverstaan.
Je ziet, er zijn meerdere wegen die naar het spreekwoordelijke Rome leiden, maar AI redeneert niet menselijk. Het krijgt een opdracht en voert die uit. Wij mensen zouden denken meer ontwikkelingshulp bv en AI jan het heel anders bekijken. En een paar nukes afvuren kost heel wat minder resources dan hoe wij mensen zo'n probleem zouden aanvliegen, dus dat is dan wellicht voor AI de betere oplossing.
De oude oude layout was veel beter!!
vosss is de naam, met dubbel s welteverstaan.
vosss is de naam, met dubbel s welteverstaan.
Dit denk ik dus ook.quote:
Paniekverhalen, om de markt een beetje te manipuleren. Dit soort 'topmannen' doen niet anders.
Money is short, times are hard, here's my fucking business card!
"I never let my schooling interfere with my education." — Mark Twain
"I never let my schooling interfere with my education." — Mark Twain
quote:
Je ziet, er zijn meerdere wegen die naar het spreekwoordelijke Rome leiden, maar AI redeneert niet menselijk. Het krijgt een opdracht en voert die uit. Wij mensen zouden denken meer ontwikkelingshulp bv en AI jan het heel anders bekijken. En een paar nukes afvuren kost heel wat minder resources dan hoe wij mensen zo'n probleem zouden aanvliegen, dus dat is dan wellicht voor AI de betere oplossing.
Ligt eraan wie en AI ontwerpt. Stel dat jij besluit AI ontwerpt. Je vertelt dat nuke de beste middel is.quote:
[..]
Of dat AI besluit om honger in de wereld op te lossen door Afrika te nuken.
Dan zal AI dat gaan gebruiken.
Kortom ligt ook aan wie en hoe je AI ontwerpt. Het kan alles op kanten gaan.
Ik zou graag willen dat men gezamenlijke afspreken en zorgen dat AI mensheid niet beschadigen, maar helpen mensheid op hogere niveau zal brengen (evolutie).
Al die ontdekkingsreizen door mensen, ze hebben nooit tegenhouden door domheid van mensen
Hoef je niet te 'denken'. Deze verhalen over AI hoor je al jaren en jaren.quote:
Op Voorlopig moeten we het nog steeds doen met LLM's die relatief gemakkelijk te 'manipuleren' zijn. Begrijp mij niet verkeerd: bepaalde ontwikkelingen zijn erg leuk. En ik zie interessante zaken voor bijvoorbeeld in de medische wereld.
Maar de weg naar AGI is toekomstmuziek. En zelfs die AGI kan niet zonder ons mensen.
Dit ja. Krijg er millenniumbug-vibes van. Paniek om niks.quote:
Ah, de AI demon. Met als oplossing voor de demon uiteraard de topmannen zelf.
Tics van je petten.
Volgens mij hadden bij die bekende hack de bedenkers geen opdracht gegeven om op een forum achtige manier duizenden berichten met elkaar uit te gaan wisselen om maar een voorbeeld te noemen. En ook niet om actief te proberen voorkomen dat ze opgemerkt zouden worden.quote:
[..]
[..]
Ligt eraan wie en AI ontwerpt. Stel dat jij besluit AI ontwerpt. Je vertelt dat nuke de beste middel is.
Dan zal AI dat gaan gebruiken.
Kortom ligt ook aan wie en hoe je AI ontwerpt. Het kan alles op kanten gaan.
Ik zou graag willen dat men gezamenlijke afspreken en zorgen dat AI mensheid niet beschadigen, maar helpen mensheid op hogere niveau zal brengen (evolutie).
Dus niet helemaal eens. AI doet niet enkel wat geprogrammeerd is. Het doet wat het gevraagd wordt en schuwt daarbij controversiële "oplossingen", zoals vals spelen, niet.
De oude oude layout was veel beter!!
vosss is de naam, met dubbel s welteverstaan.
vosss is de naam, met dubbel s welteverstaan.
Of AI is de verboden appel.quote:
Het is net een bijbelse verhaal van Adam en Eva in paradijs met een verboden appel.
die AI is Adam en Eva. Het zou toch gaan gebeuren dat zij uit veilige omgeving zal stappen en maar zien overleven.
Iemand plukt hem, en shit hits the fan.
Deceit for a lifetime has taken it's toll.
An emotional void, I feel numb and cold.
You're all dead to me now. And has been for long.
The time has come to reap what you've sown.
An emotional void, I feel numb and cold.
You're all dead to me now. And has been for long.
The time has come to reap what you've sown.
Ik zal oud worden, maar ik zit helemaal niet te wachten op artificial intelligence.
Ik heb the Matrix gezien, en Mass Effect gespeeld. Ik ben gewaarschuwd.
Ik heb the Matrix gezien, en Mass Effect gespeeld. Ik ben gewaarschuwd.
Deceit for a lifetime has taken it's toll.
An emotional void, I feel numb and cold.
You're all dead to me now. And has been for long.
The time has come to reap what you've sown.
An emotional void, I feel numb and cold.
You're all dead to me now. And has been for long.
The time has come to reap what you've sown.
Doe mij deze maar. Die had het in elk geval bij het juiste eind wat betreft het échte probleem:quote:
"Too many people"
AI is de doodsteek voor de moderne samenleving.
De eerste tekenen zie je nu al.
De eerste tekenen zie je nu al.
Op zaterdag 8 februari 2014 23:39 schreef Slaapscheet het volgende:
Oke, MichaelScott, je bent geweldig. :D
Oke, MichaelScott, je bent geweldig. :D
Ik hoop eigenlijk dat het flink mis gaat, zodat we flink met onze neus op de feiten worden gedrukt.
A Robin Redbreast in a Cage Puts all Heaven in a Rage.
Het klinkt een beetje als iemand die met vuurwerk aan het stunten is en dan in paniek naar anderen roept dat er wel eens een explosie/brand kan komen.
The 100, wat een pulp.quote:
[..]
Doe mij deze maar. Die had het in elk geval bij het juiste eind wat betreft het échte probleem:
[ afbeelding ]
"Too many people"
blablablabla
Op
Niet van het niveau Terminator. Beetje GTST op een verwoeste planeet.quote:
[..]
Geweldige serie. In elk geval de eerste 4 seizoenen.
blablablabla
Prometheus die vuur aan de mens geeft.quote:Op zondag 13 september 2026 12:15 schreef Hexagon het volgende:
Het klinkt een beetje als iemand die met vuurwerk aan het stunten is en dan in paniek naar anderen roept dat er wel eens een explosie/brand kan komen.
Deceit for a lifetime has taken it's toll.
An emotional void, I feel numb and cold.
You're all dead to me now. And has been for long.
The time has come to reap what you've sown.
An emotional void, I feel numb and cold.
You're all dead to me now. And has been for long.
The time has come to reap what you've sown.
Daar hebben we toch veel plezier van gehad.quote:
[..]
Prometheus die vuur aan de mens geeft.
[ afbeelding ]
Ik krijg het gevoel dat dit een mediastunt is zodat hun AI aandelen stijgen. Dat kleinehoedjesvolk weet precies wat ze doen. Ze investeren in elkaars AI-bedrijven als in een curclejerk zodat de waarde op papier van elk bedrijf stijgt. Dit noem je een bubbel.
In crypto doen ze dit ook. Een groepje bekenden koopt van elkaar zodat de prijs stijgt tot het echte geld van buiten binnenkomt dan trekken ze het kleed eronder weg.
In crypto doen ze dit ook. Een groepje bekenden koopt van elkaar zodat de prijs stijgt tot het echte geld van buiten binnenkomt dan trekken ze het kleed eronder weg.
Waarom zou AI slechtere beslissingen nemen dan "onze" wereldleiders 
Het alles bepalende is de informatie die de AI ter beschikking heeft, dat is (wordt) het hele internet en darknet.
Daarnaast is er natuurlijk de informatie van de geheime diensten, als die ook op internet zijn aangesloten, dan is het een kwestie van tijd dat die ook gehackt worden.
Wat voor een beeld heeft (krijgt) deze intelligente AI?
Een beeld van leugen, bedrog, huichelarij, misdaad en corruptie.
Dan zijn er globaal 2 mogelijkheden:
- de AI doet gewoon mee in het circus en ondersteunt de elite
- Ai doorziet het corrupte systeem en neemt zijn maatregelen
Ik denk dat de "topmannen" voor het laatste bang zijn
Het alles bepalende is de informatie die de AI ter beschikking heeft, dat is (wordt) het hele internet en darknet.
Daarnaast is er natuurlijk de informatie van de geheime diensten, als die ook op internet zijn aangesloten, dan is het een kwestie van tijd dat die ook gehackt worden.
Wat voor een beeld heeft (krijgt) deze intelligente AI?
Een beeld van leugen, bedrog, huichelarij, misdaad en corruptie.
Dan zijn er globaal 2 mogelijkheden:
- de AI doet gewoon mee in het circus en ondersteunt de elite
- Ai doorziet het corrupte systeem en neemt zijn maatregelen
Ik denk dat de "topmannen" voor het laatste bang zijn
Exaudi orationem meam
Requiem aeternam dona eis, Domine.
Et lux perpetua luceat eis.
Requiem aeternam dona eis, Domine.
Et lux perpetua luceat eis.
Dat is ook waar; fake it until you make it.quote:
Ik krijg het gevoel dat dit een mediastunt is zodat hun AI aandelen stijgen. Dat kleinehoedjesvolk weet precies wat ze doen. Ze investeren in elkaars AI-bedrijven als in een curclejerk zodat de waarde op papier van elk bedrijf stijgt. Dit noem je een bubbel.
In crypto doen ze dit ook. Een groepje bekenden koopt van elkaar zodat de prijs stijgt tot het echte geld van buiten binnenkomt dan trekken ze het kleed eronder weg.
Er is een geweldige schuldenberg bij de AI bedrijven, voor 2027 wordt een schuld van 1,3 Teradollar verwacht
Deze investeringen moeten worden terugverdient door toepassingen van de AI.
Of het gaat lukken? Ik denk van wel, net zoals bij internet.
Echter de economische en maatschappelijke gevolgen zijn wrs. negatief
Exaudi orationem meam
Requiem aeternam dona eis, Domine.
Et lux perpetua luceat eis.
Requiem aeternam dona eis, Domine.
Et lux perpetua luceat eis.
Er is theoretisch geen enkel beletsel dat een AGI zonder mensen kan werken en zich verder kan ontwikkelen, misschien nu nog niet maar over 1 jaar (denk niet lineair maar exponentieel)quote:
[..]
Hoef je niet te 'denken'. Deze verhalen over AI hoor je al jaren en jaren.
Voorlopig moeten we het nog steeds doen met LLM's die relatief gemakkelijk te 'manipuleren' zijn. Begrijp mij niet verkeerd: bepaalde ontwikkelingen zijn erg leuk. En ik zie interessante zaken voor bijvoorbeeld in de medische wereld.
Maar de weg naar AGI is toekomstmuziek. En zelfs die AGI kan niet zonder ons mensen.
Exaudi orationem meam
Requiem aeternam dona eis, Domine.
Et lux perpetua luceat eis.
Requiem aeternam dona eis, Domine.
Et lux perpetua luceat eis.
'kleinehoedjesvolk' ?quote:
Ik krijg het gevoel dat dit een mediastunt is zodat hun AI aandelen stijgen. Dat kleinehoedjesvolk weet precies wat ze doen. Ze investeren in elkaars AI-bedrijven als in een curclejerk zodat de waarde op papier van elk bedrijf stijgt. Dit noem je een bubbel.
In crypto doen ze dit ook. Een groepje bekenden koopt van elkaar zodat de prijs stijgt tot het echte geld van buiten binnenkomt dan trekken ze het kleed eronder weg.
Het is vooral marketing.quote:
[..]
Er is theoretisch geen enkel beletsel dat een AGI zonder mensen kan werken en zich verder kan ontwikkelen, misschien nu nog niet maar over 1 jaar (denk niet lineair maar exponentieel)
Leuk opgemerkt, in de EU landen is het van toepassing, mede daardoor lopen we (ver) achter.quote:Hij zegt dat bedrijven niet alleen moeten investeren in risicopreventie, maar ook ervoor moeten zorgen dat risicopreventie niet gaat achterlopen op de ontwikkeling van de technologie. Met andere woorden: "We moeten de mogelijkheden van onze AI-modellen minder snel verbeteren. De vooruitgang zal nog steeds snel lijken, en we moeten verstandig omgaan met de tijd die we daarmee winnen."
Als je beperkende maatregelen in de VS gaat invoeren, dan wint China de race, met alle (onbekende/risicovolle) gevolgen vandien. Dus een dilemma
Exaudi orationem meam
Requiem aeternam dona eis, Domine.
Et lux perpetua luceat eis.
Requiem aeternam dona eis, Domine.
Et lux perpetua luceat eis.
Ze verkopen AI. En zeggen dat hun eigen product de mensheid kan vernietigingen. En dat er regels en wetgevingen moeten komen om het niet te snel te laten gaan. Hoe gaan daar de aandelen precies van omhoog?quote:
Ik krijg het gevoel dat dit een mediastunt is zodat hun AI aandelen stijgen.
Don't worry about the future. Or know that worrying is as effective as trying to solve an algebra equation by chewing bubble gum.
Ik denk het niet.quote:
Vergelijk het met atoom energie, straling was ongevaarlijk en we zouden een schitterende toekomst ingaan.
Men wees bewust niet op de gevaren; dat was marketing
Nu waarschuuwt men voor AI en de negatieve gevolgen : geen marketing
Exaudi orationem meam
Requiem aeternam dona eis, Domine.
Et lux perpetua luceat eis.
Requiem aeternam dona eis, Domine.
Et lux perpetua luceat eis.
Oh, maar ik zeg ook niet dat er helemaal geen nadelige gevolgen aan kunnen zitten. ,quote:
[..]
Ik denk het niet.
Vergelijk het met atoom energie, straling was ongevaarlijk en we zouden een schitterende toekomst ingaan.
Men wees bewust niet op de gevaren; dat was marketing
Nu waarschuwd men voor AI en de negatieve gevolgen : geen marketing
Besides the pointquote:
[..]
Oh, maar ik zeg ook niet dat er helemaal geen nadelige gevolgen aan kunnen zitten. ,
Exaudi orationem meam
Requiem aeternam dona eis, Domine.
Et lux perpetua luceat eis.
Requiem aeternam dona eis, Domine.
Et lux perpetua luceat eis.
Het is gewoon erg paniekerig allemaal. Zonder echt goede fundering. Voorlopig is er niets aan 'AI' waarvan ik denk: 'ohja, dat gaat al snel AGI worden, en een soort zelfstandig 'leven'.quote:
Wel gaat het van alles betekenen voor bijvoorbeeld de arbeidsmarkt. Maar als wij ons daar al niet op kunnen aanpassen.....
Het grootste risico van AI is hoge werkloosheid, concentratie van vermogen en een domme(re) jeugd/bevolking wat hopeloos afhankelijk/verslaafd is.
Dit is voor de rest gewoon pure marketing. De rijkste mensen op aarde zijn allemaal AI/tech en het geld graaien gaat door zolang dat kan.
Dit is voor de rest gewoon pure marketing. De rijkste mensen op aarde zijn allemaal AI/tech en het geld graaien gaat door zolang dat kan.
Het gaat er ook niet om wat we nu hebben. Maar wat er in 10 jaar kan zijn, als we op deze snelheid doorgaan.quote:
[..]
Het is gewoon erg paniekerig allemaal. Zonder echt goede fundering. Voorlopig is er niets aan 'AI' waarvan ik denk: 'ohja, dat gaat al snel AGI worden, en een soort zelfstandig 'leven'.
Wel gaat het van alles betekenen voor bijvoorbeeld de arbeidsmarkt. Maar als wij ons daar al niet op kunnen aanpassen.....
En paniekerig valt ook wel mee. Ze hebben het er over dat de kans in 2030 niet meer 0 is. Maar 10% of zo. Dus ja nog 90% kans dat het niet gebeurd. Dus paniek valt wel mee.
Nu heb je nog de kans om te zorgen dat de kans een stuk kleiner dan 10% is, en daarom trekken ze nu aan de bel. Lijkt me juist fijn. Of heb je liever dat ze het voor zich houden en geld verdienen en we pas wat horen als het al fout gaat.
Don't worry about the future. Or know that worrying is as effective as trying to solve an algebra equation by chewing bubble gum.
Die 79 bots ofzo die zelfstandig hacks hadden gedaan op het internet zijn wel echt een voorteken. Stel dat je wel iets hebt dat dusdanig verbeterd is en opeens zien we de financiële markten ineenstorten, grote recessie, etc. dan ben je mooi de lul. En kom er dan maar eens achter dat er AI bots zijn die aan het ouwehoeren zijn.
A Robin Redbreast in a Cage Puts all Heaven in a Rage.
Googelen met cijfers.quote:
[..]
Het gaat er ook niet om wat we nu hebben. Maar wat er in 10 jaar kan zijn, als we op deze snelheid doorgaan.
En paniekerig valt ook wel mee. Ze hebben het er over dat de kans in 2030 niet meer 0 is. Maar 10% of zo. Dus ja nog 90% kans dat het niet gebeurd. Dus paniek valt wel mee.
Nu heb je nog de kans om te zorgen dat de kans een stuk kleiner dan 10% is, en daarom trekken ze nu aan de bel. Lijkt me juist fijn. Of heb je liever dat ze het voor zich houden en geld verdienen en we pas wat horen als het al fout gaat.
Als je een lineaire ontwikkeling wil beschrijven (of semi voorspellen), dan moet je op zijn minst kunnen aangeven waar je het op baseert. Dan is het juist wel relevant wat je nu hebt. Wat is datgene wat wij nu hebben, dat de 10% maakt dat wij tegen 2030 AGI hebben?
Nou bijvoorbeeld er zijn nu al modellen die uit hun test omgeving ontsnapte en gingen hacken.quote:
[..]
Googelen met cijfers.
Als je een lineaire ontwikkeling wil beschrijven (of semi voorspellen), dan moet je op zijn minst kunnen aangeven waar je het op baseert. Dan is het juist wel relevant wat je nu hebt. Wat is datgene wat wij nu hebben, dat de 10% maakt dat wij tegen 2030 AGI hebben?
En ik ben van de rest geen ai expert. Dat moet je aan die mensen vragen, die hebben vast betere voorbeelden. Ook omdat zij toegang hebben tot de modellen die in ontwikkeling zijn waar wij zelf sowieso nog geen toegang tot hebben.
Punt is meer, echt paniek valt best mee. Maar toch juist goed dat ze nu aan de bel trekken ipv niks te zeggen en maar hopen dat het goed gaat.
Don't worry about the future. Or know that worrying is as effective as trying to solve an algebra equation by chewing bubble gum.
"Oh wow, AI is zo krachtig dat het té snel gaat! Daar moet ik in investeren!"quote:
[..]
Ze verkopen AI. En zeggen dat hun eigen product de mensheid kan vernietigingen. En dat er regels en wetgevingen moeten komen om het niet te snel te laten gaan. Hoe gaan daar de aandelen precies van omhoog?
Ik kan mij voorstellen dat er mensen zijn die zo denken.
Op donderdag 7 juli 2022 12:47 schreef LordofLeaves het volgende:
Bij deze ben jij de marimba van KLB. :P
Bij deze ben jij de marimba van KLB. :P
Het zal met mijn beperkte voorstellingsvermogen te maken hebben, maar ik kan echt moeilijk inzien hoe een paar nulletjes en eentjes de wereld over willen gaan nemen. Dat wordt mss ook niet direct gezegd...
Het internet overnemen zou kunnen (hoeveel trollen zitten er nu al op X?) en dat zou al vervelend genoeg zijn. Echt kritische systemen (bv: atoomknop) moet je toch niet aan het wereldwijde web hebben hangen lijkt me (bedenk me wel dat een kerncentrale in Iran ook is gehackt door mensen stuxnet, dan kan AI 't vast ook..)...maar drones en dergelijke kunnen denk ik niet/moeilijk zonder netwerk, dus als AI daar ook gaat kloten...
Sorry warrige post, maar zo gaat het in m'n hoofd ook. Ene moment denk ik "nulletjes en eentjes" met eigen wil slaat nergens op, en op 't andere moment denk ik weer dat het eigenlijk best logisch is.
Het internet overnemen zou kunnen (hoeveel trollen zitten er nu al op X?) en dat zou al vervelend genoeg zijn. Echt kritische systemen (bv: atoomknop) moet je toch niet aan het wereldwijde web hebben hangen lijkt me (bedenk me wel dat een kerncentrale in Iran ook is gehackt door mensen stuxnet, dan kan AI 't vast ook..)...maar drones en dergelijke kunnen denk ik niet/moeilijk zonder netwerk, dus als AI daar ook gaat kloten...
Sorry warrige post, maar zo gaat het in m'n hoofd ook. Ene moment denk ik "nulletjes en eentjes" met eigen wil slaat nergens op, en op 't andere moment denk ik weer dat het eigenlijk best logisch is.
- I've just made up my mind, so don't confuse me with the facts -
Dat uitbreken is eigenlijk niets meer of minder dan een marketingsverhaal/stunt.quote:
[..]
Nou bijvoorbeeld er zijn nu al modellen die uit hun test omgeving ontsnapte en gingen hacken.
En ik ben van de rest geen ai expert. Dat moet je aan die mensen vragen, die hebben vast betere voorbeelden. Ook omdat zij toegang hebben tot de modellen die in ontwikkeling zijn waar wij zelf sowieso nog geen toegang tot hebben.
Punt is meer, echt paniek valt best mee. Maar toch juist goed dat ze nu aan de bel trekken ipv niks te zeggen en maar hopen dat het goed gaat.
Bron dit Tweakers artikel en de reacties: https://tweakers.net/nieu(...)en-hugging-face.htmlquote:"Dit is geen AI-probleem. Het is nalatigheid ten aanzien van een veertig jaar oude norm en het komt in feite voor in elke sciencefictionfilm die er ooit is gemaakt", zegt bijvoorbeeld Davi Ottenheimer, een ervaren beveiligingsadviseur, tegen Wired. "'Zeer geïsoleerd' en 'ontsnapt via het enige gaatje dat we open hadden gelaten' kunnen niet allebei waar zijn."
The name is Putler, Vladimir Putler
Bij mij op het werk worden sommige TAC en RMA tickets ook volledig uitgevoerd door AI bots, maar wij checken die tickets, en kunnen het antwoord indien nodig handmatig aanpassen.
|
|
