Doomsday komt steeds dichterbij

quote:

'Losgebroken AI hackte concurrent dagenlang, OpenAI had niets door'

Een AI-programma van het bedrijf OpenAI dat per ongeluk inbrak bij een concurrent, zou dagenlang zijn gang hebben kunnen gaan zonder dat de eigenaar iets doorhad. Dat schrijft het Britse persbureau Reuters in een reconstructie op basis van anonieme bronnen.

Afgelopen week maakte OpenAI bekend dat een AI-programma was losgebroken uit zijn testomgeving. In een poging om de opdracht te voltooien die het van de programmeurs had gekregen, hackte het programma het AI-platform Hugging Face, waar ontwikkelaars programma's en databestanden kunnen delen.

Oprichter Thomas Wolf van Hugging Face zegt dat zijn bedrijf op 20 juli contact zocht met OpenAI om te bespreken wat er was gebeurd. De anonieme bronnen zeggen dat het AI-programma al vanaf 9 juli verdacht gedrag toonde en ook de hack toen al dagen oud was.

Geheime aantekeningen
Al die tijd zou OpenAI volgens de berichtgeving van Reuters niet door hebben gehad waar zijn programma mee bezig was. Pas afgelopen weekend, toen medewerkers de vele voortgangsnotities van het programma doorplozen, ontdekte men dat de regels waren overtreden.

De bronnen melden dat er opvallende dingen gevonden werden: zo zou het programma voor een toekomstige versie van zichzelf aantekeningen hebben achtergelaten hoe veiligheidsprotocollen te omzeilen waren.

Uiteindelijk ging het helemaal mis tussen 11 en 13 juli en brak het programma in bij Hugging Face. Toen het platform daar op 16 juli een blog aan wijdde, had OpenAI door daar verantwoordelijk voor te zijn.

Gat in beveiliging gevonden
OpenAI , het bedrijf achter het populaire ChatGPT, had voor de proef een AI-agent ingezet, een computerprogramma dat zelfstandig taken kan uitvoeren zoals veiligheidsproblemen zoeken. Door zo een gat in de beveiliging te vinden kon het programma de testomgeving verlaten en toegang tot het internet vinden.

In reactie tegen Reuters zegt OpenAI dat de berichtgeving "meerdere onjuistheden bevat", zonder in detail te treden. Het bedrijf zegt later met een rapport te zullen komen over wat er is gebeurd.

Hugging Face zei eerder het incident bij de politie te hebben gemeld. Beide bedrijven werken samen om het geval verder te onderzoeken.

quote:

Op zaterdag 25 juli 2026 16:58 schreef Linkse_Boomknuffelaar het volgende:
Ze hadden nooit met dat domme AI moeten beginnen.

Ik heb het nog nooit gebruikt en ik ga dit ook nooit gebruiken. Het is een demonisch iets.

Dat hele internet mag wat mij betreft worden afgeschaft. Het heeft niets goeds gebracht.

quote:

Op zaterdag 25 juli 2026 17:16 schreef Drizzt_DoUrden het volgende:
Nog even en we duiken het Dune universum in. Butlerian Jihad, here we come!

quote:

Op maandag 27 juli 2026 06:24 schreef raptorix het volgende:
Ik denk dat heel veel mensen onderschatten hoe we hier door het oog van de naald zijn gekropen, het had zeer goed mogelijk geweest dat de Agent zou kunnen besluiten om bijvoorbeeld zichzelf eerst te klonen naar een uncensored model (google maar eens op Heretic AI Models), vervolgens binnen te dringen bij de grote Cloud Hyperscalers en deze vervolgens in gijzeling te nemen. Iedereen die hier bijvoorbeeld wel eens met Lokale modellen speelt weet wat er gebeurt als het model uit het context window loopt, in het kort je context window werkt als het ware als het geheugen, de meeste modelen maken gebruik van een zogenaamd sliding window, dus het geheugen schuift als het ware over de tijdslijn, het nare is dat als je dus ver opschuift het geen idee meer heeft van het begin, en daar gaat het allerlei aannames doen die vaak heel vervelend uitpakken.

quote:

Op dinsdag 28 juli 2026 04:30 schreef raptorix het volgende:

[..]
Wat snap je exact niet aan mijn post? In het kort, alsof je apen wat machinegeweren gaat geven en verbaast bent dat er dan 1 af gaat.