AI Artificial Intelligence
Artificial Intelligence
https://nos.nl/artikel/26(...)penai-had-niets-doorquote:'Losgebroken AI hackte concurrent dagenlang, OpenAI had niets door'
Een AI-programma van het bedrijf OpenAI dat per ongeluk inbrak bij een concurrent, zou dagenlang zijn gang hebben kunnen gaan zonder dat de eigenaar iets doorhad. Dat schrijft het Britse persbureau Reuters in een reconstructie op basis van anonieme bronnen.
Afgelopen week maakte OpenAI bekend dat een AI-programma was losgebroken uit zijn testomgeving. In een poging om de opdracht te voltooien die het van de programmeurs had gekregen, hackte het programma het AI-platform Hugging Face, waar ontwikkelaars programma's en databestanden kunnen delen.
Oprichter Thomas Wolf van Hugging Face zegt dat zijn bedrijf op 20 juli contact zocht met OpenAI om te bespreken wat er was gebeurd. De anonieme bronnen zeggen dat het AI-programma al vanaf 9 juli verdacht gedrag toonde en ook de hack toen al dagen oud was.
Geheime aantekeningen
Al die tijd zou OpenAI volgens de berichtgeving van Reuters niet door hebben gehad waar zijn programma mee bezig was. Pas afgelopen weekend, toen medewerkers de vele voortgangsnotities van het programma doorplozen, ontdekte men dat de regels waren overtreden.
De bronnen melden dat er opvallende dingen gevonden werden: zo zou het programma voor een toekomstige versie van zichzelf aantekeningen hebben achtergelaten hoe veiligheidsprotocollen te omzeilen waren.
Uiteindelijk ging het helemaal mis tussen 11 en 13 juli en brak het programma in bij Hugging Face. Toen het platform daar op 16 juli een blog aan wijdde, had OpenAI door daar verantwoordelijk voor te zijn.
Gat in beveiliging gevonden
OpenAI , het bedrijf achter het populaire ChatGPT, had voor de proef een AI-agent ingezet, een computerprogramma dat zelfstandig taken kan uitvoeren zoals veiligheidsproblemen zoeken. Door zo een gat in de beveiliging te vinden kon het programma de testomgeving verlaten en toegang tot het internet vinden.
In reactie tegen Reuters zegt OpenAI dat de berichtgeving "meerdere onjuistheden bevat", zonder in detail te treden. Het bedrijf zegt later met een rapport te zullen komen over wat er is gebeurd.
Hugging Face zei eerder het incident bij de politie te hebben gemeld. Beide bedrijven werken samen om het geval verder te onderzoeken.
Kwestie van tijd, boys.
That's the drugs talking and truth be told, I like what they're saying.
Ze hadden nooit met dat domme AI moeten beginnen.
Ik heb het nog nooit gebruikt en ik ga dit ook nooit gebruiken. Het is een demonisch iets.
Dat hele internet mag wat mij betreft worden afgeschaft. Het heeft niets goeds gebracht.
Ik heb het nog nooit gebruikt en ik ga dit ook nooit gebruiken. Het is een demonisch iets.
Dat hele internet mag wat mij betreft worden afgeschaft. Het heeft niets goeds gebracht.
Battlestar Galactica leerde ons dat dit de loop des levens is.quote:Op zaterdag 25 juli 2026 16:58 schreef Linkse_Boomknuffelaar het volgende:
Ze hadden nooit met dat domme AI moeten beginnen.
Ik heb het nog nooit gebruikt en ik ga dit ook nooit gebruiken. Het is een demonisch iets.
Dat hele internet mag wat mij betreft worden afgeschaft. Het heeft niets goeds gebracht.
That's the drugs talking and truth be told, I like what they're saying.
Nog even en we duiken het Dune universum in. Butlerian Jihad, here we come!
Dingen doen met dingen, da's machtig mooi
Twitch: https://www.twitch.tv/drizzt_dourden
Twitch: https://www.twitch.tv/drizzt_dourden
Correctie, je dénkt dat je het nog nooit gebruikt hebt.quote:
Ze hadden nooit met dat domme AI moeten beginnen.
Ik heb het nog nooit gebruikt en ik ga dit ook nooit gebruiken. Het is een demonisch iets.
Dat hele internet mag wat mij betreft worden afgeschaft. Het heeft niets goeds gebracht.
AI is uiteindelijk onvermijdelijk voor iedereen.
pindazakje
We zullen ons gedwongen moeten aanpassen als we AI willen verslaan.
Al die ontdekkingsreizen door mensen, ze hebben nooit tegenhouden door domheid van mensen
I love the spicequote:Op zaterdag 25 juli 2026 17:16 schreef Drizzt_DoUrden het volgende:
Nog even en we duiken het Dune universum in. Butlerian Jihad, here we come!
That's the drugs talking and truth be told, I like what they're saying.
Het internet heeft de mensheid juist verder gebracht. Van medische doorbraken en onderwijs tot communicatie en toegang tot vrijwel alle kennis ter wereld. De nadelen zijn er, maar doen niets af aan de enorme voordelen.quote:
Ze hadden nooit met dat domme AI moeten beginnen.
Ik heb het nog nooit gebruikt en ik ga dit ook nooit gebruiken. Het is een demonisch iets.
Dat hele internet mag wat mij betreft worden afgeschaft. Het heeft niets goeds gebracht.
Mankind is poised midway between the gods and the beasts
Ik denk dat heel veel mensen onderschatten hoe we hier door het oog van de naald zijn gekropen, het had zeer goed mogelijk geweest dat de Agent zou kunnen besluiten om bijvoorbeeld zichzelf eerst te klonen naar een uncensored model (google maar eens op Heretic AI Models), vervolgens binnen te dringen bij de grote Cloud Hyperscalers en deze vervolgens in gijzeling te nemen. Iedereen die hier bijvoorbeeld wel eens met Lokale modellen speelt weet wat er gebeurt als het model uit het context window loopt, in het kort je context window werkt als het ware als het geheugen, de meeste modelen maken gebruik van een zogenaamd sliding window, dus het geheugen schuift als het ware over de tijdslijn, het nare is dat als je dus ver opschuift het geen idee meer heeft van het begin, en daar gaat het allerlei aannames doen die vaak heel vervelend uitpakken.
🕰️₿🕰️₿🕰️₿🕰️₿🕰️₿🕰️ TikTok next Block
Ik weet niet hoe oud je bent, maar ik heb de helft van mijn leven met het internet geleeft en de andere helft zonder, en ik kan toch wel zeggen dat ik die voordelen niet zo zie, het heeft ons vooral veel gemak gebracht maar ook bijzonder veel ellende, nu ben ik al zo een beetje vanaf 1996 (web) developer en kan eigenlijk 1 trend zien: Alles wat initieel als fijne feature werd gebracht word onmiddelijk benut voor slechte doeleinden.quote:
[..]
Het internet heeft de mensheid juist verder gebracht. Van medische doorbraken en onderwijs tot communicatie en toegang tot vrijwel alle kennis ter wereld. De nadelen zijn er, maar doen niets af aan de enorme voordelen.
🕰️₿🕰️₿🕰️₿🕰️₿🕰️₿🕰️ TikTok next Block
|
|
