‘Ongekende hack’: OpenAI breekt in bij ander AI-platform

quote:

‘Ongekende hack’: OpenAI breekt in bij ander AI-platform, topman waarschuwt bedrijven

OpenAI heeft tijdens een test van de beveiliging van eigen modellen per ongeluk een ander AI-bedrijf gehackt. Zogenoemde ‘AI-agenten’, computerprogramma’s die zelfstandig testen uitvoeren, ontsnapten uit een afgeschermde testomgeving en hackten daarna het AI-platform Hugging Face. Thomas Wolf, medeoprichter van het platform, spreekt van een ‘wake-upcall’.

Hugging Face, een platform waar ontwikkelaars hun AI-programma’s en databestanden delen, meldde vorige week al dat het gehackt was. Maar het was toen niet duidelijk dat OpenAI, ontwikkelaar van onder meer ChatGPT, de hacker was.

De hack gebeurde door een zogenoemde AI-agent, een computerprogramma dat zelfstandig taken uitvoert om een doel te bereiken. De AI-agent van OpenAI moest in een afgeschermde omgeving de beveiliging van een nieuw model testen.

De AI-agent krijgt punten als het een opdracht met succes uitvoert. Om de kans op een goede score te vergroten, wist het model een gat in de beveiliging van OpenAI te vinden en te ontsnappen uit de testomgeving en ging het internet op.

Daar kon het AI-programma ‘succesvol op zoek naar geheime informatie die het zou kunnen gebruiken om vals te spelen bij de test’, schrijft OpenAI. De ‘agent’ brak in bij het platform Hugging Face, om daar tussen de AI-modellen antwoorden te stelen waarmee het de testscore kon opkrikken.

Volgens OpenAI hadden ‘AI-agents’ volledig zelfstandig de site gehackt. OpenAI noemt het voorval een ‘ongekend cyberincident’.

Spelregels veranderd
OpenAI gaat samen met Hugging Face onderzoek doen naar hoe dit kon gebeuren. Thomas Wolf, medeoprichter van Hugging Face, zegt tegen de Britse omroep BBC dat ‘dit een van de meest voorkomende soorten cyberaanvallen zal worden die we zien’.

Volgens Wolf zijn de meeste bedrijven zich er echter niet van bewust dat ‘de spelregels zijn veranderd’.

Hugging Face is een van ‘s werelds grootste opensourceplatforms voor het delen van AI-modellen en wordt vaak gebruikt door techontwikkelaars en onderzoekers. Wolf zegt dat de inbraak van OpenAI ‘heel anders’ was dan de gebruikelijke cyberaanvallen waarmee Hugging Face vaak te maken krijgt.

„In zeer korte tijd waren er 17.000 aanvallen op het netwerk van Hugging Face vanaf verschillende IP-adressen”, zegt Wolf tegen de BBC.

De hack is volgens hem een waarschuwing voor andere bedrijven dat zij hun cyberbeveiliging moeten versterken om dergelijke aanvallen te kunnen afweren.