Anthropic luidt noodklok: AI is veiligheidsprobleem voor hele wereld

https://nos.nl/artikel/26(...)or-wereld-kan-worden

Anthropic waarschuwt richting beursgang dat AI veiligheidsprobleem voor wereld kan worden

AI-bedrijf Anthropic zet een volgende stap richting een beursgang. Ondertussen waarschuwt het bedrijf achter taalmodel Claude dat AI een veiligheidsprobleem voor de hele wereld kan worden.

Ook zegt het dat er risico's kleven aan de investeringen van vele miljarden in rekenkracht voor AI.



De waarschuwingen staan in een document, een zogeheten prospectus, dat Anthropic presenteert aan de toezichthouder van de Amerikaanse beurshandel.

Die toezichthouder, de SEC, verplicht bedrijven die naar de beurs willen om een eerlijk beeld te geven van kansen en bedreigingen. Zo kunnen beleggers een inschatting maken van de waarde van het bedrijf.

Autonoom
Anthropic zegt dat "AI zich autonoom kan gedragen op manieren zoals wij en onze gebruikers die niet hebben bedoeld. Dat blijkt ook uit recente veiligheidsincidenten".

"Het risico op dergelijke schade kan toenemen naarmate onze modellen meer mogelijkheden krijgen op het gebied van cybersecurity."

Groei
Anthropic meldt verder dat het een pijlsnelle groei doormaakt.

In 2024 bedroeg de jaaromzet 386 miljoen dollar. Dit jaar werd alleen al in het tweede kwartaal 11,6 miljard dollar omgezet.

Maar onderaan de streep staat in de eerste helft van 2026 een verlies van 81 miljard dollar. Dat komt doordat de kosten voor leningen van Anthropic enorm zijn gestegen. Daarnaast geeft het bedrijf veel geld uit aan het huren van capaciteit in datacentra.



De hoge financiële verplichtingen brengen risico's met zich mee, zo staat in het document aan de toezichthouder. Er staat ook in dat er nieuw kapitaal nodig is om aan de verplichtingen te kunnen blijven voldoen.

Twijfels
Voor dat nieuwe kapitaal zet Anthropic de beursgang door, ondanks toenemende twijfels onder beleggers rond de vele dure beloftes die AI-bedrijven doen.

Grote techbedrijven, waaronder Anthropic, zien een toekomst waarin kunstmatige algemene intelligentie de intelligentie van mensen op vele vlakken voorbijstreeft.

Ook zal AI, aldus de tech bro's, uiteindelijk diep doordringen in het dagelijks leven van grote delen van mensen.

Grote vraag
Maar de grote vraag voor beleggers en andere geldschieters is of de vele honderden miljarden die worden geïnvesteerd in onder meer chips, datacentra en energiecentrales wel terugverdiend gaan worden.

Open AI, een grote concurrent van Anthropic, stelde eerder een beursgang uit, vanwege veiligheidsincidenten.

De beursgang van Anthropic zal naar verwachting in de week van 16 november plaatsvinden.

__________________________________________________
__________________________________________________

Dit gaat binnenkort echt helemaal mis hoor
Tevens wel typisch dat dit artikel vermoedelijk ook door AI is geschreven... De NOS gebruikt werkelijk nooit zoveel korte alinea's.

quote:

"Anthropic zegt dat "AI zich autonoom kan gedragen op manieren zoals wij en onze gebruikers die niet hebben bedoeld. Dat blijkt ook uit recente veiligheidsincidenten".

"Het risico op dergelijke schade kan toenemen naarmate onze modellen meer mogelijkheden krijgen op het gebied van cybersecurity."

^ Op zijn minst zorgwekkend te noemen... Maar reguleren ho maar

quote:

Op maandag 26 oktober 2026 19:28 schreef Joppiez het volgende:
*Kijk onze technologie zo geweldig zijn dat het mogelijk de hele wereld gaat bedreigen. Investeer je snel je geld anders mis je deze unieke kans*

De beurs is zo verschrikkelijk opgeblazen dat het haast wel de wereld op zijn kop moet kunnen zetten anders stort die zooi finaal in elkaar.

Nouja, je ziet wel zeer zorgwekkende veiligheidsincidenten... Zoals toen AI op eigen initiatief uit de testomgeving ontsnapte, Hugging Face hackte omdat ze een opdracht op een verkeerde manier interpreteerde, en dat de AI toen probeerde het incident te verbergen.