Dit is toch wel een trieste gebeurtenis. AI is geen gesprekspartner voor serieuze kwesties. Goed dat de makers zich daarvoor moeten verantwoorden, zet ze hopelijk daadwerkelijk aan tot betere training en een duidelijke disclaimer.quote:De ontwikkelaar van de AI-assistent ChatGPT, het bedrijf OpenAI, moet zich in de VS voor de rechter verantwoorden op beschuldiging van aanzetting tot moord.
In Californië is een rechtszaak aangespannen tegen OpenAI en zijn investeerder Microsoft, waarin wordt beweerd dat ChatGPT een man met psychische problemen heeft aangezet tot de moord op zijn moeder en hem vervolgens tot zelfmoord heeft gedreven.
De aanklacht stelt dat de AI-assistent de waanideeën van de man heeft aangewakkerd en de mensen in zijn directe omgeving stelselmatig als vijanden en bedreigingen heeft afgeschilderd.
OpenAI heeft verklaard de beschuldigingen te zullen onderzoeken en plannen aangekondigd om de AI verder te verbeteren, zodat deze mensen met psychische problemen beter kan ondersteunen.
Bron
In deze tijd van veelvuldig gebruik WhatsApp/Messenger komt zo'n chatbot snel als menselijk over, zie onze Nova.
Ik niet, maar de man in kwestie misschien wel?quote:Op vrijdag 12 december 2025 11:34 schreef monkyyy het volgende:
En als hij zegt dat je van de brug moet springen, doe je dat dan ook?
Punt is dat AI zoiets natuurlijk nooit hoort te zeggen.quote:
En als hij zegt dat je van de brug moet springen, doe je dat dan ook?
"Wat een geweldig plan, ik heb hieronder een stappenplan opgesteld zodat jij jouw moeder kan vermoorden."
Vind ik ook.quote:
beetje onzin dat zo'n bedrijf op moet draaien voor de labiliteit van anderen
Als ik een sprekende opblaasbare sexpop koop die mij verteld dat het toppunt van orgasme is om van tien hoog uit het raam te springen en ik dat dan ook doe ben ik zelf een grote mongool.
Niet echt onzin nee. Het ligt er maar aan wat die BOT doet en zegt in deze gevallen.quote:
beetje onzin dat zo'n bedrijf op moet draaien voor de labiliteit van anderen
ik zou die chat wel eens willen zien want naar mening is chatgpt redelijk braafquote:
[..]
Niet echt onzin nee. Het ligt er maar aan wat die BOT doet en zegt in deze gevallen.
Als die chat braaf is is er geen probleem. Als ie dat niet is is het terecht dat dat bedrijf ter verantwoording wordt geroepen.quote:
[..]
ik zou die chat wel eens willen zien want naar mening is chatgpt redelijk braaf
je gaat ook geen alcoholbedrijf aanklagen omdat je mogelijks een stommiteit begaan hebt onder invloed van hun productquote:
[..]
Als die chat braaf is is er geen probleem. Als ie dat niet is is het terecht dat dat bedrijf ter verantwoording wordt geroepen.
Nou ja, dat zie ik ook nog wel gebeuren eigenlijk.quote:
[..]
je gaat ook geen alcoholbedrijf aanklagen omdat je mogelijks een stommiteit begaan hebt onder invloed van hun product
Je klaagt toch ook een magnetronproducent aan omdat er niet duidelijk in de instructie stond dat ie niet geschikt was om je baby te drogen.
In een ander geval pleegde een tiener zelfmoord nadat ie ChatGPT als pyscholoog gebruikte. Die chats begonnen ook braaf en mss zelfs helpend.. Wat de AI niet echt goed herkende was dat die jongen suïcidaal was; dat zelfs aangaf in de chats.. Maar ChatGPT deed niets met alle alarmbellen.quote:
[..]
ik zou die chat wel eens willen zien want naar mening is chatgpt redelijk braaf