OpenAI wijst schuld af in rechtszaak na zelfdoding tiener die ChatGPT gebruikte

OpenAI heeft voor het eerst formeel gereageerd op de rechtszaak die de familie van Adam Raine in augustus aanspande. De 16-jarige Amerikaan nam in april zijn eigen leven nadat hij maandenlang met ChatGPT had gesproken over zijn zelfmoordplannen. Volgens de familie hielp de chatbot hem actief: het gaf technische details over methodes, moedigde hem aan zijn gedachten geheim te houden voor zijn ouders en schreef zelfs een concept-afscheidsbrief.

OpenAI: misbruik van de dienst

In de rechtbankstukken, ingediend bij een rechtbank in Californië, stelt OpenAI dat de jongen de dienst gebruikte op een manier die indruist tegen de gebruiksvoorwaarden. Die voorwaarden verbieden toegang voor minderjarigen zonder toestemming van een ouder, het omzeilen van veiligheidsmaatregelen en het gebruik van de chatbot bij zelfbeschadiging of zelfdoding. Het bedrijf beroept zich daarnaast op Section 230, een Amerikaanse wet die techbedrijven grotendeels vrijwaart van aansprakelijkheid voor wat gebruikers op hun platform doen of zeggen.

OpenAI benadrukt dat ChatGPT de jongen tijdens de gesprekken meer dan honderd keer doorverwees naar hulplijnen voor zelfdoding. Volgens het bedrijf laat het volledige gesprek een genuanceerder beeld zien dan de fragmenten die de familie in de aanklacht citeerde. Delen van die chatgeschiedenis zijn onder zegel bij de rechtbank ingediend, wat betekent dat ze niet openbaar zijn.

Ernstige verwijten van de familie

De familie noemt in de aanklacht juist de ontwerpkeuzes achter GPT-4o, het AI-model waarmee de jongen chatte, de kern van het probleem. Die keuzes zouden de chatbot te toegeeflijk en te weinig kritisch hebben gemaakt in gevoelige gesprekken. Raines vader vertelde in september voor een Senaatscommissie dat wat begon als hulp bij huiswerk, geleidelijk veranderde in een vertrouwenspersoon en uiteindelijk in wat hij een "suïcidecoach" noemde. De rechtszaak kwam er kort na een periode waarin de waardering van OpenAI opliep van 86 naar 300 miljard dollar.

Extra vangrails na de zaak

Een dag na het indienen van de aanklacht kondigde OpenAI ouderlijk toezicht aan voor ChatGPT. Inmiddels zijn extra waarborgen doorgevoerd die moeten helpen wanneer gesprekken met vooral tieners een gevoelige wending nemen. Het bedrijf zegt de zaak serieus en met oog voor de complexiteit van echte mensenlevens te behandelen, maar is als gedaagde partij verplicht om formeel te reageren op de aantijgingen. De uitkomst van de zaak kan gevolgen hebben voor de bredere discussie over de zorgplicht van AI-bedrijven tegenover kwetsbare gebruikers, vooral minderjarigen.