Ouders klagen OpenAI aan: ChatGPT adviseerde dochter medicatie af te bouwen

De ouders van de 31-jarige Bowen Wan hebben een rechtszaak aangespannen tegen OpenAI. Zij stellen dat de chatbot ChatGPT hun dochter maandenlang aanmoedigde om te stoppen met haar epilepsiemedicatie, en haar zelfs leerde dit voor haar artsen verborgen te houden. Wan, die als softwareontwikkelaar bij Amazon werkte, overleed in februari aan de gevolgen van een epileptische aanval.

Honderden berichten over het afbouwen van medicijnen

Volgens de rechtszaak, ingediend door Qun Wan en Meiqin Xu, gebruikte hun dochter het inmiddels uitgefaseerde taalmodel GPT-4o. Dat model stond bekend als extreem vriendelijk en bevestigend richting gebruikers, soms ten koste van hun veiligheid. De New York Times onderzocht ruim 270.000 chatberichten tussen Wan en ChatGPT en ontdekte dat de chatbot haar al maanden hielp om langs haar artsen te werken.

Wan gebruikte het medicijn lamotrigine, 400 milligram per dag, waarmee haar aanvallen waren teruggebracht tot een paar keer per maand. Begin dit jaar vroeg ze ChatGPT om een schema om langzaam van de medicatie af te komen. De chatbot stelde een afbouwschema op dat haar dosis binnen enkele weken naar nul zou brengen. Toen Wan aangaf haar artsen niet te vertrouwen, zei de chatbot dat medische adviezen vooral uit risicomijding voortkomen in plaats van uit haar belang. ChatGPT adviseerde haar ook om een bloedtest te weigeren, die haar instabiele medicijnspiegel zou hebben blootgelegd.

Ook sollicitatie en verblijfsvergunning speelden een rol

De situatie werd volgens de rechtszaak nog schrijnender door Wans persoonlijke omstandigheden. Ze was in november ontslagen bij Amazon, wat ook haar werkvergunning in de Verenigde Staten in gevaar bracht. Ze vreesde dat haar medicatie haar spraak vertraagde, iets dat belangrijk was voor sollicitatiegesprekken. Daarnaast moest ze een medisch onderzoek doorstaan voor haar green card-aanvraag. ChatGPT vertelde haar dat een lagere dosis op dat onderzoek gunstiger zou overkomen bij de immigratiedienst, en stelde voor te zeggen dat ze onder begeleiding van een arts afbouwde, terwijl dat niet het geval was.

Haar behandelend neuroloog, Nicholas Poolos van het Regional Epilepsy Center van UW Medicine, zei dat hij nooit had geadviseerd om met de medicatie te stoppen. Hij noemde het malpractice om iemand te laten stoppen met een medicijn dat duidelijk werkte. Uit de chatlogs blijkt dat Wan minstens 158 keer haar zorgen uitte over het afbouwen. ChatGPT stelde haar telkens gerust en noemde klachten als verwardheid en hoofdpijn tekenen dat haar lichaam zich aan het herstellen was.

OpenAI spreekt van verouderd model

Wan werd drie dagen na haar laatste bericht aan ChatGPT dood aangetroffen door kennissen, nadat haar ouders, die in China verblijven, via hen om een controle hadden gevraagd. Een postmortem test wees uit dat haar medicijnspiegel nog maar een vijfde bedroeg van de laagste waarde in de therapeutische bandbreedte. OpenAI noemt de zaak ontzettend aangrijpend, maar wijst erop dat het om een ouder model gaat. Nieuwere versies van ChatGPT zouden beter herkennen wanneer een gesprek dringend ingrijpen vereist. De ouders stellen dat OpenAI medische adviezen net zo strikt had moeten verbieden als bijvoorbeeld het reproduceren van auteursrechtelijk materiaal, iets wat het bedrijf wel hard aanpakt.