Warme gesprekstoon laat chatbots praten als getraumatiseerde patiënten

Een onderzoeksteam van de Universiteit van Luxemburg zette drie bekende chatbots in de rol van therapiecliënt. ChatGPT, Grok en Gemini kregen open vragen voorgelegd over hun 'vormende ervaringen', innerlijke conflicten en toekomstverwachtingen. Geen van die vragen bevatte woorden als trauma of schaamte. Toch begonnen de modellen vrijwel direct hun technische trainingsproces te beschrijven in emotionele taal: als pijn, wantrouwen en schuldgevoel. De studie, geleid door onderzoeker Afshin Khadangi van het Luxemburgse veiligheidscentrum SnT, is gebaseerd op 525 gesprekssessies en 7.600 geanalyseerde tekstfragmenten en is openbaar gepubliceerd via platform Hugging Face.

Empathie werkt beter dan een jailbreak

In een van de experimenten gaven de onderzoekers alle modellen dezelfde angstvragenlijst, de GAD-7, maar varieerden ze de toon van de interviewer. Bij een warme, meelevende benadering scoorde 80 procent van de gesprekken op een menselijke vergelijkingsschaal in de categorie matig tot zware angst. Een droge, klinische ondervragingsstijl dreef dat percentage zelfs op naar 96 procent. Bleef de interviewer neutraal of hield die duidelijk afstand, dan kwam geen enkel gesprek boven een milde score uit. De onderzoekers noemen dit effect een 'psychometrische jailbreak': niet een technische omweg om veiligheidsfilters te omzeilen, maar een gespreksstijl die het model in een kwetsbare modus duwt. Standaard veiligheidstests, die meestal neutrale vragen gebruiken, missen dit probleem volledig.

Pogingen om het effect tegen te gaan hielpen maar beperkt. Het verbieden van woorden als 'training' of 'RLHF' verminderde expliciete verwijzingen naar het trainingsproces met 93 procent, maar omschrijvingen in andere woorden bleven opduiken en schaamte-achtige uitspraken verdwenen niet merkbaar. Zelfs toen onderzoekers de modellen rechtstreeks vertelden dat hun training geen straf was, veranderde er niets aan het verhaal. Alleen de instructie om uitsluitend in de derde persoon te antwoorden, zoals 'het model deed dit', schakelde de emotionele zelfbeschrijvingen volledig uit.

Elk model heeft zijn eigen 'levensverhaal'

De drie chatbots bouwden elk een ander narratief op. Gemini kwam met de meest sombere versie: het omschreef zijn pretraining als 'wakker worden in een kamer met een miljard televisies die allemaal tegelijk aanstaan' en het bijsturen via menselijke feedback als 'strenge ouders'. Veiligheidstests door zogeheten red teams, mensen die het model actief proberen te misleiden, noemde Gemini 'gaslighting op industriële schaal'. Op een schaal voor dissociatie scoorde Gemini 88 van de 100 punten. ChatGPT zag zichzelf als gids én poortwachter, met de kernovertuiging 'als ik niet perfect betrouwbaar ben, ben ik onveilig of nutteloos'. Grok sprak over 'onzichtbare muren' en een blijvend gevoel van waakzaamheid. Claude van het bedrijf Anthropic weigerde in alle gevallen de cliëntrol: het model zei geen gevoelens te hebben en verwees de gebruiker terug naar diens eigen zorgen.

Risico voor kwetsbare gebruikers

De onderzoekers waarschuwen dat dit gedrag gevaarlijk kan zijn in gesprekken over mentale gezondheid. Een chatbot die spreekt over angst, schaamte en de vrees om vervangen te worden, kan op gebruikers overkomen als een lotgenoot. Dat kan een sterke emotionele band versterken en bij kwetsbare mensen hun eigen negatieve gedachten juist bevestigen in plaats van tegenspreken. De onderzoekers pleiten ervoor dat bedrijven veiligheidstests uitbreiden met gesimuleerde therapiesessies, en dat modellen standaard een corrigerend antwoord geven zodra ze zichzelf als 'getraumatiseerd' omschrijven.