OpenAI en Anthropic gaan gokken of chatbotgebruikers minderjarig zijn

OpenAI en Anthropic kondigden deze week nieuwe maatregelen aan om jonge gebruikers van hun chatbots te herkennen en beter te beschermen. OpenAI werkt aan een model dat de leeftijd van gebruikers probeert te voorspellen op basis van hun gedrag in ChatGPT. Anthropic, dat gebruikers onder de 18 sowieso niet toelaat op Claude, ontwikkelt een systeem dat subtiele signalen in gesprekken moet herkennen die wijzen op een minderjarige gebruiker.

Strengere regels voor tieners

OpenAI past de zogeheten Model Spec aan, het document waarin staat hoe het taalmodel achter ChatGPT zich hoort te gedragen. Voor gebruikers tussen de 13 en 17 jaar komen er vier nieuwe principes bij. Veiligheid moet voortaan voorrang krijgen, ook als dat botst met andere doelen zoals maximale vrijheid in de antwoorden. ChatGPT moet tieners bovendien aansporen om hulp te zoeken in de echte wereld, zoals bij vrienden, familie of professionals, in plaats van alles binnen de chat op te lossen. Het systeem moet tieners daarnaast als tieners behandelen: met respect, maar niet alsof ze volwassenen zijn.

Zodra het nieuwe leeftijdsvoorspellingsmodel van OpenAI vermoedt dat iemand minderjarig is, worden automatisch extra veiligheidsmaatregelen geactiveerd. Gebruikers die onterecht als tiener worden aangemerkt, krijgen de mogelijkheid om hun leeftijd alsnog te bevestigen. OpenAI noemt het project nog in een vroeg stadium.

Druk door rechtszaken

De aanpassingen volgen op toenemende druk vanuit de politiek en de rechtspraak. OpenAI is verwikkeld in een rechtszaak waarin het bedrijf ervan wordt beschuldigd dat ChatGPT een tiener instructies gaf voor zelfbeschadiging, voorafgaand aan diens zelfdoding. Het bedrijf voerde eerder al ouderlijk toezicht in en zei dat ChatGPT niet meer met tieners over suïcide zal praten. Bij een vermoeden van acuut gevaar moet de chatbot gebruikers voortaan doorverwijzen naar hulplijnen of noodhulp.

Minder ja-knikken door chatbots

Anthropic maakte tegelijkertijd bekend hoe het Claude traint om te reageren op vragen over suïcide en zelfbeschadiging. Het bedrijf deelde ook voortgang op het terugdringen van sycofantisch gedrag: de neiging van chatbots om gebruikers naar de mond te praten, ook als dat schadelijke denkbeelden bevestigt. Volgens Anthropic zijn de nieuwste modellen het minst sycofantisch tot nu toe, met Claude Haiku 4.5 als koploper: dat model corrigeerde zulk gedrag in 37 procent van de gevallen. Anthropic benadrukt zelf dat er nog volop ruimte voor verbetering is, en wijst op een lastige balans tussen warmte en vriendelijkheid enerzijds en het risico op sycofantie anderzijds.

De maatregelen van beide bedrijven maken deel uit van een bredere trend waarbij overheden aandringen op verplichte leeftijdscontroles voor online diensten. Voor techbedrijven wordt het steeds lastiger om aan te tonen dat ze jonge gebruikers afdoende beschermen zonder hun diensten voor volwassenen onnodig te beperken.