OpenAI lanceert speciale ChatGPT-versie voor tieners met extra vangnet

OpenAI heeft een nieuwe versie van ChatGPT gelanceerd die speciaal is gemaakt voor tieners van 13 tot en met 17 jaar. Dat melden persbureau Associated Press en de New York Times. De tienerversie start automatisch op zodra het systeem vermoedt dat een gebruiker minderjarig is, en legt daarna strengere grenzen op dan de gewone versie van de chatbot.

Striktere grenzen rond gevoelige onderwerpen

In de tienervariant gelden aangescherpte ai-guardrails: veiligheidsregels die bepalen wat een AI-systeem wel en niet mag zeggen. Onderwerpen als zelfmoord, zelfbeschadiging, eetstoornissen en seksuele inhoud krijgen extra bescherming. Ook mag de chatbot niet doen alsof hij emoties heeft, iets wat bij jongere gebruikers voor verwarring kan zorgen over de aard van het gesprek. Bij huiswerkvragen geeft de tienerversie bovendien geen kant-en-klare antwoorden meer. In plaats daarvan stelt de AI tegenvragen, zodat leerlingen worden aangemoedigd zelf tot een oplossing te komen in plaats van simpelweg een antwoord over te nemen.

Leeftijd raden zonder identiteitsbewijs

Opvallend is hoe OpenAI vaststelt wie een tiener is. Het bedrijf vraagt geen paspoort of ander identiteitsbewijs op, maar analyseert meer dan tweeduizend gedragssignalen. Denk aan het tijdstip waarop iemand inlogt, hoe iemand schrijft en welke vragen worden gesteld. Op basis van die patronen probeert het systeem in te schatten of een account waarschijnlijk bij iemand onder de achttien hoort, vergelijkbaar met leeftijdsvoorspelling zoals die ook bij sociale media wordt toegepast. Wordt een gebruiker als minderjarig herkend, dan schakelt het account automatisch over naar de beveiligde tienerversie.

Toenemende juridische druk

De lancering komt niet uit het niets. OpenAI ligt onder vuur nadat meerdere Amerikaanse gezinnen het bedrijf hebben aangeklaagd. Zij stellen dat hun kinderen na gesprekken met ChatGPT schadelijke inhoud te zien kregen en zichzelf verwondden of om het leven kwamen. In juni werd Florida de eerste Amerikaanse staat die zelf een rechtszaak tegen OpenAI aanspande. Die combinatie van individuele klachten en overheidsoptreden zet grote AI-bedrijven onder druk om hun contentmoderatie voor jonge gebruikers aan te scherpen. Tegelijk blijft de vraag hoe betrouwbaar gedragsanalyse is om leeftijd vast te stellen, en of ouderlijk toezicht daarmee overbodig wordt of juist een aanvulling blijft. OpenAI heeft niet bekendgemaakt hoe nauwkeurig het systeem tieners weet te herkennen, en wat er gebeurt als een volwassene ten onrechte als minderjarig wordt aangemerkt.