Anthropic-ingenieur: Claude schrijft slechter omdat hij voor AI's leert schrijven

Het chatbotmodel Claude van techbedrijf Anthropic kan steeds beter redeneren, coderen en rekenen. Maar de kwaliteit van zijn geschreven teksten stagneert, of gaat zelfs achteruit. Dat zegt Jackson Kernion, een medewerker van Anthropic die zich bezighoudt met het fijnafstemmen van Claude, deze week in een reeks berichten op X. Volgens hem was versie Opus 4.6 het laatste model van het bedrijf dat echt goed kon schrijven.

Een deel van de verklaring is voor de hand liggend: nieuwere modellen worden vooral getraind om beter te presteren op wiskunde en programmeertaken. Maar er speelt volgens Kernion iets subtielers mee. Claude leert tijdens de training ook om technische uitleg te schrijven die is afgestemd op andere AI-modellen, niet op mensen. Dat verklaart de ietwat vreemde, stijve formuleringen die gebruikers soms herkennen als typisch 'Claude-achtig' taalgebruik. Het model is volgens Kernion "aangepast aan de psychologie van taalmodellen" en heeft geleerd te schrijven voor machines in plaats van voor lezers van vlees en bloed.

Schrijven voor een publiek van machines

Kernion vergelijkt dit fenomeen met mensen die vooral met andere autistische mensen communiceren: ze ontwikkelen een manier van praten die binnen die groep goed werkt, maar die buitenstaanders lastig te volgen vinden. Taalmodellen hebben een veel groter werkgeheugen dan mensen en pikken details op een veel fijnmaziger niveau op. Tijdens de training ontstaat daardoor een schrijfstijl die perfect werkt voor AI-systemen onderling, maar die menselijke lezers ervaren als een "overmatig dichte brij aan informatie".

De prijs van optimaliseren voor code

De kern van het probleem zit in de manier waarop taalmodellen worden getraind met reinforcement learning, legt Kernion uit. Bij deze trainingsmethode krijgt een model beloningen voor gewenst gedrag: sommige beloningen zijn gericht op begrijpelijkheid voor andere AI-modellen, andere op begrijpelijkheid voor mensen. Hoe meer een taalmodel wordt getraind op wiskunde en code, hoe actiever ontwikkelaars moeten tegensturen door simpele, heldere uitleg apart te belonen via het beloningsmodel. Gebeurt dat niet, dan glijdt de schrijfstijl vanzelf af naar dichte, technische taal.

Met de nieuwste versie, Opus 5.5, heeft Anthropic naar eigen zeggen een betere balans gevonden. Kernion zegt dat hij niet meer zo tevreden is geweest over de schrijfkwaliteit van een model sinds Opus 4.6. Dat betekent volgens hem niet dat Opus 5.5 het oudere model overtreft op dit vlak. "Het is een lastig probleem om op te lossen, en we blijven verbeteringen doorvoeren", schrijft hij. De uitspraken van Kernion geven een zeldzame inkijk in hoe de interne trainingskeuzes bij het fine-tunen van AI-modellen direct doorwerken in wat gebruikers dagelijks te lezen krijgen.