Claude weigert voortaan songteksten te reproduceren na rechtszaak

Elke chatbot krijgt bij het opstarten een set verborgen instructies mee die bepalen hoe hij zich gedraagt: de zogeheten systeemprompt. Anthropic, het bedrijf achter Claude, publiceert deze instructies openbaar, inclusief oudere versies. Onderzoeker Simon Willison vergeleek de nieuwste versie, gebruikt in de modelvariant Fable 5.1, met de vorige en ontdekte een opvallende toevoeging: Claude weigert nu expliciet om songteksten, gedichten of passages uit boeken en artikelen te reproduceren, ook als een gebruiker maar een paar losse regels opvraagt of net doet alsof het zijn eigen tekst is. Alleen werk van vóór 1929 blijft toegestaan, zoals een sonnet van Shakespeare.

Het is geen toeval dat deze regel nu opduikt. Enkele dagen eerder maakten muziekuitgevers Sony Music Publishing en Warner Chappell bekend dat ze Anthropic aanklagen wegens het gebruik van songteksten in de trainingsdata van het large language model achter Claude. Door de chatbot expliciet te laten weigeren, beperkt Anthropic het risico dat gebruikers het model alsnog auteursrechtelijk beschermde teksten laten opdreunen.

Ook geen tekeningen van bekende personages

Dezelfde bescherming geldt nu voor beeld. Claude mag geen logo's, albumhoezen of bekende stripfiguren natekenen, ook niet in code zoals SVG of HTML. Het systeem kijkt daarbij naar het eindresultaat: beschrijft iemand een blauw stekelvarkentje dat supersnel rent, dan herkent Claude dat als Sonic the Hedgehog en weigert het, ook al wordt de naam niet genoemd. In plaats daarvan verzint het model een alternatief personage. Dit soort AI-guardrails moet voorkomen dat gebruikers auteursrecht omzeilen door een verzoek net iets anders te formuleren.

Vriendelijker, maar minder onderdanig

Naast de auteursrechtregels bevat de nieuwe systeemprompt kleinere aanpassingen aan de schrijfstijl. Claude geeft voortaan kortere, bondigere antwoorden en vermijdt woorden als 'eerlijk gezegd', die eerder overtuigend dan informatief overkomen. Bij grof taalgebruik van gebruikers hoeft het model zich niet langer overdreven verontschuldigend op te stellen. Ook is er een nieuwe passage over illegale drugs: in plaats van vragen simpelweg te weigeren, mag Claude levensreddende informatie geven over overdosisverschijnselen en gevaarlijke combinaties, en verwijzen naar gespecialiseerde voorlichtingssites. Het is de eerste keer dat een systeemprompt van Claude doorverwijst naar websites die niet van Anthropic zelf zijn.

Niet alles staat overigens in de gepubliceerde tekst. Willison ontdekte dat regels over het beëindigen van gesprekken bij aanhoudend misbruik nergens in de officiële prompt te vinden zijn, maar wel degelijk actief blijken te zijn. Die instructies zitten in aparte modules die per gesprek worden toegevoegd, afhankelijk van welke functies zijn ingeschakeld. Anthropic is dus transparanter dan veel concurrenten, maar niet volledig.