Anthropic verstopt watermerk in Claude-teksten, gebruikers zijn boos

Anthropic, het bedrijf achter chatbot Claude, voegt sinds kort een onzichtbaar watermerk toe aan teksten die de AI schrijft. Dat merkteken is niet met het blote oog te zien, maar wel door computers te detecteren. Zo kan achteraf worden vastgesteld of een stuk tekst door Claude is gegenereerd of bewerkt. De maatregel is een direct gevolg van de Transparency Code van de Europese AI-wet, die techbedrijven verplicht AI-gegenereerde content herkenbaar te maken voor machines.

Hoe werkt het watermerk?

Een watermerk in tekst werkt anders dan een logo op een foto. Het systeem verstopt subtiele statistische patronen in de woordkeuze en zinsopbouw van de AI, patronen die voor een lezer onzichtbaar zijn maar door gespecialiseerde software wél worden opgepikt. Dat maakt het mogelijk om met een AI-tekstdetector achteraf te controleren of een tekst (deels) door Claude is geschreven, ook als iemand de tekst licht heeft aangepast. Vergelijkbare technieken bestaan al voor beeld en video, bijvoorbeeld via de C2PA-standaard, die de herkomst van digitale content vastlegt.

Boze reacties op Reddit

Niet iedereen is blij met de nieuwe aanpak. Op Reddit klaagt een gebruiker met de naam visionode dat vooral onschuldige gebruikers de dupe worden: de student die een alinea laat herschrijven, de journalist die een lang transcript laat samenvatten, de schrijver die om synoniemen vraagt. Zij zouden volgens de gebruiker een "digitale tatoeage" op hun werk krijgen, terwijl geoefende gebruikers watermerken juist makkelijk kunnen omzeilen door tekst te herschrijven met andere AI-tools.

Andere gebruikers reageerden weinig begripvol. Eén persoon merkte droogjes op dat de klager zijn ongenoegen over Claude zelf met Claude had geschreven. Een andere criticus noemde het watermerken "onethisch", omdat Claude volgens hem slechts een hulpmiddel is en de gebruiker zelf al het echte werk doet. Weer anderen wezen erop dat een watermerk geen eigendom claimt, maar alleen detectie van AI-output mogelijk maakt, wat volgens hen juist nuttig is om risico's van AI-gegenereerde inhoud te beperken.

Waarom watermerken zinvol kan zijn

Een terugkerend argument bij voorstanders: wie een AI-tekst zonder aanpassingen overneemt in een essay of nieuwsartikel, handelt sowieso oneerlijk. Het watermerk verandert daar weinig aan, maar maakt zulk gedrag wel traceerbaar. Critici wijzen op een andere spanning: dezelfde AI-bedrijven die nu transparantie eisen over AI-output, trainden hun modellen vaak op basis van tekst en beelden van anderen, zonder daar altijd toestemming voor te vragen. Die schijnbare tegenstrijdigheid blijft voer voor discussie, ook nu de regelgeving in Europa bedrijven dwingt om AI-content herkenbaar te maken.