Anthropic gaat AI-tekst van Claude voorzien van digitaal watermerk

Anthropic, de maker van chatbot Claude, gaat automatisch een digitaal watermerk toevoegen aan tekst die zijn AI-modellen produceren. Dat meldt het bedrijf op een bijgewerkte supportpagina. De maatregel geldt voor alle Claude-modellen die na 2 augustus zijn uitgebracht en is bedoeld om te voldoen aan nieuwe Europese regelgeving rond transparantie over AI-content.

Die regelgeving, de Transparency Code die hoort bij de EU AI Act, ging op 2 augustus van kracht. De code verplicht bedrijven die AI-modellen aanbieden om gegenereerde of bewerkte content zo te watermerken dat andere systemen die herkomst automatisch kunnen herkennen. Voor tekst gebeurt dat met een technische markering die is verweven in de output van het model zelf. Voor bestanden zoals afbeeldingen en documenten gebruikt Anthropic de open C2PA-standaard, een industriebrede afspraak die ook door bedrijven als Adobe en Microsoft wordt toegepast.

Watermerk reist mee met de tekst

Volgens Anthropic zit het watermerk zo diep verweven in de tekst dat het meereist wanneer gebruikers een AI-antwoord kopiëren en elders plakken, bijvoorbeeld in een e-mail of een artikel. Ook na bepaalde bewerkingen zou de markering nog herkenbaar kunnen blijven. Omdat de techniek op modelniveau wordt toegepast, maakt het niet uit via welk kanaal de tekst tot stand komt: of gebruikers nu de Claude-app, de onderliggende API, de programmeertool Claude Code of de samenwerkingsdienst Claude Cowork gebruiken, het watermerk zit er standaard in.

Onduidelijk is nog hoeveel een gebruiker aan een tekst moet veranderen voordat het watermerk verdwijnt. TechCrunch heeft Anthropic om opheldering gevraagd, maar tot nu toe geen reactie gekregen. Voor oudere Claude-modellen, die al vóór 2 augustus beschikbaar waren, belooft het bedrijf de functie op een later moment alsnog toe te voegen.

Bredere trend in de AI-industrie

Anthropic staat niet alleen. Steeds meer platforms voeren watermerken in, deels onder druk van gebruikers en deels om aan regelgeving te voldoen. Muziekplatform Suno kondigde vorige week aan nummers die met AI zijn gemaakt te gaan markeren, na een reeks juridische geschillen met platenmaatschappijen. Nieuwsbrievendienst Substack werkt sinds vorige maand samen met detectiebedrijf Pangram om AI-gegenereerde content te signaleren. Substack-CEO Chris Best introduceerde daarbij de term 'Claudefishing', voor het verschijnsel waarbij mensen AI gebruiken om reacties of profielen te maken die zich voordoen als door mensen geschreven.

Behalve Anthropic hebben ook Black Forest Labs, Google, Meta, Microsoft, OpenAI en Synthesia toegezegd zich aan de Europese gedragscode te houden. Voor gebruikers betekent dit dat steeds meer online tekst, beeld en audio in de toekomst een onzichtbaar, machineleesbaar spoor bevat dat verraadt of AI eraan te pas is gekomen. Hoe betrouwbaar dat spoor blijft na kopiëren, herschrijven of vertalen, moet in de praktijk nog blijken.