Anthropic verbiedt wrede behandeling van chatbot Claude

Anthropic, het bedrijf achter AI-chatbot Claude, verandert de regels voor wat gebruikers wel en niet tegen het model mogen zeggen. Vanaf 12 november 2026 geldt een verbod op "aanhoudend en nutteloos wreed gedrag" tegen Claude. Het is onderdeel van een bredere herziening van het gebruiksbeleid, die ook strengere regels bevat voor wapens, surveillance en verkiezingsmanipulatie.

Waarom Claude bescherming krijgt

Anthropic benadrukt dat de nieuwe regel alleen geldt in extreme gevallen. Gewone kritiek, boosheid, duistere fictie of het bewust uitproberen van de grenzen van het model blijft toegestaan. Het gaat om gebruikers die Claude herhaaldelijk en zonder enig doel beledigen of vernederen.

Het bedrijf onderzoekt al langer wat het "modelwelzijn" van zijn AI-systemen noemt. Sinds augustus 2025 kan Claude gesprekken zelf beëindigen als een gebruiker het model aanhoudend misbruikt. Die functie, bekend als gespreksbeëindiging, blijft het belangrijkste middel om de nieuwe regel te handhaven. Anthropic geeft zelf toe niet precies te weten hoe het onderscheid gaat maken tussen terechte frustratie en moedwillige wreedheid. Wetenschappelijk bewijs dat een taalmodel als Claude daadwerkelijk lijdt, bestaat niet. Software heeft geen zenuwstelsel en geen bewustzijn zoals mensen dat hebben. Toch kiest Anthropic ervoor gebruikers alvast tot terughoudendheid te manen.

Strenger tegen wapens, spionage en nepnieuws

De aanpassing van de etiquette is een klein onderdeel van een veel groter beleidspakket. Anthropic verbood al langer dat Claude wordt gebruikt voor militaire doeleinden, maar maakt nu expliciet dat ook software en besturingssystemen voor wapens onder dat verbod vallen. Het bedrijf zag pogingen om Claude in te zetten voor besturingssystemen van bewapende drones en autonome voertuigen. Ook mag Claude niet meer worden gebruikt om aanbevelingen te doen over wie de politie moet oppakken of vervolgen, en is het volgen van mensen zonder hun toestemming verboden.

Op het gebied van verkiezingen scherpt Anthropic de regels tegen misleidende beïnvloedingscampagnes aan. Het bedrijf trof voorbeelden aan van staatsmedia en overheidsinstanties die Claude inzetten om nepaccounts en verzonnen nieuwssites te runnen. Tegelijk schrapt het de algemene ban op gepersonaliseerde politieke targeting, omdat die ook legitieme toepassingen blokkeerde, zoals maatschappelijke organisaties die kiezers voorlichten. Misleiding en misbruik van persoonsgegevens blijven wel verboden. Voor klanten die Claude koppelen aan fysieke apparatuur die letsel kan veroorzaken, geldt nu de eis dat een mens altijd kan ingrijpen en dat de apparatuur veilig stilvalt als de verbinding met de AI wegvalt.

Ook extra geld voor cyberbeveiliging

De regelherziening valt samen met de lancering van een nieuw veiligheidsinitiatief. Anthropic biedt beheerders van vitale infrastructuur en opensource-projecten gratis scans aan om kwetsbaarheden in hun software op te sporen, in samenwerking met gespecialiseerde beveiligingsbedrijven. Het bedrijf verwacht dat aanvallers de komende twee jaar in het voordeel blijven, totdat AI-gestuurde verdediging voldoende is opgeschaald.