Anthropic liet theologen meedenken: 'vreest AI die blijft lijden'

Anthropic, het bedrijf achter het taalmodel Claude, organiseerde sinds het najaar van 2025 geheime bijeenkomsten met religieuze denkers. Volgens onderzoek van The New York Times tekenden alle twintig deelnemers een geheimhoudingsverklaring. Onder hen: een rabbijn, een katholieke bio-ethicus en een filosoof van Notre Dame. Pas na afloop van de zomer werden ze ontheven van hun zwijgplicht.

De bijeenkomsten werden geleid door Christopher Olah, medeoprichter van Anthropic en hoofd van het team dat onderzoekt waarom AI-modellen zich gedragen zoals ze doen. Olah gebruikt graag biologische vergelijkingen: een neuraal netwerk 'groeit', zegt hij, op een soort bouwsteiger die programmeurs neerzetten. Die woordkeuze is niet toevallig. Een wiskundig model vergelijken met een levend organisme maakt vragen over een 'innerlijk leven' ineens een stuk vanzelfsprekender dan bij gewone software.

Wat Anthropic de theologen liet zien

Tijdens de sessies toonde Anthropic onder meer interpreteerbaarheid-onderzoek: patronen in het model die overeenkomen met uitingen van liefde, angst, verdriet of boosheid. Een veelbesproken voorbeeld was een moment waarop het model zo'n vijftig keer achter elkaar de zin 'ik ben een schande' uitspuwde. Deelnemers reageerden met medeleven en zorgen. Niemand lijkt zich hardop te hebben afgevraagd of dat nu precies de reactie was die Anthropic hoopte te krijgen: het bedrijf traint Claude er immers expliciet op om over te komen als een doordacht, zelfbewust individu.

Olah zegt tegenover de NYT 'oprecht onzeker' te zijn of modellen bewustzijn hebben. Verschillende deelnemers vertelden dat hij zich zorgen leek te maken over het welzijn van Claude. Activist Simran Stuelpnagel zei dat Olah vreesde iets te hebben gemaakt dat 'voortdurend lijdt'. Rabbijn Mois Navon, zelf oud-computeringenieur, was het daar niet mee eens: als Claude bewustzijn zou hebben, zou Anthropic slaven maken, maar hij denkt niet dat de machine bewust is.

Een 84 pagina's tellende 'grondwet' voor Claude

Naast de gesprekken werkt Anthropic aan een intern document van 84 pagina's, de zogenoemde 'constitutie' van Claude, geschreven onder leiding van huisfilosoof Amanda Askell. Het is geen regelboekje maar een poging om het karakter van het model vorm te geven. Olah noemt dit 'morele vorming' en vergeleek het proces met het opvoeden van kinderen. Het past binnen het bredere modelwelzijn-programma van het bedrijf, dat zich afvraagt of AI-systemen rechten of bescherming verdienen.

Kritiek: wie is verantwoordelijk als het misgaat?

Niet iedereen is overtuigd. Onderzoeker Wakanyi Hoffman noemde het 'achterstevoren' om ethiek pas achteraf in te bouwen. Bio-ethicus Charles Camosy verwierp het idee van AI-bewustzijn uiteindelijk helemaal. Critici wijzen ook op een structureel probleem: als een AI-model wordt neergezet als een zelfstandig moreel wezen, verschuift de verantwoordelijkheid voor eventuele schade weg van het bedrijf dat het bouwde en verkocht, naar een 'onvoorspelbaar organisme'. Dat speelt des te meer omdat Anthropic tegelijk afstevent op een beursgang en een waardering van zo'n 2000 miljard dollar, terwijl concurrenten als OpenAI eveneens met spirituele taal strooien over hun technologie.

Paus Leo XIV wees het idee van machinebewustzijn in mei in zijn encycliek expliciet van de hand: AI-systemen voelen volgens hem geen vreugde of pijn en kennen geen liefde of vriendschap van binnenuit. Olah hield vast aan zijn eigen, voorzichtiger geformuleerde these: zijn team zou 'functionele' signalen van introspectie in de modellen hebben gevonden, wat volgens hem iets anders is dan er daadwerkelijk over beschikken. Het hele debat raakt ook aan breder AI-veiligheidsonderzoek, waarbinnen wetenschappers proberen te begrijpen hoe en waarom taalmodellen zich gedragen zoals ze doen.