AI-lab van Anthropic claimt ontdekking, biologen zijn not amused

Anthropic, het bedrijf achter de chatbot Claude, maakte vorige week bekend dat het dit jaar in het geheim een moleculair-biologielab is gestart. Daarin lezen honderden AI-agents wetenschappelijke literatuur en DNA-databanken door, terwijl menselijke onderzoekers de experimenten uitvoeren die de software voorstelt. Volgens Anthropic leverde dat na 21 uur werk van 950 agents tegelijk de eerste 'ontdekking' op: een tot dusver niet-gecatalogiseerd herhalingspatroon rond een bekend enzym. Het bedrijf noemt het patroon 'reminiscent' van het onderzoek dat ooit leidde tot de gentechnologie CRISPR, die de biologie en geneeskunde ingrijpend veranderde.

Vondst of gewoon speurwerk?

Het klinkt indrukwekkend, maar critici zetten grote vraagtekens bij de claim. De AI-agents doorzochten miljoenen DNA-sequenties en visten daar 200.000 kandidaten uit, om die uiteindelijk terug te brengen tot een handvol interessante gevallen. Dat is op zichzelf al knap werk. Maar het vinden van een opvallend patroon is volgens bioloog Lucas Harrington, die de eerste kritische blogpost schreef, nog geen ontdekking. Wat een gen-cluster daadwerkelijk doet in een cel, is volgens hem het echte wetenschappelijke werk — en dat heeft Claude niet gedaan. Zijn kritiek werd onder meer onderschreven door de topman van farmaceut Eli Lilly.

Het wordt nog pijnlijker voor Anthropic doordat bioloog Mario Rodríguez Mestre van de Universiteit van Kopenhagen naar buiten bracht dat zijn team dit exacte patroon al eerder had gevonden. Mestre gebruikte Claude regelmatig in zijn eigen onderzoek en vraagt zich af of het AI-lab van Anthropic iets heeft opgepikt uit zijn gesprekken met de chatbot. Anthropic ontkent dat, maar Mestre zegt inmiddels te stoppen met het gebruik van Claude.

Een terugkerend patroon van overclaimen

Het is niet de eerste keer dat een AI-bedrijf voortijdig victorie kraait. Eerder deze maand meldde concurrent OpenAI dat zijn AI-agents een wiskundig probleem van een miljoen dollar hadden opgelost. Ook daar volgde al snel kritiek: niet over de juistheid van de oplossing, maar over de vraag of dit wel het probleem was waar wiskundigen echt naar op zoek waren. Een wiskundige beschuldigde de taalmodellen er bovendien van ongecrediteerd op zijn eigen werk te hebben geleund.

Het onderliggende probleem is dat AI-bedrijven hun systemen niet presenteren als hulpmiddel, zoals een microscoop of supercomputer, maar als zelfstandige ontdekkers. Dat botst met hoe wetenschap normaal gesproken werkt: via samenwerking, peer review en een gestage opeenstapeling van kleine stappen. Door elke uitkomst meteen tot doorbraak te bestempelen, ontstaat een debat met maar twee mogelijke uitkomsten — geweldig of waardeloos — terwijl de werkelijkheid meestal genuanceerder is. Critici vrezen dat dit uiteindelijk ook echte AI-doorbraken ongeloofwaardig maakt, juist op het moment dat zoiets zich wél voordoet.