DeepMind verstopt digitaal watermerk in AI-ontworpen eiwitten

Eiwitten vormen de bouwstenen van elk levend wezen. Lang kon alleen de natuur ze maken, maar met kunstmatige intelligentie kunnen wetenschappers nu compleet nieuwe eiwitten ontwerpen die nergens in de natuur voorkomen. Dat levert kansen op, zoals nieuwe medicijnen, maar ook risico's. Een AI kan in theorie ook de bouwtekening voor een gevaarlijk gif of ziekteverwekker produceren.

Een vervuilde databank als probleem

Naast de dreiging van misbruik is er nog een probleem: digitale 'bioslop'. Als niemand kan zien welke eiwitstructuren door een computer zijn verzonnen en welke experimenteel zijn bevestigd, lopen onderzoekers het risico maanden te besteden aan onderzoek dat op verkeerde aannames is gebaseerd. Databanken met eiwitstructuren worden namelijk volop gebruikt om nieuwe theorieën te testen.

Op dit moment controleren bedrijven die DNA op bestelling maken, elke bestelde genetische code op bekende gevaarlijke sequenties. Dat werkt goed voor sequenties die lijken op iets dat al bekend is. Maar een AI kan een sequentie zo aanpassen dat die niet meer op iets herkenbaars lijkt, terwijl het eiwit nog wel gevaarlijk functioneert. Daardoor kan een nieuw gemaakt gifstof door de controle glippen.

Hoe het watermerk werkt

SynthID Bio is een uitbreiding van een techniek die DeepMind eerder gebruikte om AI-gegenereerde tekst te markeren. Bij tekst stuurt het systeem subtiel de woordkeuze van een taalmodel, zodat er een statistisch patroon ontstaat dat voor mensen onzichtbaar is maar voor een detector wel herkenbaar. Bij eiwitten gebeurt iets vergelijkbaars: tijdens het ontwerpproces worden de keuzes voor opeenvolgende aminozuren en de uiteindelijke driedimensionale vorm van het eiwit net iets bijgestuurd. Omdat de techniek is ingebouwd in een onderdeel van het voorspellingsmodel AlphaFold3, draagt elk eiwit dat ermee wordt gemaakt automatisch het watermerk, ongeacht wie het model gebruikt.

In laboratoriumtests presteerden gemerkte eiwitten net zo goed als ongemerkte varianten, ook bij ingewikkelde taken zoals het blokkeren van viruseiwitten of het beïnvloeden van bloedvatgroei. Volgens het DeepMind-team zijn dit de eerste watermerkte eiwitten die functioneel blijven.

Nog geen sluitend systeem

Het watermerk is niet onfeilbaar. Wie een gemerkt eiwit door een ander ontwerpprogramma haalt om een vergelijkbare, maar net iets andere sequentie te produceren, kan het signaal laten verdwijnen. Ook kan het systeem nog niet achterhalen wie een eiwit precies heeft gemaakt, wat het lastig maakt om misbruik naar een dader te herleiden. Een concurrerend systeem, FoldMark, probeert dat probleem op te lossen door een unieke code in de vorm van het eiwit te verstoppen, waarmee tot een miljoen gebruikers te onderscheiden zouden zijn.

Een andere open vraag is wie toegang krijgt tot de 'decoder' die een watermerk kan uitlezen. DNA-synthesebedrijven zijn een logische kandidaat, maar onder biosecurity-experts, overheden en wetenschappers bestaat nog geen consensus over wie er verder mag meekijken. DeepMind maakt de code en onderzoeksdata van SynthID Bio nu openbaar en werkt met het Arc Institute en Stanford University aan watermerken in complete virusgenomen, als eerste stap naar bredere toepassing.