AI-bedrijven zelf waarschuwen voor risico op bioweapens door hun technologie

Anthropic-topman Dario Amodei riep afgelopen weekend op om het tempo van AI-ontwikkeling te vertragen. Zijn technologie is volgens hem gevaarlijker dan vaak wordt gedacht. OpenAI-ceo Sam Altman reageerde instemmend op X: ook hij vindt dat de sector een stapje terug moet doen. De uitspraken volgen op het vertrek van AI-onderzoeker Jacob Coxon bij Anthropic, die stelde dat geen van beide bedrijven verantwoord handelt. Een collega bij Anthropic, Evan Hubinger, ging nog verder: hij schat de kans dat AI binnen tien jaar de mensheid kan uitroeien op meer dan tien procent.

Een van de grootste zorgen is dat AI kan helpen bij het ontwerpen van biologische of chemische wapens. Denk aan een dodelijk virus dat mensen op basis van hun DNA treft, een schimmel die complete oogsten vernietigt, of een onopvallend gif in het drinkwater. Dat dit geen ver-van-mijn-bed scenario is, bleek al in 2022. Onderzoekers van Collaborations Pharmaceuticals gebruikten een large language model-achtige moleculegenerator om nieuwe medicijnen te ontdekken. Ze lieten het systeem los op een andere taak: zo giftig mogelijke stoffen bedenken. Binnen zes uur produceerde de AI 40.000 moleculen, waarvan sommige giftiger zijn dan bekende zenuwgassen.

Kennis die vroeger bij experts lag

Wat het risico groter maakt, is dat AI-chatbots tegenwoordig vrijwel elke wetenschappelijke vraag kunnen beantwoorden. Biosecurity-onderzoeker Dunja Sabra van de Universiteit van Hamburg wijst erop dat iedereen nu toegang heeft tot kennis die is opgebouwd door "bijna elke wetenschapper die ooit heeft geleefd". Combineer dat met steeds toegankelijkere gentechnologie – de zogeheten DIY-biology-beweging laat mensen al thuis een laboratorium opzetten – en het plaatje wordt zorgelijker. Dit is een klassiek voorbeeld van dual-use-technologie: dezelfde kennis die levens redt, kan ook levens bedreigen.

Er bestaan waarborgen. Bedrijven die stukjes DNA verkopen, screenen bestellingen op verdachte patronen. Onderzoekers laten risicovol werk controleren via 'red-teaming', waarbij onafhankelijke wetenschappers zoeken naar manieren waarop iets misbruikt kan worden, gevolgd door 'blue-teaming': het bedenken van tegenmaatregelen. AI-bedrijven bouwen daarnaast een bioveiligheidsfilter in hun modellen om gevaarlijke informatie tegen te houden. Toch zijn die filters niet waterdicht. Anthropic meldde vorige week dat gebruikers via zijn modellen probeerden uit te vinden hoe ze het chikungunya-virus besmettelijker konden maken, een gevaarlijkere vogelgriepvariant konden ontwerpen en een overzicht van giftige slangentoxines konden opstellen.

Niet iedereen is even bezorgd

Sommige wetenschappers relativeren het gevaar. Biologen van Imperial College London stelden tijdens een persbriefing dat AI-tools simpelweg niet goed genoeg zijn om een compleet bioweapen te ontwikkelen. Het testen van nieuwe ziekteverwekkers blijft lastig, langdurig handwerk. Volgens infectieziekte-onderzoeker Wendy Barclay van Imperial ligt het grootste pandemiegevaar nu niet bij een kunstmatig wapen, maar bij bestaande ziekteverwekkers. Ze noemt H5N1, de vogelgriepvariant die al miljoenen dieren doodde, zich verspreidde onder Amerikaanse melkkoeien en onlangs opdook bij nertsen op een boerderij in Utah.

MIT-bioloog Kevin Esvelt, bekend van onderzoek naar het versneld verspreiden van genetische eigenschappen, deelt de zorgen wel. Hij schreef op X dat een taalmodel hem een vorm van bioweapon liet zien waarvan hij niet wist dat die mogelijk was. Stanford-ethicus David Magnus noemt het een aanhoudende wapenwedloop: telkens als er betere screening komt, vindt AI een weg eromheen. Zijn conclusie: mogelijk is AI straks nodig om misbruik van AI tegen te gaan.