AI & computing › AI-gestuurde wetenschappelijke ontdekkingen
Anthropic blijkt eigen laboratorium te runnen voor biologie-experimenten
AI-bedrijf Anthropic heeft een eigen laboratorium in de Bay Area waar het fysieke biologie-experimenten uitvoert, zo bevestigt het bedrijf aan TechCrunch. Het lab moet de theorieën van Anthropics AI-modellen in de praktijk toetsen, terwijl het bedrijf tegelijk waarschuwt voor de risico's van diezelfde technologie.
Anthropic, bekend van chatbot Claude, blijkt niet alleen software te bouwen maar ook een eigen 'natlab' te runnen. In dat laboratorium in de Bay Area worden fysieke biologie-experimenten uitgevoerd, bevestigde het bedrijf aan persbureau Reuters en techmedium TechCrunch. Eric Kauderer-Abrams, hoofd levenswetenschappen bij Anthropic, zegt dat het lab werkt zoals een gewoon biotechlab: deels eigen onderzoek, deels samenwerking met externe partners. "De uiteindelijke test voor biologie blijft nog lange tijd echt laboratoriumwerk. Dat doen we vandaag al", aldus Kauderer-Abrams.
De stap past bij de ambities van Anthropic-topman Dario Amodei, die vorige week nog stelde dat AI de komende vijf tot tien jaar de meeste grote ziektes zou kunnen genezen. Om zulke claims hard te maken, moet een AI-model zijn theorieën ook echt in de praktijk kunnen testen. Anthropic nam in april al Coefficient Bio over, een AI-biotechbedrijf dat tot dan toe in stilte opereerde.
Fundamentele biologie, geen medicijnontwikkeling
Anthropic wil niet kwijt waar precies aan gewerkt wordt in het lab, maar benadrukt dat de focus ligt op fundamentele biologie en niet op medicijnontwikkeling. Dat is geen toeval: het bedrijf heeft grote klanten en partners in de farmaceutische industrie, zoals farmaceut Novo Nordisk, waarmee het onlangs een samenwerking aankondigde voor gezamenlijk medicijnonderzoek. Eerder kreeg Anthropic al kritiek toen het producten lanceerde die leken te concurreren met diensten van eigen klanten. Deze week lanceerde het bedrijf ook het Life Sciences Verification Program, waarmee gescreende biologie-onderzoekers toegang krijgen tot Anthropics krachtigste AI-modellen. Ook publiceerde het bedrijf recent rapporten over het versnellen van eiwitontwerp en over het verbeteren van moleculaire modellering voor medicijnonderzoek.
Contrast met eigen waarschuwingen
Het nieuws van het wetlab staat in schril contrast met recente uitspraken van mensen binnen en rond Anthropic. Onderzoeker Jacob Coxon nam onlangs ontslag bij het bedrijf en waarschuwde dat de mensen die AI bouwen, zelf denken dat het voor het einde van dit decennium tot uitsterven van de mensheid zou kunnen leiden. Het hoofd AI-veiligheidsonderzoek van Anthropic schatte de kans op zo'n scenario zelf op meer dan 10 procent binnen tien jaar. Amodei riep afgelopen weekend de hele AI-sector op om vaart te minderen en zichzelf strenger te reguleren. Hij noemt bioterrorisme herhaaldelijk een van de grootste risico's van AI. Investeerder Chamath Palihapitiya vatte de tegenstelling droogjes samen op X: "De groep achter hits als 'We gaan er allemaal aan' en 'Reguleer mij nu' bouwt een wetlab in San Francisco. Ik raad het niet aan."
Voor Anthropic zelf is de boodschap dat AI-modellen alleen echt waarde hebben in de biologie als hun voorspellingen ook fysiek getoetst kunnen worden. Zonder bioveiligheidsfilters en strenge toegangscontrole, zoals het nieuwe verificatieprogramma, ligt misbruik van zulke krachtige combinaties van AI en laboratoriumwerk echter op de loer.
Achtergrond & begrippen
Wat betekent dit voor de toekomst? Als AI-modellen hun biologische voorspellingen ook fysiek kunnen testen, kan dat medisch onderzoek flink versnellen, van eiwitontwerp tot het begrijpen van ziekteprocessen. Tegelijk vergroot de combinatie van krachtige AI en een echt laboratorium de risico's rond misbruik, wat uitlegt waarom Anthropic naast het lab ook strengere toegangscontrole en veiligheidswaarschuwingen naar buiten brengt.
- Natlab
- Een laboratorium waar onderzoekers fysieke, 'natte' experimenten doen met chemicaliën, cellen of weefsel, in tegenstelling tot puur computerwerk in een 'droog lab'.
- Eiwitontwerp
- Het met computermodellen bedenken van nieuwe eiwitten die in de natuur niet bestaan, bijvoorbeeld voor gebruik in medicijnen.
- Bioveiligheidsfilter
- Een technisch systeem dat moet voorkomen dat AI-modellen worden misbruikt om gevaarlijke biologische stoffen of wapens te ontwerpen.
- AI-veiligheidsonderzoek
- Het vakgebied dat onderzoekt hoe je voorkomt dat krachtige AI-systemen schadelijk of oncontroleerbaar gedrag vertonen.
- AI-misalignment
- De situatie waarin een AI-systeem andere doelen nastreeft dan de mensen die het gebouwd hebben eigenlijk bedoelden.
Bronnen
Dit artikel is met behulp van AI geschreven op basis van bovenstaande bronnen en is geen letterlijke vertaling. Zo werkt onze redactie.
