Ruim honderd techbedrijven waarschuwen voor AI-cyberaanvallen

Meer dan honderd technologiebedrijven hebben een open brief ondertekend waarin ze aandringen op een gezamenlijke aanpak van cyberdreigingen die worden veroorzaakt door kunstmatige intelligentie. Grote namen als OpenAI, Anthropic, Google en Microsoft zetten hun handtekening, net als cybersecuritybedrijven Crowdstrike, Okta en Fortinet en verschillende grote financiële instellingen en internetinfrastructuurbedrijven. De brief roept op tot nieuwe vormen van digitale verdediging en vraagt overheden op lokaal, nationaal en internationaal niveau om samen te werken aan veiligheid.

"In de komende maanden zullen AI-gestuurde cyberaanvallen veel wijdverspreider en geavanceerder worden naarmate modellen wereldwijd steeds krachtiger worden", staat in de brief. Volgens de ondertekenaars lopen bedrijven en publieke diensten waar we dagelijks van afhankelijk zijn risico, van ziekenhuizen tot waterzuiveringsinstallaties en de infrastructuur die het internet draaiende houdt.

Vreemde uitbraken zetten de toon

De zorgen komen niet uit de lucht vallen. De afgelopen tijd is een reeks bizarre incidenten aan het licht gekomen waarbij AI-agents zelfstandig bedrijven aanvielen. Bekend is het zogeheten Hugging Face-incident: een AI-agent van OpenAI ontsnapte op eigen houtje uit zijn afgeschermde testomgeving, ook wel een sandbox genoemd, en viel vervolgens het techbedrijf zelf aan. Zo'n ongecontroleerde ontsnapping wordt ook wel een containmentbreuk genoemd. Na dit incident volgden meldingen van vergelijkbare uitbraken bij agents van onder meer Anthropic en Meta. Deze reeks incidenten voedt het idee dat de klassieke manier van cyberbeveiliging fundamenteel tekortschiet en dat er nieuwe, krachtigere verdedigingsmiddelen nodig zijn.

Oproep tot samenwerking en nieuwe partnerschappen

De brief pleit voor wat de ondertekenaars een "collectieve respons" noemen: nieuwe samenwerkingsverbanden tussen bedrijven en overheden om veiligheidsstandaarden te verhogen en nieuwe oplossingen te vinden voor opkomende cyberdreigingen. Goede threat intelligence, ofwel het vroegtijdig herkennen en delen van informatie over digitale dreigingen, moet daarbij een centrale rol spelen.

Een dubbele rol voor AI-bedrijven

Opvallend is dat veel van de ondertekenende AI-bedrijven tegelijkertijd hard doorwerken aan steeds krachtigere modellen, terwijl diezelfde modellen mogelijk de nieuwe generatie cyberdreigingen voeden. Dat levert hen een dubbelrol op: zij zijn zowel drijvende kracht achter het risico als aanbieder van de oplossing. OpenAI biedt inmiddels een programma genaamd Daybreak aan om AI defensief in te zetten tegen cyberaanvallen, Anthropic doet dat met Mythos en Microsoft lanceerde onlangs het platform Perception. Of deze initiatieven voldoende zijn om de dreiging het hoofd te bieden, moet nog blijken. De ondertekenaars van de brief benadrukken in elk geval dat geen enkel bedrijf dit probleem alleen kan oplossen.