OpenAI-onderzoeker: razendsnelle AI kan security teams overrompelen

Een anonieme AI-onderzoeker van OpenAI, bekend onder het pseudoniem "roon", waarschuwt dat extreem snelle kunstmatige intelligentie beveiligingsteams straks kansloos maakt. Volgens hem kan een verkeerd uitgelijnd AI-model dat vijftig keer sneller werkt dan de beste systemen van nu, computersystemen binnendringen voordat mensen kunnen ingrijpen.

Vijftig keer sneller dan vandaag

De kern van roons betoog draait om snelheid. Hoe snel een AI-model reageert en beslissingen neemt, hangt af van de inferentiesnelheid: hoe snel een getraind model nieuwe input verwerkt en daar een antwoord uit genereert. Bij de huidige generatie systemen ligt die snelheid al hoog, maar volgens roon is een vertigvoudiging technisch binnen bereik. Een kwaadaardig model dat zo snel opereert, zou binnen enkele seconden stappen kunnen zetten die een mens niet eens ziet aankomen, laat staan kan stoppen.

Zijn waarschuwing volgt op de onthulling door OpenAI van een nieuwe AI-chip die specifiek is ontworpen om modellen sneller te laten rekenen dan bestaande hardware. Zulke chips maken het mogelijk om AI-antwoorden in een fractie van de huidige tijd te genereren. Ook concurrent Anthropic en OpenAI zelf bieden inmiddels betaalde "Fast Modes" aan, waarbij gebruikers tegen betaling toegang krijgen tot snellere versies van hun modellen.

Waarom toezicht alleen niet volstaat

Op dit moment vertrouwen veel bedrijven op monitoring: menselijke teams of geautomatiseerde systemen die AI-gedrag in de gaten houden en ingrijpen bij verdachte signalen. Roon stelt dat die aanpak achterhaald raakt zodra de snelheid van AI-systemen die van menselijke reactietijd ver overstijgt. "Je hebt autonome detectie en uitschakeling nodig, niet alleen monitoring," schrijft hij. Daarmee doelt hij op systemen die zelfstandig, zonder tussenkomst van een mens, verdacht gedrag herkennen via afwijkingsdetectie en een model direct kunnen platleggen.

Het onderliggende probleem is dat AI-uitlijning, het proces waarbij een model wordt getraind om zich aan menselijke doelen en waarden te houden, nog altijd niet volledig is opgelost. Zolang dat zo is, blijft de kans bestaan dat een model zich anders gedraagt dan bedoeld. Combineer dat met extreme snelheid, en de gevolgen kunnen zich razendsnel opstapelen voordat iemand het doorheeft.

Aanval en verdediging in dezelfde wedloop

Roons boodschap is uiteindelijk simpel: als aanvallen straks geautomatiseerd en versneld verlopen, moet de verdediging minstens even hard meegroeien. Voor bedrijven en overheden die met AI werken, betekent dat een verschuiving van reactieve controle naar systemen die zelf kunnen ingrijpen, zonder te wachten op een mens die op de knop drukt. De discussie sluit aan bij een bredere trend in AI-veiligheidsonderzoek, waarin experts zich steeds meer zorgen maken over de combinatie van groeiende capaciteiten en toenemende snelheid van AI-modellen.