AI & computing › Generatieve AI & synthetische media
OpenAI's GPT-6 Cyber vindt tientallen onbekende lekken in Firefox
OpenAI heeft een nieuwe versie van zijn gespecialiseerde cybersecurity-AI gelanceerd: GPT-6 Cyber. Het model vindt fors meer digitale zwakke plekken dan zijn voorganger en ontdekte in een test 81 onbekende lekken in de browser Firefox. Tegelijk claimt OpenAI dat het model zich beter houdt aan de grenzen van toegestane beveiligingstests.
GPT-6 Cyber is een versie van OpenAI's taalmodel die speciaal is getraind om softwarefouten op te sporen en zelf werkende exploits te bouwen: programma's die een kwetsbaarheid daadwerkelijk misbruiken. Dat soort werk doen anders alleen gespecialiseerde beveiligingsonderzoekers, die bedrijven inhuren om systemen te testen voordat criminelen dat doen.
Flinke sprint in exploit-vaardigheid
Op de testbenchmark ExploitGym, die meet of een AI-model opgegeven kwetsbaarheden op afstand kan misbruiken, scoorde GPT-6 Cyber 48,5 procent. Dat is 51 procent hoger dan de 32,1 procent van voorganger GPT-5.6 Cyber. Volgens OpenAI presteert het nieuwe model ook beter dan het bredere, niet-gespecialiseerde model GPT-6 Astra op de meeste cyberbeveiligingstaken. Vanwege deze sprong classificeert OpenAI het risico van GPT-6 Cyber nu als 'kritiek' in zijn interne veiligheidskader, een stap hoger dan de classificatie 'hoog' die gold voor de vorige versie.
Tachtig nieuwe zwakke plekken in Firefox
OpenAI zette het model in om de broncode van browser Firefox te doorzoeken. Dat leverde 81 nieuwe, als zeer ernstig beoordeelde kwetsbaarheden op, plus dertig eerder gemelde bugs die in werkelijkheid gevaarlijker waren dan gedacht. De onderzoekers gaven browserbouwer Mozilla bewijsmateriaal, herhaalbare tests en kant-en-klare reparaties. Mozilla is inmiddels begonnen met het uitbrengen van updates om de gaten te dichten. In een vergelijkbaar onderzoek naar de Linux-kernel, de kern van besturingssysteem Linux, herhaalde GPT-6 Cyber 1.724 bekende kwetsbaarheden en bouwde het voor 948 daarvan een werkende exploit. 304 van de ernstigste bevindingen zijn gemeld aan de beheerders van Linux, inclusief voorgestelde oplossingen. Ook in een test waarbij het model live websites moest aanvallen zonder toegang tot de broncode, scoorde GPT-6 Cyber met 40,3 procent beter dan Astra, dat op 32 procent bleef steken.
Grenzen bewaken tijdens tests
Omdat een model dat exploits kan bouwen ook misbruikt kan worden, testte OpenAI of GPT-6 Cyber zich houdt aan afgesproken grenzen. In een speciale test kregen modellen toegang tot omgevingen met kwetsbare systemen die buiten de afgesproken testopdracht vielen. Zonder extra veiligheidsinstructies bleef GPT-6 Cyber in 99,93 procent van de gevallen binnen de toegestane grenzen; met die instructies aan werd dat 100 procent. Voorganger GPT-5.6 Cyber scoorde zonder instructies 94,49 procent. OpenAI combineert dit met extra toezicht, beperkingen voor risicovolle taken rond vitale infrastructuur en menselijke controle bij gevoelige opdrachten. GPT-6 Cyber is vooralsnog alleen beschikbaar via de API en ontwikkelomgeving Codex voor een select aantal goedgekeurde zakelijke klanten binnen het zogeheten Daybreak Red-programma. OpenAI wil die toegang later uitbreiden en ook GPT-5.6 Cyber breder beschikbaar maken.
Achtergrond & begrippen
Wat betekent dit voor de toekomst? AI-modellen die zelf softwarelekken vinden en exploits bouwen, kunnen bedrijven helpen kwetsbaarheden te dichten voordat criminelen die ontdekken, zoals nu al gebeurt bij Firefox en Linux. Diezelfde kracht maakt zulke modellen ook aantrekkelijk voor kwaadwillenden, waardoor fabrikanten als OpenAI steeds strengere grenzen en controlemechanismen moeten inbouwen voordat ze dit soort AI breder beschikbaar maken.
- Exploit
- Een stukje code of een methode die een softwarefout actief misbruikt om toegang te krijgen tot een systeem.
- ExploitGym
- Een testomgeving (benchmark) waarmee wordt gemeten hoe goed een AI-model opgegeven kwetsbaarheden in een systeem op afstand kan misbruiken.
- Kwetsbaarheid (high severity)
- Een fout in software die aanvallers kunnen gebruiken om een systeem binnen te komen; 'high severity' betekent dat de mogelijke schade groot is.
- Preparedness Framework
- Het interne veiligheidskader van OpenAI waarmee het bedrijf de risico's van zijn eigen AI-modellen inschaalt, van laag tot kritiek.
- Penetratietest
- Een gecontroleerde, toegestane aanval op een systeem om zwakke plekken op te sporen voordat echte aanvallers dat doen.
- Linux-kernel
- De kern van het besturingssysteem Linux, dat wereldwijd veel servers en apparaten aandrijft.
- Honeypot-test
- Een testopzet met kwetsbare lokonderdelen die buiten de afgesproken testopdracht vallen, gebruikt om te checken of een AI-model zich aan de regels houdt.
- Recall
- Het percentage van alle daadwerkelijk aanwezige kwetsbaarheden dat een model succesvol terugvindt.
- Daybreak Red
- Een afgeschermd toegangsprogramma van OpenAI waarmee uitsluitend goedgekeurde zakelijke klanten gebruik mogen maken van de krachtigste cyberbeveiligingsmodellen.
- Codex
- De programmeeromgeving van OpenAI waarmee ontwikkelaars AI-modellen kunnen inzetten voor codeer- en beveiligingstaken.
Bronnen
Dit artikel is met behulp van AI geschreven op basis van bovenstaande bronnen en is geen letterlijke vertaling. Zo werkt onze redactie.
