OpenAI zet zwaarste beveiliging in na risico's rond AI-model Astra

OpenAI test AI-modellen voordat ze uitkomen op mogelijke risico's, via het zogeheten Preparedness Framework. Dit interne toetsingskader, geïntroduceerd eind 2023, deelt modellen in naar risiconiveau op gebieden als cyberbeveiliging en biologische veiligheid. Astra is het eerste model dat mogelijk de hoogste categorie 'Critical' bereikt op het gebied van cyberbeveiliging. Eerdere topmodellen van het bedrijf, waaronder GPT-5.6-Sol, bleven steken op het niveau daaronder, 'High'.

Wat maakt Astra zo gevaarlijk?

Volgens OpenAI's eigen definitie valt een model in de categorie Critical als het zelfstandig werkende zero-day-kwetsbaarheden kan vinden en uitbuiten in goed beveiligde systemen, of als het op basis van een breed omschreven doel zonder mensenhulp een verfijnde cyberaanval kan uitvoeren. Interne evaluaties, ondersteund door onafhankelijke experts, lieten grote sprongen zien in Astra's vermogen om zelfstandig code te schrijven en exploits te ontwikkelen. OpenAI benadrukt dat de tests nog niet zijn afgerond en dat nog niet vaststaat of Astra de drempel daadwerkelijk overschrijdt. Het bedrijf meldt ook dat Astra geen rol speelde bij de recente aanval op AI-platform Hugging Face.

Extra beveiliging en toezicht

OpenAI heeft de ontwikkelomgeving rond Astra flink aangescherpt. Engineers werken nu in geïsoleerde testsystemen met strengere netwerkbeperkingen, zwaardere versleuteling van modelgewichten en extra monitoring. Werkzaamheden aan Astra die nog niet aan deze nieuwe eisen voldoen, liggen voorlopig stil. Ook is er verscherpt toezicht op alle toepassingen waarin Astra zelfstandig taken uitvoert: monitoringsystemen lezen het redeneerproces van het model tijdens training en tests via chain-of-thought-monitoring, en kunnen ingrijpen zodra ze verdacht of riskant gedrag signaleren.

Voordat Astra ooit bij gebruikers terechtkomt, wil OpenAI het model laten testen door externe partijen, waaronder overheidsinstanties en onafhankelijke AI-veiligheidsorganisaties. Die krijgen aanbevolen beveiligingsmaatregelen mee voor het testen van een model met verhoogd risico. Deze aanpak volgt op een vergelijkbare stap die OpenAI in 2025 zette, toen modellen dicht bij de hoogste risicocategorie voor biologische dreigingen kwamen.

OpenAI stelt dat het einddoel ondanks de strenge maatregelen ongewijzigd blijft: een frontier-model bouwen dat de digitale verdediging juist versterkt. Cybersecurityprofessionals zouden zo geholpen worden kwetsbaarheden op te sporen en te repareren voordat kwaadwillenden ze kunnen misbruiken. Het bedrijf zegt Astra breed beschikbaar te willen maken zodra het aan alle veiligheidseisen voldoet.