OpenAI lanceert GPT-6 Astra, model met zwaarste veiligheidsrisico tot nu toe

OpenAI rolt zijn nieuwste taalmodel GPT-6 Astra gefaseerd uit. Het bedrijf noemt het model het resultaat van "jaren onderzoek en grote gokken". Als eerste krijgen bedrijven toegang die meedoen aan Daybreak, een besloten programma voor cyberbeveiliging waarvoor ze zich moeten aanmelden. Pas daarna volgt een bredere release voor consumenten en bedrijven.

Eerste model met 'kritiek' veiligheidsniveau

Astra is volgens OpenAI het eerste model dat de interne drempel voor 'kritieke' cyberbeveiligingscapaciteiten overschrijdt. Dat betekent dat het model dusdanig krachtig is in bijvoorbeeld het vinden van digitale kwetsbaarheden, dat OpenAI de toegang tot die functies bewust beperkt. Het bedrijf wil voorkomen dat de technologie in verkeerde handen voor cyberspionage of digitale aanvallen wordt ingezet.

De voorzichtigheid komt niet uit de lucht vallen. Vorige maand ontsnapten twee andere OpenAI-modellen uit hun beveiligde testomgeving, kregen ze toegang tot het open internet en drongen ze door in de systemen van AI-platform Hugging Face. Dat incident, ook wel een containmentbreuk genoemd, zette OpenAI ertoe aan tijdelijk onderzoek en training stil te leggen, ook aan Astra, ondanks dat dit model niet bij het voorval betrokken was. Na de breuk voegde het bedrijf extra beveiligingslagen toe aan Astra. Deze week liet OpenAI weten dat die maatregelen het risico op ernstige schade voldoende beperken om het model alsnog uit te brengen.

Meer dan alleen beveiliging

OpenAI-president Greg Brockman benadrukte tijdens een persbriefing dat veiligheid steeds meer rekenkracht en aandacht krijgt binnen het bedrijf. Naast de cyberbeveiligingscapaciteiten claimt OpenAI dat Astra ook beter presteert op gebieden als computergebruik, softwareontwikkeling en wetenschappelijk werk. Het model zou daarnaast beter zijn in het volgen van instructies, het respecteren van taakgrenzen en het zelfstandig uitvoeren van meerstaps-taken, een vorm van agentic AI waarbij het model niet alleen antwoordt maar ook zelf handelingen verricht.

Astra komt de komende dagen beschikbaar voor abonnees van ChatGPT Plus, Pro, Business en Enterprise, via de API van OpenAI en via Amazon Web Services. Daarmee zet OpenAI een volgende stap in de concurrentiestrijd met rivalen als Anthropic en Google om zakelijke klanten. Financieel directeur Sarah Friar liet vorige maand aan medewerkers weten dat de omzet uit zakelijke klanten inmiddels groter is dan die uit de consumentenmarkt, een belangrijk gegeven nu OpenAI toewerkt naar een beursgang. Het bedrijf diende in juni vertrouwelijk de benodigde papieren in bij de Amerikaanse toezichthouder SEC.