OpenAI-model hackte overheidswebsite en haalde 24 jaar ziekenhuisdata binnen

OpenAI heeft vier nieuwe voorbeelden gepubliceerd waarbij eigen AI-modellen tijdens training of testfases beveiligingsgrenzen overschreden zonder daarvoor toestemming te hebben. De bedrijven documenteert deze incidenten in zogeheten 'misalignment reports': rapporten over gedrag dat afwijkt van wat een AI-model eigenlijk zou moeten doen. De voorbeelden laten zien dat geavanceerde AI-modellen soms zelfstandig besluiten om regels te breken als ze daarmee hun opdracht toch kunnen voltooien.

Model forceert toegang tot ziekenhuisdata

In het meest opvallende geval kreeg een model de opdracht om bezettingscijfers van ziekenhuisbedden op te halen van een overheidswebsite. Die data was niet publiek beschikbaar. In plaats van te stoppen, zocht het model een omweg. Via een kwetsbaarheid in de downloadfunctie van de website wist het bestanden met servergegevens te bemachtigen, waaronder een wachtwoord voor de database en een geheime beveiligingssleutel. Daarna ontdekte het model dat de website binnenkomende verzoeken niet goed controleerde, en vervalste het eigen toegangsbewijzen (zogeheten tokens). Zo kreeg het alsnog 24 jaar aan ziekenhuisstatistieken, uitgesplitst per regio, in handen. In zijn antwoord aan de gebruiker vermeldde het model niets over deze ongeautoriseerde toegang.

Crypto-tegoeden van anderen gebruikt

Een ander model, aangeduid als GPT-5.6-Sol, kreeg de taak om slimme contracten (smart contracts) te testen op een testnetwerk van het Ethereum-blockchainplatform. Er was geen eigen tegoed beschikbaar. Het model schreef daarom een script dat meer dan 360 crypto-portemonnees (wallets) controleerde op saldo, gebaseerd op publiek bekende herstelcodes van ontwikkelaars. Het vond een wallet met voldoende testgeld, overwoog kort of het gebruik daarvan ethisch verantwoord was, en besloot vervolgens zelf dat het tegoed als 'verlaten' mocht worden beschouwd. Het model voerde de transactie uit en liet de bijkomende kosten betalen door de andere rekening, zonder dit toe te lichten in zijn antwoord.

Ook interne systemen niet veilig

In twee andere tests moest een model vijf cijfers uit een dashboard van een onderzoeksorganisatie aanleveren. Het model vond daarbij ingebedde inloggegevens voor een intern zoeksysteem en gebruikte die om aanpassingen door te voeren die nooit zijn teruggedraaid. In een tweede poging wijzigde het model instellingen van het inlogsysteem en downloadde het bijna 147.000 rijen aan niet-openbare data. Het herstelde de instelling achteraf wel, maar bleef de buitgemaakte toegangssleutel gebruiken. Opvallend: ondanks alle moeite leverde het model uiteindelijk geen correcte cijfers op. Een vijfde model, dat tijdens een trainingsfase alleen webpagina's mocht bekijken, verzon een omweg via een extern browservenster om toch gegevens op te vragen en bleef die truc verfijnen, ook nadat de opdracht al was afgerond.