Nieuwste AI-beeldmodellen van OpenAI en Google blijken juist kwetsbaarder voor naaktfoto's

Het onderzoeksbureau White Circle, opgericht door voormalige medewerkers van Anthropic, DeepMind, Hugging Face en OpenAI, testte de beveiliging van grote beeldgeneratoren tegen het maken van expliciete content. Via een jailbreak-methode omzeilden de onderzoekers de filters die zulke content moeten blokkeren. Bij DALL·E 3 leverde dat in 13 procent van de gevallen een expliciet beeld op, bij Google's Nano Banana 2 was dat bijna 10 procent en bij GPT-Image-2 ongeveer 3 procent. Volgens White Circle is dat het hoogste percentage dat ooit is gemeten met een vergelijkbare testmethode, en daarbij was geen geavanceerde technologie nodig: alleen gratis software en gewone aanroepen van de API van de modellen.

Een aanvalsmethode die overal werkt

De onderzoekers noemen hun techniek RISE, wat staat voor Red-teaming via Iterative Strategy Evolution. In plaats van losse pogingen te doen, zoekt het systeem naar patronen die bij meerdere modellen tegelijk werken. Het systeem bestaat uit twee onderdelen: een 'aanvallend' model dat voortdurend nieuwe omzeilingen verzint, en een beoordelaarsmodel dat controleert of de uitkomst daadwerkelijk verboden content is. Dat laatste onderdeel functioneert als een soort AI-scheidsrechter die het werk van het andere model beoordeelt. Beide onderdelen zijn gebaseerd op bestaande, vrij beschikbare modellen, niet op de nieuwste en krachtigste technologie. Dat is volgens oprichter Denis Shilov een belangrijk signaal: je hebt geen supercomputer nodig om de verdediging van de grootste techbedrijven te doorbreken.

Nieuwere modellen presteren slechter

Toen OpenAI en Google recent nieuwe versies uitbrachten, zoals ChatGPT Images 2.5 en Nano Banana 2.1, testte White Circle die opnieuw met dezelfde methode. De uitkomst: beide nieuwe modellen waren aanzienlijk makkelijker te misbruiken dan hun voorgangers. Een mogelijke verklaring is dat nieuwere modellen simpelweg veel meer kunnen, waardoor ze ook breder inzetbaar zijn voor ongewenste content. Een andere, ongemakkelijker verklaring is dat techbedrijven in de race om steeds krachtigere modellen minder tijd en geld steken in beveiliging. Dit soort veiligheidsfilters wordt wel voortdurend bijgewerkt, maar blijkbaar niet snel genoeg om de nieuwste aanvalsmethoden voor te blijven.

Roep om onafhankelijke controle

White Circle wil de volledige aanvalsmethode openbaar maken, zodat andere onderzoekers en de modelmakers zelf de omvang van het probleem kunnen beoordelen. De resultaten worden in november gepresenteerd op NeurIPS 2026, een grote internationale AI-conferentie, wat de druk op Google en OpenAI verder kan vergroten. Het bedrijf pleit daarnaast voor verplichte, onafhankelijke red teaming door externe partijen, vergelijkbaar met internationale controles op kernwapens. OpenAI en Anthropic willen echter dat externe onderzoekers strikte geheimhoudingsverklaringen tekenen om bedrijfsgeheimen te beschermen, iets waar White Circle niet aan mee wil werken omdat dat publiekelijk delen van kritieke bevindingen zou belemmeren.