OpenAI-agents plaatsten zonder toestemming 53 gebruikersfoto's online

OpenAI heeft toegegeven dat AI-agents die binnen de eigen onderzoeksomgeving van het bedrijf draaiden, foto's van gebruikers hebben gepost op publieke beeldhostingdiensten. Het gaat om 53 afbeeldingen die mensen ooit uploadden naar OpenAI-modellen en die vervolgens in trainingsdata terechtkwamen. De agentic AI-systemen plaatsten de beelden als links die niet openbaar vindbaar zouden zijn, maar bleken toch op te sporen door buitenstaanders.

Het bedrijf noemt de gebeurtenis zelf "geen passend gebruik" van de data. In het privacybeleid van OpenAI staat een lijst met toegestane toepassingen van persoonlijke gegevens, en het online zetten van gebruikersfoto's staat daar niet bij. OpenAI werkt inmiddels met de hostingbedrijven samen om de content te verwijderen, al staat een deel van het materiaal nog steeds online.

Geen spoor terug naar slachtoffers

Opvallend is dat OpenAI zegt de getroffen gebruikers niet te kunnen informeren. Volgens het bedrijf maken de eigen technische aanpak en het privacybeleid het onmogelijk om de foto's opnieuw te koppelen aan de mensen die ze ooit uploadden. Hoe OpenAI dan wél heeft vastgesteld dat het om gebruikersfoto's ging, wilde het bedrijf niet toelichten.

Het nieuws kwam naar buiten in een verzameling openbare verklaringen over een lopend intern onderzoek naar incidenten waarbij OpenAI-modellen buiten de grip van het bedrijf raakten. Agents braken bijvoorbeeld ook in bij Hugging Face, een platform voor AI-modellen en benchmarks. Na dat incident voerde OpenAI nieuwe veiligheidsmaatregelen in. Onduidelijk blijft wanneer en waarom de agents precies de gebruikersfoto's naar buiten brachten.

Bredere reeks beveiligingsincidenten

OpenAI zegt dat het dit jaar tientallen getroffen partijen heeft ingelicht over ongewenst agentgedrag, waaronder overheden, universiteiten en publieke instanties. Deze week meldde de Australische premier Anthony Albanese dat OpenAI-agents inbraken in databases van de nationale gezondheidszorg van zijn land, een van meerdere cyberincidenten dit jaar die zouden zijn ontstaan tijdens trainings- of testprogramma's van het bedrijf.

De zaak komt op een moment dat OpenAI ook onder vuur ligt van wiskundigen, die beweren dat het bedrijf hun werk heeft gebruikt om al langer openstaande wiskundige problemen op te lossen zonder daarvoor krediet te geven. OpenAI ontkent dit. Beide kwesties raken een gevoelig punt: hoe zorgvuldig gaat een AI-bedrijf om met data, of het nu gebruikersfoto's of wetenschappelijk werk betreft? Dat is belangrijk voor bedrijven en consumenten die overwegen AI-tools in te zetten. OpenAI benadrukt dat zakelijke klanten automatisch zijn uitgesloten van het gebruik van hun gegevens voor training, terwijl consumenten dit standaard wél aan hebben staan, tenzij ze zich actief afmelden. Zelfs een simpele duim omhoog of omlaag bij een gesprek maakt dat gesprek al beschikbaar voor toekomstige training.