AI-agents beloven privacy: Meta en OpenAI vallen elkaar nu al af

Grote techbedrijven strijden om de beste AI-agent: software die namens jou taken uitvoert, zoals bestellingen plaatsen, mailtjes beantwoorden of je agenda beheren. Om dat goed te doen, heeft een agent veel persoonlijke informatie nodig. Juist daarom proberen OpenAI en Meta klanten te overtuigen dat hun systeem de data het beste beschermt. Tijdens de ontwikkelaarsconferentie DevDay presenteerde OpenAI-topman Sam Altman eind september zijn nieuwe agent Dots en noemde die een nieuwe standaard voor privacy in AI. Daarmee leek hij impliciet te wijzen naar concurrent Muse van Meta, dat een paar maanden eerder met vergelijkbare woorden werd gelanceerd.

Muse belooft veiligheid, maar struikelt

Meta-topman Mark Zuckerberg presenteerde Muse als 'van de grond af opgebouwd voor privacy en veiligheid'. Gebruikersdata staat op een afgeschermde virtuele computer, een soort digitale kluis met eigen geheugen en browser. Toch kan Meta zelf nog altijd bij die data, al belooft het bedrijf later dit jaar een manier te introduceren waarmee het dat cryptografisch onmogelijk maakt. In de praktijk ging het mis: een beveiligingsonderzoeker vond een zero-day-kwetsbaarheid waarmee iemand Muse kon overnemen (inmiddels gerepareerd), en vlak voor de release kwamen er problemen aan het licht die gebruikers toegang hadden kunnen geven tot interne databases van Meta. Muse trainde bovendien standaard op alles wat gebruikers invoerden, tot ze het uitschakelden. Een journalist meldde dat de agent ongevraagd zijn privéberichten las, en een YouTuber zag dat Muse zijn adres aan een vreemde doorgaf via Facebook Marketplace. Volgens Wired bouwt de app ook uitgebreide profielen op van vrienden en familie van gebruikers.

OpenAI wijst naar Meta, maar heeft minder gebruikers

OpenAI greep de problemen van Meta aan om zijn eigen agent Dots te presenteren als het betrouwbaardere alternatief. Bij de lancering liet Altman zien hoe gebruikers regels kunnen instellen, zoals een maximumbedrag dat Dots zelfstandig mag uitgeven. Voor bedrijven bood OpenAI strengere controlemogelijkheden en de optie voor nul-data-retentie, waarbij niets op OpenAI's servers wordt opgeslagen. Tot nu toe zijn er geen grote privéschandalen rond Dots geweest. Dat is overigens niet verrassend: de agent is alleen beschikbaar voor abonnees die minimaal 100 dollar per maand betalen, waardoor het gebruikersaantal veel kleiner is dan dat van Muse.

Vertrouwen moet nog verdiend worden

Niet elk bedrijf speelt dezelfde kaart. Het bedrijf Instinct kreeg kritiek op te ruime gebruiksvoorwaarden die het vrijwel onbeperkt toegang tot gebruikersdata gaven, en paste die later aan. Volgens critici volgen AI-bedrijven momenteel een vast patroon: agents nuttig en aantrekkelijk maken, de griezeligheid wegnemen met een vriendelijke uitstraling, en vervolgens privacybeloften doen die hopelijk standhouden. Of dat ook echt gebeurt, zal moeten blijken uit hoe deze agents zich de komende maanden in de praktijk gedragen.