AI & computing › Generatieve AI & synthetische media
Gebruikers: OpenAI zet traindata-instelling in Codex ongevraagd weer aan
Gebruikers van OpenAI's codeertool Codex melden dat hun privacy-instelling om chats niet te gebruiken voor modeltraining, zonder waarschuwing weer is ingeschakeld. Het voedt de zorg dat bedrijfsgevoelige code toch in trainingsdata van OpenAI terechtkomt, terwijl gebruikers dachten dit te hebben uitgezet.
Op discussieplatform Hacker News meldde een gebruiker dat hij samen met collega's bewust de instelling "Improve the model for everyone" had uitgezet in Codex, de AI-codeerassistent van OpenAI. Die optie bepaalt of gesprekken en code die je met de chatbot deelt, gebruikt mogen worden om het onderliggende taalmodel te trainen. Gisteren zagen zij echter dat de schakelaar weer op "aan" stond, zonder dat iemand dit zelf had aangepast. Andere gebruikers in de discussie bevestigen dat dit probleem al eerder is gesignaleerd, enkele weken geleden in een vergelijkbare melding op hetzelfde platform.
Voor bedrijven is dit geen klein detail. Veel organisaties die coderingstools zoals Codex of concurrent Claude Code inzetten, zijn bang dat broncode en interne bedrijfslogica via prompts weglekt naar de servers van AI-bedrijven. Als die data vervolgens wordt gebruikt om het model te trainen, kan fragmentarische bedrijfsinformatie in theorie weer opduiken in antwoorden aan andere gebruikers. Daarom zetten voorzichtige IT-afdelingen dit soort instellingen standaard uit.
Waarom dit vertrouwen op het spel zet
De instelling is te controleren via de datacontrole-pagina van ChatGPT. Reageerders op Hacker News wijzen erop dat bedrijven die echt zeker willen zijn, niet op een simpel aan-uitvinkje moeten vertrouwen. Een optie is een zogeheten Zero Data Retention-overeenkomst (ZDR) met OpenAI af te sluiten, waarbij contractueel is vastgelegd dat data niet wordt bewaard of gebruikt voor training. Ook cloudplatforms als Microsoft Azure, Google Cloud en Amazon Web Services bieden afgeschermde versies van AI-modellen aan die niet naar de servers van de modelbouwer zelf communiceren.
Een extra complicatie kwam naar boven in de discussie: gebruikers van het beveiligde "Daybreak Blue"-programma van OpenAI, bedoeld voor extra veilige toegang, kregen een melding dat vanaf 29 november hun sessies toch gebruikt mogen worden om modellen te verbeteren, inclusief het versterken van beveiliging tegen cybermisbruik. Dat gebeurt zelfs wanneer de instelling voor modelverbetering op dat account is uitgeschakeld.
Ook gebruikslimieten minder zichtbaar
In dezelfde discussie merken gebruikers op dat OpenAI recent ook het overzicht van gebruikslimieten in de Codex-app heeft aangepast. Het is voor sommigen moeilijker geworden om te zien hoeveel van hun maandelijkse quotum ze nog over hebben, al bevestigen anderen dat de informatie alleen is verplaatst, niet verwijderd. Voor zakelijke gebruikers die hun AI-kosten en dataverkeer willen bewaken, komt dit incident op een gevoelig moment: het vertrouwen in transparante privacy-instellingen bij grote AI-aanbieders staat al onder druk.
Achtergrond & begrippen
Wat betekent dit voor de toekomst? Als gebruikers niet kunnen vertrouwen op privacy-instellingen bij AI-tools, remt dat de adoptie van AI-codeerassistenten door bedrijven met gevoelige broncode. Het incident versterkt de roep om contractuele garanties en volledig afgeschermde AI-infrastructuur in plaats van losse instellingen in een gebruikersinterface.
- Codex
- De AI-codeerassistent van OpenAI, waarmee gebruikers met tekstprompts code laten schrijven of aanpassen.
- Modeltraining
- Het proces waarbij een AI-model leert van voorbeelddata; gesprekken of code die hiervoor gebruikt worden, kunnen invloed hebben op toekomstige antwoorden van het model.
- Data sharing / "Improve the model for everyone"
- Een instelling bij OpenAI die bepaalt of gebruikersgesprekken gebruikt mogen worden om het AI-model te verbeteren.
- Zero Data Retention (ZDR)
- Een contractuele afspraak waarbij een AI-aanbieder toezegt geen gebruikersdata op te slaan of te gebruiken voor training.
- IP (intellectual property)
- Intellectueel eigendom, zoals broncode of bedrijfsgeheimen, dat bedrijven willen beschermen tegen lekken.
- Gated/afgeschermde modellen
- AI-modellen die draaien binnen een afgesloten cloudomgeving (zoals Azure of AWS) zonder dat data naar de oorspronkelijke modelbouwer gaat.
Bronnen
Dit artikel is met behulp van AI geschreven op basis van bovenstaande bronnen en is geen letterlijke vertaling. Zo werkt onze redactie.
