AI & computing › Generatieve AI & synthetische media
Google gebruikt Gemini-chats voor AI-training, ook bij betaalde abonnementen
Wie een betaald Google AI-abonnement heeft, denkt vaak dat zijn gegevens daardoor beter beschermd zijn. Uit documentatie van Google blijkt echter dat chatgeschiedenis in Gemini standaard wordt gebruikt om AI-modellen te trainen, ook bij persoonlijke, betaalde accounts. Alleen door een instelling uit te zetten of tijdelijke chats te gebruiken, ontkom je daaraan.
Een gebruiker op het forum Hacker News wees er deze week op dat Google's chatbot Gemini standaard gesprekken opslaat en gebruikt voor training, zelfs bij mensen met een betaald abonnement op Google AI. De informatie staat zwart-op-wit in de officiële hulppagina's van Google, maar is voor veel gebruikers onbekend. Zij gaan ervan uit dat betalen voor een dienst betekent dat hun gegevens niet worden ingezet om het product te verbeteren.
Wat Google precies doet
Volgens Google's eigen documentatie wordt gespreksactiviteit in de Gemini-app gebruikt om 'Google-diensten voor iedereen te verbeteren, inclusief het trainen van generatieve AI-modellen', zolang de instelling 'Keep Activity' (gespreksgeschiedenis bewaren) aanstaat. Die instelling staat standaard ingeschakeld. Daarnaast meldt Google dat een deel van de gesprekken wordt bekeken door menselijke beoordelaars. Google zegt dat deze beoordelaars de gesprekken los van de accountgegevens van de gebruiker te zien krijgen, maar waarschuwt gebruikers wel expliciet om geen vertrouwelijke informatie te delen die ze niet aan een beoordelaar zouden willen laten zien. Gesprekken die door mensen zijn beoordeeld, worden volgens Google tot drie jaar bewaard. Dat gebeurt zelfs als een gebruiker zijn eigen activiteit uit de geschiedenis verwijdert.
Hoe je het kunt uitzetten
Wie niet wil dat zijn gesprekken worden gebruikt voor training, moet de instelling 'Keep Activity' handmatig uitschakelen in de instellingen van Gemini. Dat heeft wel een nadeel: gesprekken worden dan na 72 uur automatisch verwijderd, waardoor gebruikers geen chatgeschiedenis meer kunnen opbouwen of op eerdere gesprekken kunnen teruggrijpen. Een alternatief is het gebruik van zogeheten tijdelijke chatsessies, die vergelijkbaar zijn met een incognitovenster in een browser en niet worden opgeslagen.
Discussie over vertrouwen in AI-bedrijven
Het bericht zorgde voor discussie onder technici over het vertrouwen in grote AI-bedrijven. Sommige reacties stellen dat gebruikers er sowieso van moeten uitgaan dat alles wat ze intypen bij een AI-dienst permanent bewaard kan blijven, onafhankelijk van wat een bedrijf op dat moment belooft. Anderen wijzen erop dat het probleem niet uniek is voor Google: ook andere aanbieders van chatbots gebruiken gebruikersdata in meer of mindere mate voor productverbetering, al verschillen de voorwaarden en opt-outmogelijkheden per bedrijf. De zaak laat zien dat 'betalen voor een dienst' niet automatisch betekent dat gegevens niet meer worden gebruikt voor het trainen van AI-modellen. Gebruikers die zeker willen zijn dat hun gesprekken niet worden gebruikt, moeten zelf actief instellingen aanpassen en de voorwaarden van de dienst goed doorlezen.
Achtergrond & begrippen
Wat betekent dit voor de toekomst? Deze zaak laat zien dat privacybescherming bij AI-diensten vaak niet vanzelf meekomt met een betaald abonnement, wat het vertrouwen in grote techbedrijven onder druk zet. Naarmate chatbots een grotere rol krijgen in werk en privéleven, groeit de kans dat gevoelige informatie ongemerkt in trainingsdata of bij menselijke beoordelaars terechtkomt. Dit kan leiden tot strengere regelgeving en meer vraag naar transparante, standaard-privacyvriendelijke AI-diensten.
- Gemini
- De AI-chatbot van Google, vergelijkbaar met ChatGPT, die vragen beantwoordt en teksten genereert.
- Keep Activity
- Een instelling in Gemini die bepaalt of gespreksgeschiedenis wordt opgeslagen en gebruikt voor productverbetering en training.
- Chatgeschiedenis
- Het overzicht van eerdere gesprekken dat een gebruiker met een AI-chatbot heeft gevoerd en dat desgewenst bewaard blijft.
- Trainingsdata
- Gegevens, zoals tekst of gesprekken, die worden gebruikt om een AI-model te leren betere antwoorden te geven.
- Menselijke beoordelaars (human reviewers)
- Medewerkers die een deel van de AI-gesprekken handmatig bekijken om de kwaliteit en veiligheid van het systeem te controleren.
- Large language model (LLM)
- Een groot taalmodel, de technologie achter chatbots zoals Gemini, dat met enorme hoeveelheden tekst is getraind om taal te begrijpen en te genereren.
- Tijdelijke chat
- Een gespreksmodus die niet wordt opgeslagen in de geschiedenis, vergelijkbaar met een incognitovenster in een internetbrowser.
- Opt-out
- De mogelijkheid voor een gebruiker om zich actief af te melden voor een bepaalde verwerking van zijn gegevens, zoals het gebruik voor AI-training.
Bronnen
Dit artikel is met behulp van AI geschreven op basis van bovenstaande bronnen en is geen letterlijke vertaling. Zo werkt onze redactie.
