Interne documenten: OpenAI en Microsoft wisten van 'doom loop' voor het web

De rechtszaak die The New York Times in 2023 aanspande tegen OpenAI en Microsoft draait om een simpele vraag: mogen techbedrijven jarenlange journalistiek gratis gebruiken om hun chatbots te trainen? Nieuw vrijgegeven interne documenten van 92 pagina's suggereren dat het antwoord binnen de bedrijven zelf allang duidelijk was, en dat de gevolgen bewust op de koop toe werden genomen.

Een intern Microsoft-document waarschuwt met zoveel woorden dat het bedrijf een 'doom loop' in gang heeft gezet: een vicieuze cirkel waarin AI-chatbots als ChatGPT en Copilot de content-industrie uithollen die ze juist nodig hebben om te blijven functioneren. 'Het is hoogst ongebruikelijk dat een eindproduct de economische basis van zijn eigen essentiële leveranciers bedreigt, maar dat is precies de situatie die we hebben gecreëerd', staat er.

Van zoekmachine naar antwoordmachine

Centraal in de zaak staat hoe large language models als GPT-4 werken. Deze modellen worden getraind op enorme hoeveelheden tekst, waaronder artikelen van The New York Times, die zonder toestemming of vergoeding via webscraping zijn verzameld. Microsoft-directeur Brent Hecht noemde dit intern de 'grootste diefstal van arbeid in de menselijke geschiedenis' en stelde dat het beroep op fair use een 'complete schertsvertoning' is. Microsoft distantieert zich inmiddels van die uitspraken en noemt ze een persoonlijke, academische mening van één medewerker.

Ook Microsoft-topman Satya Nadella wordt aangehaald: hij erkent dat chatbots de zoekmachine grotendeels hebben vervangen, waardoor gebruikers niet meer doorklikken naar de oorspronkelijke bron. OpenAI's hoofd van ChatGPT, vermoedelijk Nick Turley, zou intern zelfs hebben gezegd dat er 'geen goede reden meer is om te klikken' zodra een chatbot antwoord geeft. Dat fenomeen staat inmiddels bekend als Google Zero: het moment waarop AI-samenvattingen zoveel zoekverkeer wegkapen dat websites nauwelijks nog bezoekers overhouden. OpenAI's eigen media-experts schatten dat verwijzingsverkeer naar sites als de Times door AI-samenvattingen tot wel 60 procent kan zijn gedaald.

Bewust risico voor 'gazillions'

De documenten tonen ook dat OpenAI al vroeg wist dat GPT-4 grote stukken tekst woordelijk kon reproduceren, ofwel 'regurgiteren', uit bronnen als de Times, Mercury News en Eurogamer. Interne medewerkers erkenden dat het voorkomen van deze geheugenreproductie belangrijk was om auteursrechtinbreuk te beperken, maar constateerden tegelijk dat het model 'enorm veel data heeft onthouden en daardoor extreem goed zal zijn in regurgitatie'.

Waarom gingen de bedrijven toch door? Volgens de rechtbankstukken speelde vooral het commerciële belang. OpenAI-medeoprichter Greg Brockman zou zich intern meer hebben laten leiden door de 'gazillions' aan dollars die commerciële AI kan opleveren dan door zorgen over de uitgeverswereld. Microsoft erkende zelf dat bijna niemand toestemming had gegeven voor het gebruik van zijn werk en dat daar geen vergoeding tegenover stond.

Microsoft benadrukt in reactie op de zaak dat uitspraken van Nadella en Hecht geen juridisch standpunt vertegenwoordigen. Toch tekent de zaak een patroon: bedrijven die vooraf wisten welke schade hun technologie zou aanrichten aan de nieuwsindustrie, en daar toch voor kozen.