Datacuratie: hoe schone data slimmere AI maakt
Datacuratie is het zorgvuldig verzamelen, opschonen, ordenen en beoordelen van gegevens voordat die gegevens ergens voor gebruikt worden — meestal om een kunstmatige-intelligentiesysteem mee te trainen. Het woord "curator" komt uit de museumwereld: een curator kiest welke werken een tentoonstelling in mogen, verwijdert vervalsingen, herstelt beschadigde stukken en voorziet alles van correcte labels. Datacuratie doet precies dat, maar dan met tekst, afbeeldingen, geluid of meetwaarden in plaats van schilderijen.
Een voorbeeld maakt het concreet. Stel dat een bedrijf een taalmodel wil trainen op alle tekst die het van het internet kan schrapen. Zonder curatie zit daar spam bij, kapotte HTML-restjes, racistische fora-posts, dezelfde Wikipedia-pagina honderd keer gekopieerd, en persoonlijke gegevens die daar niet horen. Datacuratoren — mensen én algoritmes samen — filteren die rommel eruit, verwijderen dubbele teksten, checken op auteursrecht en privacygevoelige informatie, en houden uiteindelijk een kleinere, betrouwbaardere dataset over. Die dataset levert vaak een beter model op dan de ruwe, ongefilterde brei.
Wat is het precies?
Datacuratie verloopt doorgaans in een aantal stappen die na elkaar of in cirkels worden doorlopen.
De eerste stap is verzamelen: data ophalen uit bronnen zoals websites (via zogeheten "crawlers", programma's die automatisch webpagina's aflopen), wetenschappelijke archieven, boeken, sensoren of gebruikersinteracties. Bij deze stap wordt vaak al gekeken naar de herkomst en de licentie van het materiaal: mag dit eigenlijk gebruikt worden?
Daarna volgt opschonen (in het Engels "cleaning"): kapotte tekens, lege pagina's, reclamebanners en niet-relevante bestandsformaten worden verwijderd. Vervolgens komt deduplicatie: identieke of bijna-identieke stukken data worden eruit gefilterd, omdat een model dat te vaak dezelfde zin ziet, die zin gaat overbenadrukken.
Een cruciale stap is filteren op kwaliteit. Hier wordt bijvoorbeeld gemeten hoe "natuurlijk" een tekst leest, of een afbeelding scherp genoeg is, of een label klopt. Steeds vaker gebruikt men hiervoor kleinere AI-modellen die als kwaliteitsfilter fungeren: ze scoren elk stukje data en gooien het laagst scorende deel weg.
Tot slot is er labelen en annoteren: mensen (vaak via crowdsourcing-platforms) of modellen voegen metadata toe, zoals "dit is een kat", "deze zin is beledigend" of "dit artikel gaat over economie". Deze labels maken het mogelijk om data gericht te selecteren of om modellen te trainen op basis van menselijke beoordelingen, zoals bij RLHF (reinforcement learning from human feedback, een techniek waarbij een model leert van menselijke voorkeuren).
Het geheel wordt vaak herhaald: een eerste versie van een model traint men op een grove dataset, de fouten van dat model wijzen op gaten of vervuiling in de data, en die inzichten voeden een volgende, betere curatieronde.
Wat wil men ermee bereiken?
Het achterliggende idee is dat de kwaliteit van een AI-model sterk afhangt van de kwaliteit van de data waarop het traint — vaak samengevat als "garbage in, garbage out" (rommel erin, rommel eruit). Jarenlang lag de nadruk in AI-onderzoek vooral op grotere modellen en meer rekenkracht. Sinds enkele jaren wint het besef terrein dat een kleinere, zorgvuldig samengestelde dataset vaak tot betere resultaten leidt dan een enorme, ongecureerde dataset. Dit wordt wel "data-centric AI" genoemd, in tegenstelling tot "model-centric AI".
Naast pure prestaties spelen ook maatschappelijke doelen mee. Curatie helpt om vooringenomenheid (bias) te verminderen — bijvoorbeeld wanneer een dataset onevenredig veel Engelstalige, westerse of mannelijke perspectieven bevat. Het helpt ook om schadelijke inhoud (haatzaaien, expliciet materiaal, desinformatie) uit trainingsdata te weren, en om te voorkomen dat modellen persoonlijke gegevens uit hun trainingsdata reproduceren.
Een derde doel is efficiëntie: het trainen van grote modellen kost enorm veel rekenkracht en energie. Een kleinere, betere dataset kan hetzelfde resultaat opleveren met minder rekentijd, wat kosten en CO2-uitstoot beperkt. Ten slotte speelt reproduceerbaarheid mee: goed gedocumenteerde, gecureerde datasets maken het voor andere onderzoekers mogelijk om resultaten te controleren en verder te bouwen op eerder werk.
Voorbeelden uit de praktijk
Common Crawl is sinds 2011 een non-profitproject dat maandelijks miljarden webpagina's crawlt en gratis beschikbaar stelt. Het is de ruwe grondstof voor veel taalmodellen, maar wordt zelden ongefilterd gebruikt — bijna elk groot taalmodel bouwt eerst een curatiepijplijn bovenop deze data.
The Pile, gepubliceerd in 2020 door onderzoeksgroep EleutherAI, was een van de eerste publiek gedocumenteerde, zorgvuldig samengestelde datasets (ongeveer 800 gigabyte tekst) voor het trainen van open taalmodellen, met transparante beschrijvingen van elke bron.
FineWeb, uitgebracht door AI-bedrijf Hugging Face in 2024, is een voorbeeld van moderne, grootschalige curatie: uit tientallen miljarden webpagina's van Common Crawl werd via automatische filtering en deduplicatie een dataset van zo'n 15 biljoen tokens (tekstfragmenten) gedestilleerd, met een openbaar gedocumenteerde methodologie.
LAION (Large-scale Artificial Intelligence Open Network), een Duitse non-profitorganisatie, bouwde datasets als LAION-5B (2022) met miljarden afbeelding-tekstparen voor het trainen van beeldgeneratiemodellen zoals Stable Diffusion. Na kritiek dat de dataset ongewenst materiaal bevatte, moest LAION delen tijdelijk offline halen en extra filters toevoegen — een goed voorbeeld van hoe curatie ook achteraf en onder maatschappelijke druk plaatsvindt.
ImageNet, opgezet vanaf 2009 door onderzoekers van onder meer Stanford en Princeton, is een vroeg en invloedrijk voorbeeld van menselijke curatie: miljoenen afbeeldingen werden via crowdsourcing handmatig gelabeld, wat de basis legde voor de doorbraak van beeldherkenning met deep learning in de jaren 2010.
Hoe ver is de techniek?
Datacuratie is geen afgerond vakgebied maar een snel evoluerende praktijk. Waar curatie tien jaar geleden grotendeels handmatig gebeurde, verschuift het zwaartepunt nu naar geautomatiseerde pijplijnen: modellen die andere modellen se data laten beoordelen, dedupliceren op schaal van biljoenen tokens, en statistische technieken die "informatieve" van "overbodige" data onderscheiden.
Een belangrijke recente ontwikkeling is het gebruik van synthetische data: door AI zelf gegenereerde trainingsdata, soms gecombineerd met of gefilterd naast echte data. Dit is veelbelovend voor domeinen waar te weinig echte data beschikbaar is, maar brengt een nieuw risico met zich mee dat "model collapse" wordt genoemd: modellen die steeds meer trainen op data die door andere AI-modellen is gemaakt, kunnen geleidelijk kwaliteit en diversiteit verliezen.
Grote obstakels blijven bestaan. Auteursrecht is een groot juridisch vraagstuk: rechtszaken tegen AI-bedrijven over het gebruik van beschermd materiaal in trainingsdata lopen wereldwijd nog volop, onder meer in de Verenigde Staten en Europa. Ook is er geen brede consensus over wat "goede" data precies is — kwaliteitsfilters die door het ene AI-lab worden ontwikkeld, geven niet automatisch de beste resultaten voor een ander model of doel. Verder blijft menselijke beoordeling nodig voor nuances die algoritmes missen, zoals culturele context of subtiele desinformatie, wat curatie arbeidsintensief en kostbaar houdt. Tot slot is transparantie beperkt: veel commerciële AI-bedrijven maken niet volledig openbaar welke data en welke filters ze precies gebruikt hebben, wat onafhankelijke controle bemoeilijkt.
Wie werken eraan?
Aan de commerciële kant investeren grote AI-bedrijven als OpenAI, Google DeepMind, Meta AI, Anthropic en Microsoft fors in interne datacurationsteams, omdat de samenstelling van trainingsdata inmiddels als net zo belangrijk wordt gezien als modelarchitectuur.
Aan de open-sourcekant spelen Hugging Face (Frankrijk/VS), EleutherAI en LAION (Duitsland) een voortrekkersrol door datasets en curatiemethodes publiek te documenteren, wat onafhankelijk onderzoek mogelijk maakt. Universiteiten zoals Stanford, Berkeley en het Duitse DFKI onderzoeken systematisch welke curatiestrategieën tot betere en eerlijkere modellen leiden; Andrew Ng, medeoprichter van Google Brain en Coursera, wordt vaak genoemd als aanjager van de "data-centric AI"-beweging via zijn bedrijf Landing AI.
Ook overheden en toezichthouders bemoeien zich er steeds meer mee. De Europese Unie stelt met de AI Act (van kracht sinds 2024, met gefaseerde invoering tot en met 2026) eisen aan de documentatie en kwaliteit van trainingsdata voor hoog-risico AI-systemen. Non-profitorganisaties zoals Common Crawl Foundation (VS) leveren de ruwe grondstof waarop veel curatiewerk wereldwijd voortbouwt.