AI-gegenereerde nepartikelen ondermijnen vertrouwen in wetenschap

Nepartikel binnen enkele klikken gegenereerd

Wetenschappelijk tijdschrift IEEE Spectrum trok de noodklok over een groeiend probleem: AI-gegenereerde nepartikelen die moeiteloos door de poorten van wetenschappelijke tijdschriften en encyclopedieën glippen. Freelance wiskundige en journalist Benjamin Skuse testte hoe makkelijk dat eigenlijk is. Hij liet een AI-systeem een experiment "uitvoeren" en er direct een wetenschappelijk artikel over schrijven. Vervolgens veranderde hij niets aan de tekst en stuurde die rechtstreeks naar het beoordelingssysteem van IEEE, de grootste technische beroepsorganisatie ter wereld.

Het resultaat verbaasde zelfs de makers van het experiment: het nepartikel kwam opvallend plausibel over. IEEE wist de poging dit keer te onderscheppen, dankzij een combinatie van menselijke peer review en geautomatiseerde controlesoftware die tekst scant op tekenen van kunstmatige herkomst. Maar de organisatie waarschuwt dat dit steeds moeilijker wordt. Oudere, gratis AI-chatbots maakten nog herkenbare fouten. Nieuwere en krachtigere taalmodellen doen dat steeds minder, waardoor nepartikelen moeilijker te onderscheiden zijn van echt wetenschappelijk werk.

Wikipedia vecht met minder middelen

Niet alleen wetenschappelijke uitgevers worstelen met het probleem. Ook Wikipedia, de grootste online encyclopedie ter wereld, ziet een toename van machinaal geschreven teksten op haar pagina's. Een groep vrijwilligers, verenigd in het WikiProject AI Cleanup, spoort dit soort content actief op en verwijdert die. Oprichter Ellia Lebleu vertelde aan IEEE Spectrum dat haar team dezelfde strijd voert als commerciële uitgevers, maar dan met veel minder mensen en veel minder technische hulpmiddelen. Wikipedia geldt al jaren als bolwerk van door mensen geschreven kennis. Hoe lang dat zo blijft, is volgens de makers onzeker.

Wat staat er op het spel

De kern van het probleem is vertrouwen. Als niemand er meer zeker van kan zijn dat een wetenschappelijk artikel of een Wikipedia-pagina door een mens is gecontroleerd op feiten, verliest het hele systeem van kennisdeling zijn waarde. Dat raakt niet alleen wetenschappers, maar ook journalisten, studenten en burgers die erop vertrouwen dat gepubliceerde kennis is getoetst. Hoofdredacteur Harry Goldstein van IEEE Spectrum trekt de vergelijking met chatbots als ChatGPT, Claude en Gemini: ook die geven soms zelfverzekerd foutieve antwoorden, een fenomeen dat al sinds de introductie van GPT-3 bekendstaat als "hallucineren". Zes jaar en vele chatbotversies later is dat probleem volgens hem nog niet opgelost.

De uitgevers bevinden zich daardoor in een wapenwedloop: elke verbetering in AI-detectiesoftware wordt vroeg of laat opgevolgd door een krachtiger taalmodel dat opnieuw moeilijker te betrappen is. Goldstein waarschuwt dat dit uiteindelijk niet alleen de wetenschap raakt, maar het vertrouwen in alle instituties die kennis beheren en delen. Hij schetst zelfs een onwennig toekomstscenario: een wereld waarin AI-systemen artikelen schrijven die vooral door andere AI-systemen worden gelezen en gebruikt, terwijl mensen buiten die kringloop komen te staan.