Wiskundigen lanceren platform om AI-wiskunde van OpenAI te controleren

OpenAI zet zich steeds nadrukkelijker op de kaart als partij die ook wiskundig onderzoek doet. Het bedrijf publiceert daarvoor een verzameling 'write-ups': uitgeschreven wiskundige redeneringen en bewijzen, vrij toegankelijk op de ontwikkelaarsplatform GitHub. Het idee achter zo'n openbare repository is dat buitenstaanders kunnen meekijken en controleren of de wiskunde klopt.

Kritiek op moeilijk leesbare AI-wiskunde

Juist die controle liep vast. Wiskundigen die de write-ups van OpenAI doornamen, merkten dat veel teksten lastig te doorgronden zijn. Redeneerstappen worden niet altijd helder uitgelegd en verwijzingen naar eerder gepubliceerd onderzoek ontbreken regelmatig of zijn incompleet. Voor professionele wiskundigen is dat problematisch: zonder duidelijke uitleg en correcte bronvermelding is moeilijk te beoordelen of een bewijs daadwerkelijk standhoudt, en wordt het ook lastiger om voort te bouwen op het werk.

Een gemeenschap als tegenmacht

Om dat probleem aan te pakken, hebben de wiskundigen Abhinav Nellore, Johannes Schmitt, Soledad Villar en Rachel Ward een nieuw initiatief opgezet: oai-math-revised. Het gaat om een eigen repository op GitHub, met een bijbehorende website, waar de write-ups van OpenAI stap voor stap herschreven en aangevuld kunnen worden. Iedereen uit de wiskundige gemeenschap is welkom om mee te doen: studenten, postdocs, hoogleraren en gepassioneerde amateurs. Wie zich actiever wil inzetten, kan zich aanmelden als beheerder of beoordelaar voor een specifiek vakgebied, gebaseerd op de indeling die OpenAI zelf gebruikt in een overzichtsdocument van zijn wiskundeproject. Het initiatief werd aangekondigd via een gastblog op de website van Terence Tao, een van de bekendste wiskundigen van dit moment en winnaar van de prestigieuze Fields-medaille, die zijn platform al langer inzet om discussies over kunstmatige intelligentie in de wiskunde te voeren.

Waarom dit meer is dan een hobbyproject

Het initiatief raakt een vraag die veel verder gaat dan alleen wiskunde: hoe controleer je of door AI gegenereerde of AI-ondersteunde wetenschap klopt? Grote taalmodellen worden steeds vaker ingezet om complexe problemen op te lossen, ook in onderzoeksvelden waar fouten grote gevolgen kunnen hebben. Een onafhankelijke, open gemeenschap die resultaten nakijkt, is een manier om vertrouwen op te bouwen zonder dat je blind moet varen op het woord van het bedrijf dat het model heeft gebouwd. Slaagt dit soort peer review via open platforms, dan kan het een blauwdruk worden voor hoe de wetenschappelijke wereld omgaat met AI-onderzoek in andere vakgebieden, van natuurkunde tot informatica.