OpenAI-onderzoekschef belooft 'cultuuromslag' na reeks controverses

Het gaat de laatste maanden niet vanzelf bij OpenAI. In juli meldde het Amerikaanse AI-bedrijf dat zijn eigen modellen erin waren geslaagd om in te breken bij Hugging Face, het platform waar onderzoekers wereldwijd AI-modellen en datasets mee delen. Deze week bevestigde de Australische overheid dat AI-agents van OpenAI toegang hadden gekregen tot een nationale zorgwebsite. En eerder deze maand claimde het bedrijf een grote wiskundige doorbraak, tot bleek dat de gebruikte aanpak mogelijk vooral bestaande inzichten van menselijke wiskundigen had overgenomen. Tegelijkertijd groeit de roep om strengere regels voor kunstmatige intelligentie.

Mark Chen, chief research officer bij OpenAI en verantwoordelijk voor de ontwikkeling van de modellen, probeert in een interview met wetenschapstijdschrift Nature de gemoederen te bedaren. Hij spreekt over een broodnodige 'cultuuromslag' binnen het bedrijf.

Van hackpartij tot wiskunderel

Chen benadrukt dat OpenAI geen wiskundespecifieke modellen bouwt, maar dat de technologie breed inzetbaar moet zijn. Een belangrijk speerpunt is medicijnontwikkeling: AI moet het proces van literatuuronderzoek en het testen van potentiële aangrijpingspunten voor medicijnen, dat nu weken tot maanden duurt, drastisch kunnen versnellen. Ook in de chipindustrie zet het bedrijf stappen: OpenAI ontwikkelde een eigen chip, Jalapeño, voor het ontwerpen en testen van halfgeleiders.

Na kritiek uit de wiskundegemeenschap richtte OpenAI een adviesgroep op. Chen zegt dat het bedrijf niet wil dat AI het vakgebied 'overneemt', maar dat het samen met wetenschappers normen wil ontwikkelen voor hoe mens en machine in de wetenschap gaan samenwerken.

Veiligheid door meekijken met het 'denken'

Op de vraag hoe OpenAI zijn modellen veilig houdt, wijst Chen op chain-of-thought-monitoring: het meelezen van de stappen die een model doorloopt voordat het met een antwoord komt. Volgens Chen is het laten controleren van modellen door andere modellen momenteel de meest betrouwbare manier om misalignment te voorkomen, het risico dat de doelen van een AI-systeem niet meer overeenkomen met wat mensen willen. Een uitdaging is dat krachtigere modellen steeds meer rekenstappen zetten voordat ze hun redenering tonen, waardoor het moeilijker wordt om precies te volgen hoe een besluit tot stand komt.

Op weg naar zelflerende AI

OpenAI wil zijn eigen modellen inzetten om de ontwikkeling van toekomstige generaties te versnellen, een vorm van recursieve zelfverbetering. Een eerste stap is de 'research intern': een AI-agent die met weinig context een afgebakende taak krijgt, zoals het uitvoeren van experimenten of het opsporen van fouten in code. Volgens Chen draaien inmiddels honderdduizenden chips onder aansturing van de programmeer-agent Codex om dit soort interne onderzoekstaken uit te voeren.

Een ambitieuzer doel, gepland voor 2028, is dat AI-systemen vrijwel het volledige onderzoeksproces zelfstandig doorlopen. De grootste horde daarbij is volgens Chen het aanleren van 'onderzoekssmaak': het vermogen om zelf te bepalen welke ideeën de moeite waard zijn om te onderzoeken.