Human-in-the-loop: waarom mensen de vinger aan de pols houden bij AI
Stel je een verkeerstoren voor waar een computer alle vliegtuigen kan plannen en instrueren, maar waar uiteindelijk altijd een luchtverkeersleider het laatste woord heeft voordat een instructie echt de lucht in gaat. Zo werkt human-in-the-loop (vaak afgekort als HITL, letterlijk "mens in de lus") ook bij kunstmatige intelligentie: een AI-systeem doet het meeste rekenwerk, maar een mens controleert, corrigeert of keurt de uitkomst goed voordat die effect heeft.
Het idee is simpel maar belangrijk: veel AI-systemen maken fouten, zijn bevooroordeeld of weten simpelweg niet wanneer ze iets niet weten. Door een mens in het proces te houden, probeert men de risico's van volledig automatische besluitvorming te beperken. Denk aan een chatbot die een medisch advies genereert dat pas naar de patiënt gaat nadat een arts ernaar heeft gekeken, of aan een zelfrijdende auto die een menselijke bestuurder vraagt om in te grijpen zodra de situatie te ingewikkeld wordt.
Wat is het precies?
Human-in-the-loop is geen specifieke technologie, maar een manier van systemen ontwerpen. In de praktijk komt het meestal neer op een paar stappen. Eerst genereert een AI-model een voorspelling, tekst, beslissing of actie. Vervolgens krijgt een mens die uitkomst te zien, vaak met extra informatie zoals een betrouwbaarheidsscore (een getal dat aangeeft hoe zeker het model zelf is). Daarna keurt die mens het resultaat goed, wijst het af, of past het aan.
Bij sommige systemen stopt het daar niet: de correcties van de mens worden teruggevoerd in het systeem om het model te verbeteren. Een bekende techniek hiervoor is RLHF (reinforcement learning from human feedback, ofwel versterkend leren met menselijke feedback). Daarbij laten menselijke beoordelaars meerdere antwoorden van een AI-model tegen elkaar afwegen -"dit antwoord is beter dan dat antwoord"- en die voorkeuren worden gebruikt om het model bij te sturen. Dit is precies de methode waarmee OpenAI in 2022 het taalmodel achter ChatGPT trainde om behulpzamer en minder schadelijk te antwoorden.
Onderzoekers maken ook onderscheid tussen gradaties van menselijke betrokkenheid. Bij "human-in-the-loop" moet een mens elke actie goedkeuren voordat die wordt uitgevoerd. Bij "human-on-the-loop" houdt een mens toezicht en kan ingrijpen, maar het systeem werkt in principe zelfstandig door. Bij "human-out-of-the-loop" is er geen mens meer nodig: het systeem handelt volledig autonoom. Veel discussies over AI-veiligheid en regelgeving draaien om de vraag welke van deze niveaus geschikt is voor welke toepassing.
Wat wil men ermee bereiken?
De belangrijkste drijfveer is veiligheid: voorkomen dat een AI-systeem een onomkeerbare of schadelijke beslissing neemt zonder dat iemand die kan tegenhouden. Dat speelt vooral bij toepassingen met hoge inzet, zoals medische diagnoses, financiële beslissingen, wapensystemen of zelfrijdende voertuigen.
Een tweede doel is verantwoording. Als een mens uiteindelijk de beslissing neemt of goedkeurt, is duidelijker wie aansprakelijk is als het misgaat. Dat sluit aan bij wettelijke eisen: de Europese AI-verordening (AI Act), die de EU in 2024 aannam en tussen 2025 en 2027 gefaseerd van kracht wordt, verplicht voor "hoogrisico"-AI-systemen expliciet dat er passend menselijk toezicht is.
Daarnaast helpt human-in-the-loop om AI-modellen zelf te verbeteren. Menselijke feedback is een van de belangrijkste bronnen van trainingsdata voor het bijschaven van taalmodellen na hun eerste, ruwe training. Tot slot speelt vertrouwen een rol: gebruikers en toezichthouders accepteren AI-systemen makkelijker als ze weten dat er ergens een mens meekijkt.
Voorbeelden uit de praktijk
InstructGPT en ChatGPT (OpenAI, 2022): menselijke labelers beoordeelden duizenden AI-antwoorden en rangschikten ze van beste naar slechtste. Die rangschikkingen trainden een "beloningsmodel" dat het taalmodel vervolgens bijstuurde. Deze aanpak vormde de basis voor ChatGPT.
Contentmoderatie bij Meta (voorheen Facebook): AI-systemen filteren dagelijks miljoenen berichten, foto's en video's op bijvoorbeeld geweld of haatzaaien, maar twijfelgevallen gaan naar menselijke moderatoren. Sinds 2020 kunnen gebruikers omstreden beslissingen bovendien laten beoordelen door de onafhankelijke Oversight Board, een soort extern "hoger beroep".
Tesla Autopilot en Full Self-Driving: het systeem stuurt, remt en stuurt bij, maar de bestuurder moet in principe altijd kunnen ingrijpen. De Amerikaanse verkeersveiligheidsdienst NHTSA onderzocht tussen 2021 en 2023 meerdere ongevallen waarbij de vraag centraal stond of bestuurders wel voldoende "in the loop" bleven.
Screening op diabetische retinopathie (Google/Verily en lokale ziekenhuizen, 2016-2020): een AI-systeem beoordeelde oogfoto's van diabetespatiënten in India en Thailand op tekenen van deze oogziekte, waarbij oogartsen de twijfelgevallen en een steekproef van de uitkomsten controleerden voordat een diagnose aan de patiënt werd meegedeeld.
Inzet van bewapende drones door het Amerikaanse leger: het Pentagon-beleid (Department of Defense Directive 3000.09, laatst bijgewerkt in 2023) schrijft voor dat er "passend menselijk oordeel" moet blijven bij beslissingen over dodelijk geweld, ook als delen van het wapensysteem geautomatiseerd zijn.
Hoe ver is de techniek?
Human-in-the-loop is geen technologie die nog moet "doorbreken": het wordt al op grote schaal toegepast, van contentmoderatie tot medische beeldvorming. De grootste ontwikkeling zit niet in de techniek zelf, maar in de vraag hoe je menselijk toezicht slim en schaalbaar organiseert.
Dat is namelijk een reëel probleem. Menselijke controle is traag en duur vergeleken met volautomatische verwerking, en bij systemen die miljoenen beslissingen per dag nemen is het onmogelijk om alles door mensen te laten nakijken. Bedrijven kiezen daarom vaak voor steekproeven of grijpen alleen in bij lage betrouwbaarheidsscores.
Een tweede, goed gedocumenteerd probleem is "automation bias": mensen die geacht worden een AI-uitkomst kritisch te controleren, gaan die na verloop van tijd juist blindelings vertrouwen en klikken automatisch akkoord. Onderzoek naar menselijke controle bij bijvoorbeeld röntgenfoto's en fraudedetectie laat zien dat dit effect de veiligheidswinst van human-in-the-loop flink kan ondermijnen.
Voor toekomstige, zeer krachtige AI-systemen speelt nog een dieperliggende vraag: kan een mens de uitkomst van een AI-systeem straks nog wel goed genoeg begrijpen om die te controleren? Dit onderzoeksveld heet "scalable oversight" (schaalbaar toezicht) en wordt onder meer bestudeerd door Anthropic en academische onderzoeksgroepen. OpenAI kondigde in 2023 een "superalignment"-team aan dat zich hiermee bezighield, maar dat team werd in 2024 ontbonden nadat sleutelfiguren het bedrijf verlieten -een teken dat dit vraagstuk nog volop in ontwikkeling is en niet is opgelost.
Wie werken eraan?
Grote AI-labs zoals OpenAI, Anthropic, Google DeepMind en Meta AI gebruiken human-in-the-loop-technieken zoals RLHF standaard bij het trainen van hun taalmodellen. Gespecialiseerde bedrijven als Scale AI en Surge AI leveren de menselijke beoordelaars en labelers die deze feedback verzorgen; dit werk wordt vaak uitbesteed aan contractmedewerkers wereldwijd, wat de afgelopen jaren ook kritiek opleverde over arbeidsomstandigheden, bijvoorbeeld bij moderatoren in Kenia die voor Meta en OpenAI content beoordeelden.
Op onderzoeksgebied houden instituten als Stanford HAI (Human-Centered AI Institute) en MIT CSAIL zich bezig met de vraag hoe mens en machine het beste kunnen samenwerken. De industriecoalitie Partnership on AI, waarin onder andere Amazon, Google, Microsoft en verschillende mensenrechtenorganisaties samenwerken, publiceert richtlijnen over verantwoorde inzet van menselijk toezicht.
Op het gebied van regelgeving en standaarden zijn vooral de Europese Commissie (met de AI Act) en het Amerikaanse National Institute of Standards and Technology (NIST), dat in 2023 zijn AI Risk Management Framework publiceerde, toonaangevend. Beide zien menselijk toezicht als een kernvereiste voor het veilig inzetten van AI in risicovolle toepassingen.