Concept-bottleneck-model: AI die eerst in begrijpelijke concepten denkt

Bijgewerkt: 2 september 2026 · 7 min leestijd

Stel je een medische AI voor die op een röntgenfoto van een knie moet bepalen hoe ernstig de artrose is. De meeste AI-modellen doen dat als een zwarte doos: pixels gaan erin, een diagnose komt eruit, en niemand — ook de ontwikkelaars niet — kan precies uitleggen welke kenmerken in het beeld tot dat oordeel leidden. Een concept-bottleneck-model (CBM) knipt dat proces in twee stappen. Eerst leidt het model uit het beeld een reeks herkenbare, benoembare kenmerken af, zoals "gewrichtsspleet versmald" of "botuitsteeksels aanwezig". Pas daarna gebruikt het die kenmerken om de uiteindelijke diagnose te stellen.

Het woord "bottleneck" (flessenhals) verwijst naar die tussenstap: alle informatie uit het beeld moet eerst door een smalle doorgang van menselijk begrijpelijke concepten, voordat het model tot een eindoordeel komt. Dat is een bewuste beperking. Een gewoon neuraal netwerk mag alle mogelijke patronen in de data gebruiken, ook onbegrijpelijke of toevallige. Een CBM dwingt het model om zijn redenering te laten verlopen via stappen die een mens kan lezen, checken en zo nodig corrigeren — vergelijkbaar met een arts die eerst symptomen benoemt voordat hij een diagnose stelt, in plaats van meteen "onderbuikgevoel" te geven.

Wat is het precies?

Een concept-bottleneck-model bestaat uit twee gekoppelde onderdelen die na elkaar worden getraind of gebruikt.

Het eerste onderdeel is een concept-voorspeller. Dit is meestal een neuraal netwerk (vaak een beeldherkenningsmodel) dat een input, bijvoorbeeld een foto, omzet in scores voor een vooraf gedefinieerde lijst concepten. Bij een model dat vogelsoorten herkent, kunnen die concepten dingen zijn als "heeft een gestreepte vleugel", "heeft een gele snavel" of "heeft een lange staart". Elk concept krijgt een waarde, bijvoorbeeld tussen 0 en 1, die aangeeft hoe zeker het model is dat het kenmerk aanwezig is.

Het tweede onderdeel is een eindvoorspeller, vaak een simpel en doorzichtig model zoals een lineaire classifier. Die krijgt uitsluitend de concept-scores als input — niet het originele beeld — en berekent daarmee de einduitkomst, bijvoorbeeld de vogelsoort of de ernst van artrose. Omdat dit tweede model alleen met concepten werkt en meestal eenvoudig van opzet is, kun je precies zien welk gewicht elk concept krijgt in de uiteindelijke beslissing.

Het cruciale gevolg van deze opzet is dat een mens kan ingrijpen tussen de twee stappen. Als het model bijvoorbeeld ten onrechte denkt dat een vogel geen gestreepte vleugel heeft, kan een gebruiker die concept-score handmatig corrigeren. Omdat de eindvoorspelling volledig via de concepten loopt, verandert die correctie automatisch en voorspelbaar de einduitkomst — iets wat bij een ondoorzichtig model onmogelijk is, omdat je daar niet weet welk "knopje" je moet omdraaien.

Om dit te laten werken heb je trainingsdata nodig waarin niet alleen het einddoel is gelabeld, maar ook de tussenliggende concepten. Dat is meteen de grootste praktische hindernis: voor elke foto moet iemand niet alleen "artrosegraad 3" invullen, maar ook alle onderliggende klinische kenmerken apart labelen. Dat kost veel meer tijd en expertise dan gewone data-annotatie.

Wat wil men ermee bereiken?

De drijfveer achter concept-bottleneck-modellen is het probleem van "uitlegbare AI" (in het Engels: explainable AI of XAI). Naarmate AI-systemen invloedrijkere beslissingen nemen — over leningen, medische diagnoses, sollicitaties — groeit de behoefte om te snappen waaróm een systeem tot een bepaalde uitkomst komt, in plaats van alleen te vertrouwen op de uitkomst zelf.

Bestaande verklaarmethoden voor zwarte-doosmodellen, zoals heatmaps die tonen welke pixels "belangrijk" waren, hebben een bekend probleem: ze laten zien wáár het model keek, maar niet wát het daar zag of waaróm dat relevant was. Een heatmap kan een vage vlek op een longfoto markeren zonder te zeggen of het model die vlek herkent als een tumor, een litteken, of gewoon een artefact van de scan. Concept-bottleneck-modellen proberen dat gat te dichten door de tussenstap expliciet te benoemen in taal die mensen al kennen uit hun vakgebied.

Een tweede doel is controleerbaarheid en correctie. Als een arts het oneens is met een concept-inschatting van het model, kan die dat rechtstreeks bijstellen zonder het hele model opnieuw te trainen — een vorm van "human-in-the-loop"-samenwerking tussen mens en AI. Dit maakt het theoretisch mogelijk om AI-modellen in te zetten in situaties met hoge inzet, zoals de gezondheidszorg, zonder blind te moeten vertrouwen op een ondoorzichtig algoritme.

Ten derde hopen onderzoekers dat het werken met expliciete concepten helpt om verborgen fouten of vooroordelen (bias) in modellen op te sporen. Als een model bijvoorbeeld stiekem leunt op de achtergrondkleur van een foto in plaats van op het daadwerkelijke object, is dat bij een concept-bottleneck-opzet makkelijker te ontdekken dan in een volledig ondoorzichtig netwerk.

Voorbeelden uit de praktijk

De term concept-bottleneck-model werd geïntroduceerd in het paper "Concept Bottleneck Models" van Pang Wei Koh, Thao Nguyen, Yew Siang Tang, Stephen Mussmann, Emma Pierson, Been Kim en Percy Liang, gepresenteerd op de ICML-conferentie in 2020. Zij testten hun aanpak op twee heel verschillende taken: het herkennen van vogelsoorten in de CUB-200-2011-dataset aan de hand van visuele kenmerken zoals vleugelkleur en snaveltype, en het inschatten van de ernst van knieartrose op basis van röntgenbeelden uit de Osteoarthritis Initiative (OAI), met klinische concepten zoals gewrichtsspleetversmalling.

Als vervolg hierop verscheen "Post-hoc Concept Bottleneck Models", een onderzoek van onder anderen Mert Yuksekgonul en James Zou (Stanford), dat liet zien hoe je een bestaand, al getraind model achteraf kunt ombouwen tot een concept-bottleneck-structuur, zonder het helemaal opnieuw te hoeven trainen. Dat maakt de aanpak praktischer voor bedrijven die al modellen in productie hebben.

Een ander vervolgproject, "Label-Free Concept Bottleneck Models" (Tuomas Oikarinen en collega's, verbonden aan het MIT-IBM Watson AI Lab), probeert het grootste knelpunt — het handmatig labelen van concepten — te omzeilen. Zij gebruiken een combinatie van taalmodellen (die concepten voorstellen in tekst) en beeld-taalmodellen zoals CLIP (dat beoordeelt of een concept in een afbeelding aanwezig is) om automatisch een concept-vocabulaire op te bouwen, zonder dat mensen elk plaatje hoeven te labelen.

Onderzoekers hebben daarnaast "Concept Embedding Models" voorgesteld (Mateo Espinosa Zarlenga en collega's, gepresenteerd op NeurIPS 2022) als antwoord op de kritiek dat een simpel getal per concept te weinig informatie bevat. Zij vervangen de losse concept-scores door rijkere, vector-achtige representaties per concept, wat de nauwkeurigheid verbetert zonder de uitlegbaarheid volledig te verliezen.

Buiten deze kernpublicaties duiken concept-bottleneck-achtige ideeën ook op in onderzoek naar medische beeldvorming, waaronder dermatologie (huidkankerclassificatie op basis van herkenbare kenmerken zoals asymmetrie en randonregelmatigheid) en radiologie, meestal nog als academisch onderzoek en niet als algemeen ingezet klinisch product.

Hoe ver is de techniek?

Concept-bottleneck-modellen zijn anno 2026 vooral een actief onderzoeksveld binnen de academische AI-gemeenschap, met regelmatig nieuwe papers op grote conferenties zoals ICML, NeurIPS en ICLR. Ze worden nog maar beperkt ingezet in echte productiesystemen buiten onderzoekslabs en pilots.

Het grootste obstakel blijft de data-eis: je hebt gelabelde concepten nodig, en die labels moeten ook nog eens de juiste, relevante kenmerken vastleggen. Als de vooraf gekozen conceptenlijst een belangrijk kenmerk mist, kan het model dat gat proberen op te vullen door concepten "oneigenlijk" te gebruiken — bijvoorbeeld door een concept een betekenis te laten aannemen die niet overeenkomt met de naam die het heeft gekregen. Onderzoekers noemen dit "concept leakage" (conceptlekkage): het model haalt dan informatie binnen via de achterdeur, wat de beloofde uitlegbaarheid ondermijnt.

Een ander bekend spanningsveld is de afweging tussen nauwkeurigheid en uitlegbaarheid: concept-bottleneck-modellen presteren in sommige benchmarks iets minder goed dan hun ondoorzichtige tegenhangers, omdat de smalle flessenhals van concepten nu eenmaal informatie wegfiltert die een zwarte-doosmodel wél zou benutten. Vervolgwerk zoals concept embedding models probeert dit gat te verkleinen, met wisselend succes per toepassing.

Automatisch concepten genereren met taalmodellen (zoals bij label-free CBM) is een veelbelovende, maar nog relatief jonge richting: het verlaagt de labelkosten, maar voegt een nieuwe onzekerheid toe, namelijk of de door een taalmodel voorgestelde concepten wel echt betekenisvol en betrouwbaar zijn voor het specifieke domein.

Wie werken eraan?

Het onderzoek naar concept-bottleneck-modellen is grotendeels academisch van aard en wordt getrokken door een aantal Amerikaanse universiteiten en onderzoekslabs. Stanford University speelt een centrale rol, onder meer via de onderzoeksgroep van Percy Liang, een van de auteurs van het oorspronkelijke paper. Ook James Zou en zijn groep aan Stanford hebben meerdere vervolgstudies gepubliceerd, waaronder het werk aan post-hoc concept-bottleneck-modellen.

Het MIT-IBM Watson AI Lab, een samenwerking tussen het Massachusetts Institute of Technology en IBM, heeft bijgedragen aan label-free varianten van de techniek. Been Kim, een van de auteurs van het originele paper en een bekende naam in interpretability-onderzoek, is verbonden geweest aan Google DeepMind / Google Research, waar bredere lijnen van uitlegbare-AI-onderzoek worden voortgezet.

Daarnaast verschijnen bijdragen vanuit een breder internationaal veld van universiteiten die zich toeleggen op interpretability en trustworthy AI, waaronder groepen in het Verenigd Koninkrijk en op het Europese vasteland (onder meer ETH Zürich publiceert regelmatig over aanverwante concept-gebaseerde interpretabiliteitsmethoden). Er is geen dominante commerciële speler die concept-bottleneck-modellen als kernproduct verkoopt; het blijft vooral een methode die opduikt in onderzoekspapers en incidentele pilotprojecten, met name in de medische sector waar uitlegbaarheid wettelijk en ethisch extra zwaar weegt.