Multi-hop retrieval: hoe AI-systemen puzzelstukjes uit meerdere bronnen combineert
Stel je vraagt een chatbot: "In welk jaar werd de oprichter van het bedrijf dat de iPhone maakt geboren?" Om dat te beantwoorden moet het systeem eerst uitzoeken wélk bedrijf de iPhone maakt (Apple), dan wíe dat bedrijf heeft opgericht (onder anderen Steve Jobs), en pas daarna wanneer die persoon geboren is (1955). Geen enkel los document beantwoordt de hele vraag; het antwoord ontstaat pas door drie stukjes informatie ná elkaar op te zoeken en aan elkaar te knopen. Dat proces heet multi-hop retrieval: het stapsgewijs ophalen van informatie, waarbij elke volgende zoekopdracht wordt bepaald door wat de vorige stap heeft opgeleverd.
De term komt uit de wereld van taalmodellen die gecombineerd worden met een zoekfunctie, een aanpak die bekendstaat als retrieval-augmented generation (RAG, letterlijk "generatie aangevuld met opgehaalde informatie"). Bij gewone RAG zoekt het systeem één keer in een database of op het web en plakt de gevonden tekst bij de vraag, waarna een taalmodel een antwoord formuleert. Dat werkt goed voor simpele feitenvragen, maar loopt vast zodra het antwoord verspreid zit over meerdere, onderling samenhangende documenten, zoals in het iPhone-voorbeeld. Multi-hop retrieval lost dat op door de zoekopdracht meerdere keren te herhalen, telkens een "hop" (sprong) verder, tot alle benodigde puzzelstukjes zijn verzameld.
Wat is het precies?
In de kern bestaat multi-hop retrieval uit een lus die meerdere keren wordt doorlopen: zoeken, lezen, en beslissen wat de volgende zoekopdracht moet zijn.
Eerst ontleedt het systeem, vaak met het taalmodel zelf, de oorspronkelijke vraag in een eerste deelvraag die wél met één zoekopdracht te beantwoorden is. In het iPhone-voorbeeld is dat: "welk bedrijf maakt de iPhone?" Het systeem doorzoekt vervolgens een kennisbron, bijvoorbeeld Wikipedia, een interne bedrijfsdatabase of het open web, en haalt de meest relevante passages op. Daarna leest het model die passages en bepaalt of de oorspronkelijke vraag al beantwoord is. Zo niet, dan formuleert het een nieuwe deelvraag op basis van wat het net heeft geleerd ("wie heeft Apple opgericht?"), en herhaalt de zoekstap. Dit gaat door tot het model inschat dat het genoeg informatie heeft, of tot een vooraf ingesteld maximum is bereikt, meestal twee tot vijf hops.
Er bestaan verschillende technische varianten. Bij query decomposition wordt de vraag vooraf in losse deelvragen opgesplitst. Bij iteratieve of adaptieve retrieval bepaalt het model na elke stap opnieuw wat er nog ontbreekt, flexibeler maar met meer risico op afdwalen. Een bekende methode is IRCoT (Interleaving Retrieval with Chain-of-Thought), voorgesteld door onderzoekers van de University of Washington en het Allen Institute for AI: hierbij wisselt het model redeneerstappen af met zoekacties, zodat elke redeneerstap direct wordt gevoed met vers opgehaalde feiten. Een verwante aanpak, ReAct (Reasoning and Acting, Princeton University en Google Research, 2022), laat een taalmodel expliciet kiezen tussen "denken" en "een actie ondernemen", zoals het raadplegen van een zoekmachine.
Recenter zijn systemen die geen losse documenten maar een kennisgraaf gebruiken: een netwerk van entiteiten (personen, bedrijven, plaatsen) en de relaties daartussen. Door langs de verbindingen in zo'n graaf te "wandelen", vindt een systeem soms sneller de juiste keten van feiten dan door telkens hele tekstdocumenten te doorzoeken. Microsoft Research bracht in 2024 een aanpak genaamd GraphRAG naar buiten die op dit idee is gebaseerd.
Een belangrijke complicatie is dat fouten zich kunnen opstapelen: levert de eerste zoekstap het verkeerde document op, dan bouwen alle volgende stappen voort op die vergissing. Onderzoekers noemen dit een foutcascade, en het is een van de redenen waarom multi-hop retrieval technisch lastiger is dan eenmalige retrieval.
Wat wil men ermee bereiken?
Het doel is dat AI-systemen betrouwbaar antwoord geven op complexe vragen die niet in één zin ergens beschreven staan, zonder dat het taalmodel die feiten uit het hoofd hoeft te "raden". Taalmodellen zijn berucht om hun neiging tot hallucineren: met veel zelfvertrouwen antwoorden produceren die plausibel klinken maar feitelijk onjuist zijn. Door het model te dwingen elke tussenstap te onderbouwen met een daadwerkelijk opgehaald document, hoopt men hallucinaties terug te dringen en het antwoord traceerbaar te maken: je kunt precies zien welke bronnen tot welke conclusie hebben geleid.
Een tweede motivatie is actualiteit. Een taalmodel is getraind op een momentopname van tekst en weet niets van gebeurtenissen daarna. Door het te koppelen aan een levende bron en die in meerdere stappen te doorzoeken, kan het systeem ook vragen beantwoorden over recente of snel veranderende feiten, zoals bedrijfsstructuren, wetgeving of nieuwsgebeurtenissen.
Daarnaast speelt schaalbaarheid mee: organisaties willen taalmodellen inzetten op hun eigen documentatie, klantendossiers of juridische archieven, vaak miljoenen documenten groot. Multi-hop retrieval maakt het mogelijk vragen te beantwoorden die verspreid liggen over meerdere interne bronnen, zonder dat iemand die met de hand hoeft door te spitten.
Voorbeelden uit de praktijk
HotpotQA (2018), gepubliceerd door onderzoekers van Carnegie Mellon University en Stanford University, is de bekendste benchmark-dataset op dit gebied: honderdduizenden vragen over Wikipedia die je alleen kunt beantwoorden door twee of meer artikelen te combineren, met annotaties die precies aangeven welke zinnen nodig waren. Vrijwel elk nieuw multi-hop-systeem wordt nog altijd op deze dataset getest.
2WikiMultiHopQA (2020) breidde dat idee uit door naast Wikipedia-teksten ook Wikidata te gebruiken, een gestructureerde kennisgraaf, om te garanderen dat een vraag écht meerdere, causaal verbonden stappen vereist.
IRCoT (2022-2023, University of Washington en Allen Institute for AI) liet zien dat het afwisselen van redeneren en zoeken merkbaar betere resultaten geeft dan eerst alles in één keer opzoeken en dan pas redeneren, vooral bij vragen met drie of meer hops.
Microsoft Research demonstreerde in 2024 met GraphRAG dat het combineren van kennisgrafen met taalmodellen goed werkt voor vragen die om een breed overzicht vragen, zoals het samenvatten van thema's in een grote documentenverzameling, iets waar puur documentgerichte retrieval moeite mee heeft.
Ook buiten de onderzoekswereld duikt de aanpak op: verschillende ondernemingssoftwareleveranciers en zoekdienstenbouwers passen varianten van "agentic RAG" toe, waarbij een taalmodel zelfstandig meerdere zoek- en redeneerstappen uitvoert voor klantenservice, juridisch onderzoek en medische literatuurstudies. Omdat dit deel van het veld snel verandert en weinig ervan in wetenschappelijke publicaties staat, is het lastig hier met zekerheid specifieke productnamen aan te koppelen zonder het risico op verouderde informatie.
Hoe ver is de techniek?
Multi-hop retrieval is een gevestigd onderzoeksgebied met een reeks publicaties sinds 2018, en de kernideeën, zoals iteratief zoeken en redeneren afwisselen met zoeken, zijn breed geaccepteerd. Toch is de techniek allesbehalve opgelost.
Het belangrijkste obstakel blijft de foutcascade: hoe meer hops nodig zijn, hoe groter de kans dat er ergens een verkeerde afslag wordt genomen, en hoe moeilijker dat later te herstellen is. Onderzoek laat consistent zien dat de nauwkeurigheid daalt naarmate het aantal benodigde hops toeneemt.
Een tweede obstakel is kosten en snelheid. Elke extra hop betekent een extra zoekopdracht én een extra keer dat het taalmodel wordt aangeroepen om te redeneren, wat wachttijd en rekenkosten flink kan opstuwen, een reëel probleem voor toepassingen die snel moeten reageren.
Ten derde is het lastig objectief te meten hoe goed een systeem werkelijk is. Benchmarks zoals HotpotQA zijn bekritiseerd omdat sommige vragen toch met één zoekopdracht te beantwoorden bleken, of omdat modellen "shortcuts" leren die niet op echt meerstaps-redeneren berusten.
Tot slot ontbreekt een dominante standaardaanpak: query decomposition, iteratieve retrieval, kennisgraaf-gebaseerde methoden en agentic RAG bestaan naast elkaar, elk met eigen sterke en zwakke punten. Welke aanpak het beste werkt hangt sterk af van het type vraag en de onderliggende data, en het is nog niet te zeggen welke variant zich de komende jaren als standaard doorzet.
Wie werken eraan?
Het academische fundament is grotendeels gelegd door universiteiten: Carnegie Mellon University en Stanford University met HotpotQA, de University of Washington en het Allen Institute for AI (AI2, gevestigd in Seattle) met IRCoT en gerelateerd werk, en Princeton University samen met Google Research aan ReAct. Het Allen Institute for AI publiceert doorlopend open datasets en modellen op dit terrein en geldt als een van de belangrijkste non-profit onderzoeksinstellingen binnen natuurlijke taalverwerking.
Onder de grote technologiebedrijven heeft Microsoft Research zich met GraphRAG expliciet gepositioneerd rond kennisgraaf-gebaseerde multi-hop retrieval, met het oog op integratie in eigen clouddiensten. Google DeepMind en Google Research dragen bij via fundamenteel onderzoek naar redeneren en retrieval in taalmodellen, waaronder het genoemde ReAct-werk. Bedrijven als OpenAI, Anthropic en Meta AI publiceren minder gericht onderzoek specifiek onder de noemer "multi-hop retrieval", maar verwerken vergelijkbare ideeën wel in de agentfuncties en zoekintegraties van hun taalmodellen; de precieze technische invulling daarvan maken deze bedrijven doorgaans niet volledig openbaar.
Daarnaast is er een brede laag van open-sourceprojecten en kleinere onderzoeksgroepen, die publiceren via platforms als de ACL Anthology (het archief van computerlinguïstiek-onderzoek) en het preprint-archief arXiv. Door dat tempo kan de stand van zaken in dit veld binnen enkele maanden verschuiven.