Symbolische wereldrepresentatie: hoe AI de wereld in begrippen probeert te vatten
Stel je twee manieren voor om een kind te leren wat een hond is. De eerste manier: je laat het duizenden foto's van honden zien, tot het patroon vanzelf beklijft. Het kind kan een hond herkennen, maar niet goed uitleggen waarom. De tweede manier: je vertelt het kind expliciet dat een hond een zoogdier is, vier poten heeft, blaft en vaak een huisdier is. Het kind kan nu ook redeneren: "een wolf lijkt op een hond, maar is geen huisdier, dus is het geen hond in de gewone betekenis".
Deze twee leerwijzen staan symbool voor twee grote stromingen in kunstmatige intelligentie (AI). De eerste, gebaseerd op patronen in grote hoeveelheden data, noemen we subsymbolisch of connectionistisch; dit is de aanpak achter moderne neurale netwerken zoals ChatGPT. De tweede aanpak, waarbij kennis wordt vastgelegd in expliciete begrippen, feiten en regels, heet symbolische wereldrepresentatie. Dat is het onderwerp van dit artikel.
Wat is het precies?
Bij symbolische wereldrepresentatie legt een computersysteem de wereld vast met discrete, door mensen leesbare symbolen: woorden, objecten, categorieën en relaties. Een auto is dan niet een wolk van getallen, maar een "object" met eigenschappen zoals "heeft-vier-wielen" en "kan-rijden", en met relaties zoals "auto staat-op weg" of "auto is-groter-dan fiets".
Deze symbolen worden gekoppeld via regels en logica. Een simpele regel kan zijn: "als X een vogel is EN X kan niet vliegen, dan is X mogelijk een pinguïn of struisvogel". Door zulke regels achter elkaar toe te passen, kan een systeem afleiden wat er niet letterlijk is opgeschreven. Dit heet redeneren of inferentie, en het gebeurt volgens vaste, natrekbare stappen — net als een wiskundig bewijs.
Concrete vormen van symbolische representatie zijn onder meer semantische netwerken (knopen en pijlen die begrippen en hun onderlinge relaties tonen), kennisgrafen (grootschalige databases van feiten over entiteiten), en scene graphs in robotica, waarin een robot zijn omgeving beschrijft als een netwerk van objecten en hun ruimtelijke relaties, bijvoorbeeld "kop staat-op tafel" en "tafel staat-in keuken".
Het tegenovergestelde zijn neurale netwerken, die de wereld vastleggen in lange rijen getallen ("vectoren" of "embeddings"). Die getallen werken vaak verrassend goed, maar zijn voor mensen niet direct te lezen of te controleren: het is een "zwarte doos". Vandaar dat onderzoekers steeds vaker neurosymbolische AI ontwikkelen: systemen die neurale netwerken gebruiken om ruwe zintuiglijke informatie (beeld, taal, geluid) te verwerken, en vervolgens een symbolisch systeem gebruiken om daarover te redeneren.
Wat wil men ermee bereiken?
Het belangrijkste doel is uitlegbaarheid. Een symbolisch systeem kan in principe laten zien welke regels en feiten tot een conclusie hebben geleid. Dat is cruciaal in domeinen zoals de gezondheidszorg of rechtspraak, waar een "omdat het algoritme dat zei" onvoldoende is.
Een tweede doel is generalisatie met minder data. Neurale netwerken hebben doorgaans enorme hoeveelheden voorbeelden nodig om iets te leren, en maken soms rare fouten buiten hun trainingsdata (denk aan chatbots die overtuigend onzin verzinnen, ook wel "hallucineren" genoemd). Symbolische regels kunnen, eenmaal correct geformuleerd, consistent worden toegepast op situaties die het systeem nog nooit heeft gezien.
Een derde motivatie is het combineren van twee soorten denken, een idee dat populair is gemaakt door psycholoog Daniel Kahneman: snel, intuïtief "Systeem 1"-denken (zoals patroonherkenning door neurale netwerken) en langzaam, logisch "Systeem 2"-denken (zoals symbolisch redeneren). Onderzoekers als Gary Marcus bepleiten al jaren dat AI pas echt betrouwbaar wordt als beide vormen worden gecombineerd.
Voorbeelden uit de praktijk
Cyc is een van de oudste en meest ambitieuze projecten. Informaticus Douglas Lenat begon dit project in 1984 bij het Amerikaanse bedrijf Cycorp, met als doel om decennia lang met de hand miljoenen "gezond verstand"-feiten en regels in te voeren, zoals "water is nat" en "als iets breekt, kun je het niet meer gebruiken zoals voorheen". Cyc bestaat nog steeds, al wordt het inmiddels vooral commercieel ingezet, bijvoorbeeld voor risicoanalyse.
IBM Watson, dat in 2011 de Amerikaanse quizshow Jeopardy! won, combineerde statistische taalverwerking met symbolische kennisbronnen en logische regels om antwoorden te wegen en te verantwoorden.
Bij het MIT-IBM Watson AI Lab presenteerden onderzoekers in 2019 de "Neuro-Symbolic Concept Learner" (NS-CL): een systeem dat afbeeldingen met neurale netwerken analyseert, maar vragen erover beantwoordt door een symbolisch programma uit te voeren (bijvoorbeeld: "tel eerst alle rode objecten, filter dan op vorm"). Dit werkte op de CLEVR-testset voor visueel redeneren en vroeg veel minder trainingsvoorbeelden dan pure neurale aanpakken.
In de robotica bouwde het lab van Luca Carlone aan het MIT met het systeem Kimera (rond 2020) een methode waarmee een robot tegelijk zijn positie bepaalt én een symbolische 3D-plattegrond van objecten en hun relaties opbouwt — nuttig voor navigatie en taakplanning.
Een recent en spraakmakend voorbeeld is AlphaGeometry van Google DeepMind, gepubliceerd in Nature in januari 2024. Het combineert een neuraal taalmodel (dat mogelijke tussenstappen "aanvoelt") met een klassieke symbolische deductiemotor (die stappen formeel controleert en afmaakt). Hiermee loste het meetkundeopgaven op het niveau van de Internationale Wiskunde Olympiade op, dicht bij het niveau van menselijke goudmedaillewinnaars. Later dat jaar bouwde DeepMind hierop voort met AlphaProof en een verbeterde AlphaGeometry 2, die bij de IMO van 2024 een score haalden die overeenkomt met een zilveren medaille.
Hoe ver is de techniek?
Sinds circa 2012 domineren neurale netwerken de AI-wereld dankzij hun successen in beeldherkenning en taal. Maar hun beperkingen — hallucinaties, moeite met strikte logica, en de behoefte aan enorme datasets — hebben sinds ongeveer 2019 tot hernieuwde belangstelling voor symbolische en neurosymbolische methoden geleid.
De resultaten van AlphaGeometry en AlphaProof in 2024 worden gezien als een belangrijk bewijs dat hybride aanpakken op afgebakende domeinen (zoals formele wiskunde) beter kunnen presteren dan pure neurale netwerken of pure symbolische systemen afzonderlijk.
Toch is een algemene, alledaagse symbolische wereldrepresentatie — een systeem dat, net als een mens, gewoon "begrijpt" hoe de fysieke en sociale wereld in elkaar zit — nog niet gerealiseerd. Het Cyc-project laat na veertig jaar handmatig invoerwerk zien hoe moeizaam en tijdrovend het is om gezond verstand volledig in regels te vangen. Een fundamenteel obstakel is het zogeheten symbol grounding problem: hoe koppel je abstracte symbolen als "stoel" betrouwbaar aan de rommelige, variabele werkelijkheid die een camera of sensor waarneemt? Ook is het lastig om neurale en symbolische onderdelen naadloos te laten samenwerken zonder dat de een de ander vertraagt of tegenspreekt.
Kortom: buiten specifieke niches zoals wiskundig bewijzen, zoekmachines en bepaalde vormen van robotnavigatie, is symbolische en neurosymbolische wereldrepresentatie vooral nog onderzoeksmateriaal, geen breed uitgerolde technologie.
Wie werken eraan?
Google DeepMind (Verenigd Koninkrijk/VS) is met AlphaGeometry en AlphaProof een van de meest zichtbare spelers. Het MIT-IBM Watson AI Lab, een samenwerking tussen het Massachusetts Institute of Technology en IBM, onderzoekt neurosymbolisch leren, onder meer via het werk van onderzoeker Jiayuan Mao en hoogleraar Joshua Tenenbaum. IBM Research ontwikkelt daarnaast eigen neurosymbolische toolkits voor bedrijfstoepassingen.
Cycorp, opgericht door Douglas Lenat in Austin (Texas), blijft de drijvende kracht achter het Cyc-project. In de robotica doet het lab van Luca Carlone aan het MIT baanbrekend werk met symbolische scene graphs, en aanverwant onderzoek loopt bij Stanford University en het Allen Institute for AI.
Op beleidsniveau financiert het Amerikaanse defensie-onderzoeksbureau DARPA via programma's zoals "Machine Common Sense" onderzoek naar AI die beter met alledaagse kennis kan redeneren. Ook Europese universiteiten, waaronder de VU Amsterdam en TU Delft, hebben onderzoeksgroepen die zich bezighouden met kennisrepresentatie en symbolisch redeneren, vaak in combinatie met machine learning.