Tijdshiërarchie: hoe machines leren denken in lagen van tijd, net als je brein
Stel je voor dat je naar een liedje luistert. Op het kleinste niveau hoor je losse tonen die na elkaar klinken. Een laag hoger herken je motiefjes: een paar tonen die samen een herkenbaar fragment vormen. Nog een laag hoger herken je het refrein, en daarboven weer het hele nummer. Je brein doet dit moeiteloos: het rijgt korte patronen in de tijd aaneen tot grotere patronen, die op hun beurt weer onderdeel zijn van nog grotere patronen. Dat is in de kern een tijdshiërarchie: een gelaagde manier om gebeurtenissen die na elkaar plaatsvinden te herkennen en te voorspellen, van heel kort (milliseconden) tot heel lang (jaren).
In de wereld van kunstmatige intelligentie en neurowetenschap is dit idee de basis van een onderzoeksrichting die bekendstaat als hierarchical temporal memory (HTM), ofwel hiërarchisch temporeel geheugen. In plaats van dat een computer los van tijd naar een los plaatje of getal kijkt, leert zo'n systeem reeksen te herkennen op meerdere schaalniveaus tegelijk: korte, snel veranderende patronen onderin de hiërarchie, en langere, stabielere patronen hoger op. Dat idee ligt aan de basis van technologie die probeert te voorspellen, afwijkingen te signaleren en, in de verste toekomstvisie van de bedenkers, machines net zo flexibel te laten leren als een mensenbrein.
Wat is het precies?
Het begrip tijdshiërarchie komt oorspronkelijk uit de neurowetenschap. Onderzoekers zagen dat de neocortex — de buitenste, sterk gevouwen laag van de menselijke hersenen die verantwoordelijk is voor taal, redeneren en waarneming — is opgebouwd uit talloze vergelijkbare kolommetjes van zenuwcellen, de zogeheten corticale kolommen. Die kolommen zijn gerangschikt in gebieden die op elkaar zijn aangesloten als een soort trap. Signalen van ogen of oren komen eerst binnen in "lage" gebieden, die razendsnel veranderende, kortstondige patronen verwerken: de precieze vorm van een lijntje, de toonhoogte van een klank. Die informatie wordt doorgestuurd naar "hogere" gebieden, die trager veranderen en meer betekenis vasthouden: een gezicht, een woord, een melodie.
De Amerikaanse uitvinder en neurowetenschapper Jeff Hawkins — bekend als medeoprichter van Palm en Handspring, de bedrijven achter vroege handheld computers — vertaalde dit idee naar een reken- en leermodel dat hij hiërarchisch temporeel geheugen noemde. In zo'n model liggen meerdere "lagen" boven elkaar. De onderste laag ziet ruwe, snel veranderende gegevens, bijvoorbeeld de stroom metingen van een sensor, moment voor moment. Elke laag daarboven kijkt niet naar losse momenten, maar naar patronen die de laag eronder over een langere periode laat zien, en probeert daarin regelmaat te herkennen. Zo ontstaat een stapel waarin onderin alles snel en concreet is, en bovenin alles traag en abstract.
Het kernmechanisme is voorspelling. Elk onderdeel van het systeem probeert voortdurend te voorspellen wat er als volgende komt, gebaseerd op wat het eerder heeft gezien. Klopt de voorspelling, dan wordt de verbinding tussen reken-eenheden versterkt, ongeveer zoals zenuwcellen in echte hersenen sterker met elkaar verbonden raken naarmate ze vaker samen actief zijn. Klopt de voorspelling niet, dan is dat een signaal dat er iets ongebruikelijks gebeurt — een basis voor het herkennen van afwijkingen. Om dit efficiënt te doen, gebruiken deze systemen zogeheten sparse distributed representations (SDR's): patronen waarin op elk moment maar een klein deel van alle beschikbare reken-eenheden actief is. Dat maakt het systeem energiezuinig en tegelijk heel precies, vergelijkbaar met hoe echte hersenen coderen.
Wat wil men ermee bereiken?
Veel klassieke kunstmatige intelligentie is gebouwd rond het herkennen van losse, statische patronen: is dit een kat of een hond op de foto? Tijd en volgorde moesten daar vaak achteraf aan toegevoegd worden, bijvoorbeeld met recurrente netwerken of, tegenwoordig, met transformer-architecturen die ook achter grote taalmodellen zitten. De aanhangers van tijdshiërarchie willen iets anders: een systeem waarin tijd en opeenvolging vanaf het begin fundamenteel zijn, precies zoals in het brein.
Een tweede doel is continu leren zonder wat onderzoekers "catastrophic forgetting" noemen: het verschijnsel dat een neuraal netwerk oude kennis grotendeels kwijtraakt zodra het iets nieuws leert. Mensen en dieren kunnen daarentegen hun hele leven lang bijleren zonder eerdere vaardigheden te verliezen. Een systeem dat continu, stap voor stap, patronen in doorlopende datastromen leert — zoals HTM beoogt — zou in theorie minder last hebben van dit probleem.
Daarnaast hopen onderzoekers op praktische voordelen: energiezuinigere AI dankzij de spaarzame, "sparse" manier van rekenen, en betere detectie van afwijkingen in doorlopende datastromen, zoals serverstatistieken of sensordata. Het meest ambitieuze, en meest onzekere, doel is wetenschappelijk van aard: door te begrijpen hoe de hersenen tijd hiërarchisch verwerken, hopen onderzoekers als Hawkins een stap dichter te komen bij écht algemene kunstmatige intelligentie (AGI) — al is dat voorlopig vooral een verre stip op de horizon dan een concreet resultaat.
Voorbeelden uit de praktijk
Numenta, het bedrijf dat Hawkins mede oprichtte, bracht in de jaren 2010 NuPIC (Numenta Platform for Intelligent Computing) uit als opensourcesoftware, zodat andere ontwikkelaars met HTM konden experimenteren. Op basis van dezelfde technologie ontwikkelde Numenta ook Grok, een commercieel product voor het automatisch signaleren van afwijkingen in IT-infrastructuur, zoals ongebruikelijke pieken in serverbelasting. Grok werd op enig moment als apart bedrijf voortgezet los van Numenta; de precieze latere ontwikkeling en huidige status van dat product zijn voor buitenstaanders niet goed te achterhalen.
Los van Numenta ontstond in Wenen het bedrijf Cortical.io, dat de SDR-aanpak toepaste op tekst in plaats van sensordata: woorden en zinnen worden omgezet in spaarzame patronen om betekenis en gelijkenis tussen documenten te herkennen, met toepassingen in bijvoorbeeld verzekerings- en juridische documentverwerking.
Op wetenschappelijk vlak publiceerden onderzoekers van Numenta rond 2019 werk over de rol van zogeheten "grid cells" — hersencellen die oorspronkelijk bekend werden van ruimtelijke navigatie — als mogelijke bouwstenen van corticale kolommen, wat leidde tot Hawkins' bredere "Thousand Brains"-theorie. Recenter heeft Numenta het Thousand Brains Project gestart, een opensource-initiatief dat probeert deze hersengeïnspireerde principes toegankelijk te maken voor de bredere onderzoeksgemeenschap; de exacte lancering hiervan ligt naar verluidt rond het midden van dit decennium, maar over details is nog weinig onafhankelijk gepubliceerd.
Hoe ver is de techniek?
Tijdshiërarchie als onderzoeksrichting bestaat al zo'n twintig jaar, maar is in de bredere AI-wereld een niche gebleven. Terwijl deep learning vanaf ongeveer 2012 een reeks doorbraken beleefde — van beeldherkenning tot de grote taalmodellen van nu — is HTM vooral relevant gebleven voor specifieke, smalle toepassingen zoals het monitoren van doorlopende datastromen. De grotere belofte van mensachtige, algemene intelligentie is tot nu toe niet waargemaakt.
Numenta zelf lijkt de aanpak deels te hebben verlegd: in plaats van HTM als losstaand alternatief voor deep learning te positioneren, onderzoekt het bedrijf ook hoe hersengeïnspireerde spaarzaamheid (sparsity) gebruikt kan worden om bestaande grote taalmodellen efficiënter te maken, zowel qua rekenkracht als energieverbruik. Een belangrijk obstakel blijft dat het moeilijk hard te bewijzen is dat deze aanpak op grote schaal beter presteert dan mainstream deep learning; de adoptie buiten het Numenta-ecosysteem is beperkt, en het valideren van de onderliggende neurowetenschappelijke aannames blijft lastig, omdat het menselijk brein zich nu eenmaal niet zomaar laat naspelen in een laboratorium.
Wie werken eraan?
De belangrijkste drijvende kracht is nog altijd Numenta, gevestigd in Redwood City, Californië, met Jeff Hawkins als medeoprichter en Subutai Ahmad als chief scientist die veel van het technische onderzoek aanstuurt. In Europa werkt Cortical.io in Wenen aan verwante toepassingen voor tekstanalyse.
Daarnaast houden diverse academische neurowetenschap-labs zich bezig met verwante vragen over hoe de hersenschors informatie hiërarchisch en voorspellend verwerkt, een onderzoekslijn die raakvlakken heeft met — maar niet hetzelfde is als — het zogeheten "predictive coding"-kader en het "free energy principle" van de Britse neurowetenschapper Karl Friston. Grote AI-laboratoria zoals DeepMind, OpenAI en Google verkennen intussen ook hiërarchische en temporele ideeën, maar dan via heel andere architecturen zoals transformers en recentere "state-space models" (bijvoorbeeld Mamba); zij gebruiken zelden de term HTM of tijdshiërarchie, ook al raken de onderliggende vragen elkaar.