Deterministisch systeem: waarom voorspelbaarheid soms belangrijker is dan intelligentie
Stel je een lift voor. Je drukt op de knop voor de vierde verdieping, en de lift gaat altijd naar de vierde verdieping: niet soms naar de derde, niet af en toe naar de vijfde. Dat is een deterministisch systeem: een systeem dat bij precies dezelfde input, elke keer weer, precies dezelfde output geeft. Geen verrassingen, geen toeval, geen 'misschien'.
Het tegenovergestelde ken je waarschijnlijk ook al, zonder dat je er een naam voor had. Vraag een chatbot als ChatGPT twee keer hetzelfde, en je krijgt vaak een net iets ander antwoord. Dat komt omdat zulke systemen niet-deterministisch of probabilistisch zijn: ze werken met kansen in plaats van vaste uitkomsten. Voor een gedicht is dat prima, zelfs leuk. Maar voor de rem van een zelfrijdende auto, de betaalcomputer van een bank of de software in een vliegtuig wil je juist geen verrassingen. Daarom is 'deterministisch' een begrip dat steeds vaker opduikt in het nieuws over toekomsttechnologie, vooral nu kunstmatige intelligentie een grotere rol krijgt in veiligheidskritische systemen.
Wat is het precies?
In de informatica draait alles om input en output: je stopt gegevens in een systeem, er gebeurt iets, en er komt een resultaat uit. Bij een deterministisch systeem is die relatie volledig vastgelegd. Dezelfde input, dezelfde interne toestand en dezelfde omstandigheden leveren altijd exact dezelfde uitkomst op, hoe vaak je het ook herhaalt.
Dat klinkt vanzelfsprekend, maar in de praktijk is het dat niet. Computers doen namelijk veel dingen tegelijk: meerdere processen delen dezelfde chip, geheugen wordt op onvoorspelbare momenten vrijgegeven, en netwerkverbindingen kennen kleine vertragingen die per keer verschillen. Al die kleine toevalligheden kunnen ervoor zorgen dat een programma de ene keer net iets anders reageert dan de andere keer. Om dat te voorkomen, moeten ontwerpers van deterministische systemen dit soort toeval bewust uitsluiten of onder strikte controle brengen.
Dat gebeurt op een paar manieren. Ten eerste door de timing vast te leggen: een zogeheten real-time besturingssysteem garandeert dat een taak binnen een exact bepaalde tijd wordt afgehandeld, in plaats van 'meestal snel genoeg'. Ten tweede door willekeur te vermijden of te vervangen door vaste, herhaalbare regels: waar kunstmatige intelligentie vaak leunt op kansberekening (statistische patronen in data), gebruikt een deterministisch onderdeel harde logica en wiskundige regels die altijd hetzelfde resultaat geven. Ten derde, in verspreide systemen zoals blockchains, door ervoor te zorgen dat duizenden computers over de hele wereld onafhankelijk van elkaar exact dezelfde berekening uitvoeren en exact dezelfde uitkomst krijgen, anders raken ze het oneens.
Er bestaat ook een tussenvorm die steeds populairder wordt: neuro-symbolische AI. Dit combineert een lerend, statistisch onderdeel (bijvoorbeeld een neuraal netwerk dat patronen herkent) met een deterministisch, regelgebaseerd onderdeel dat de uitkomst controleert of afdwingt volgens vaste logica. Zo probeert men het beste van twee werelden te krijgen: de flexibiliteit van AI en de betrouwbaarheid van harde regels.
Wat wil men ermee bereiken?
De belangrijkste reden om te kiezen voor determinisme is voorspelbaarheid. Als een systeem levens- of missiekritisch is, zoals de boordcomputer van een vliegtuig, de rembesturing van een auto of de pacemaker in iemands borst, dan moet je vooraf kunnen bewijzen dat het systeem zich in elke situatie op dezelfde, veilige manier gedraagt. Bij een probabilistisch systeem kun je dat niet garanderen; je kunt alleen zeggen dat iets 'meestal' goed gaat.
Een tweede doel is verifieerbaarheid: de mogelijkheid om wiskundig te bewijzen dat software geen fouten bevat, in plaats van het alleen maar te testen. Testen kan nooit alle mogelijke situaties dekken; een wiskundig bewijs (formele verificatie genoemd) wel, maar dat is alleen haalbaar als het systeem deterministisch is.
Een derde doel, vooral relevant bij kunstmatige intelligentie, is het terugdringen van hallucinaties: momenten waarop een taalmodel met volle overtuiging iets verzint dat niet klopt. Door een deterministische, op regels gebaseerde controlelaag toe te voegen, bijvoorbeeld een rekenmachine, een database-check of een wiskundig bewijssysteem, kan een AI-toepassing voorkomen dat de kansgebaseerde 'gok' van het taalmodel zomaar wordt aangenomen als waarheid.
Tot slot speelt reproduceerbaarheid een rol, ook buiten de techniek: in wetenschappelijk onderzoek, financiële transacties en juridische besluitvorming wil men kunnen aantonen dat een resultaat niet toevallig tot stand kwam, maar exact te herleiden en te herhalen is.
Voorbeelden uit de praktijk
seL4 is een zogeheten microkernel (de kern van een besturingssysteem) die in 2009 door onderzoekers van het Australische onderzoeksinstituut NICTA, onder leiding van Gerwin Klein, wiskundig werd bewezen foutloos te zijn. Het is de eerste kernel ter wereld met zo'n volledig formeel bewijs en wordt sindsdien gebruikt in defensie- en luchtvaarttoepassingen, onder meer via het Amerikaanse DARPA-programma HACMS, dat draaide om het onhackbaar maken van militaire voertuigen.
QNX, een Canadees real-time besturingssysteem dat sinds 2010 eigendom is van BlackBerry, draait in tientallen miljoenen auto's wereldwijd, vaak voor infotainmentsystemen maar in toenemende mate ook voor veiligheidskritische functies zoals digitale dashboards en rijhulpsystemen.
VxWorks van Wind River Systems is het real-time besturingssysteem achter vrijwel alle NASA-Marsmissies, van de Pathfinder-lander in 1997 tot de rovers Curiosity (2012) en Perseverance (2021). Ook in de avionica van verkeersvliegtuigen wordt dit type software gebruikt.
In de blockchainwereld is determinisme de kern van het hele systeem: de Ethereum Virtual Machine moet ervoor zorgen dat duizenden onafhankelijke computers wereldwijd, gegeven dezelfde transacties, exact dezelfde uitkomst berekenen. Zonder dat zou er geen consensus mogelijk zijn over wie wat bezit.
Op het gebied van AI liet Google DeepMind in januari 2024 zien wat neuro-symbolische combinaties kunnen: hun systeem AlphaGeometry koppelde een taalmodel aan een deterministische, symbolische bewijsmachine en behaalde daarmee een score op meetkundeproblemen die in de buurt komt van een goudmedaillewinnaar bij de Internationale Wiskunde Olympiade.
Hoe ver is de techniek?
Deterministische besturingssystemen zoals QNX en VxWorks zijn al decennialang volwassen technologie; ze draaien al sinds de jaren tachtig en negentig in kritieke toepassingen. De uitdaging zit tegenwoordig niet in het basisprincipe, maar in het combineren van dit soort harde garanties met de veel grillige wereld van moderne AI.
Dat is nog volop in ontwikkeling. Onderzoekers experimenteren met manieren om grote taalmodellen te 'omhullen' met deterministische controlelagen, zodat de uiteindelijke output altijd binnen bepaalde harde grenzen blijft, ook al is het model zelf inherent kansgebaseerd. Volledige determinisme afdwingen op een taalmodel zelf blijkt lastig: zelfs bij identieke instellingen kunnen kleine technische factoren, zoals de volgorde van berekeningen op grafische chips, tot net iets andere uitkomsten leiden. Bedrijven werken aan striktere reproduceerbaarheid van AI-output, maar een pasklare, algemeen aanvaarde oplossing bestaat nog niet.
Voor formele verificatie (het wiskundig bewijzen dat software correct is) geldt dat het goed werkt voor kleine, overzichtelijke systemen zoals seL4, maar dat het opschalen naar grote, complexe AI-systemen met miljarden parameters vooralsnog niet haalbaar is. Dat blijft een van de grootste open obstakels in het veld.
Wie werken eraan?
Op het gebied van real-time besturingssystemen zijn BlackBerry QNX en Wind River Systems (sinds 2022 onderdeel van het Amerikaanse techbedrijf Aptiv) de grote namen, met klanten in de auto-industrie en luchtvaart. De ontwikkeling van seL4 wordt voortgezet door de onderzoeksgroep Trustworthy Systems, onderdeel van het Australische onderzoeksinstituut CSIRO/Data61, in samenwerking met de seL4 Foundation.
In de ruimtevaart is het Amerikaanse NASA (met zijn Jet Propulsion Laboratory) een grote gebruiker en mede-ontwikkelaar van deterministische software-eisen. In de automobielsector wordt determinisme vastgelegd via de industriestandaard AUTOSAR, opgericht in 2003 door onder meer BMW, Bosch, Continental, Daimler en Volkswagen, en via veiligheidsnormen als ISO 26262. In de luchtvaart geldt de vergelijkbare norm DO-178C.
Op AI-gebied loopt Google DeepMind voorop met onderzoek naar neuro-symbolische systemen. Ook academische groepen aan onder meer het MIT en Europese universiteiten werken aan hybride AI die kansgebaseerde flexibiliteit combineert met deterministische betrouwbaarheid. In de blockchainwereld dragen ontwikkelaarsgemeenschappen rond Ethereum en vergelijkbare platformen bij aan de deterministische uitvoeringsomgevingen die consensus mogelijk maken.