Fysica-bewust neuraal netwerk
Stel je een leerling voor die het weer probeert te voorspellen door duizenden oude weerkaarten uit haar hoofd te leren, zonder ooit iets over luchtdruk of temperatuur te begrijpen. Ze kan aardig gokken, maar bij een situatie die ze nog nooit zag, gaat het mis. Een tweede leerling kent daarnaast de natuurkundige wetten die het weer sturen. Die combinatie van feiten onthouden én de onderliggende regels kennen, is precies wat een fysica-bewust neuraal netwerk (in het Engels: physics-informed neural network, afgekort PINN) doet voor computersimulaties.
Een gewoon neuraal netwerk — een computerprogramma dat patronen leert uit voorbeelden, geïnspireerd op hoe hersencellen signalen doorgeven — wordt getraind door het heel veel invoer-uitvoerparen te tonen. Een fysica-bewust netwerk krijgt daarnaast een ingebouwd geweten: het weet welke natuurkundige vergelijking, bijvoorbeeld voor warmtegeleiding of luchtstroming, altijd moet kloppen. Tijdens het leren wordt het netwerk niet alleen afgerekend op fouten ten opzichte van meetdata, maar ook op overtredingen van die vergelijking. Zo ontstaat een model dat met minder data toch fysisch plausibele voorspellingen doet.
Wat is het precies?
Om dit te begrijpen, moet je eerst weten wat veel natuurkundige processen gemeen hebben: ze worden beschreven door partiële differentiaalvergelijkingen (PDE's). Dit zijn wiskundige formules die aangeven hoe een grootheid — temperatuur, druk, snelheid — verandert in ruimte en tijd. Denk aan de vergelijkingen die beschrijven hoe warmte zich door een metalen plaat verspreidt, of hoe lucht om een vliegtuigvleugel stroomt. Deze vergelijkingen zijn vaak wel bekend, maar heel lastig exact op te lossen voor complexe vormen.
Traditioneel lossen ingenieurs zulke vergelijkingen op met numerieke methoden zoals de eindige-elementenmethode: het gebied wordt opgedeeld in miljoenen kleine blokjes, en voor elk blokje wordt de vergelijking stap voor stap benaderd. Dat werkt goed, maar kan traag zijn, zeker bij complexe geometrieën of wanneer je de berekening telkens opnieuw moet doen voor een net iets andere situatie.
Een fysica-bewust neuraal netwerk pakt het anders aan. Het netwerk krijgt coördinaten als invoer — bijvoorbeeld een positie (x, y) en een tijdstip (t) — en geeft als uitvoer een voorspelling van de gezochte grootheid, zoals temperatuur of snelheid. Vervolgens gebruikt men een wiskundige truc genaamd automatisch differentiëren: de computer kan exact berekenen hoe de uitvoer van het netwerk verandert als je de invoer een klein beetje aanpast, zonder dat daarvoor een aparte formule nodig is. Daarmee kunnen de afgeleiden die in de PDE voorkomen rechtstreeks uit het netwerk worden berekend.
Die afgeleiden worden vervolgens in de bekende natuurkundige vergelijking ingevuld. Als het netwerk perfect zou kloppen, zou de uitkomst van die vergelijking overal nul moeten zijn — geen overtreding, geen ‘residu’. Tijdens het trainen probeert het netwerk twee dingen tegelijk te minimaliseren: het verschil met eventuele meetpunten, én dat residu op willekeurige punten in het hele gebied. Zo leert het netwerk een oplossing die zowel bij de data past als aan de natuurwetten voldoet, zelfs op plekken waar helemaal geen metingen beschikbaar zijn.
Wat wil men ermee bereiken?
De motivatie is een compromis tussen twee werelden. Klassieke numerieke solvers zijn betrouwbaar en nauwkeurig, maar rekenintensief en star: voor elke nieuwe situatie moet de hele simulatie opnieuw. Puur datagedreven machinelearning-modellen zijn razendsnel eenmaal getraind, maar hebben enorme hoeveelheden data nodig en kunnen fysisch onzinnige uitkomsten geven — bijvoorbeeld energie die uit het niets ontstaat.
Fysica-bewuste netwerken proberen het beste van beide te combineren. Ze zijn data-efficiënt: omdat de natuurwet al bekend is, hoeft het netwerk niet alles uit voorbeelden te leren en volstaan vaak schaarse of ruizige metingen. Ze zijn ook geschikt voor zogeheten inverse problemen: situaties waarin je juist onbekende eigenschappen wilt afleiden uit beperkte metingen, zoals de warmtegeleidbaarheid van een nieuw materiaal, of de druk in bloedvaten op plekken waar geen sensor kan komen. Omdat het netwerk overal differentieerbaar is, leent het zich bovendien goed voor ontwerpoptimalisatie: je kunt automatisch een vorm zoeken die aan bepaalde fysische eisen voldoet.
Voorbeelden uit de praktijk
Het concept werd in 2019 breed geïntroduceerd door Maziar Raissi, Paris Perdikaris en George Em Karniadakis in een veelgeciteerd artikel in het Journal of Computational Physics, waarin ze lieten zien dat een neuraal netwerk klassieke vergelijkingen zoals de Burgers-vergelijking (een model voor golfvorming en turbulentie) en de Schrödinger-vergelijking kon oplossen met opvallend weinig trainingsdata.
Uit dezelfde onderzoeksgroep aan Brown University kwam kort daarna DeepXDE, een opensource-softwarebibliotheek van onderzoeker Lu Lu, die het bouwen van fysica-bewuste netwerken toegankelijker maakte voor andere wetenschappers en ingenieurs.
Chipfabrikant NVIDIA ontwikkelde een industrieel platform, aanvankelijk SimNet geheten en later omgedoopt tot Modulus, waarmee bedrijven fysica-bewuste modellen kunnen trainen voor toepassingen als koeling van elektronica en aerodynamica, met als doel simulaties te versnellen ten opzichte van traditionele software.
In de medische wereld experimenteren onderzoeksgroepen met het reconstrueren van bloedstroom in hart en bloedvaten uit 4D-flow MRI-scans: de scans leveren maar beperkte en ruizige metingen op, en een fysica-bewust netwerk vult dat aan met de bekende stromingsvergelijkingen om een vollediger en fysisch consistent beeld van de bloeddruk en -snelheid te krijgen.
Verwant, maar technisch net iets anders, is het werk aan zogeheten neurale operatoren, zoals de Fourier Neural Operator die rond 2020 werd voorgesteld door onder anderen Zongyi Li en Anima Anandkumar (Caltech). In plaats van één vergelijking voor één specifieke situatie op te lossen, leert zo'n netwerk in één keer een hele familie van oplossingen, wat onder meer wordt onderzocht voor het versnellen van weer- en klimaatsimulaties.
Hoe ver is de techniek?
Fysica-bewuste neurale netwerken zijn sinds 2019 uitgegroeid tot een actief onderzoeksveld met duizenden publicaties per jaar, maar het is nog vooral een onderzoeks- en prototypetechnologie. Er bestaan industriële softwarepakketten die de methode aanbieden, en sommige ingenieursbureaus experimenteren ermee voor specifieke ontwerptaken, maar grootschalige, routinematige vervanging van klassieke simulatiesoftware is er nog niet.
Een belangrijk obstakel is dat het trainen van deze netwerken lastiger is dan het lijkt. Ze hebben moeite met zogeheten ‘stijve’ vergelijkingen, waarin verschijnselen op zeer verschillende schalen tegelijk spelen, en met het leren van snel variërende, fijne details — een probleem dat onderzoekers ‘spectrale bias’ noemen. Ook ontbreken vaak de wiskundige garanties op nauwkeurigheid die klassieke numerieke methoden wel bieden, wat de techniek minder geschikt maakt voor toepassingen waar veiligheid strikte foutmarges vereist.
Er wordt daarom hard gewerkt aan verbeteringen: slimmere manieren om het gewicht van de data-fout versus de fysica-fout tijdens training te balanceren, betere netwerkarchitecturen, en hybride methoden die fysica-bewuste netwerken combineren met klassieke solvers. Voor eenvoudige, goed begrepen problemen presteren klassieke methoden vaak nog altijd sneller en betrouwbaarder; de meerwaarde van PINNs zit vooral in situaties met schaarse data, onbekende parameters, of complexe geometrieën waar traditionele methoden duur worden.
Wie werken eraan?
De Verenigde Staten lopen voorop in dit onderzoek. Brown University, waar Karniadakis' groep de basis legde, blijft een centrum voor dit werk, samen met instituten als het California Institute of Technology (Caltech), waar onder meer aan neurale operatoren wordt gewerkt, en MIT en Stanford, die onderzoek doen naar toepassingen in stromingsleer en biomedische beeldvorming.
Aan de industriekant investeert NVIDIA structureel in dit veld via zijn Modulus-platform en bijbehorend onderzoek. Ook techbedrijven als Google DeepMind verkennen fysica-geïnspireerde machinelearning voor gerelateerde toepassingen zoals weersvoorspelling, al gebruiken zij niet altijd exact dezelfde PINN-aanpak. In Europa zijn onder meer ETH Zürich en diverse Max Planck-instituten actief op dit terrein, en ook Chinese universiteiten publiceren in hoog tempo onderzoek op dit gebied. Voor de meeste industriële sectoren — lucht- en ruimtevaart, energie, halfgeleiders — geldt dat de technologie momenteel vooral in onderzoeksafdelingen en pilotprojecten wordt getest.