Backpropagation: hoe neurale netwerken leren van hun fouten
Stel je een grote fabriekslijn voor met tientallen stations na elkaar, waarbij elk station een product een beetje bijstelt voordat het naar het volgende station gaat. Aan het einde van de lijn wordt het product gekeurd en blijkt het net niet goed genoeg. De vraag is dan: welk station moet je bijstellen, en hoeveel? Backpropagation is de wiskundige methode waarmee een computer dat soort vragen razendsnel kan beantwoorden binnen een kunstmatig neuraal netwerk, een softwaremodel dat losjes is geïnspireerd op hersencellen en dat bestaat uit lagen van simpele rekeneenheden.
Concreet: als een netwerk leert een foto van een kat te herkennen maar het antwoord verkeerd inschat, berekent backpropagation voor elke afzonderlijke verbinding in het netwerk hoe groot diens bijdrage aan die fout was. Die informatie wordt van de uitkomst terug naar het begin van het netwerk gestuurd, laag voor laag, zodat elke verbinding een klein beetje kan worden bijgesteld in de richting die de fout verkleint. Herhaal dat proces miljoenen keren met miljoenen voorbeelden, en het netwerk leert geleidelijk steeds betere voorspellingen te doen. Zonder deze methode zouden de grote taalmodellen en beeldherkenningssystemen van vandaag niet bestaan.
Wat is het precies?
Een neuraal netwerk bestaat uit lagen van kunstmatige 'neuronen', die met elkaar verbonden zijn via gewichten: getallen die bepalen hoe sterk het signaal van het ene neuron doorwerkt op het volgende. Om iets te leren, moet een netwerk deze gewichten net zo lang bijstellen tot de uitkomst klopt.
Het trainen verloopt in twee stappen die telkens worden herhaald. Eerst is er de voorwaartse pas: invoer, bijvoorbeeld pixels van een foto, gaat door de lagen van het netwerk en levert een voorspelling op, zoals 'kat' of 'hond'. Die voorspelling wordt vergeleken met het juiste antwoord via een foutfunctie, een formule die uitdrukt hoe ver het netwerk ernaast zat.
Daarna volgt de achterwaartse pas, oftewel backpropagation zelf. Met behulp van de kettingregel, een basisregel uit de wiskundige differentiaalrekening, wordt berekend hoeveel elk afzonderlijk gewicht in het netwerk heeft bijgedragen aan de uiteindelijke fout. Deze bijdrage heet de gradiënt. De kettingregel maakt het mogelijk om deze berekening laag voor laag terug te voeren, van de uitvoer naar de invoer, zonder dat je voor elk gewicht apart helemaal opnieuw hoeft te rekenen.
Zodra de gradiënten bekend zijn, past een methode genaamd gradient descent ('gradiëntafdaling') de gewichten een klein stapje aan in de richting die de fout verkleint. Doe dit voldoende vaak met voldoende voorbeelden, en het netwerk 'leert' patronen herkennen die het aanvankelijk niet kende. Backpropagation lost daarmee vooral een praktisch probleem op: zonder een efficiënte manier om de gradiënten te berekenen, zou trainen van netwerken met veel lagen rekenkundig onbetaalbaar traag zijn.
Wat wil men ermee bereiken?
Het achterliggende doel is simpel te formuleren: een computer laten leren van voorbeelden in plaats van dat een programmeur elke regel met de hand voorschrijft. Vóór het gangbaar worden van backpropagation liep onderzoek naar neurale netwerken vast op het zogeheten credit assignment-probleem: bij een netwerk met meerdere lagen was het onduidelijk hoe je kon bepalen welk deel van het netwerk verantwoordelijk was voor een fout, en dus hoe je het moest bijsturen.
Backpropagation biedt daarvoor een wiskundig onderbouwde en, belangrijker nog, rekenkundig haalbare oplossing. Dat maakte het mogelijk om netwerken met steeds meer lagen te trainen, wat weer de basis legde voor wat we nu 'deep learning' noemen: machine learning met diepe, meerlagige netwerken. De belofte is dat systemen zo patronen leren herkennen in beeld, taal, geluid en andere data zonder dat mensen die patronen expliciet hoeven te definiëren. Die belofte is inmiddels grotendeels waargemaakt, al blijft trainen kostbaar in rekenkracht, energie en data, en garandeert het geen begrip in menselijke zin, alleen statistisch patroonherkenning.
Voorbeelden uit de praktijk
Het fundamentele artikel dat backpropagation breed onder de aandacht bracht, verscheen in 1986 in het tijdschrift Nature, geschreven door David Rumelhart, Geoffrey Hinton en Ronald Williams. Zij toonden aan dat de methode netwerken met verborgen lagen effectief kon trainen, iets waar eerdere technieken op vastliepen.
In 2012 demonstreerde het netwerk AlexNet, ontwikkeld door Alex Krizhevsky, Ilya Sutskever en Geoffrey Hinton aan de Universiteit van Toronto, hoe krachtig de combinatie van backpropagation, grote datasets en grafische processoren (GPU's) kon zijn. AlexNet won dat jaar overtuigend de ImageNet-competitie voor beeldherkenning en gaf het startschot voor de huidige golf van deep learning.
In 2016 versloeg AlphaGo, ontwikkeld door Google DeepMind, de Zuid-Koreaanse grootmeester Lee Sedol in het bordspel Go. De neurale netwerken binnen AlphaGo werden getraind met backpropagation, gecombineerd met andere technieken zoals reinforcement learning en boomzoekstrategieën.
Ook de grote taalmodellen van dit moment, zoals de GPT-modellen van OpenAI, worden getraind via backpropagation: miljarden gewichten worden bijgesteld op basis van enorme hoeveelheden tekst. Hetzelfde geldt voor de convolutionele netwerken die worden gebruikt in beeldherkenning voor medische scans en in de beeldverwerking van zelfrijdende auto's.
Hoe ver is de techniek?
Backpropagation is inmiddels veertig jaar oud en nog altijd de onbetwiste standaard om neurale netwerken te trainen. Vrijwel elk groot AI-systeem dat vandaag in gebruik is, van spraakherkenning tot beeldgeneratie, steunt op deze methode. In die zin is de techniek volwassen en stabiel; de vooruitgang van de afgelopen jaren zit vooral in schaal (grotere netwerken, meer data, meer rekenkracht) en niet in het vervangen van het basisprincipe.
Toch zijn er bekende beperkingen. Trainen van grote modellen kost enorm veel energie en gespecialiseerde hardware, wat vragen oproept over duurzaamheid en toegankelijkheid van onderzoek. Daarnaast is er langlopende twijfel over de biologische plausibiliteit van backpropagation: het menselijk brein lijkt niet op deze manier te leren, onder meer omdat het geen exacte foutsignalen op deze wijze door het hele netwerk terug lijkt te sturen. Dat heeft onderzoekers, waaronder Geoffrey Hinton zelf, aangezet tot het zoeken naar alternatieven; in 2022 presenteerde hij het zogeheten forward-forward-algoritme als mogelijk brein-vriendelijker alternatief. Dit soort alternatieven bevindt zich vooralsnog in een experimentele fase en heeft backpropagation in de praktijk nog niet verdrongen.
Wie werken eraan?
De wetenschappelijke basis werd gelegd door David Rumelhart, Geoffrey Hinton en Ronald Williams met hun publicatie uit 1986. Hinton, verbonden aan de Universiteit van Toronto en later ook aan Google, wordt vaak een van de 'peetvaders van deep learning' genoemd, samen met Yann LeCun (nu bij Meta AI, voorheen verbonden aan New York University) en Yoshua Bengio (Université de Montréal en onderzoeksinstituut Mila). Deze drie ontvingen in 2018 gezamenlijk de Turing Award, de belangrijkste onderscheiding in de informatica, mede voor hun werk aan neurale netwerken en backpropagation.
Op instellingsniveau spelen de Universiteit van Toronto, Mila in Montreal, Stanford University en New York University een leidende rol in fundamenteel onderzoek. Bij de grote technologiebedrijven wordt de techniek dagelijks toegepast en verder verfijnd door onderzoeksafdelingen als Google DeepMind, OpenAI en Meta AI. Geografisch ligt het zwaartepunt van dit onderzoek nog altijd sterk in Noord-Amerika (Verenigde Staten en Canada), met het Verenigd Koninkrijk (onder meer via DeepMind, oorspronkelijk een Brits bedrijf) als belangrijke derde speler.