GPU-acceleratie: hoe grafische chips de motor van AI werden
Stel je een keuken voor met één meesterkok. Die kok kan elk gerecht bereiden, van een ingewikkelde saus tot een taart, en doet dat stap voor stap, heel precies. Dat is een beetje hoe een CPU (de hoofdprocessor van een computer) werkt: hij kan bijna elke taak aan, maar voert die vooral na elkaar uit. Nu stel je een tweede keuken voor met duizenden hulpkoks. Elke hulpkok kan maar één simpel klusje: een ui snijden. Als je duizend uien moet snijden, is die keuken met hulpkoks veel sneller klaar dan de meesterkok alleen, simpelweg omdat iedereen tegelijk aan het werk is.
Die tweede keuken is in essentie wat een GPU (grafische processor, oorspronkelijk gebouwd om beeldschermen te vullen met pixels) doet: heel veel simpele, gelijksoortige berekeningen tegelijk uitvoeren. GPU-acceleratie betekent dat software een taak zo herschrijft dat die in duizenden kleine, identieke stukjes kan worden opgeknipt, waarna de GPU die stukjes allemaal tegelijk afhandelt. Dat blijkt uitstekend te werken voor taken als het trainen van kunstmatige intelligentie, het simuleren van eiwitten of het renderen van 3D-beelden — taken die vroeger dagen of weken kostten, maar nu in uren kunnen.
Wat is het precies?
Een CPU heeft meestal tussen de 4 en 64 rekenkernen, elk krachtig en flexibel genoeg om ingewikkelde, opeenvolgende instructies uit te voeren. Een moderne GPU heeft daarentegen duizenden tot tienduizenden eenvoudigere kernen. Die kernen zijn niet geschikt voor complexe logica, maar wel razendsnel in het herhaaldelijk uitvoeren van dezelfde simpele bewerking op grote hoeveelheden data tegelijk — bijvoorbeeld het vermenigvuldigen van getallen in een grote tabel (een zogeheten matrix).
Die matrixvermenigvuldiging is toevallig ook de kernbewerking achter zowel 3D-graphics als kunstmatige intelligentie. Een neuraal netwerk, de wiskundige structuur achter de meeste huidige AI, bestaat in de praktijk uit miljoenen tot miljarden van dit soort matrixvermenigvuldigingen. Daarom bleken GPU's, ontworpen voor games, per toeval ook ideaal voor AI.
Om een GPU voor iets anders dan beeldweergave te gebruiken, is speciale software nodig die de taak in kleine, parallelle stukjes opdeelt. De bekendste zo'n softwareplatform is CUDA van chipmaker NVIDIA, geïntroduceerd in 2006-2007. CUDA gaf programmeurs voor het eerst op grote schaal een praktische manier om gewone berekeningen (niet alleen graphics) op een GPU te laten draaien. Er bestaan ook alternatieven, zoals het open platform OpenCL en AMD's ROCm, maar CUDA is tot op heden veruit het meest gebruikt in onderzoek en industrie.
Wat wil men ermee bereiken?
Het kerndoel van GPU-acceleratie is simpel: meer rekenwerk verzetten in minder tijd, met minder energie per berekening, dan met een CPU alleen mogelijk zou zijn. Voor onderzoekers en bedrijven opent dat deuren die eerder gesloten bleven. Klimaatmodellen die voorheen weken draaiden, kunnen worden versneld. Geneesmiddelenonderzoekers kunnen sneller simuleren hoe eiwitten vouwen of hoe moleculen op elkaar reageren. En AI-modellen die miljarden parameters bevatten, zoals de taalmodellen achter chatbots, zijn zonder GPU's economisch en praktisch onhaalbaar om te trainen.
Er schuilt ook een economisch motief achter: wie sneller en goedkoper kan rekenen, kan sneller innoveren. Dat verklaart waarom GPU-fabrikanten als NVIDIA en AMD de afgelopen jaren zijn uitgegroeid tot enkele van de waardevolste bedrijven ter wereld, en waarom overheden GPU-capaciteit inmiddels als strategisch belang beschouwen, vergelijkbaar met energie of halfgeleiders in bredere zin.
Voorbeelden uit de praktijk
Een aantal concrete gevallen laat zien hoe GPU-acceleratie in de praktijk uitpakt.
AlexNet (2012) geldt als een van de belangrijkste kantelpunten in de AI-geschiedenis. Onderzoekers Alex Krizhevsky, Ilya Sutskever en Geoffrey Hinton trainden een neuraal netwerk voor beeldherkenning op slechts twee gewone NVIDIA-gamekaarten (GTX 580) en versloegen daarmee ruimschoots de concurrentie in de ImageNet-competitie. Dit resultaat overtuigde de onderzoekswereld dat GPU's onmisbaar waren voor deep learning, en zette de huidige AI-golf in gang.
AlphaGo (2016), ontwikkeld door DeepMind (onderdeel van Google), versloeg professioneel Go-speler Lee Sedol. Het systeem trainde op grote hoeveelheden GPU- en later ook TPU-rekenkracht (TPU's zijn door Google zelf ontworpen chips, verwant aan GPU's maar nog specifieker toegespitst op AI-berekeningen).
Folding@home (2020) is een project waarbij vrijwilligers wereldwijd de rekenkracht van hun eigen computer, vaak inclusief GPU, beschikbaar stellen voor eiwitonderzoek. Toen de coronapandemie uitbrak, meldden zoveel mensen zich aan om mee te helpen aan onderzoek naar het coronavirus, dat het gecombineerde netwerk in maart 2020 tijdelijk meer rekenkracht had dan 's werelds snelste supercomputers samen — een niveau dat destijds werd aangeduid als exaFLOP-schaal (meer dan een triljoen berekeningen per seconde).
Grote taalmodellen zoals GPT-4 van OpenAI, gebruikt in ChatGPT, zijn getraind op clusters van duizenden NVIDIA A100- en later H100-chips. De exacte aantallen en kosten maakt OpenAI niet openbaar, maar schattingen van onafhankelijke analisten lopen op tot tienduizenden GPU's en trainingskosten van tientallen miljoenen dollars per model.
Zelfrijdende auto's, zoals de systemen van Tesla, worden getraind op enorme hoeveelheden camerabeelden. Tesla bouwde hiervoor eigen GPU-clusters en later een eigen chip (Dojo), specifiek om dit soort videodata sneller te kunnen verwerken dan met bestaande GPU's mogelijk was.
Hoe ver is de techniek?
GPU-acceleratie is voor veel toepassingen inmiddels volwassen technologie: graphics, wetenschappelijke simulatie en AI-training draaien al jaren routinematig op GPU's. Tegelijk blijft de hardware zich in hoog tempo ontwikkelen. NVIDIA bracht in 2022-2023 de H100-chip uit (Hopper-architectuur), gevolgd door de H200 en in 2024 de nog krachtigere Blackwell-generatie (B200), telkens met aanzienlijke sprongen in rekenkracht per chip.
Toch is GPU-acceleratie geen wondermiddel. Niet elk probleem laat zich in kleine, identieke, parallelle stukjes opdelen; taken die sterk afhankelijk zijn van elkaars uitkomst (het ene resultaat is nodig om het volgende te berekenen) profiteren nauwelijks van een GPU en blijven CPU-werk. Daarnaast zijn er reële knelpunten: de chips zijn duur en schaars, de productie is geconcentreerd bij één fabrikant (het Taiwanese TSMC vervaardigt vrijwel alle geavanceerde GPU's, ook die van NVIDIA en AMD), en datacenters vol GPU's verbruiken enorme hoeveelheden elektriciteit en koelwater. Geopolitieke spanningen spelen eveneens mee: de Verenigde Staten beperken sinds 2022, met verdere aanscherpingen nadien, de export van de krachtigste AI-GPU's naar China, wat de wereldwijde markt en de technologische wapenwedloop rond AI beïnvloedt.
Wie werken eraan?
NVIDIA is met afstand marktleider en heeft met CUDA een softwareplatform gebouwd waar het overgrote deel van de AI-industrie inmiddels op steunt. AMD is de belangrijkste concurrent, met een eigen softwarelaag (ROCm) en de MI300-serie chips gericht op datacenters. Intel probeert met Arc- en Gaudi-chips een derde speler te worden, tot dusver met beperkt marktaandeel. Google ontwikkelt met de TPU een eigen, verwant alternatief voor GPU's, specifiek toegespitst op zijn eigen AI-diensten. Grote clouddiensten als Microsoft, Amazon en Meta kopen op hun beurt enorme aantallen GPU's in om AI-diensten aan klanten te kunnen leveren, en investeren daarnaast in eigen chipontwerpen om minder afhankelijk te worden van externe leveranciers.
Op onderzoeksvlak dragen universiteiten als Stanford en MIT in de Verenigde Staten al decennia bij aan zowel de theorie van parallel rekenen als concrete toepassingen in AI. Qua landen is het beeld tweeledig: het ontwerp van de meest geavanceerde chips gebeurt vrijwel volledig in de Verenigde Staten, terwijl de daadwerkelijke fabricage grotendeels in Taiwan plaatsvindt. China investeert intussen fors in eigen chipontwikkeling, mede om minder kwetsbaar te zijn voor westerse exportbeperkingen, al blijft het land vooralsnog afhankelijk van buitenlandse technologie voor de meest geavanceerde chips.