AI-versnellerchip
Een AI-versnellerchip is een computerchip die speciaal is gebouwd om de rekenklussen van kunstmatige intelligentie razendsnel uit te voeren. Waar de processor in een gewone laptop (de CPU, oftewel central processing unit) allerlei uiteenlopende taken na elkaar afhandelt, is een AI-versnellerchip juist toegespitst op één ding: enorm veel simpele rekensommen tegelijk uitvoeren. Dat maakt het verschil tussen minuten en weken wachttijd bij het trainen van een AI-model.
Een handige vergelijking is die van een keukenteam. Een CPU is als een uitstekende chef-kok die elke stap van een gerecht stuk voor stuk, maar heel precies, uitvoert: snijden, bakken, proeven, op smaak brengen. Een AI-versnellerchip lijkt meer op een leger van duizenden hulpkoks die allemaal tegelijk exact dezelfde simpele handeling doen, bijvoorbeeld duizenden wortels in precies dezelfde stukjes snijden. Voor complexe, afwisselende taken is de chef sneller; voor enorme hoeveelheden identiek repeterend werk wint het leger hulpkoks glansrijk. AI-training bestaat grotendeels uit dat laatste soort werk.
Wat is het precies?
De kern van vrijwel alle moderne AI, van chatbots tot beeldherkenning, is de matrixvermenigvuldiging: een wiskundige bewerking waarbij grote rijen en kolommen getallen met elkaar worden vermenigvuldigd en opgeteld. Dit gebeurt miljarden keren per seconde tijdens het trainen en gebruiken van een AI-model. Een CPU heeft doorgaans maar een paar tot enkele tientallen rekenkernen en is geoptimaliseerd om die ene, complexe taak zo snel mogelijk sequentieel (na elkaar) uit te voeren.
Een AI-versnellerchip kiest een andere aanpak: parallellisme, oftewel het tegelijkertijd uitvoeren van duizenden tot miljoenen kleine, identieke rekensommen. Dat vraagt om chips met duizenden eenvoudige rekenkernen in plaats van een handvol complexe. De prestaties van zulke chips worden vaak uitgedrukt in FLOPS (floating point operations per second), het aantal simpele rekenbewerkingen dat een chip per seconde kan verwerken.
Er bestaan verschillende families van AI-versnellerchips. De GPU (graphics processing unit, oorspronkelijk ontwikkeld voor het weergeven van 3D-graphics in games) bleek toevallig zeer geschikt voor AI-rekenwerk, omdat beeldbewerking en AI-training wiskundig veel overeenkomsten vertonen. De TPU (tensor processing unit) is een chip die Google specifiek voor AI-taken heeft laten ontwerpen, zonder de overbodige onderdelen die een GPU nog met zich meedraagt uit zijn grafische verleden. Een NPU (neural processing unit) is een kleinere, zuinige variant die vaak in smartphones en laptops zit voor lichte AI-taken zoals gezichtsherkenning. Tot slot zijn er ASIC's (application-specific integrated circuits): chips die vanaf de grond af aan zijn ontworpen voor precies één taak, en FPGA's (field-programmable gate arrays), chips waarvan de interne bedrading na productie nog herprogrammeerbaar is voor verschillende toepassingen.
Wat wil men ermee bereiken?
De belangrijkste drijfveer is snelheid: een AI-model dat op gewone CPU's weken zou kosten om te trainen, is met de juiste versnellerchips soms in enkele dagen klaar. Dat maakt onderzoek en productontwikkeling praktisch haalbaar.
Energie-efficiëntie is minstens zo belangrijk. AI-versnellerchips voeren specifieke bewerkingen uit met minder energie per berekening dan algemene processors, wat cruciaal is nu datacenters wereldwijd een steeds groter deel van het elektriciteitsverbruik voor hun rekening nemen. Daarnaast spelen kosten een rol: efficiëntere chips betekenen minder hardware en minder stroom nodig voor hetzelfde resultaat, wat AI-diensten betaalbaarder maakt.
Er is ook een geopolitiek en strategisch belang. Landen en bedrijven willen niet volledig afhankelijk zijn van één leverancier of één land voor deze cruciale technologie, wat verklaart waarom de Verenigde Staten, China en de Europese Unie fors investeren in eigen chipontwerp en -productie. Tot slot is er een groeiende vraag naar edge computing: AI-berekeningen die direct op een apparaat zelf plaatsvinden (zoals een telefoon of camera) in plaats van in een ver datacenter, wat sneller is, minder internetverkeer vergt en beter is voor privacy.
Voorbeelden uit de praktijk
De NVIDIA A100 (2020) en zijn opvolger de H100 (2022) zijn GPU's die wereldwijd de standaard zijn geworden voor het trainen van grote taalmodellen zoals de systemen achter ChatGPT. Vrijwel elk groot AI-laboratorium huurt of koopt clusters van duizenden van deze chips.
Google ontwikkelt sinds 2016 zijn eigen TPU-chips, inmiddels in meerdere generaties tot en met TPU v5 (2023). Deze chips draaien in Googles eigen datacenters en worden gebruikt voor zowel het trainen als het toepassen van Googles AI-modellen, waaronder de zoekmachine en Gemini.
Apple bouwt sinds de iPhone 8 en iPhone X (2017) een Neural Engine in zijn processors: een kleine NPU die on-device taken versnelt, zoals gezichtsherkenning bij het ontgrendelen van het toestel en fotobewerking, zonder dat gegevens naar een server hoeven te worden gestuurd.
Cerebras Systems bracht in 2021 de Wafer Scale Engine 2 (WSE-2) uit, een chip zo groot als een bord die geldt als de grootste computerchip die ooit is gemaakt. In plaats van veel losse chips te verbinden, is dit één enkele, enorme chip, wat de communicatie tussen rekenonderdelen sterk versnelt.
Tesla kondigde in 2021 de Dojo-chip aan, specifiek ontworpen om de enorme hoeveelheden camerabeelden te verwerken die nodig zijn om het zelfrijdende systeem van het bedrijf te trainen.
Hoe ver is de techniek?
De ontwikkeling gaat momenteel zeer snel: nieuwe generaties versnellerchips volgen elkaar ongeveer elke één tot twee jaar op, met telkens aanzienlijke prestatiewinst. Deze vooruitgang komt deels doordat transistors (de schakelaartjes waaruit chips bestaan) steeds kleiner worden gemaakt, en deels door slimmer chipontwerp dat specifiek is toegesneden op AI-rekenwerk.
Er zijn echter serieuze obstakels. Het verkleinen van transistors nadert stilaan natuurkundige grenzen; op de schaal van enkele nanometers (miljardsten van een meter) spelen kwantumeffecten op die het steeds lastiger maken om chips nog kleiner en zuiniger te maken. Ook is er sprake geweest van chiptekorten, mede door de complexe en kostbare productieprocessen die slechts een handvol fabrieken ter wereld beheerst.
Een ander obstakel is geopolitiek: de Verenigde Staten hebben sinds 2022 exportbeperkingen ingesteld die het voor Amerikaanse bedrijven zoals NVIDIA moeilijker maken om hun meest geavanceerde AI-chips aan Chinese partijen te verkopen, uit vrees dat deze chips ook voor militaire doeleinden kunnen worden ingezet. Dit heeft geleid tot een versnelde zoektocht in China naar eigen chipontwerp en -productie. Ten slotte blijft energieverbruik een groeiend zorgpunt: de stroomvraag van AI-datacenters stijgt sneller dan het opwekvermogen op sommige plekken kan bijbenen.
Wie werken eraan?
NVIDIA is momenteel veruit de dominante speler in AI-versnellerchips voor datacenters, met AMD als belangrijkste directe concurrent. Intel probeert eveneens een positie in deze markt te veroveren. Google, Apple en Tesla ontwerpen elk hun eigen gespecialiseerde chips voor gebruik in hun eigen producten en diensten. Het Amerikaanse bedrijf Cerebras richt zich met zijn wafer-scale chips op een geheel andere, extreem grootschalige benadering.
In China werkt onder meer Huawei aan eigen AI-chips (de Ascend-serie), deels als antwoord op de Amerikaanse exportbeperkingen. Op het gebied van productie is het Taiwanese TSMC (Taiwan Semiconductor Manufacturing Company) de onmisbare schakel: vrijwel alle geavanceerde AI-chips van westerse ontwerpers worden fysiek geproduceerd in Taiwanese fabrieken, wat Taiwan een sleutelpositie in de wereldwijde chipketen geeft.
Op beleidsniveau investeren zowel de Verenigde Staten (via de CHIPS Act) als de Europese Unie (via de European Chips Act) miljarden euro's en dollars om eigen chipproductiecapaciteit op te bouwen en minder afhankelijk te worden van Aziatische productie.