Compute-infrastructuur: de fabrieksvloer achter kunstmatige intelligentie
Compute-infrastructuur is de verzamelnaam voor alle fysieke en digitale bouwstenen die nodig zijn om grootschalige berekeningen uit te voeren: de gespecialiseerde chips die rekenwerk verrichten, de datacenters waarin die chips staan opgesteld, de netwerken die ze onderling verbinden, en de stroom- en koelsystemen die alles draaiende houden. Voor kunstmatige intelligentie (AI) is deze infrastructuur wat een fabriek is voor een product: zonder de juiste machines, aanvoerlijnen en energie kun je nog zo'n goed ontwerp hebben, er komt niets van de band.
Een handige vergelijking is het elektriciteitsnet. Stroom op zich is niet bijzonder, maar zonder centrales, kabels en transformatorhuisjes bereikt die stroom nooit je stopcontact. Zo is het ook met rekenkracht: een AI-model als een taalmodel is in essentie een verzameling wiskundige formules, maar die formules worden pas bruikbaar als er genoeg chips zijn om ze razendsnel door te rekenen, verbonden door netwerken die snel genoeg data kunnen uitwisselen, in gebouwen die dat vermogen aankunnen zonder oververhit te raken. Compute-infrastructuur is dus niet de AI zelf, maar de onmisbare fabrieksvloer eronder.
Wat is het precies?
De kern van compute-infrastructuur bestaat uit gespecialiseerde chips. Een gewone computerchip, de CPU (central processing unit), is ontworpen om taken snel na elkaar uit te voeren. Voor AI-training is dat inefficiënt, omdat het trainen van een model bestaat uit miljarden gelijksoortige rekensommen die tegelijk uitgevoerd kunnen worden. Daarvoor gebruikt men GPU's (graphics processing units), chips die oorspronkelijk voor computergraphics werden ontwikkeld maar uitblinken in dit soort parallelle verwerking: duizenden kleine rekenkernen die tegelijk aan hetzelfde probleem werken. Google ontwikkelde met de TPU (tensor processing unit) een vergelijkbare, maar eigen chip die specifiek is toegesneden op AI-berekeningen.
Eén chip is niet genoeg. Het trainen van een groot AI-model vergt duizenden tot honderdduizenden GPU's die als één geheel moeten samenwerken, ondergebracht in een cluster: een groep onderling verbonden servers in een of meerdere datacenters. Cruciaal daarbij is de verbinding tussen de chips. Gewone netwerkkabels zijn te traag; daarom gebruikt men technologie zoals InfiniBand of Nvidia's eigen NVLink, ontworpen voor extreem hoge bandbreedte (de hoeveelheid data die per seconde kan worden verstuurd) en lage latency (de vertraging voordat data aankomt). Als die verbindingen haperen, staan dure chips werkeloos te wachten op elkaars rekenresultaten.
Tot slot zijn stroom en koeling geen bijzaak maar een technisch vraagstuk op zich. Een modern GPU-cluster kan net zoveel stroom verbruiken als een middelgrote stad, en die energie komt grotendeels vrij als warmte. Waar oudere datacenters met lucht konden koelen, is voor de dichtstbevolkte, krachtigste chiprekken tegenwoordig vaak vloeistofkoeling nodig: koelvloeistof die direct langs of over de chips stroomt om de warmte af te voeren.
Wat wil men ermee bereiken?
De directe drijfveer is dat grotere en krachtigere AI-modellen doorgaans beter presteren, mits ze genoeg data en rekenkracht krijgen om te trainen. Bedrijven die menen dat AI een cruciale technologie wordt, redeneren dat wie over de meeste en beste compute-infrastructuur beschikt, een voorsprong heeft bij het bouwen van de meest capabele modellen. Dat verklaart de recente golf van miljardeninvesteringen in datacenters en chips.
Er is ook een bredere wetenschappelijke doelstelling. Los van AI worden de allergrootste supercomputers, aangeduid als exascale-systemen (machines die minstens een triljoen keer een miljoen rekenoperaties per seconde kunnen uitvoeren), ingezet voor klimaatmodellering, materiaalonderzoek, geneesmiddelenontwikkeling en kernfysica. Compute-infrastructuur is dus deels ook gewoon wetenschappelijk gereedschap, los van de huidige AI-hausse.
Daarnaast speelt geopolitiek mee. Landen en blokken zien controle over chipproductie en rekencapaciteit als een strategisch belang, vergelijkbaar met energie- of voedselzekerheid. Wie afhankelijk is van buitenlandse chips of datacenters, is kwetsbaar voor exportbeperkingen of leveringsproblemen. Dat is een belangrijke reden waarom de Europese Unie, de Verenigde Staten en China elk fors investeren in eigen productiecapaciteit en supercomputers.
Voorbeelden uit de praktijk
Colossus (xAI, Memphis, Verenigde Staten, 2024) — Elon Musks AI-bedrijf xAI bouwde in enkele maanden tijd een cluster met naar verluidt ongeveer 100.000 Nvidia H100-GPU's, met plannen voor verdere uitbreiding. Het tempo waarin dit gebeurde, illustreert hoe snel bedrijven momenteel compute-capaciteit proberen op te schalen.
Stargate (OpenAI, Microsoft, Oracle en SoftBank, aangekondigd januari 2025) — Dit samenwerkingsverband kondigde plannen aan om tot 500 miljard dollar te investeren in Amerikaanse AI-datacenters over meerdere jaren. Het is een van de grootste aangekondigde infrastructuurprojecten in de technologiesector ooit, al is het tempo waarin dit bedrag daadwerkelijk wordt uitgegeven nog onderwerp van discussie.
Frontier (Oak Ridge National Laboratory, Verenigde Staten, 2022) — Frontier was de eerste supercomputer ter wereld die officieel de exascale-drempel haalde: meer dan een triljoen keer een miljoen rekenoperaties per seconde. Het systeem wordt vooral gebruikt voor wetenschappelijk onderzoek, niet primair voor AI-training.
El Capitan (Lawrence Livermore National Laboratory, Verenigde Staten, 2024) — Deze supercomputer, met een piekcapaciteit van ruim twee exaflops, behoort tot de snelste ter wereld en wordt onder meer gebruikt voor simulaties rond kernwapenveiligheid, naast bredere wetenschappelijke toepassingen.
JUPITER (EuroHPC, Jülich, Duitsland, 2024-2025) — Europa's eerste exascale-supercomputer, onderdeel van het EuroHPC-programma waarmee de Europese Unie probeert minder afhankelijk te worden van Amerikaanse en Aziatische rekencapaciteit. Eerdere EuroHPC-systemen zijn LUMI in Finland (2021) en Leonardo in Italië (2022).
Hoe ver is de techniek?
De hoeveelheid rekenkracht die wordt ingezet voor het trainen van de grootste AI-modellen groeit al jaren in een hoog tempo, met de omvang van trainingsberekeningen die volgens onderzoekers meerdere keren per jaar verdubbelt. Die groei loopt echter tegen praktische grenzen aan.
De eerste grens is productiecapaciteit. Vrijwel alle geavanceerde AI-chips worden gefabriceerd door één bedrijf, TSMC in Taiwan, met de nieuwste productieprocessen (aangeduid in nanometers, hoe kleiner het getal hoe geavanceerder). Deze concentratie maakt de hele sector kwetsbaar voor verstoringen, of dat nu productieproblemen, natuurrampen of geopolitieke spanningen rond Taiwan zijn.
De tweede grens is stroom. Grote datacenters vragen inmiddels zoveel vermogen dat lokale elektriciteitsnetten dit niet altijd kunnen leveren. Dit dwingt techbedrijven tot ongebruikelijke stappen: Microsoft sloot in 2024 een langlopend contract om stroom af te nemen van de kerncentrale bij Three Mile Island in de Verenigde Staten, die daarvoor deels wordt heropend. Ook wordt gekeken naar kleine modulaire kernreactoren (SMR's), al staat die technologie zelf nog vroeg in de ontwikkeling.
De derde grens is koeling: hoe dichter chips op elkaar worden gepakt om netwerkvertraging te beperken, hoe lastiger het wordt de warmte kwijt te raken met traditionele luchtkoeling, wat de omslag naar vloeistofkoeling versnelt.
Ten slotte is er de geopolitieke dimensie. Sinds 2022 heeft de Amerikaanse overheid stapsgewijs de export van de meest geavanceerde AI-chips naar China beperkt, om te voorkomen dat Chinese partijen daarmee net zo grote clusters kunnen bouwen als Amerikaanse bedrijven. China investeert op zijn beurt fors in eigen chipproductie, al is het niveau van de Chinese chipindustrie naar inschatting van analisten nog altijd enkele jaren achter op TSMC. Hoe deze wedloop zich ontwikkelt, is onzeker en sterk afhankelijk van beleidskeuzes die snel kunnen veranderen.
Wie werken eraan?
Nvidia is momenteel veruit de grootste leverancier van AI-GPU's en bepaalt met chipgeneraties als Hopper (H100) en Blackwell in belangrijke mate het tempo van de hele sector. AMD probeert met eigen AI-chips een concurrerend alternatief te bieden, terwijl Intel een inhaalslag probeert te maken, zowel in chipontwerp als in chipproductie. TSMC uit Taiwan produceert het merendeel van de geavanceerde chips voor deze bedrijven en is daarmee een onmisbare, maar ook kwetsbare schakel in de keten.
Onder de grote technologiebedrijven ontwikkelt Google met zijn TPU's een eigen chiplijn naast het gebruik van Nvidia-hardware, en investeren Microsoft, Amazon en Meta ieder tientallen miljarden dollars per jaar in datacenters en, in het geval van Amazon en Google, ook in eigen chipontwerpen (respectievelijk Trainium en TPU). AI-bedrijven als OpenAI, Anthropic en xAI zijn voor hun rekenkracht grotendeels afhankelijk van deze cloudpartijen, vaak via langlopende partnerschappen; zo werkt Anthropic nauw samen met Amazon en Google voor toegang tot grootschalige compute.
Op wetenschappelijk terrein spelen Amerikaanse nationale laboratoria zoals Oak Ridge National Laboratory en Lawrence Livermore National Laboratory een centrale rol in de bouw en het gebruik van exascale-supercomputers, gefinancierd door het Amerikaanse ministerie van Energie. In Europa coördineert de EuroHPC Joint Undertaking, een samenwerkingsverband van de Europese Unie en lidstaten, de bouw van supercomputers als LUMI, Leonardo en JUPITER, met als expliciet doel de Europese afhankelijkheid van Amerikaanse en Aziatische infrastructuur te verkleinen. Op landenniveau vormen de Verenigde Staten en China de twee grootmachten in deze sector, met de Europese Unie en Japan die proberen niet achterop te raken.