Warmtebeheer: hoe je razendsnelle chips niet laat smelten
Elke computerchip die rekent, wordt warm. Denk aan je eigen laptop: zodra je een zwaar programma draait, hoor je het ventilatortje harder gaan. Dat is warmtebeheer in het klein — het systeem dat voorkomt dat de chip zichzelf oververhit en kapotgaat. Bij de gigantische rekencentra die tegenwoordig kunstmatige intelligentie trainen, speelt hetzelfde probleem, maar dan honderdduizenden keren groter. Warmtebeheer is de verzamelnaam voor alle technieken om die warmte weg te krijgen, zodat elektronica betrouwbaar en efficiënt blijft werken.
Stel je een datacenter voor als een gebouw vol koorlopers die allemaal tegelijk hardop moeten zingen zonder buiten adem te raken. Hoe harder ze zingen (hoe meer de chips rekenen), hoe meer warmte ze produceren. Zonder goede ventilatie en koeling zou de zaal binnen enkele minuten onleefbaar heet worden en zouden de zangers letterlijk oververhit raken. Warmtebeheer is dus niet zomaar een technisch detail: het bepaalt hoeveel een chip mag rekenen voordat hij zichzelf moet afremmen, en het is inmiddels een van de grootste knelpunten in de ontwikkeling van steeds krachtigere AI-hardware.
Wat is het precies?
Warmte in een chip ontstaat door wat natuurkundigen Joule-verwarming noemen: elektrische stroom die door miljarden minuscule schakelaartjes (transistors) stroomt, ondervindt weerstand, en die weerstand zet elektrische energie om in warmte. Hoe meer transistors er tegelijk schakelen — zoals bij zware AI-berekeningen — hoe meer warmte er vrijkomt op een steeds kleiner oppervlak.
De klassieke oplossing is luchtkoeling: een metalen koelblok bovenop de chip vangt de warmte op, en ventilatoren blazen lucht langs dat blok om de warmte af te voeren. Dit werkt prima voor een laptop of een gewone serverkast, maar lucht is simpelweg niet dicht genoeg om heel veel warmte snel af te voeren. Bij de nieuwste AI-chips, die honderden tot duizenden watt per stuk verstoken, loopt luchtkoeling tegen een fysieke grens aan.
Daarom stapt de industrie steeds vaker over op vloeistofkoeling. Water en speciale koelvloeistoffen geleiden warmte veel beter dan lucht. Bij direct-to-chip-koeling wordt een koudeplaat — een dun metalen kanaaltje waar vloeistof doorheen stroomt — rechtstreeks op de chip gemonteerd, vlak boven de plek waar de warmte ontstaat. De vloeistof neemt de warmte op en voert die af naar een warmtewisselaar buiten de kast.
Een nog intensievere methode is onderdompelingskoeling (immersion cooling), waarbij hele servers ondergedompeld worden in een niet-geleidende vloeistof. Bij de single-phase-variant blijft die vloeistof vloeibaar en circuleert ze langs de onderdelen. Bij de two-phase-variant kookt de vloeistof juist bij een lage temperatuur op de hete onderdelen, waarna de damp elders weer condenseert — een proces dat extra veel warmte per seconde kan afvoeren, vergelijkbaar met hoe zweten je lichaam koelt doordat verdamping energie kost.
Wat wil men ermee bereiken?
Het eerste doel is simpel: voorkomen dat chips oververhit raken en kapotgaan of automatisch vertragen om zichzelf te beschermen (dat heet thermal throttling). Maar er zit meer achter. Betere koeling maakt het mogelijk om meer rekenkracht op een kleiner oppervlak te proppen — een hogere vermogensdichtheid — waardoor datacenters compacter en krachtiger worden zonder dat de chips zichzelf moeten afremmen.
Daarnaast draait warmtebeheer steeds meer om energie-efficiëntie. Een veelgebruikte maatstaf is de Power Usage Effectiveness (PUE): de verhouding tussen de totale energie die een datacenter verbruikt en de energie die daadwerkelijk naar de rekenchips gaat. Bij een PUE van 2,0 gaat de helft van alle stroom naar iets anders dan rekenen — meestal koeling. Efficiëntere koelmethoden, zoals vloeistofkoeling, kunnen die verhouding dichter naar 1,0 brengen, wat energie en dus geld en CO2-uitstoot bespaart.
Ten slotte speelt duurzaamheid een steeds grotere rol: minder energieverspilling aan koeling, maar ook zorgvuldiger omgaan met water, dat in sommige koelsystemen wordt gebruikt en in droge regio's schaars kan zijn.
Voorbeelden uit de praktijk
Een opvallend experiment was Project Natick van Microsoft: in 2018 liet het bedrijf een volledig verzegelde datacentercapsule zakken in de zee bij de Orkney-eilanden, voor de kust van Schotland. Het omringende zeewater zorgde voor gratis, passieve koeling. Toen de capsule in 2020 werd opgehaald, bleek het storingspercentage van de servers lager te liggen dan bij vergelijkbare datacenters op land — deels dankzij de stabiele temperatuur en de afwezigheid van mensen en zuurstof, die corrosie normaal versnellen.
Microsoft testte in 2021 ook two-phase immersion cooling in een datacenter in Quincy, Washington (VS), met een speciale, bij lage temperatuur kokende vloeistof die samen met chemieconcern 3M was ontwikkeld.
Bij de nieuwste generatie AI-chips is vloeistofkoeling inmiddels geen experiment meer maar noodzaak. Nvidia's Blackwell-platform (het GB200 NVL72-systeem), aangekondigd op de GTC-conferentie in maart 2024, vereist verplichte direct-to-chip vloeistofkoeling: het vermogen per serverrack is zo hoog geworden dat lucht alleen niet meer volstaat.
Ook Google gebruikt al sinds zijn TPU v4-chips (rond 2020-2021) — de eigen AI-versnellers waarmee onder meer taalmodellen worden getraind — direct-to-chip vloeistofkoeling in de eigen datacenters.
Een heel ander soort warmtebeheer zie je bij quantumcomputers van IBM: daar is het doel niet warmte afvoeren maar juist extreme koeling. Zogeheten dilution refrigerators koelen de chip af tot ongeveer 10 tot 15 millikelvin — bijna het absolute nulpunt — omdat de supergeleidende qubits daarbinnen alleen bij die extreem lage temperatuur stabiel werken.
Hoe ver is de techniek?
Luchtkoeling is nog steeds de standaard in de meeste bestaande datacenters wereldwijd; het is goedkoop, beproefd en simpel te onderhouden. Maar door de opkomst van zware AI-chips, die veel meer warmte per vierkante centimeter produceren dan lucht kan wegvoeren, groeit vloeistofkoeling snel als noodzakelijke aanvulling, vooral in nieuwe datacenters die specifiek voor AI-training worden gebouwd.
Exacte cijfers over hoe snel die overstap gaat, lopen sterk uiteen tussen verschillende brancheonderzoeken en zijn dus lastig hard te maken; we noemen hier bewust geen specifiek percentage om geen schijnzekerheid te wekken. Wel is duidelijk dat de richting eenduidig is: steeds meer grote clouddienstverleners bouwen vloeistofkoeling standaard in bij nieuwe AI-infrastructuur.
De obstakels zijn eerlijk gezegd niet triviaal. Bestaande datacenters ombouwen naar vloeistofkoeling (retrofitten) is duur en ingewikkeld, omdat leidingen, pompen en aansluitpunten moeten worden toegevoegd aan gebouwen die daar niet voor ontworpen zijn. Vloeistof in de buurt van elektronica brengt ook lekkagerisico's met zich mee, wat strenge afdichting en monitoring vereist. Er is bovendien nog geen volledige standaardisatie tussen leveranciers van koudeplaten, aansluitingen en vloeistoffen, wat systemen van verschillende fabrikanten lastig combineerbaar maakt. Tot slot is er terechte zorg over waterverbruik van sommige koelsystemen, vooral in datacenters die in droge regio's staan.
Wie werken eraan?
Chipmaker Nvidia ontwerpt zijn nieuwste AI-chips inmiddels met vloeistofkoeling als uitgangspunt. Grote clouddienstverleners als Microsoft, Google, Meta en Amazon (AWS) ontwikkelen elk hun eigen koeloplossingen voor hun datacenters, vaak in samenwerking met infrastructuurbedrijven zoals Schneider Electric en Vertiv, die pompen, warmtewisselaars en beheersystemen leveren.
Daarnaast zijn er gespecialiseerde bedrijven die zich volledig op onderdompelingskoeling richten, zoals LiquidStack en GRC (Green Revolution Cooling), die complete immersion-cooling-systemen bouwen voor datacenters.
Op onderzoeksgebied wordt de ontwikkeling vooral gedreven vanuit de Verenigde Staten en China, waar de grootste hoeveelheden AI-rekenkracht worden gebouwd. In Nederland doen kennisinstellingen zoals TU Delft en TU Eindhoven onderzoek naar energie-efficiëntie en koeltechniek in de bredere context van duurzame elektronica en datacenters, al is dat onderzoek doorgaans kleinschaliger dan de commerciële ontwikkelingen bij de grote Amerikaanse en Chinese techbedrijven.