Tokens per megawatt: de nieuwe maatstaf voor AI-efficiëntie
Als je met een chatbot als ChatGPT, Claude of Gemini praat, wordt alles wat je leest en schrijft door het systeem in stukjes gehakt die tokens heten: delen van woorden, hele woorden of leestekens. Elk token dat de kunstmatige intelligentie leest of genereert, kost rekenwerk, en rekenwerk kost stroom. Een megawatt is een eenheid van vermogen, ongeveer gelijk aan het elektriciteitsverbruik van duizend gemiddelde huishoudens op een bepaald moment. \"Tokens per megawatt\" meet dus hoeveel taalverwerking een AI-systeem kan leveren voor elke eenheid stroom die het verbruikt — een soort brandstofverbruik-label, maar dan voor kunstmatige intelligentie in plaats van auto's.
Waarom is dat belangrijk? Omdat elektriciteit, niet chips, steeds vaker de beperkende factor is voor hoeveel AI een bedrijf kan draaien. Datacenters vol grafische processoren (GPU's) verbruiken zoveel stroom dat stroomnetten en energiecentrales de groei niet kunnen bijhouden. Als een bedrijf maar een vast vermogen van, zeg, één gigawatt tot zijn beschikking heeft, bepaalt de \"tokens per megawatt\"-waarde van zijn hardware direct hoeveel chatgesprekken, zoekopdrachten of AI-antwoorden het binnen dat vermogensbudget kan verwerken. Hogere efficiëntie betekent meer bruikbare AI-output zonder dat er een nieuwe energiecentrale bij moet.
Wat is het precies?
Om de maatstaf te begrijpen, helpt het om de twee bouwstenen apart te bekijken. Een token is de kleinste eenheid waarmee een taalmodel rekent: het woord \"token\" zelf kan bijvoorbeeld uit meerdere tokens bestaan. Wanneer een AI-model een antwoord genereert, doet het dat token voor token, waarbij elk token een reeks berekeningen door miljarden kunstmatige \"neuronen\" vereist.
Die berekeningen gebeuren op gespecialiseerde chips, meestal GPU's van bijvoorbeeld Nvidia of AMD, of speciaal ontworpen AI-chips zoals Google's TPU's. Deze chips staan in racks in datacenters en trekken continu stroom, zowel voor de rekenkernen zelf als voor de koeling die nodig is om ze niet te laten oververhitten. Hoeveel stroom een heel datacenter verbruikt, wordt uitgedrukt in megawatt (MW): grote AI-datacenters gebruiken tegenwoordig tientallen tot honderden megawatt, en de eerstvolgende generatie \"AI-fabrieken\" wordt ontworpen voor gigawattschaal, duizend megawatt of meer.
\"Tokens per megawatt\" combineert beide: het geeft aan hoeveel tokens per seconde of per uur een systeem kan produceren, gedeeld door het vermogen dat het daarvoor verbruikt. In de praktijk rekenen ingenieurs vaak in de iets concretere vorm \"tokens per seconde per megawatt\": zet een vast vermogensbudget van bijvoorbeeld 1 MW in, en tel hoeveel tokens per seconde daarmee gegenereerd kunnen worden. Hoe hoger dat getal, hoe efficiënter de chip, de software of het hele datacenter.
De uitkomst hangt af van veel factoren: het type chip en de generatie daarvan, hoe groot het AI-model is, hoeveel verzoeken tegelijk verwerkt worden (de batchgrootte), de kwaliteit van de software die de berekeningen optimaliseert, en de efficiëntie van de koeling en stroomvoorziening van het gebouw zelf — uitgedrukt in de zogeheten Power Usage Effectiveness (PUE), de verhouding tussen het totale stroomverbruik en het deel dat echt naar de rekenchips gaat.
Wat wil men ermee bereiken?
Het directe doel is simpel: meer bruikbare AI-output persen uit een schaarse hoeveelheid stroom. Stroom is schaars omdat het jaren kan duren om een nieuwe hoogspanningsaansluiting, energiecentrale of transformator te bouwen, terwijl de vraag naar AI-rekenkracht van maand tot maand groeit. Bedrijven kunnen niet zomaar \"meer stroom bijkopen\" zoals ze meer chips kunnen bestellen; het net en de opwekkingscapaciteit vormen een harde grens.
Daarom verschuift het gesprek in de sector van \"hoeveel rekenkracht heeft een chip\" naar \"hoeveel tokens of inkomsten levert een chip op per megawatt die ik beschikbaar heb\". Voor cloudbedrijven en AI-labs is dat een economische vraag: elke megawatt die ze kunnen bemachtigen, willen ze zo winstgevend mogelijk inzetten. Chipmakers als Nvidia gebruiken de maatstaf om te laten zien dat nieuwe generaties chips niet alleen sneller zijn, maar vooral meer tokens opleveren binnen hetzelfde vermogensbudget — vaak uitgedrukt als een veelvoud, bijvoorbeeld \"25 keer meer tokens per megawatt dan de vorige generatie\".
Een tweede, breder doel is het inzichtelijk maken van de energie- en klimaatimpact van AI. Doordat het exacte stroomverbruik van AI-diensten vaak niet openbaar is, gebruiken onderzoekers en energietoezichthouders dit soort maatstaven om te schatten hoeveel elektriciteit — en daarmee hoeveel CO2-uitstoot — gepaard gaat met het gebruik van chatbots en andere AI-toepassingen.
Voorbeelden uit de praktijk
Nvidia en de Blackwell- en Rubin-chips (2024-2026): Op zijn GTC-ontwikkelaarsconferenties in 2024 en 2025 presenteerde Nvidia-topman Jensen Huang tokens-per-megawatt expliciet als maatstaf om generaties chips te vergelijken. Volgens Nvidia's eigen cijfers leverde de Blackwell-architectuur (2024) tot wel 25 keer meer tokens per megawatt op dan de voorganger Hopper, vooral dankzij efficiëntere chipontwerpen en vloeistofkoeling. De opvolger Rubin, aangekondigd voor 2026, moet dat verder opvoeren.
xAI's datacenter \"Colossus\" in Memphis (2024): Elon Musks AI-bedrijf xAI bouwde in 2024 in hoog tempo een datacenter met honderdduizenden GPU's. Omdat de lokale stroomaansluiting niet snel genoeg kon worden uitgebreid, zette het bedrijf tijdelijk tientallen mobiele gasturbines in om de benodigde megawatts te leveren — een praktisch voorbeeld van hoe stroom, niet chips, de bottleneck vormt.
Project Stargate van OpenAI, Oracle en SoftBank (aangekondigd januari 2025): dit Amerikaanse initiatief moet uiteindelijk honderden miljarden dollars investeren in AI-datacenters met een gecombineerd vermogen tot meerdere gigawatt. De planning gaat uitdrukkelijk uit van tokencapaciteit per megawatt als meetlat om te bepalen hoeveel AI-dienstverlening met de nieuwe vermogensbudgetten mogelijk wordt.
Microsoft en de herstart van de kerncentrale bij Three Mile Island (2024): Microsoft sloot een langjarig contract met energiebedrijf Constellation Energy om de gesloten kernreactor bij Three Mile Island in Pennsylvania, hernoemd tot Crane Clean Energy Center, opnieuw op te starten — puur om AI-datacenters van stabiele, koolstofarme stroom te voorzien. Dit voorbeeld laat zien hoe AI-bedrijven zelf vermogen gaan \"inkopen\" bij de bron in plaats van te wachten op het openbare net.
Google's TPU-generaties, zoals Trillium (2024): Google ontwikkelt zijn eigen AI-chips, de Tensor Processing Units, en claimt bij elke nieuwe generatie een forse verbetering in rekenkracht per watt. Trillium zou volgens Google aanzienlijk energiezuiniger zijn dan de voorganger, wat zich direct vertaalt in meer tokens per megawatt in de datacenters die Google's eigen diensten zoals Gemini aandrijven.
Hoe ver is de techniek?
\"Tokens per megawatt\" is geen gestandaardiseerde, onafhankelijk gecontroleerde meeteenheid zoals kilowattuur of liter per 100 kilometer. Chipmakers en clouddienstverleners publiceren hun eigen cijfers, vaak gebaseerd op specifieke testmodellen, batchgroottes en ideale omstandigheden. Dat maakt onderlinge vergelijking lastig: een claim van \"25 keer efficiënter\" zegt vooral iets over het beste geval van de fabrikant, niet noodzakelijk over een gemiddeld datacenter in bedrijf.
Wat wel duidelijk is, is dat de efficiëntie per chipgeneratie snel toeneemt, maar dat de totale vraag naar AI-rekenkracht nog sneller groeit. Het nettoresultaat is dat het wereldwijde stroomverbruik van datacenters, ondanks de efficiëntiewinst, toch stijgt. Het Internationaal Energieagentschap (IEA) schatte dat datacenters wereldwijd rond de anderhalf procent van het elektriciteitsverbruik voor hun rekening nemen, met een verwachte sterke stijging richting 2026-2030 door AI.
De grootste praktische hobbel is niet de chiptechnologie zelf, maar de snelheid waarmee stroomnetten, vergunningen en nieuwe centrales kunnen worden gerealiseerd. Een nieuwe hoogspanningsaansluiting aanvragen en krijgen kan in landen als de Verenigde Staten en Nederland jaren duren, terwijl een nieuwe generatie AI-chips binnen één tot twee jaar beschikbaar komt. Dat verklaart waarom bedrijven steeds vaker uitwijken naar eigen, tijdelijke stroomopwekking met gasturbines of naar langjarige deals met kerncentrales en, op iets langere termijn, kleine modulaire kernreactoren (SMR's).
Ook blijft onzeker hoe representatief de gepubliceerde tokens-per-megawattcijfers zijn voor het daadwerkelijke, dagelijkse gebruik: koelingsoverhead, netwerkverbindingen tussen chips en wisselende belasting van datacenters zorgen ervoor dat de praktijk vaak minder gunstig uitpakt dan de laboratoriumcijfers suggereren.
Wie werken eraan?
Aan de hardwarekant zetten chipontwerpers de toon: Nvidia (met zijn Blackwell- en aangekondigde Rubin-chips), AMD (Instinct-chips) en Google (met de eigen TPU-lijn) publiceren het vaakst expliciete tokens-per-watt- of tokens-per-megawattcijfers bij productlanceringen. Ook Amazon, met de zelfontworpen Trainium- en Inferentia-chips, en Microsoft, met de Maia-chip, ontwikkelen eigen AI-hardware om minder afhankelijk te zijn van externe leveranciers en meer grip te krijgen op de energie-efficiëntie.
Aan de gebruikskant zijn het vooral de grote AI-labs en clouddiensten die de vraag naar megawatts opjagen: OpenAI, xAI, Meta, Google en Microsoft bouwen ieder hun eigen omvangrijke datacentercomplexen. Zij werken daarbij steeds vaker direct samen met energiebedrijven zoals Constellation Energy en met ontwikkelaars van kleine modulaire reactoren zoals Oklo en X-energy, om stroom te garanderen los van het reguliere net.
Op het gebied van onderzoek en monitoring spelen het Internationaal Energieagentschap (IEA), het Amerikaanse Electric Power Research Institute (EPRI) en het Uptime Institute een belangrijke rol: zij volgen het wereldwijde stroomverbruik van datacenters en publiceren onafhankelijke schattingen. Daarnaast doen onderzoekers bij onder meer Hugging Face werk aan het meten en transparant maken van het energieverbruik van individuele AI-modellen. Landen als de Verenigde Staten en China investeren intussen fors in zowel AI-chipproductie als de energie-infrastructuur die nodig is om die chips te laten draaien, wat het onderwerp ook tot een geopolitiek vraagstuk maakt.