MGX-architectuur: NVIDIA's modulaire bouwplan voor AI-servers
MGX is de naam van een modulair bouwplan dat chipmaker NVIDIA in 2023 introduceerde voor de bouw van servers die zijn toegesneden op kunstmatige intelligentie (AI) en zware rekentaken. Het is geen fysiek product dat je los kunt kopen, maar een verzameling technische blauwdrukken: afspraken over de afmetingen van een serverkast, de plek van stroomaansluitingen, de koeling en de bekabeling. Fabrikanten van servers gebruiken deze blauwdrukken als vertrekpunt, zodat ze niet steeds opnieuw het wiel hoeven uit te vinden wanneer ze een nieuwe generatie AI-chips in hun machines willen inbouwen.
Een vergelijking met de auto-industrie maakt het concreet. Autofabrikanten bouwen tegenwoordig tientallen verschillende modellen op een gedeeld 'platform': hetzelfde onderstel en dezelfde bevestigingspunten voor de motor, maar met een andere carrosserie en motorkeuze erbovenop. MGX werkt op een vergelijkbare manier voor servers. Het 'onderstel' is een standaard rek met vaste afmetingen voor stroom en koeling; de 'motor' kan een grafische processor (GPU) van NVIDIA zijn, een processor (CPU) op basis van Arm of x86, of een combinatie daarvan. Bedrijven als Lenovo of Supermicro bouwen hun eigen 'model' server op dit onderstel, met hun eigen merk erop, zonder de fundamentele techniek opnieuw te moeten ontwerpen.
Wat is het precies?
Technisch gezien is MGX een referentie-architectuur: een gedetailleerd ontwerp dat vastlegt hoe de onderdelen van een server passen en samenwerken, zonder dat het zelf een kant-en-klaar product is. NVIDIA levert de tekeningen, specificaties en testprocedures; de daadwerkelijke servers worden gebouwd door partnerbedrijven.
Het ontwerp draait om een aantal vaste bouwstenen. Allereerst is er een gestandaardiseerde serverkast (chassis) met vaste afmetingen, zodat hij past in bestaande datacenterrekken. Daarbinnen zitten uitwisselbare 'trays' of lades: losse modules met de rekenchips. Een fabrikant kan in dezelfde kast kiezen voor een lade met NVIDIA-GPU's voor AI-taken, een lade met een traditionele processor voor algemene taken, of een combinatie van beide.
Daarnaast legt MGX vast hoe stroom en koeling zijn aangesloten. AI-chips verbruiken veel energie en worden warm; het ontwerp bepaalt waar kabels en koelleidingen zitten, zodat zowel luchtkoeling als de efficiëntere vloeistofkoeling (waarbij een koelmiddel direct langs de chip stroomt) mogelijk is zonder de hele kast opnieuw te ontwerpen.
Ten slotte beschrijft de architectuur hoe de chips onderling supersnel communiceren, via NVIDIA's eigen verbindingstechniek NVLink en de bijbehorende schakelchip NVSwitch. Dat is belangrijk omdat AI-taken vaak over tientallen of honderden GPU's tegelijk zijn verdeeld, die voortdurend tussenresultaten moeten uitwisselen. Hoe sneller die uitwisseling verloopt, hoe minder rekenÂtijd verloren gaat aan wachten.
Omdat alle partners zich aan dezelfde basisregels houden, kan een fabrikant relatief eenvoudig overstappen van de ene chipgeneratie naar de andere, zonder het hele serverontwerp opnieuw te doen.
Wat wil men ermee bereiken?
De directe aanleiding voor MGX is de explosieve vraag naar AI-rekenkracht sinds de doorbraak van generatieve AI-modellen zoals ChatGPT. Datacenters moeten in hoog tempo worden uitgerust met servers die duizenden GPU's bevatten, maar het ontwerpen van zo'n server vanaf nul kost traditioneel al snel twee jaar. NVIDIA claimt dat fabrikanten met MGX als vertrekpunt in ongeveer een half jaar een nieuwe serverlijn op de markt kunnen brengen, tegen naar eigen zeggen tot twee derde lagere ontwikkelkosten. Dat zijn cijfers van NVIDIA zelf; onafhankelijke bevestiging daarvan is schaars, dus neem de precieze getallen met een korrel zout.
Voor serverbouwers is het aantrekkelijk omdat ze zich kunnen concentreren op wat ze goed kunnen — inkoop, assemblage, service — in plaats van jaren te besteden aan het heruitvinden van koelsystemen en bekabeling. Voor kleinere of middelgrote fabrikanten verlaagt dit de drempel om toch mee te doen in een markt die anders wordt gedomineerd door een handvol grote spelers.
Voor NVIDIA zelf is er ook een commercieel motief. Door de bouwstenen rond zijn eigen GPU's te standaardiseren, zorgt het bedrijf ervoor dat elke nieuwe chipgeneratie snel in een breed aanbod van servers van verschillende merken terechtkomt. Dat vergroot de afzet van de chips, terwijl concurrentie tussen de serverbouwers de prijzen van de complete machines laag houdt — gunstig voor klanten, maar het houdt de centrale positie van NVIDIA's eigen hardware wel intact.
Sinds 2024 is de architectuur ook opengesteld voor chips van derden, waaronder processoren van grote clouddienstverleners. Daarmee wil NVIDIA voorkomen dat bedrijven die hun eigen chips ontwikkelen, volledig om het MGX-ecosysteem heen gaan bouwen.
Voorbeelden uit de praktijk
NVIDIA presenteerde MGX voor het eerst in mei 2023 tijdens de computerbeurs Computex in Taiwan, met als eerste partners onder meer ASUS, ASRock Rack, Atos, Gigabyte, Pegatron, QCT (Quanta Cloud Technology) en Supermicro. Elk van deze bedrijven bracht in de maanden daarna eigen serverlijnen uit op basis van de gedeelde blauwdruk.
Supermicro was een van de eerste fabrikanten die concrete MGX-servers op de markt bracht, uitgerust met NVIDIA's Grace-CPU en Hopper-GPU's voor AI-trainingswerk in datacenters. Ook QCT bracht eigen MGX-gebaseerde rekken uit die bij cloudaanbieders worden ingezet.
Tijdens Computex 2024 breidde NVIDIA het ontwerp uit met ondersteuning voor de nieuwere Blackwell-generatie chips, waaronder het 'Grace Blackwell'-platform, bedoeld voor zware AI-trainingstaken in volledige serverrekken. Bij die gelegenheid kondigde het bedrijf ook aan dat fabrikanten als Lenovo en Hewlett Packard Enterprise eigen MGX-servers zouden gaan bouwen voor bedrijfsklanten.
Opvallend is verder dat NVIDIA delen van het MGX-ontwerp heeft ingebracht bij het Open Compute Project (OCP), een samenwerkingsverband waarin grote techbedrijven ontwerpen voor datacenterhardware delen. Daardoor kunnen ook partijen die niet rechtstreeks met NVIDIA samenwerken, voortbouwen op onderdelen van de architectuur.
Deze voorbeelden laten zien dat MGX in de praktijk vooral wordt gebruikt door gevestigde serverbouwers voor grote cloud- en bedrijfsdatacenters, en nog niet is doorgedrongen tot consumentenapparatuur — dat ligt ook niet in de lijn der verwachting, omdat het ontwerp is gemaakt voor racks met grote hoeveelheden stroom en koeling.
Hoe ver is de techniek?
MGX is geen toekomstplan maar een architectuur die al enkele jaren daadwerkelijk wordt gebruikt. Sinds de introductie in 2023 zijn er meerdere generaties servers op de markt gebracht, meegroeiend met NVIDIA's eigen chipgeneraties: van de Hopper-GPU's uit 2022-2023 naar de krachtigere Blackwell-chips die vanaf 2024 in MGX-servers verschenen. Voor latere jaren wordt een volgende generatie chips verwacht, en de verwachting binnen de sector is dat de MGX-blauwdrukken daar opnieuw voor worden aangepast.
De grootste technische uitdaging zit niet in de chips zelf, maar in stroom en koeling. Elke nieuwe generatie AI-chips verbruikt meer energie en produceert meer warmte in een kleinere ruimte. Daardoor is een duidelijke verschuiving te zien van luchtkoeling naar vloeistofkoeling, wat weer andere eisen stelt aan leidingen, pompen en de inrichting van het datacenter zelf. Niet elk bestaand datacenter is daar zonder verbouwing geschikt voor.
Een tweede knelpunt is de beschikbaarheid van de GPU's zelf: de vraag naar NVIDIA's AI-chips is al jaren groter dan het aanbod, waardoor de bouw van MGX-servers soms wordt vertraagd door chiptekorten, niet door beperkingen in het ontwerp.
Inhoudelijk blijft MGX bovendien grotendeels een door NVIDIA gestuurd ontwerp: hoewel delen ervan zijn gedeeld via het Open Compute Project, bepaalt NVIDIA zelf welke nieuwe functies wanneer worden toegevoegd en voor welke chips. Dat maakt het praktisch zeer bruikbaar, maar het is geen volledig open, onafhankelijk beheerde standaard zoals bijvoorbeeld USB of PCIe dat wel zijn.
Wie werken eraan?
NVIDIA, het Amerikaanse chipbedrijf uit Santa Clara, Californië, is de bedenker en eigenaar van de MGX-architectuur. Het bedrijf levert de specificaties en test de ontwerpen van partners, maar bouwt zelf doorgaans geen complete servers voor de verkoop.
Het daadwerkelijke bouwwerk ligt bij een groep server- en contractfabrikanten, waarvan veel bedrijven uit Taiwan: ASUS, ASRock Rack, Pegatron, Quanta Cloud Technology (QCT) en Wiwynn. Daarnaast zijn grote internationale fabrikanten aangesloten, zoals het Franse Atos, het Amerikaanse Supermicro en later ook Lenovo en Hewlett Packard Enterprise.
Grote clouddienstverleners zijn eveneens betrokken, deels als afnemer van MGX-gebaseerde servers en deels als partij die eigen chips wil laten meedraaien binnen het ecosysteem.
Voor de meer open onderdelen van het ontwerp werkt NVIDIA samen met het Open Compute Project (OCP), een samenwerkingsverband van grote techbedrijven dat is opgericht om ontwerpen voor datacenterhardware te delen en zo kosten te drukken.
Geografisch is de ontwikkeling sterk geconcentreerd in de Verenigde Staten (ontwerp en aansturing) en Taiwan (productie en assemblage), met een groeiende rol voor fabrikanten elders aan de afzetkant.