NVIDIA's nieuwe servercpu Vera is snel, maar de marketing klopt niet helemaal

Krachtige chip met eigen ontwerp

NVIDIA presenteerde deze week een uitgebreid technisch document over Vera, de eerste servercpu die het bedrijf volledig zelf heeft ontworpen. Het hart van de chip is Olympus: een reeks van 88 rekenkernen gebaseerd op de Arm-architectuur, gebundeld op één enkele siliciumplak. Elke kern kan tien instructies tegelijk verwerken, twee keer zoveel als gangbare serverchips van Intel en AMD.

Om die snelheid te voeden, koppelt NVIDIA de kernen aan 2 MB eigen cachegeheugen per kern, plus 164 MB gedeeld cachegeheugen voor de hele chip. Het geheugensysteem gebruikt acht LPDDR5X-geheugenmodules die tot 1,2 terabyte per seconde aan data kunnen verwerken, bij een geheugencapaciteit van maximaal 1,5 terabyte. Dat geheugen verbruikt volgens NVIDIA slechts ongeveer 50 watt, opvallend zuinig voor deze hoeveelheid rekenkracht.

Onafhankelijke tests bevestigen de snelheid

Techsite Phoronix testte in mei een vroeg exemplaar van Vera tegen bestaande serverchips. Binnen de door NVIDIA toegestane testreeks presteerde Vera gemiddeld 10 procent beter dan een AMD EPYC 9575F, 1,55 keer sneller dan een Intel Xeon 6980P en 1,63 keer sneller dan NVIDIA's eigen vorige servercpu Grace. Daarmee is Vera voorlopig de snelste Arm-servercpu die ooit publiek is getest.

De test had wel beperkingen: NVIDIA bepaalde welke programma's gebruikt mochten worden, en metingen van stroomverbruik en kloksnelheid waren niet toegestaan. Toch bevestigen de resultaten dat Olympus geen loze belofte is, maar een serieuze concurrent voor gevestigde chipmakers.

Waar het verhaal rammelt

Volgens techanalisten George Cozma en Chester Lam van Chips and Cheese verpakt NVIDIA deze sterke hardware in een misleidend verhaal. Zo presenteert het whitepaper een eigen techniek genaamd Spatial Multithreading als fundamenteel beter dan de simultane multithreading die x86-chips al decennia gebruiken. In werkelijkheid werkt gangbare multithreading juist efficiënter: rekeneenheden schakelen per cyclus tussen taken, terwijl NVIDIA's aanpak vaste onderdelen van de chip permanent reserveert voor één taak. Dat kan rekenkracht onbenut laten.

Ook andere claims houden volgens de analisten geen stand. De zogeheten grafiekprefetcher, die voorspelt welke data een programma nodig gaat hebben, bestaat al sinds 2022 in vergelijkbare vorm bij Intel. De 'neurale vertakkingsvoorspeller' van Olympus lijkt sterk op techniek die AMD al in 2012 gebruikte. En een grafiek waarin NVIDIA een prestatiewinst van 1,8 keer claimt dankzij reinforcement learning, blijkt bij nadere inspectie niet van een bijschrift te zijn voorzien, waardoor onduidelijk is waar het getal precies op slaat.

De conclusie van de analisten is scherp: Olympus is een indrukwekkende chip die deze overdreven marketing niet nodig heeft. NVIDIA daagt met Vera zowel Intel als AMD uit op hun eigen terrein, de x86-servermarkt, maar doet zichzelf tekort door de techniek in een misleidend jasje te steken.