OpenAI's eigen AI-chip Jalapeño verslaat Nvidia in snelheidstest

OpenAI, het bedrijf achter ChatGPT, ontwikkelt sinds enige tijd eigen computerchips om zijn AI-modellen te laten draaien. Die chip, met de bijnaam Jalapeño, blijkt volgens een dinsdag gepubliceerde blogpost sneller en zuiniger te werken dan de beste chips van Nvidia, de huidige marktleider in AI-hardware. Richard Ho, vicepresident hardware bij OpenAI, zei tijdens een briefing met journalisten dat Jalapeño 'het beste van twee werelden' biedt: een korte reactietijd én een hoge verwerkingscapaciteit. Normaal gesproken moeten AI-systemen daartussen een compromis sluiten.

Wat de cijfers zeggen

Jalapeño is een ASIC, een chip die is ontworpen voor precies één taak: in dit geval het razendsnel laten draaien van al getrainde AI-modellen, ook wel inferentie genoemd. OpenAI ontwikkelde de chip samen met chipmaker Broadcom en kondigde hem in juni voor het eerst aan. Om de prestaties te meten gebruikte het bedrijf InferenceX, een onafhankelijk platform waarop AI-hardware met elkaar wordt vergeleken. Jalapeño werd afgezet tegen de GB200- en GB300-chips van Nvidia, tot nu toe de snelste chips op de markt. Bij drie veelgebruikte AI-modellen — GPT-OSS 120B, DeepSeek R1 en Kimi K2.5 1T — verzette Jalapeño 1,5 tot 1,9 keer meer werk per watt stroom dan de Nvidia-chips. Tegelijk daalde de totale latentie, de tijd tussen een vraag en het volledige antwoord, met een factor 1,7 tot 3,6. Concreet betekent dit dat chatbots en AI-assistenten die op Jalapeño draaien merkbaar vlotter reageren, terwijl de chip minder stroom verbruikt per uitgevoerde taak. Voor datacenters, waar energieverbruik een steeds grotere kostenpost en beperkende factor is, is dat een belangrijk verschil.

Voorzichtige uitrol, geen afscheid van Nvidia

OpenAI is terughoudend over concrete aantallen. Ho liet weten dat Jalapeño dit jaar in 'kleine volumes' wordt ingezet en dat de productie vanaf 2027 wordt opgeschaald. Hoeveel chips daarbij precies worden gebouwd, maakte het bedrijf niet bekend. Ook benadrukte Ho dat OpenAI zijn volledige chipvloot niet gaat vervangen door Jalapeño. Nvidia blijft volgens hem een 'zeer goede partner' binnen de bredere reken-strategie van het bedrijf. OpenAI werkt daarnaast al aan een tweede en derde generatie van de chip. De ontwikkeling van eigen AI-hardware past in een bredere trend: techbedrijven als Microsoft, Meta, Google en Anthropic werken eveneens aan eigen chips om minder afhankelijk te worden van Nvidia, dat momenteel het grootste deel van de wereldwijde markt voor AI-chips in handen heeft. Door zelf chips te ontwerpen, kunnen bedrijven de hardware nauwkeuriger afstemmen op hun eigen modellen en algoritmes, wat kan leiden tot betere prestaties en lagere kosten per taak. Voor gebruikers van AI-diensten zou dit zich moeten vertalen in snellere reacties, ook wanneer de vraag naar AI-diensten wereldwijd blijft groeien.