Saturn Cloud bouwt commerciële laag bovenop NVIDIA's nieuwe AI-serversoftware

NVIDIA bracht onlangs DSX OS uit: open, modulaire software waarmee bedrijven grote hoeveelheden GPU's kunnen inzetten voor het draaien van AI-modellen. Het systeem regelt de technische kant van zo'n AI-fabriek: welke taak op welke chip komt, hoe een model over meerdere machines wordt verdeeld en wat er gebeurt als een server uitvalt. Wat NVIDIA bewust niet meelevert, is de laag die nodig is om dat allemaal daadwerkelijk als dienst te verkopen. Precies daar springt Saturn Cloud in.

Wat NVIDIA's software regelt

DSX OS bestaat uit een reeks onderdelen. NVIDIA Dynamo verzorgt het uitserveren van AI-modellen en splitst dat proces op in twee stappen: het inlezen van een vraag en het daadwerkelijk genereren van het antwoord, verdeeld over verschillende GPU's voor meer snelheid. Dynamo werkt samen met bestaande serversoftware zoals vLLM, SGLang en TensorRT-LLM. NVIDIA Grove stemt workloads af die over meerdere machines tegelijk lopen, terwijl de KAI Scheduler bepaalt welke taak welke GPU-capaciteit krijgt en per klant quota afdwingt. NVSentinel en Fleet Intelligence houden de gezondheid van een heel GPU-cluster in de gaten en signaleren storingen voordat ze problemen veroorzaken. Operators kunnen op dit fundament NVIDIA's eigen Nemotron-modellen draaien, naast open modellen van derden.

De commerciële laag van Saturn Cloud

Voor een cloudaanbieder is het runnen van GPU's op zich niet genoeg om er een verdienmodel van te maken. Er moet ook worden bijgehouden welke klant hoeveel gebruikt, tegen welk tarief, en binnen welke grenzen. Saturn Cloud voegt daarom metingen per verwerkt taalfragment toe, samen met facturatie en quotabeheer per klant. Klanten van een neocloud kunnen zo gebruikmaken van een gedeelde, meerdere klanten tegelijk bedienende omgeving voor een goedkopere dienst, of juist een volledig geïsoleerde, exclusieve omgeving afnemen als dat vanwege veiligheid of regelgeving nodig is. In beide gevallen bewaakt Saturn Cloud de grens tussen klanten en de bijbehorende afrekening. Bedrijven kunnen bovendien eigen modellen laten trainen op hun eigen infrastructuur en die vervolgens naast de standaardmodellen aanbieden, zonder een aparte trainingsomgeving te hoeven optuigen.

Voor telecombedrijven en overheden

Saturn Cloud richt zich met deze combinatie vooral op telecomaanbieders, overheden die een eigen 'soevereine' AI-infrastructuur willen opzetten, en grote bedrijven die hun eigen AI-diensten aanbieden. Het platform draait zowel in publieke cloudomgevingen als op eigen servers, bij elke partij die NVIDIA-hardware met de DSX-softwarestack gebruikt. Data en berekeningen blijven daarbij binnen de eigen infrastructuur van de operator, wat belangrijk is voor sectoren met strenge privacyregels. Het samenwerkingsverband is per direct beschikbaar voor cloudaanbieders die het willen testen.