Nvidia lanceert sneller AI-model voor routinetaken van AI-agents

Autonome AI-agents worden steeds vaker ingezet om zelfstandig taken uit te voeren: een tool aanroepen, een resultaat controleren, een opdracht doorsturen naar de volgende stap. Voor dat soort kleine, herhaalde acties is meestal geen zwaar AI-model nodig. Toch gebruiken veel systemen daarvoor hetzelfde grote model als voor complexe planning, wat rekenkracht en tijd kost. Nvidia wil dat probleem aanpakken met een nieuw model: Nemotron 3.5 Lightning.

Klein model, groot takenpakket

Nemotron 3.5 Lightning telt in totaal 30 miljard parameters, de instelbare rekenwaarden waarmee een AI-model is getraind. Bij elke berekening worden daarvan slechts 3 miljard daadwerkelijk gebruikt. Dat komt door een mixture-of-experts-architectuur: het model bestaat uit meerdere gespecialiseerde onderdelen, en voor elke taak wordt alleen het relevante stukje geactiveerd. Zo combineert het model de kennis van een groot systeem met de snelheid en het lage energieverbruik van een veel kleiner model. Nvidia positioneert Lightning nadrukkelijk als uitvoerder, niet als planner: grote redeneermodellen blijven verantwoordelijk voor complexe beslissingen, terwijl Lightning het routinewerk van agentic AI-systemen overneemt.

Vier keer sneller door slimme trucs

Volgens Nvidia haalt het model tot vier keer de uitvoersnelheid van vergelijkbaar grote modellen. Op de testreeks PinchBench behaalde Lightning 86 procent nauwkeurigheid en rondde het tienduizend taken 30 procent sneller af dan concurrent Qwen3.6 35B, bij een vergelijkbare nauwkeurigheid. Een deel van die winst komt door speculatief decoderen: het model stelt alvast meerdere volgende woorden voor, die vervolgens in één keer worden gecontroleerd in plaats van stap voor stap. Nvidia leverde daarvoor twee extra hulpmodellen mee, DSpark en DFlash, die als eerste gok fungeren voordat het hoofdmodel het antwoord bevestigt.

Werk verdelen over meerdere modellen

Lightning is getraind met populaire agent-omgevingen zoals OpenClaw en Hermes Agent, zodat het beter leert omgaan met tools en opdrachten uit de praktijk. Het model draait lokaal op Nvidia's eigen hardware, waaronder de DGX Spark, Jetson-systemen en GeForce RTX 5090-videokaarten, maar is ook te gebruiken in datacenters. Nvidia brengt het model volledig open uit: de gewichten, trainingsdata en trainingsrecepten zijn vrij beschikbaar onder de OpenMDW 1.1-licentie, en ontwikkelaars kunnen het zelf verder trainen met Nvidia's NeMo-tools.

Onderdeel van de lancering is ook NeMo Switchyard, een systeem voor modelroutering dat automatisch bepaalt welk model een taak moet oppakken: een ingewikkelde vraag naar een groot model, een simpele herhaaltaak naar Lightning. Dat moet de rekenkosten drukken van agents die dag en nacht actief blijven en duizenden kleine acties uitvoeren. Het model is te downloaden via Hugging Face en ModelScope, en te gebruiken via platforms als Ollama, LM Studio, Amazon SageMaker JumpStart, Google Cloud, Microsoft Foundry, Oracle Cloud Infrastructure en OpenRouter.