AI & computing › Agentic AI & autonome agents
Nvidia bouwt digitale bewaker die losgeslagen AI-agents stopt
Nvidia introduceert een nieuwe architectuur die bedrijven moet helpen autonome AI-agents veilig in te zetten. Het systeem combineert speciale chips met bewakingssoftware die ingrijpt zodra een AI-agent zich buiten zijn toegestane taken begeeft. Grote techbedrijven, banken en cloudaanbieders sluiten zich al aan.
AI-agents zijn programma's die zelfstandig taken uitvoeren: ze plannen, nemen beslissingen en voeren acties uit zonder dat een mens voortdurend meekijkt. Voor bedrijven is dat aantrekkelijk, maar ook riskant. Een agent die toegang heeft tot bedrijfssystemen kan fouten maken, misbruikt worden door hackers, of buiten zijn opdracht handelen. Chipgigant Nvidia presenteert nu een architectuur die dat risico moet beperken: de OpenShell Reference Architecture.
Een digitale kooi voor AI-agents
De architectuur bouwt voort op Nvidia's eigen beveiligingssoftware OpenShell en voegt daar specifieke hardware aan toe. Agents draaien op Vera-processoren, die volgens Nvidia twee keer zo snel zijn als gangbare x86-chips en zuiniger met energie. Daarnaast gebruikt het systeem de nieuwe Vera Rubin-infrastructuur, bedoeld voor het trainen en laten draaien van AI-modellen, waaronder Nvidia's eigen Nemotron-modellen. Voor agentgerichte taken belooft Nvidia dertig keer meer rekenkracht per megawatt dan voorheen.
Chips die continu meekijken
Het belangrijkste onderdeel is misschien wel de bewaking. Speciale netwerkchips, BlueField-DPU's genoemd, houden voortdurend in de gaten wat een agent precies doet. Een DPU is een los stukje hardware dat naast de hoofdprocessor netwerk- en beveiligingstaken afhandelt, zodat dit niet ten koste gaat van de rekenkracht voor de AI zelf. Op die DPU's draait Nvidia's beveiligingssysteem Sentry. Zodra een agent zijn afgesproken grenzen overschrijdt, grijpt Sentry in: binnen milliseconden wordt de agent geïsoleerd en stilgelegd. Omdat deze controle rechtstreeks in de chip zit ingebouwd, is het volgens Nvidia moeilijker te omzeilen dan beveiliging die alleen in software draait. Opvallend is dat Nvidia claimt dat Sentry de capaciteit van agents juist met twintig procent verhoogt, omdat bedrijven dankzij de ingebouwde controle minder voorzichtig hoeven te zijn met wat agents mogen doen.
Brede steun uit de tech- en financiële wereld
Nvidia werkt samen met een lange lijst partners om het systeem breed inzetbaar te maken. De architectuur draait op gangbare bedrijfssoftware van onder meer Red Hat, SUSE, Microsoft en de grote cloudplatformen van Amazon, Google en Microsoft. Beveiligingsbedrijven als Cisco, CrowdStrike, Palo Alto Networks en Microsoft bouwen ondersteuning in hun eigen producten. Ook banken experimenteren met het systeem: de Spaanse banken BBVA en Santander onderzoeken of de architectuur helpt om AI-agents binnen de strenge regels van de financiële sector te laten werken. Softwarebedrijf ServiceNow koppelde de techniek direct aan een nieuw product, Arc, waarmee bedrijven de toegangsrechten van een AI-agent binnen seconden volledig kunnen intrekken. De architectuur is vanaf nu beschikbaar en kan ook op kleinere, edge-systemen draaien, bijvoorbeeld in winkels, ziekenhuizen en fabrieken waar agents dichter bij de praktijk werken.
Achtergrond & begrippen
Wat betekent dit voor de toekomst? Naarmate bedrijven AI-agents steeds zelfstandiger laten werken, groeit de behoefte aan harde technische waarborgen in plaats van alleen beleidsregels op papier. Door beveiliging direct in de chip te verankeren, probeert Nvidia het vertrouwen in autonome AI te vergroten, wat de weg vrijmaakt voor bredere inzet in gevoelige sectoren zoals de financiële wereld en zorg. Dit soort infrastructuur kan bepalend worden voor welke bedrijven AI-agents durven toepassen in kritieke processen.
- AI-agent
- Een AI-programma dat zelfstandig taken uitvoert, beslissingen neemt en acties ondernemt zonder voortdurende menselijke sturing.
- DPU (Data Processing Unit)
- Een gespecialiseerde chip die netwerk- en beveiligingstaken afhandelt naast de hoofdprocessor, zodat die laatste vrij blijft voor rekenwerk.
- CPU
- De centrale processor van een computersysteem, verantwoordelijk voor algemene berekeningen en besturing.
- In-silicon beveiliging
- Beveiligingsmaatregelen die rechtstreeks in de hardware (de chip) zijn ingebouwd, in plaats van alleen in software.
- Runtime
- De omgeving waarin software daadwerkelijk draait en wordt uitgevoerd, in tegenstelling tot de fase waarin ze wordt gebouwd.
- Kubernetes
- Een systeem waarmee bedrijven softwaretoepassingen op grote schaal beheren en verdelen over meerdere computers.
- Edge-systemen
- Computers die dicht bij de plek staan waar data ontstaat, zoals in een winkel of fabriek, in plaats van in een centraal datacenter.
- Megawatt (rekenkracht per megawatt)
- Een maat voor hoeveel rekenprestaties een systeem levert per eenheid verbruikte energie, belangrijk voor de efficiëntie van datacenters.
Bronnen
Dit artikel is met behulp van AI geschreven op basis van bovenstaande bronnen en is geen letterlijke vertaling. Zo werkt onze redactie.
