Cisco voegt Supermicro-servers toe aan AI-infrastructuur met Nvidia-chips

Cisco breidt de samenwerking met Nvidia uit met een nieuwe partner: serverbouwer Supermicro. Samen leveren de bedrijven straks kant-en-klare, geteste combinaties van rekenkracht, netwerktechniek en beveiliging voor datacenters die AI-modellen trainen en gebruiken. Het gaat om de zogeheten Secure AI Factory, het platform waarmee Cisco en Nvidia sinds enige tijd samen AI-infrastructuur voor bedrijven, clouddiensten en overheden aanbieden.

Aanleiding is de groeiende vraag naar rekenkracht voor AI. Nieuwe AI-modellen worden steeds groter en vragen meer van servers, netwerken en koeling. Tegelijk willen klanten dat hun data veilig en privé blijven, ook als ze gebruikmaken van gedeelde infrastructuur. Cisco stelt dat pure rekenkracht niet meer genoeg is: bedrijven hebben kant-en-klare, doorgetest systemen nodig die snel te installeren zijn en efficiënt draaien.

Vloeistofkoeling voor zwaardere AI-taken

Door de samenwerking met Supermicro krijgen klanten toegang tot zowel lucht- als vloeistofgekoelde serversystemen. Vloeistofkoeling is nodig omdat de nieuwste generatie AI-chips zoveel warmte produceert dat gewone ventilatoren tekortschieten. Cisco combineert zijn eigen vloeistofgekoelde netwerkapparatuur met de servers van Supermicro tot wat het bedrijf een 'rack-to-fabric'-koelsysteem noemt: van de serverkast tot en met de bekabeling wordt alles op elkaar afgestemd.

Dat maakt het mogelijk om dichte GPU-clusters te bouwen die geschikt zijn voor het trainen van AI-modellen met biljoenen parameters, een schaal die tot voor kort alleen bij de grootste techbedrijven voorkwam. De systemen ondersteunen onder meer Nvidia's nieuwste platforms Vera Rubin NVL72 en HGX Rubin NVL8, chips die zijn ontworpen voor zowel het trainen van AI-modellen als het razendsnel beantwoorden van AI-vragen.

Eigen netwerktechniek als onderscheidende factor

Cisco benadrukt dat het als enige Nvidia-partner zijn eigen netwerkswitches en besturingssoftware gebruikt in oplossingen die voldoen aan de eisen van het Nvidia Cloud Partner-programma, bedoeld voor zogeheten neoclouds en 'sovereign clouds': clouddiensten die specifiek AI-rekenkracht aanbieden of waarbij een land grip wil houden op waar en hoe data worden verwerkt. Cisco's Silicon One-chips regelen daarbij het gewone datacenterverkeer, terwijl op Nvidia's Spectrum-X gebaseerde switches het snelle verkeer tussen AI-chips afhandelen. Beide netwerken worden aangestuurd vanuit één systeem, Cisco Nexus One.

Om klanten te helpen hun infrastructuur snel operationeel te krijgen, introduceert Cisco ook nieuwe certificeringsdiensten en een eigen AI-lab waar nieuwe configuraties worden getest voordat ze bij klanten worden geïnstalleerd. Met software van Nvidia en Cisco's eigen beheertools kunnen bedrijven bovendien in één overzicht zien hoe hun AI-taken, chips, netwerkkaarten en optische verbindingen presteren.