AI & computing › Neuromorfe & fotonische chips
Nvidia steekt $4 miljard in lichtsnelle chipverbindingen voor AI
Nvidia investeert 4 miljard dollar in de bedrijven Lumentum en Coherent om chips in AI-datacenters sneller en zuiniger met elkaar te laten communiceren. De techniek, fotonica, stuurt data met licht in plaats van elektrische signalen door koperkabels.
Nvidia maakte deze week bekend dat het 2 miljard dollar investeert in het Amerikaanse Lumentum en nog eens 2 miljard dollar in branchegenoot Coherent. Beide bedrijven ontwikkelen fotonische technologie: optische transceivers, lasers en optische circuitschakelaars die data met licht door glasvezel sturen in plaats van met elektrische stroom door koper. Die techniek moet de duizenden GPU's in AI-datacenters straks sneller en zuiniger met elkaar laten communiceren.
Waarom Nvidia dit doet
Hoe meer AI-chips samenwerken, hoe belangrijker de verbindingen ertussen worden. Data moet supersnel van de ene chip naar de andere, anders staan dure GPU's werkloos te wachten. Nvidia zette in 2020 al een grote stap in die richting met de overname van netwerkbedrijf Mellanox, waarmee het zijn eigen verbindingstechniek NVLink flink verbeterde. De investeringen in Lumentum en Coherent zijn een vervolg daarop, maar dan gericht op optische verbindingen over langere afstanden binnen en tussen datacenters.
De deals zijn niet-exclusief en lopen meerdere jaren. Nvidia belooft grote hoeveelheden onderdelen af te nemen en krijgt in ruil daarvoor voorrang op toekomstige productiecapaciteit voor geavanceerde lasercomponenten. Ook gaat het geld naar onderzoek en de uitbreiding van fabrieken bij beide bedrijven.
Meer bandbreedte nodig door zelfstandige AI
De vraag naar snellere datacenterverbindingen groeit door de opkomst van agentic AI: AI-systemen die zelfstandig meerdere taken tegelijk uitvoeren, zoals Anthropics Claude Cowork en Microsofts Copilot Tasks. Die systemen moeten razendsnel grote hoeveelheden data uitwisselen tussen chips om meerdere opdrachten tegelijk af te handelen.
Optische glasvezel kan daarbij helpen. Vergeleken met traditionele koperkabels biedt licht een veel hogere bandbreedte, een lagere latentie en een lager stroomverbruik. Voor datacenters die toch al enorme hoeveelheden energie slurpen, is dat laatste voordeel minstens zo belangrijk als de snelheidswinst.
Ook concurrenten zien het belang
Nvidia is niet de enige partij die fotonica als sleuteltechnologie ziet. Het Amerikaanse defensieonderzoeksbureau DARPA riep vorige maand op tot onderzoeksvoorstellen om fotonisch computergebruik voor AI-toepassingen te verbeteren. Chipmaker AMD, de grootste concurrent van Nvidia, nam vorig jaar het siliciumfotonica-bedrijf Enosemi over om zijn eigen optische technologie voor AI-systemen te versnellen. De miljardeninvestering van Nvidia laat zien dat de strijd om AI-chips zich steeds meer verplaatst naar de verbindingen daartussen, niet alleen naar de chips zelf.
Achtergrond & begrippen
Wat betekent dit voor de toekomst? Naarmate AI-modellen groter worden en taken zelfstandiger uitvoeren, wordt de snelheid waarmee chips onderling data uitwisselen net zo belangrijk als de rekenkracht van de chips zelf. Fotonica kan datacenters helpen om sneller en zuiniger te werken, wat cruciaal is nu het stroomverbruik van AI een steeds groter probleem wordt. Wie deze verbindingstechniek beheerst, staat sterker in de race om AI-infrastructuur.
- Fotonica
- Technologie die informatie verstuurt met licht in plaats van elektrische stroom, vaak via glasvezelkabels.
- Optische transceiver
- Een onderdeel dat elektrische signalen omzet in lichtsignalen (en omgekeerd) om data via glasvezel te versturen.
- Optische circuitschakelaar
- Een schakelaar die lichtsignalen tussen verschillende glasvezelverbindingen kan omleiden, zonder ze eerst om te zetten in elektrische signalen.
- NVLink
- Nvidia's eigen technologie om data snel tussen zijn GPU's te laten stromen.
- Agentic AI
- AI-systemen die zelfstandig meerdere taken achter elkaar of tegelijk kunnen uitvoeren, zonder telkens opnieuw instructies te krijgen.
- Latentie
- De vertraging tussen het versturen en ontvangen van data; hoe lager de latentie, hoe sneller een systeem reageert.
- GPU
- Een grafische chip die door zijn parallelle rekenkracht ook wordt gebruikt om AI-modellen te trainen en te laten draaien.
Bronnen
Dit artikel is met behulp van AI geschreven op basis van bovenstaande bronnen en is geen letterlijke vertaling. Zo werkt onze redactie.
