China blijft voor AI-training leunen op Nvidia, ondanks Huawei-chips

China investeert al jaren in binnenlandse alternatieven voor Amerikaanse chips, als antwoord op Amerikaanse exportbeperkingen. Toch trainen ontwikkelaars van toonaangevende AI-modellen nog steeds op GPU-clusters van Nvidia. Uit onderzoek van de South China Morning Post blijkt dat de overstap naar Huawei's Ascend-chips niet simpelweg een kwestie is van andere hardware inpluggen. Alle software die ontwikkelaars gebruiken om modellen te trainen, is namelijk gebouwd rond Nvidia's platform CUDA. Huawei heeft daarvoor een eigen alternatief ontwikkeld, genaamd CANN, maar programmeurs moeten hun bestaande code grotendeels herschrijven voordat die op Ascend-chips draait.

Herschrijven kost tijd en geld

Een onderzoeker die betrokken is bij modelontwikkeling vertelde aan de krant dat trainingspijplijnen zo sterk afhankelijk zijn van CUDA, dat een overstap verre van eenvoudig is. James Wang, verbonden aan een onderzoeksinstituut bij een universiteit in Shanghai, schat dat verhuizen naar Ascend de tijd en kosten van een trainingsproject met minstens vijftig procent kan verhogen. Hoe groot die last is, hangt af van hoe open een model is. Voor modellen als DeepSeek, waarvan de broncode publiek beschikbaar is, volstaan volgens een Peking-based engineer twee tot drie ontwikkelaars en ongeveer een maand extra werk. Bij modellen zonder openbare broncode loopt dat snel op. Voor Kimi K3 van Moonshot AI, waarvan alleen de gewichten zijn vrijgegeven, zouden naar schatting tien engineers meer dan een half jaar nodig hebben om de overstap te maken.

Trainen is lastiger dan gebruiken

Het verschil tussen het trainen van een model en het daadwerkelijk gebruiken ervan is daarbij cruciaal. Training vergt enorme rekenkracht en draait workloads keer op keer door grote clusters van chips. Bij het toepassen van een al getraind model, ook wel inferentie genoemd, is de rekenlast veel kleiner en is overstappen naar andere hardware relatief eenvoudig. Dat verklaart waarom modellen als DeepSeek-V4 en Kimi K3 inmiddels wel draaien op Chinese platforms van Huawei en Alibaba, terwijl ze oorspronkelijk zijn getraind met Nvidia-chips, waaronder de krachtige Blackwell-processors. Er zijn overigens signalen dat binnenlandse hardware een grotere rol begint te spelen: techbedrijf Meituan meldde in juni dat het zijn model LongCat-2.0, met 1,6 biljoen parameters, volledig trainde op een cluster van 50.000 binnenlandse chips, zonder de leverancier te noemen.

Voor Peking is de uitdaging dus breder dan alleen chips namaken. Ontwikkelaars hebben ook software, bibliotheken en geoptimaliseerde workflows nodig die kunnen concurreren met het ecosysteem dat Nvidia rond CUDA heeft opgebouwd. Zolang die achterstand bestaat, blijven Chinese bedrijven voor hun zwaarste rekenwerk afhankelijk van Amerikaanse chips, ondanks de exportcontroles die de VS oplegt en de nadruk die Peking legt op technologische soevereiniteit.