AI & computing › Generatieve AI & synthetische media
Baidu brengt gigantisch AI-basismodel ERNIE 5.5 gratis uit voor ontwikkelaars
Het Chinese techbedrijf Baidu heeft een nieuw AI-taalmodel vrijgegeven: ERNIE 5.5 Flash Base. Het model telt 280 miljard parameters en is openbaar beschikbaar, maar mist bewust de laatste trainingsstap die het geschikt maakt voor direct gebruik door consumenten. Ontwikkelaars moeten die klus zelf klaren.
Baidu, bekend van zijn zoekmachine en zelfrijdende taxi's, blijft actief investeren in kunstmatige intelligentie. Het bedrijf heeft ERNIE 5.5 Flash Base gepubliceerd als open-source basismodel. Anders dan bij een kant-en-klare chatbot zoals ChatGPT, is dit model nog niet afgestemd op gesprekken met gebruikers. Baidu laat die afwerking bewust aan de ontwikkelaarsgemeenschap over. Een versie die wél is getraind voor praktisch gebruik, moet later volgen.
Een slank maar krachtig model
ERNIE 5.5 gebruikt een zogeheten mixture-of-experts-architectuur. Dat betekent dat het model is opgebouwd uit meerdere gespecialiseerde deelnetwerken, waarvan er per vraag maar een klein deel wordt ingeschakeld. Van de 280 miljard parameters - de instelbare rekenknoppen die bepalen hoe een AI-model reageert - zijn er daardoor maar 14 miljard actief per verwerkte vraag. Dat maakt het model veel efficiënter dan wanneer alle parameters steeds zouden worden gebruikt, zonder dat dit veel inlevert op prestaties.
Het model is getraind op 33,5 biljoen tokens, de stukjes tekst waarin AI-modellen taal verwerken. Tijdens die training kon het model teksten van maximaal 128.000 tokens in een keer verwerken, omgerekend ruwweg honderd boeken. Baidu stelt dat het model na verdere afstemming teksten van tot wel een miljoen tokens aankan, wat relevant is voor bijvoorbeeld het doorzoeken van lange documenten of hele codebases.
Hoe verhoudt het zich tot de concurrentie
Baidu vergeleek de prestaties van ERNIE 5.5 Flash Base met andere open basismodellen van vergelijkbare omvang, waaronder DeepSeek V4 Flash Base, Hunyuan (Hy3) en MiMo V2.5. Op gebieden als redeneren, programmeren en het verwerken van lange teksten presteert het model naar eigen zeggen op een vergelijkbaar niveau. De modelgewichten, de uitkomst van het trainingsproces, zijn te downloaden via het platform Hugging Face in twee technische formaten die de balans tussen rekenkracht en nauwkeurigheid beïnvloeden.
Waarom dit opvalt
De release past in een bredere trend waarbij Chinese techbedrijven, naast Amerikaanse partijen als OpenAI en Google, hun AI-modellen open beschikbaar stellen. Door een onafgewerkt basismodel te delen, hoopt Baidu dat ontwikkelaars wereldwijd het model zelf verder toespitsen op specifieke toepassingen, van klantenservice tot wetenschappelijk onderzoek. Dat verlaagt de drempel om geavanceerde AI te gebruiken, maar betekent ook dat gebruikers zelf verantwoordelijk zijn voor de uiteindelijke kwaliteit en veiligheid van afgeleide toepassingen.
Achtergrond & begrippen
Wat betekent dit voor de toekomst? Doordat grote AI-basismodellen steeds vaker gratis en open beschikbaar komen, kunnen ontwikkelaars over de hele wereld zonder hoge kosten geavanceerde taaltechnologie bouwen. Dat versnelt innovatie, maar verschuift ook de verantwoordelijkheid voor veilig en betrouwbaar gebruik naar een breder en minder gecontroleerd veld van partijen.
- Foundation model (basismodel)
- Een AI-model dat alleen de basiskennis van taal en patronen heeft geleerd, maar nog niet is afgestemd op specifieke taken zoals het voeren van een gesprek.
- Fine-tuning / post-training
- De extra trainingsstap waarin een basismodel wordt verfijnd voor concreet gebruik, bijvoorbeeld het beantwoorden van vragen op een prettige, veilige manier.
- Mixture-of-experts
- Een architectuur waarbij een AI-model is opgebouwd uit meerdere deelnetwerken ('experts'), waarvan er per vraag maar een beperkt aantal wordt geactiveerd. Dit maakt het model efficiënter.
- Parameters
- De instelbare waarden binnen een AI-model die bepalen hoe het reageert op input. Meer parameters betekenen doorgaans meer capaciteit, maar ook meer benodigde rekenkracht.
- Tokens
- De kleine stukjes tekst, vaak delen van woorden, waarin AI-taalmodellen taal verwerken en waarop hun training wordt gemeten.
- Context window (contextvenster)
- De hoeveelheid tekst die een AI-model in één keer kan 'onthouden' en verwerken tijdens een taak.
- FP8 en BF16
- Technische formaten waarin getallen in een AI-model worden opgeslagen. Ze bepalen de balans tussen rekensnelheid, geheugengebruik en nauwkeurigheid.
- Open source / open-weight model
- Een AI-model waarvan de onderliggende data (gewichten) openbaar beschikbaar zijn, zodat iedereen het kan downloaden en aanpassen.
Bronnen
Dit artikel is met behulp van AI geschreven op basis van bovenstaande bronnen en is geen letterlijke vertaling. Zo werkt onze redactie.
