Google lanceert compact AI-model dat tekst, beeld en geluid omzet in vectoren

EmbeddingGemma 2 is wat techneuten een multimodaal AI-model noemen: het kan verschillende soorten content tegelijk verwerken. Tekst, foto's, video, geluid en code worden allemaal omgezet in dezelfde soort wiskundige representatie, waardoor een computer kan berekenen hoe sterk twee stukken content op elkaar lijken. Dat is handig voor zoekmachines, aanbevelingssystemen en chatbots die snel de juiste informatie moeten vinden.

Klein model, grote prestaties

Opvallend is de omvang van het model: met 740 miljoen parameters is het aanzienlijk compacter dan vergelijkbare systemen. Toch scoort EmbeddingGemma 2 volgens Google beter dan modellen die twee keer zo groot zijn, op benchmarks voor multimodale embeddings. Op de Massive Text Embedding Benchmark voor code haalt het model een score van 78,68 punten. Dat is een sprong van bijna 10 punten vergeleken met de voorganger, die op 68,76 punten uitkwam. Daarmee evenaart het kleine model prestaties van veel grotere concurrenten.

Voor taken waarbij alleen tekst wordt verwerkt, biedt Google ook een nog kleinere versie aan van 270 miljoen parameters. Die extra variant maakt het mogelijk om het model aan te passen aan de zwaarte van de taak: wie geen beeld of geluid nodig heeft, kan met minder rekenkracht toe.

Werkt offline, zonder data naar de cloud te sturen

Een belangrijk kenmerk van EmbeddingGemma 2 is dat het volledig lokaal draait, dus op de eigen computer of server, zonder dat er een API-sleutel of internetverbinding nodig is. Via WebGPU kan het model direct in een webbrowser werken, met een verwerkingstijd van 20 tot 70 milliseconden per zoekopdracht. Het model heeft daarbij maar ongeveer 191 megabyte aan werkgeheugen nodig, wat weinig is voor dit soort AI-toepassingen.

Dat heeft ook gevolgen voor hoeveel opslagruimte nodig is om alle vectoren te bewaren. Google claimt dat de benodigde opslag in een lokale vectordatabase tot zes keer kleiner kan uitvallen dan voorheen. In combinatie met kleine open taalmodellen zoals Gemma 4 kan EmbeddingGemma 2 worden gebruikt om volledig offline RAG-toepassingen te bouwen: systemen die eerst relevante informatie opzoeken voordat ze een antwoord formuleren, zonder dat gebruikersdata het apparaat verlaat.

Dat laatste is vooral interessant voor bedrijven en ontwikkelaars die gevoelige gegevens niet naar externe servers willen sturen, bijvoorbeeld in de zorg, juridische sector of financiële dienstverlening. De modelgewichten zijn gratis beschikbaar via de platforms Hugging Face en Kaggle, inclusief documentatie voor ontwikkelaars die ermee aan de slag willen.