OpenAI legt uit hoe je het juiste GPT-model kiest voor je prijs en kwaliteit

Wie met kunstmatige intelligentie werkt, krijgt tegenwoordig een hele lijst modellen voorgeschoteld. OpenAI, het bedrijf achter ChatGPT, heeft binnen zijn nieuwste modelfamilie GPT-6.1 meerdere varianten: Astra, Sol, Terra en Luna. Ted Sanders, onderzoeker bij OpenAI, legde deze week uit waarom die naamgeving niet simpel een rangorde van slim naar dom weergeeft. Een model dat uitblinkt in wiskunde is niet automatisch ook goed in het schrijven van grappen, aldus Sanders. Toch komt het grootste deel van de prestatieverschillen volgens hem terug op één factor: de omvang van het model, ofwel hoeveel rekenkracht en data erin zijn verwerkt.

Waarom één IQ-score niet werkt

Sanders legt uit dat OpenAI ervoor kiest om geen enkel cijfer te plakken op de kwaliteit van een model, zoals een IQ-score. De reden: modelgrootte, de hoeveelheid 'denktijd' die een model krijgt (het zogeheten reasoning effort) en het gebruik van meerdere samenwerkende AI-systemen (multi-agent systemen) zijn drie losse dimensies. Door die allemaal samen te persen in één getal zou belangrijke informatie verdwijnen. Een gebruiker die alleen naar een totaalcijfer kijkt, mist dan bijvoorbeeld dat een model goed is in programmeren maar zwak in creatief schrijven.

Grootte is daarnaast geen garantie voor kwaliteit. Sanders wijst erop dat nieuwere, kleinere modellen oudere, grotere modellen soms voorbijstreven. Dat komt dan niet door meer rekenkracht, maar door betere trainingsdata of een slimmer ontworpen architectuur, de technische opzet van het model. Zo is het kleinere GPT-6.1 Terra volgens Sanders waarschijnlijk beter in technische communicatie dan het grotere Astra, en ongeveer gelijkwaardig in het verwerken van afbeeldingen en het bedienen van een computerscherm. Op bijna alle andere vlakken blijft Terra echter achter bij Astra, maar dan tegen een flink lagere prijs.

De vuistregel: kwaliteit versus prijs

Voor gebruikers die door de bomen het bos niet meer zien, geeft Sanders een simpele leidraad. Wie alleen kwaliteit belangrijk vindt, kiest Astra, het grootste en duurste model. Is prijs een beetje een punt van aandacht, dan is Sol een logische middenweg. Voor wie echt op de kosten moet letten, zijn Terra of het nog kleinere Luna de aangewezen opties. Deze indeling is relevant voor bedrijven en ontwikkelaars die AI-toepassingen bouwen: zij betalen per gebruik, en een te zwaar model voor een simpele taak jaagt de rekening onnodig op. Tegelijk kan een te licht model fouten maken die een duurder model wel zou voorkomen. De vuistregel van Sanders helpt om die afweging sneller te maken, zonder dat gebruikers alle technische details van elk model moeten doorspitten.