Nieuw AI-model redeneert zonder taal en is tot 11 keer goedkoper dan rivaal

Onderzoekers van het AI-bedrijf Pathway hebben een nieuw taalmodel gebouwd dat op een fundamenteel andere manier redeneert dan gangbare chatbots zoals ChatGPT. Het model, BDH-CQ genaamd, scoort op een bekende intelligentietest bijna even goed als een model van OpenAI, maar dan tot elf keer goedkoper. Dat blijkt uit een op 10 augustus gepubliceerde studie op de preprintserver arXiv.

Puzzels oplossen zonder taal

Pathway testte BDH-CQ op ARC-AGI-1, een test uit 2019 die geldt als belangrijke graadmeter voor voortgang richting kunstmatige algemene intelligentie (AGI): het punt waarop AI op elk gebied minstens even goed presteert als een mens. De test bestaat uit visuele puzzels, zoals het aanvullen van een reeks gedraaide vormen. Mensen lossen dit soort raadsels vaak moeiteloos op door te experimenteren; AI-systemen hadden hier van oudsher juist grote moeite mee.

BDH-CQ haalde bijna 30 procent op deze benchmark: het loste drie van de tien puzzels op in twee pogingen of minder. GPT 5.6 Luna (Low), een lichte redeneerversie van OpenAI, scoorde iets hoger. Maar volgens de onderzoekers kostte die kleine verbetering ongeveer elf keer zoveel rekenkracht, gemeten in tokens: de brokjes tekst waarop AI-modellen worden afgerekend.

Veel kleiner, veel goedkoper

Het verschil zit in de bouw van het model. BDH-CQ is getraind met slechts 150 miljoen parameters, de instelbare rekenwaarden die bepalen hoe een AI-model informatie verwerkt. Grote, veelgebruikte modellen zoals Meta's Llama 3 draaien op tientallen tot honderden miljarden parameters. Minder parameters betekent doorgaans een sneller te trainen en goedkoper te gebruiken model. Opvallend genoeg haalt dit relatief piepkleine model resultaten die in de buurt komen van veel grotere systemen. Dat suggereert dat de prestaties nog flink kunnen verbeteren zodra de aanpak wordt opgeschaald naar meer parameters.

Waarom gewone AI-modellen duur zijn

De meeste huidige chatbots, waaronder ChatGPT en Claude, zijn gebouwd op zogeheten transformer-architecturen. Zulke modellen bekijken een volledige prompt in één keer en voorspellen vervolgens woord voor woord het antwoord, waarbij ze in feite hardop een lineaire gedachtegang opschrijven. Dat werkt goed, maar wordt duur bij lange of ingewikkelde vragen: de benodigde rekenkracht groeit kwadratisch mee met de lengte van de invoer. Dubbel zoveel tekst betekent dus vier keer zoveel rekenwerk. Bovendien moet een transformer bij elk nieuw woord de hele gespreksgeschiedenis opnieuw doorlopen, wat het geheugen van de gebruikte chips snel verzadigt.

Pathway noemt zijn eigen ontwerp daarom een post-transformer-architectuur. Het model bewaart de context van een gesprek niet als een lange tekstlog, maar gebruikt een verbeterd kortetermijngeheugen en een mechanisme waarmee het delen van een probleem kan doorwerken zonder daarbij telkens tokens te verbruiken. Volgens de onderzoekers wijst dit erop dat schaalbare, betaalbare AI-redenering ook zonder de klassieke transformer-aanpak mogelijk is, een route die relevant kan worden nu de rekenkosten van AI wereldwijd een steeds groter obstakel vormen.