AI-beeldgenerators leren tekenen in één klap in plaats van vijftig stappen

Wie weleens een plaatje liet genereren door een AI-tool, wachtte waarschijnlijk een paar seconden terwijl de afbeelding stap voor stap scherper werd. Dat is geen toeval: het model achter die generator, een zogeheten diffusiemodel, bouwt het beeld op door ruis in tientallen kleine stapjes weg te halen. Elke stap is een gok in de juiste richting, geen definitief antwoord. Vreemd genoeg draait veel recent onderzoek juist om het drastisch verminderen van dat aantal stappen. Sommige technieken lukken het zelfs om een compleet beeld in één keer te genereren.

Waarom kleine stapjes nodig zijn

Een diffusiemodel voorspelt bij elke stap in welke richting een ruizig plaatje moet bewegen om meer op een echte foto te lijken. Die voorspelling is alleen lokaal betrouwbaar: ze wijst naar een gebied waar veel aannemelijke beelden liggen, niet naar één specifiek plaatje. Neem je in één keer een grote stap, dan beland je in het gemiddelde van al die mogelijkheden. Bij beeldgeneratie levert dat een wazige, onscherpe afbeelding op, omdat scherpe details en fijne texturen juist verloren gaan in zo'n gemiddelde. Vandaar dat modellen van oudsher veel kleine stapjes nemen, elke keer opnieuw de richting bepalend via het proces dat denoising heet.

Een leraar die zijn kennis doorgeeft

Om toch met minder stappen toe te kunnen, grijpen onderzoekers naar distillatie: een nieuw, sneller model (de leerling) wordt getraind om het gedrag van een bestaand, trager model (de leraar) na te bootsen. Dit heet diffusiedistillatie. De leerling leert in feite de hele reeks kleine stapjes van de leraar samen te vatten in één grote sprong, zonder dat het eindresultaat wazig wordt. Er bestaan inmiddels tientallen varianten van deze aanpak, met namen als progressieve distillatie, consistency distillation en rectified flow. Sommige methoden hebben zelfs geen trainingsdata nodig en werken volledig op basis van het gedrag van het teachermodel zelf.

Waarom dit ertoe doet

Minder stappen betekent minder rekentijd, minder energieverbruik en dus goedkopere en snellere AI-beeldgeneratie. Dat maakt toepassingen mogelijk die tot voor kort onhaalbaar waren: beelden genereren in real time op een smartphone, of duizenden variaties tegelijk produceren voor ontwerp- en marketingdoeleinden. Ook bij het sturen van de ruisinjectie tijdens het samplen valt winst te behalen: onderzoekers ontdekten dat willekeurige ruisinjectie vooral dient om kleine voorspelfouten te corrigeren voordat ze zich opstapelen, wat verklaart waarom deterministische, snellere sampelmethoden vaak toch goed werken. Het paradoxale van distillatie is dus eigenlijk geen paradox: de kennis die met veel kleine stapjes is opgebouwd, blijft behouden, alleen wordt ze slimmer verpakt in een enkele of een paar grote stappen.