AI & computing › Agentic AI & autonome agents
Snelste service niet altijd beste voor premium klanten bij AI-verwerking
Onderzoekers van de University of Michigan ontdekten dat AI-diensten meer winst maken door kleine taken eerst af te handelen, ook als grote klanten daardoor langer moeten wachten. Dat botst met het gangbare idee dat betalende klanten voorrang verdienen.
Wie meer betaalt, verwacht sneller geholpen te worden. Bij vliegvelden en pretparken werkt dat zo. Maar voor datacenters die agentic AI-diensten draaien, blijkt het omgekeerde vaak winstgevender. Dat concluderen onderzoekers van de Ross School of Business aan de University of Michigan in een nieuwe studie.
Rekencapaciteit is schaars
De aanleiding is de groeiende druk op stroomnetten en rekencapaciteit door AI-workloads. Datacenters kunnen niet oneindig veel taken tegelijk verwerken. Aanbieders van AI-diensten moeten daarom kiezen: wie krijgt voorrang in de wachtrij? Onderzoekers Mojtaba Abdolmaleki, Izak Duenyas en Roman Kapuscinski bestudeerden dit voor diensten waarbij meer rekentijd leidt tot een beter resultaat, zoals uitgebreide AI-analyses.
Hun numerieke analyse laat zien dat het verwerken van kleine taken vóór grote, dure taken de winst met 2,5 procent verhoogt vergeleken met de klassieke regel 'wie het eerst komt, het eerst maalt'. Vergeleken met de gangbare aanpak waarbij premium klanten altijd voorrang krijgen, loopt de winststijging zelfs op tot bijna 5,5 procent. De reden: een enkele omvangrijke premium-taak kan tientallen kleinere taken onnodig lang laten wachten.
Belastingaangifte als voorbeeld
De onderzoekers illustreren dit met een voorbeeld uit de belastingpraktijk. Een student met één loonstrookje kiest voor een basisaangifte, die de computer een minuut bezighoudt. Een ondernemer met meerdere bedrijven, buitenlandse rekeningen en beleggingen kiest voor een uitgebreide aangifte, die twee uur rekentijd kost.
Draait de uitgebreide aangifte eerst, dan wacht de student twee uur. Draait de korte aangifte eerst, dan loopt de ondernemer slechts één minuut vertraging op. Door de student voor te laten gaan, daalt de totale wachtkosten met ongeveer 58 procent, ondanks dat de ondernemer vijftig keer zoveel opweegt bij vertraging.
Kwaliteit in plaats van snelheid verkopen
Volgens de onderzoekers ligt de oplossing niet in het achterstellen van premium klanten, maar in het herdefiniëren van wat 'premium' betekent. Een dure dienst levert een grondiger antwoord op, met een vooraf aangegeven levertijd. Klanten kiezen dan bewust voor kwaliteit, niet per se voor snelheid.
Onderzoeker Abdolmaleki benadrukt dat dit geen verkapte verslechtering van de dienstverlening mag zijn. Bedrijven moeten vooraf duidelijk maken wat een klant krijgt: meer analyse, een beter verwacht resultaat en een realistisch tijdvenster. De studie is nog niet gepubliceerd in een vaktijdschrift, maar staat als preprint op onderzoeksplatform SSRN.
Achtergrond & begrippen
Wat betekent dit voor de toekomst? Nu datacenters steeds vaker tegen de grenzen van hun rekencapaciteit en stroomvoorziening aanlopen, moeten aanbieders van AI-diensten slimmer omgaan met wachtrijen. Dit onderzoek laat zien dat bedrijven hun prijs- en serviceniveaus moeten herzien: niet 'sneller voor wie betaalt', maar 'beter voor wie betaalt, met een eerlijk tijdvenster'. Dat kan de manier veranderen waarop AI-diensten wereldwijd worden ingericht en verkocht.
- Agentic AI
- AI-systemen die zelfstandig taken uitvoeren en beslissingen nemen, vaak met wisselende hoeveelheden rekenwerk per taak.
- Datacenter
- Een gebouw vol servers waar rekenkracht wordt geleverd voor onder meer AI-toepassingen.
- First-come, first-served
- Een wachtrijsysteem waarbij taken in volgorde van binnenkomst worden verwerkt, zonder onderscheid naar belang of grootte.
Bronnen
Dit artikel is met behulp van AI geschreven op basis van bovenstaande bronnen en is geen letterlijke vertaling. Zo werkt onze redactie.