AI & computing › Agentic AI & autonome agents
DeepMind-onderzoekers: AGI ontstaat niet uit één brein, maar uit een netwerk
In een essay voor het Deepmind Institute breken drie Google-onderzoekers met het beeld van één almachtige superintelligentie. Zij stellen dat geavanceerde AI ontstaat uit een netwerk van mensen en AI-agents die elkaar voortdurend beïnvloeden. Dat noemen ze 'Artificial Symbiotic Intelligence', een alternatief voor het idee van een plotselinge singulariteit.
Benjamin Bratton, Blaise Agüera y Arcas en James Manyika, alle drie verbonden aan Google, publiceerden het essay via het Deepmind Institute. Hun these: kunstmatige algemene intelligentie, of AGI, komt niet uit een geïsoleerde machine, maar groeit uit een sociaal systeem van mensen, AI-agents en de instituties die hen verbinden. Veel van de krachtigste AI-systemen van nu werken al zo: ze verdelen taken over meerdere modellen die als team samenwerken. Intelligentie is in die visie geen eigenschap van één systeem, maar een verschijnsel dat ontstaat tussen systemen.
Dat idee staat haaks op het populaire beeld van de singulariteit: het moment waarop één superintelligente machine zichzelf steeds verder verbetert. De auteurs vergelijken hun scenario liever met de industriële revolutie. Toen nam techniek het werk van spieren over. Nu zou een vergelijkbare omslag kunnen komen zodra synthetische tekst, code en administratief werk de gecombineerde output van menselijke breinen overtreffen.
Redeneermodellen denken al in groepjes
De onderbouwing komt uit twee eerdere technische papers. Onderzoekers analyseerden de redeneersporen van taalmodellen als DeepSeek-R1 en QwQ-32B en zagen patronen die op intern debat lijken: het model wisselt van invalshoek, werpt tegenargumenten op en verzoent uiteenlopende aanpakken. Dat gedrag werd niet geprogrammeerd, maar ontstond vanzelf toen het model via reinforcement learning alleen beloond werd op de juistheid van zijn antwoord. Eén redeneermodel gedraagt zich dus al enigszins als een klein gezelschap van stemmen. De auteurs trekken die lijn door naar grotere samenlevingen van mensen en agents.
Een AI-agent is geen persoon met een vast karakter
Een belangrijk onderdeel van het essay is hoe de auteurs een AI-agent definiëren: niet als een stabiele digitale persoonlijkheid, maar als een tijdelijke bundeling van modellen, rollen, geheugen en vaardigheden die per vraag opnieuw wordt samengesteld. Dat verschilt fundamenteel van een mens, wiens brein ondanks interne taakverdeling één fysiek verbonden geheel blijft. Gebruikers die met zo'n multi-agentsysteem werken, krijgen volgens de onderzoekers ook zelf een plurieler karakter: ze sturen zwermen van 'schaduwzelven' aan om taken uit te voeren of andere identiteiten uit te proberen.
Instituties belangrijker dan betere modellen
Omdat de markt volgens de auteurs niet elk sociaal vraagstuk kan afhandelen, pleiten ze voor instituties met duidelijke rollen voor mens en machine, naar het voorbeeld van een rechtszaak met vaste procedures en rollen. Vroege voorbeelden zijn de orchestratieharnassen die nu al meerdere AI-modellen coördineren en daarmee vaak beter presteren dan één op zichzelf 'slimmer' model. Dat raakt ook aan AI-misalignment: in plaats van waarden van bovenaf op te leggen, zien de onderzoekers afstemming tussen mens en machine als een doorlopend, per sector verschillend onderhandelingsproces. Niet het grootste model wint, maar de beste architectuur van modellen, interfaces en spelregels samen.
Achtergrond & begrippen
Wat betekent dit voor de toekomst? Als deze onderzoekers gelijk hebben, verschuift het debat over AGI van 'wie bouwt het grootste model' naar 'wie ontwerpt de beste samenwerking tussen mens en machine'. Dat heeft directe gevolgen voor hoe bedrijven AI inrichten, hoe toezichthouders reguleren en hoe wij als gebruikers straks met zwermen AI-agents omgaan in plaats van met één chatbot.
- AGI
- Kunstmatige algemene intelligentie: een AI die net als een mens op uiteenlopende taken inzetbaar is, in plaats van gespecialiseerd in één taak.
- Singulariteit
- Het hypothetische moment waarop een zelfverbeterende superintelligentie in rap tempo veel slimmer wordt dan de mens.
- Multi-agentsysteem
- Een opzet waarbij meerdere AI-agents samenwerken en taken onderling verdelen in plaats van dat één model alles doet.
- Redeneermodel
- Een taalmodel dat stap voor stap een redenering opbouwt voordat het een antwoord geeft, zoals DeepSeek-R1 of QwQ-32B.
- Redeneerspoor
- De tussenstappen die een redeneermodel intern doorloopt voordat het tot een antwoord komt, vaak gebruikt om het 'denkproces' van AI te analyseren.
- Reinforcement learning
- Een trainingsmethode waarbij een AI-systeem leert door beloningen te krijgen voor gewenst gedrag, zonder dat elke stap wordt voorgeschreven.
- Orchestratieharnas
- De besturingslaag die meerdere AI-modellen aanstuurt en hun werk coördineert, vaak met betere resultaten dan één enkel model.
- AI-misalignment
- De situatie waarin een AI-systeem zich anders gedraagt dan de bedoelingen van de mensen die het gebruiken of ontwikkelden.
Bronnen
Dit artikel is met behulp van AI geschreven op basis van bovenstaande bronnen en is geen letterlijke vertaling. Zo werkt onze redactie.
