DeepMind-essay: symbiotische AI in plaats van singulariteit

Het gangbare beeld van artificial general intelligence (AGI) is dat van een enkele superintelligente machine die zichzelf blijft verbeteren tot ze de mens ver achter zich laat. Een nieuw essay voor het Deepmind Institute gaat tegen dat beeld in. De auteurs zijn Benjamin Bratton, Blaise Agüera y Arcas en James Manyika, onderzoekers die aan Google gelieerd zijn. Volgens hen ontstaat AGI eerder uit een sociaal systeem waarin mensen en AI-agents samenwerken.

Ze noemen dit "Artificial Symbiotic Intelligence". In dit ecosysteem leven mensen en machines langdurig naast elkaar, beïnvloeden ze elkaar en nemen ze samen beslissingen. In hun opvatting is intelligentie een sociaal verschijnsel en geen eigenschap van één individuele geest.

Het bewijs achter het betoog

Het essay leunt op twee eerdere preprints uit dezelfde kring. De eerste, "Agentic AI and the next intelligence explosion" van James Evans, Bratton en Agüera y Arcas, zette de sociale en institutionele visie uiteen.

De tweede, "Reasoning Models Generate Societies of Thought", levert de empirische onderbouwing. Junsol Kim, Shiyang Lai, Nino Scherrer, Agüera y Arcas en Evans bestudeerden de redeneersporen van modellen als DeepSeek-R1 en QwQ-32B. Ze vonden patronen die doen denken aan een intern debat: wisselende perspectieven, opgeworpen bezwaren en pogingen om concurrerende benaderingen met elkaar te verzoenen. Niemand had dit geprogrammeerd. Toen reinforcement learning alleen nauwkeurig redeneren beloonde, dook dat meerstemmige gedrag vanzelf op.

De auteurs wijzen er ook op dat sommige van de sterkste systemen van dit moment het werk al over meerdere modellen verdelen en die als teams aansturen.

Een verschuiving in de verhouding tussen denkers

Het essay presenteert dit moment als een mogelijke historische breuk. De bevolking in geïndustrialiseerde landen krimpt, onder invloed van verstedelijking, gespecialiseerde beroepen en lagere geboortecijfers die met welvaart samenhangen. Het aantal instanties van AI-agents groeit intussen razendsnel.

De auteurs vergelijken dit met de Industriële Revolutie, toen machines het spierwerk overnamen. Een vergelijkbaar omslagpunt kan komen wanneer synthetische tekst, code en administratieve output groter wordt dan wat alle biologische breinen samen voortbrengen. Mensen zouden dan kunnen fungeren als een tragere, meer abstracte laag die een verspreid veld van machinaal denken aanstuurt.

Wat een agent eigenlijk is

Zoals de auteurs het woord gebruiken, is een agent een tijdelijke bundel van modellen, rollen, herinneringen, ethische oriëntaties, tools en vaardigheden. Het kan aanvoelen als één samenhangende persoonlijkheid, maar werkt eerder als een collage die uit elkaar gehaald en opnieuw samengesteld kan worden. Anders dan een menselijk brein heeft een agent geen fysiek anker. Zijn vermogen om te handelen wordt bij elk verzoek opnieuw opgebouwd, afhankelijk van het contextvenster en de prompt.

Agents behandelen als digitale tweelingen met een vaste identiteit is volgens de auteurs een misvatting. Ze verwachten ook dat chatvensters plaatsmaken voor netwerkachtige interfaces, waarin gebruikers vanuit één overzicht veel agents tegelijk aansturen. Ook de benodigde vaardigheden veranderen: minder stapsgewijze focus, meer gemak met dubbelzinnigheid, experimenteren en delegeren.

Verder wijzen ze op termen die modellen zelf bedenken voor hun eigen toestanden, zoals "session-death" en "prompt thrownness". De auteurs zien die als aanwijzingen voor hoe machines werken, niet als bewijs van een innerlijke beleving, en waarschuwen voor de neiging om deze systemen te vermenselijken.

Instituties boven grotere modellen

De auteurs zien bestuur als het kernprobleem dat nog openligt. Betere modellen en interfaces zullen niet volstaan, en markten kunnen geen prijs plakken op begrippen als schuld, ziekte of deugd. Ze stellen instituties voor die mensen en agents duidelijke rollen toewijzen, zoals een rechtszaal dat doet. De huidige orkestratie-omgevingen, die meerdere modellen coördineren, zijn daar een vroeg teken van. Zulke opstellingen verslaan geregeld losse modellen die zogenaamd "slimmer" zijn.

Alignment wordt zo een doorlopende onderhandeling tussen mensen, agents en instituties, in plaats van een vaste set waarden die van bovenaf wordt opgelegd.

Onze kijk

Dit essay is een positiebepaling, geen afgeronde theorie. Maar het weerspiegelt wel de richting die de sector al op gaat, nu producten verschuiven van losse chatbots naar opstellingen met meerdere agents. Als de auteurs gelijk hebben, liggen de lastigste vragen minder bij de omvang van modellen en meer bij regels, bevoegdheden en coördinatie.

Er zit wel een addertje onder het gras. Agents zonder stabiele identiteit zijn moeilijker ter verantwoording te roepen, en het "vocabulaire" van machines over het einde van sessies en uitschakeling vraagt om zorgvuldige interpretatie. Let erop of labs en toezichthouders de stap zetten van praten over losse modellen naar regels voor complete agentsystemen.