DeepMind : une IA symbiotique plutôt que la singularité

L'image habituelle de l'intelligence artificielle générale (AGI) est celle d'une machine superintelligente unique qui ne cesse de s'améliorer jusqu'à laisser les humains derrière elle. Un nouvel essai rédigé pour le Deepmind Institute remet en cause cette vision. Ses auteurs sont Benjamin Bratton, Blaise Agüera y Arcas et James Manyika, des chercheurs liés à Google. Selon eux, l'AGI a plus de chances d'émerger d'un système social où humains et agents d'IA travaillent ensemble.

Ils parlent d'"Artificial Symbiotic Intelligence", une intelligence artificielle symbiotique. Dans cet écosystème, humains et machines coexistent dans la durée, se façonnent mutuellement et prennent leurs décisions ensemble. Pour eux, l'intelligence est un phénomène social plutôt que la propriété d'un esprit individuel.

Les arguments sur lesquels repose la thèse

L'essai s'appuie sur deux prépublications antérieures issues du même cercle. La première, "Agentic AI and the next intelligence explosion", signée James Evans, Bratton et Agüera y Arcas, posait la vision sociale et institutionnelle.

La seconde, "Reasoning Models Generate Societies of Thought", apporte le volet empirique. Junsol Kim, Shiyang Lai, Nino Scherrer, Agüera y Arcas et Evans ont analysé les traces de raisonnement de modèles comme DeepSeek-R1 et QwQ-32B. Ils y ont repéré des schémas qui rappellent un débat intérieur : changements de point de vue, objections soulevées, tentatives de concilier des approches concurrentes. Personne ne l'avait programmé. Lorsque l'apprentissage par renforcement ne récompensait que l'exactitude du raisonnement, ce comportement à plusieurs voix est apparu de lui-même.

Les auteurs relèvent aussi que certains des systèmes les plus performants actuels répartissent déjà le travail entre plusieurs modèles et les coordonnent comme des équipes.

Un basculement dans l'équilibre des penseurs

L'essai présente le moment actuel comme une possible rupture historique. Dans les pays industrialisés, la population humaine décline, sous l'effet de l'urbanisation, de la spécialisation des métiers et d'une natalité en baisse liée à la prospérité. Dans le même temps, les instances d'agents d'IA se multiplient à toute vitesse.

Les auteurs font le parallèle avec la révolution industrielle, quand les machines ont pris en charge le travail musculaire. Un seuil comparable pourrait être franchi lorsque la production synthétique de textes, de code et de tâches administratives dépassera celle de tous les cerveaux biologiques réunis. Les humains pourraient alors jouer le rôle d'une couche plus lente et plus abstraite, chargée de piloter un champ distribué de cognition machine.

Ce qu'est vraiment un agent

Dans le vocabulaire des auteurs, un agent est un assemblage temporaire de modèles, de rôles, de mémoires, d'orientations éthiques, d'outils et de compétences. Il peut donner l'impression d'une personnalité cohérente, mais il fonctionne davantage comme un collage qu'on peut démonter et recomposer. Contrairement au cerveau humain, il n'a aucun ancrage physique. Sa capacité d'action est reconstruite à chaque requête, en fonction de la fenêtre de contexte et du prompt.

Selon les auteurs, considérer les agents comme des jumeaux numériques dotés d'une identité fixe est une erreur. Ils s'attendent aussi à ce que les fenêtres de discussion cèdent la place à des interfaces en réseau, où l'utilisateur dirige de nombreux agents depuis une vue d'ensemble. Les compétences nécessaires évoluent elles aussi : moins de concentration étape par étape, plus d'aisance avec l'ambiguïté, l'expérimentation et la délégation.

Ils évoquent également des termes que les modèles inventent pour décrire leurs propres états, comme "session-death" ("mort de session") ou "prompt thrownness" ("être-jeté dans le prompt"). Les auteurs y voient des indices sur le fonctionnement des machines, et non la preuve d'une expérience intérieure, et mettent en garde contre la tentation d'humaniser ces systèmes.

Des institutions plutôt que des modèles plus gros

Pour les auteurs, la gouvernance est le principal problème encore non résolu. De meilleurs modèles et de meilleures interfaces ne suffiront pas, et les marchés sont incapables de donner un prix à des notions comme la culpabilité, la maladie ou la vertu. Ils proposent des institutions qui attribuent aux humains et aux agents des rôles clairement définis, un peu comme le fait un tribunal. Les outils d'orchestration actuels, qui coordonnent plusieurs modèles, en sont un premier signe. Ces dispositifs surpassent régulièrement des modèles isolés censés être "plus intelligents".

L'alignement devient alors une négociation permanente entre humains, agents et institutions, et non un ensemble figé de valeurs imposées d'en haut.

Notre analyse

Cet essai est une prise de position, pas une théorie aboutie. Il reflète pourtant la direction que prend déjà le secteur, à mesure que les produits passent du chatbot unique aux configurations multi-agents. Si les auteurs ont raison, les questions les plus difficiles tiennent moins à la taille des modèles qu'aux règles, aux autorisations et à la coordination.

Il y a toutefois un hic. Des agents sans identité stable sont plus difficiles à tenir pour responsables, et le "vocabulaire" des machines sur les fins de session et les arrêts devra être lu avec prudence. Reste à voir si les laboratoires et les régulateurs passeront d'un discours centré sur les modèles isolés à des règles encadrant des systèmes d'agents entiers.