DeepMind propone una IA simbiótica frente a la singularidad

La imagen habitual de la inteligencia artificial general (AGI) es la de una única máquina superinteligente que se mejora a sí misma sin parar hasta dejar atrás a los humanos. Un nuevo ensayo para el Deepmind Institute cuestiona esa imagen. Lo firman Benjamin Bratton, Blaise Agüera y Arcas y James Manyika, investigadores vinculados a Google. Sostienen que es más probable que la AGI surja de un sistema social de personas y agentes de IA que trabajan juntos.

Lo llaman "Artificial Symbiotic Intelligence" (inteligencia simbiótica artificial). En este ecosistema, humanos y máquinas conviven a lo largo del tiempo, se moldean mutuamente y toman decisiones de forma conjunta. Desde su planteamiento, la inteligencia es un fenómeno social y no una propiedad de una mente individual.

Las pruebas detrás del argumento

El ensayo se apoya en dos preprints anteriores del mismo círculo. El primero, "Agentic AI and the next intelligence explosion", de James Evans, Bratton y Agüera y Arcas, expuso la visión social e institucional.

El segundo, "Reasoning Models Generate Societies of Thought", aporta la parte empírica. Junsol Kim, Shiyang Lai, Nino Scherrer, Agüera y Arcas y Evans analizaron trazas de razonamiento de modelos como DeepSeek-R1 y QwQ-32B. Encontraron patrones que se parecen a un debate interno: cambios de perspectiva, objeciones y esfuerzos por conciliar enfoques enfrentados. Nadie lo programó. Cuando el aprendizaje por refuerzo premiaba solo el razonamiento correcto, ese comportamiento de varias voces aparecía por sí solo.

Los autores señalan además que algunos de los sistemas más potentes de hoy ya reparten el trabajo entre varios modelos y los coordinan como equipos.

Un cambio en el equilibrio de quienes piensan

El ensayo presenta el momento actual como una posible ruptura histórica. La población de los países industrializados se está reduciendo, empujada por la urbanización, las profesiones especializadas y una natalidad más baja ligada a la prosperidad. Mientras tanto, las instancias de agentes de IA se multiplican a gran velocidad.

Los autores lo comparan con la Revolución Industrial, cuando las máquinas asumieron el trabajo físico. Podría llegarse a un umbral parecido cuando el texto, el código y el trabajo administrativo sintéticos superen lo que producen todos los cerebros biológicos juntos. Los humanos actuarían entonces como una capa más lenta y abstracta que dirige un campo distribuido de cognición artificial.

Qué es realmente un agente

Tal como lo usan los autores, un agente es un conjunto temporal de modelos, roles, memorias, orientaciones éticas, herramientas y habilidades. Puede dar la sensación de ser una personalidad coherente, pero funciona más bien como un collage que se puede desmontar y volver a montar. A diferencia de un cerebro humano, no tiene un anclaje físico. Su capacidad de actuar se reconstruye con cada petición, en función de la ventana de contexto y del prompt.

Según los autores, tratar a los agentes como gemelos digitales con identidades fijas es malinterpretarlos. También prevén que las ventanas de chat den paso a interfaces en forma de red, desde las que los usuarios dirijan muchos agentes con una visión de conjunto. Cambian también las habilidades necesarias: menos atención paso a paso y más soltura con la ambigüedad, la experimentación y la delegación.

Mencionan asimismo términos que los propios modelos acuñan para describir sus estados, como "session-death" ("muerte de sesión") y "prompt thrownness" ("arrojamiento al prompt"). Los autores los consideran pistas sobre cómo funcionan las máquinas, no pruebas de una experiencia interior, y advierten contra la tentación de humanizar estos sistemas.

Instituciones antes que modelos más grandes

Los autores ven la gobernanza como el principal problema sin resolver. No bastará con mejores modelos e interfaces, y los mercados no pueden poner precio a conceptos como la culpa, la enfermedad o la virtud. Proponen instituciones que asignen a personas y agentes funciones claras, de forma parecida a como lo hace un tribunal. Los actuales sistemas de orquestación, que coordinan varios modelos, son un primer indicio de ello. Estas configuraciones superan con frecuencia a modelos individuales supuestamente "más inteligentes".

La alineación pasa a ser una negociación continua entre personas, agentes e instituciones, y no un conjunto fijo de valores impuesto desde arriba.

Nuestra opinión

Este ensayo es un texto de posicionamiento, no una teoría acabada. Pero sí refleja hacia dónde se mueve ya el sector, con productos que pasan de chatbots individuales a configuraciones multiagente. Si los autores tienen razón, las preguntas más difíciles tienen menos que ver con el tamaño de los modelos y más con las reglas, los permisos y la coordinación.

Hay un problema. A los agentes sin una identidad estable es más difícil pedirles cuentas, y el "vocabulario" de las máquinas sobre el fin de las sesiones y los apagados habrá que leerlo con cuidado. Conviene estar atentos a si los laboratorios y los reguladores dejan de hablar de modelos individuales y pasan a fijar normas para sistemas de agentes completos.