Sam Altman: tratar la IA como religión es un riesgo
El consejero delegado de OpenAI, Sam Altman, ha criticado la costumbre, cada vez más extendida, de hablar de los modelos de IA en términos religiosos. Asegura que esta tendencia le incomoda y que entraña un riesgo real. Su propio historial a la hora de describir la IA, sin embargo, hace que sus palabras sean más complicadas de lo que parecen a primera vista.
En esta entrega repasamos lo que dijo Altman, por qué importa el momento elegido y cómo encaja su nueva postura con años de discursos grandilocuentes.
Lo que dijo exactamente Altman
Altman afirmó que le resulta "muy incómodo" que la gente "atribuya una fuerza religiosa o una renuncia al juicio humano a los modelos de IA". Lo calificó de "auténtico problema de seguridad".
Esa segunda frase es la clave. Altman no se queja solo de cómo se describe la IA. Señala un fallo concreto: que la gente trate lo que dice un modelo como algo más cercano a una revelación que a la sugerencia de una herramienta, y que acabe renunciando a su propio criterio. Desde ese punto de vista, el peligro está menos en el modelo y más en la autoridad que le conceden los usuarios.
Por qué ahora: Anthropic, el Vaticano y el Times
Los comentarios no surgieron de la nada. Llegaron después de dos acontecimientos que llevaron el asunto al gran público.
El primero fue un extenso reportaje de The New York Times sobre los contactos de Anthropic con líderes religiosos. Anthropic, la empresa responsable de los modelos Claude y competidora directa de OpenAI, ha estado dialogando con figuras religiosas sobre cuestiones relacionadas con sus sistemas de IA. CyrioX contó hace poco cómo los líderes religiosos describieron las inquietudes de Anthropic sobre la posibilidad de que Claude sufra.
El segundo fue una declaración del papa León XIV, cabeza de la Iglesia católica, quien afirmó que "los algoritmos carecen de la chispa de la humanidad". Para un público global, esa frase tiene peso. La pronunció una de las autoridades religiosas más seguidas del mundo y traza una frontera nítida entre el software y las personas.
Leídas en conjunto, ambas noticias muestran que la frontera entre el desarrollo de la IA y las cuestiones espirituales se ha convertido en un debate público. Con sus declaraciones, Altman sitúa a OpenAI del lado de quienes quieren mantener esa frontera firme.
Un historial de lenguaje grandilocuente
Lo más espinoso es la trayectoria del propio Altman. En 2023 y 2024 dijo que el objetivo de OpenAI era construir una "inteligencia mágica en el cielo". Por esas mismas fechas, afirmó que esperaba estar del lado de Dios y que sentía estar "del lado de los ángeles" trabajando en IA.
OpenAI también ha mantenido conversaciones con líderes religiosos, así que esos contactos que ahora parecen inquietar a Altman no son exclusivos de Anthropic.
Nada de esto demuestra que Altman haya dicho nunca que los modelos de IA tuvieran alma o merecieran ser adorados. Pero "inteligencia mágica en el cielo" no es precisamente un lenguaje técnico neutral. Invita justo a esa clase de fascinación que ahora él considera un problema de seguridad. Los lectores pueden preguntarse con razón si la nueva cautela refleja un cambio de mentalidad o un cambio de mensaje.
La ambición de "Her"
Hay otro aspecto que conviene destacar. Altman ha repetido en varias ocasiones que su objetivo es una IA al nivel de "Her", la película de ciencia ficción en la que un hombre establece un profundo vínculo emocional con un sistema de IA. Dicho de otro modo, la meta es un asistente profundamente humanizado.
Eso no equivale a dotar a los modelos de conciencia o de un significado religioso. Un producto puede parecer humano sin que nadie afirme que es divino. Aun así, ambas ideas están muy próximas. Un sistema diseñado para parecer un compañero de confianza es también uno ante el que la gente puede tender a plegarse. Si el discurso espiritual sobre crear una IA parecida a los humanos es más fiable que el discurso religioso sobre los propios modelos es algo que cada lector tendrá que juzgar.
Nuestra opinión
El argumento central de Altman es sólido. Cuando la gente deja de cuestionar lo que le dice un modelo, los errores y la manipulación son más difíciles de detectar. Esta preocupación se suma a otros debates recientes sobre cómo presentan su tecnología las empresas de IA, entre ellos un ensayo de DeepMind que defiende una IA simbiótica frente al relato de la singularidad. Todo apunta a que al menos parte del sector se está alejando del lenguaje grandilocuente y casi místico.
La contradicción es que esas mismas empresas se han beneficiado de ese lenguaje. Hablar de magia y de ángeles ayudó a generar entusiasmo, y los productos con apariencia humana fomentan precisamente la confianza contra la que ahora advierte Altman. Habrá que ver si el diseño de productos y el marketing de OpenAI están a la altura de sus palabras o si la cautela se queda en un argumento dirigido contra un rival. Otra señal útil será comprobar si las instituciones religiosas siguen influyendo en cómo describen las empresas de IA lo que están construyendo.