Sam Altman : sacraliser l'IA pose un problème de sécurité

Sam Altman, le PDG d'OpenAI, s'élève contre une habitude de plus en plus répandue : parler des modèles d'IA en termes religieux. Selon lui, cette tendance le met mal à l'aise et présente un risque bien réel. Sa propre façon de décrire l'IA au fil des années rend toutefois ses propos plus ambigus qu'il n'y paraît.

Cette édition revient sur ce qu'a dit Altman, sur l'importance du moment choisi et sur la manière dont sa nouvelle position s'accorde avec des années de discours très grandiloquents de sa part.

Ce qu'Altman a réellement dit

Altman a déclaré qu'il était "très mal à l'aise" lorsque des gens "attribuent une force religieuse aux modèles d'IA ou leur abandonnent leur jugement d'êtres humains". Il y voit un "vrai problème de sécurité".

C'est cette seconde formule qui compte le plus. Altman ne critique pas seulement la manière dont on parle de l'IA. Il pointe un mode de défaillance précis : des utilisateurs qui considèrent la réponse d'un modèle comme une révélation plutôt que comme la suggestion d'un outil, et qui renoncent du même coup à leur propre jugement. Vu sous cet angle, le danger tient moins au modèle lui-même qu'à l'autorité que les utilisateurs lui confèrent.

Pourquoi maintenant : Anthropic, le Vatican et le Times

Ces déclarations ne sont pas tombées du ciel. Elles font suite à deux événements qui ont propulsé le sujet sur le devant de la scène.

Le premier est une enquête détaillée du New York Times sur les démarches d'Anthropic auprès de responsables religieux. Anthropic, l'entreprise à l'origine des modèles Claude et concurrente directe d'OpenAI, échange avec des figures religieuses sur des questions liées à ses systèmes d'IA. CyrioX a récemment rapporté comment des responsables religieux ont décrit les inquiétudes d'Anthropic quant à la possibilité que Claude puisse souffrir.

Le second est une déclaration du pape Léon XIV, chef de l'Église catholique romaine, selon qui "les algorithmes n'ont pas l'étincelle de l'humanité". Pour un public mondial, la phrase a du poids. Elle émane de l'une des autorités religieuses les plus suivies au monde et trace une frontière nette entre les logiciels et les êtres humains.

Mises bout à bout, ces deux affaires montrent que la frontière entre le développement de l'IA et les questions spirituelles fait désormais l'objet d'un débat public. Avec ses propos, Altman range OpenAI du côté de ceux qui veulent maintenir cette frontière bien nette.

Un passif de formules grandiloquentes

Le plus délicat, c'est le passé d'Altman lui-même. En 2023 et 2024, il affirmait que l'objectif d'OpenAI était de construire une "intelligence magique dans le ciel". À la même époque, il disait espérer être du côté de Dieu et avoir le sentiment d'être "du côté des anges" en travaillant sur l'IA.

OpenAI a elle aussi mené des discussions avec des responsables religieux : les démarches dont Altman semble aujourd'hui se méfier ne sont donc pas propres à Anthropic.

Rien de tout cela ne prouve qu'Altman ait un jour prétendu que les modèles d'IA avaient une âme ou méritaient d'être vénérés. Mais "intelligence magique dans le ciel" n'a rien d'un vocabulaire d'ingénieur neutre. La formule appelle précisément le genre d'émerveillement qu'il qualifie aujourd'hui de problème de sécurité. Les lecteurs sont en droit de se demander si cette nouvelle prudence traduit une évolution de sa pensée ou un simple changement de discours.

L'ambition "Her"

Un autre fil mérite d'être relevé. Altman a répété à plusieurs reprises que son objectif était une IA au niveau de "Her", le film de science-fiction dans lequel un homme noue un lien affectif profond avec un système d'IA. Autrement dit, l'ambition est un assistant profondément humanisé.

Ce n'est pas la même chose que doter les modèles d'une conscience ou d'une dimension religieuse. Un produit peut sembler humain sans que personne ne le prétende divin. Les deux idées restent néanmoins proches. Un système conçu pour donner l'impression d'être un compagnon de confiance est aussi un système auquel les gens risquent de s'en remettre. Reste à chaque lecteur de juger si un discours spirituel sur la construction d'une IA à visage humain est plus digne de confiance qu'un discours religieux sur les modèles eux-mêmes.

Notre analyse

Sur le fond, l'argument d'Altman tient la route. Quand les gens cessent de remettre en question ce que leur dit un modèle, les erreurs et les manipulations deviennent plus difficiles à repérer. Cette inquiétude rejoint d'autres débats récents sur la façon dont les entreprises d'IA présentent leur technologie, dont un essai de DeepMind plaidant pour une IA symbiotique plutôt que pour le récit de la singularité. Signe qu'une partie au moins du secteur s'éloigne des grandes formules aux accents presque mystiques.

Le problème, c'est que ces mêmes entreprises ont tiré profit de ce langage. Parler de magie et d'anges a contribué à susciter l'enthousiasme, et les produits à visage humain encouragent justement la confiance contre laquelle Altman met aujourd'hui en garde. Il faudra voir si la conception des produits et le marketing d'OpenAI suivent ses paroles, ou si cette prudence reste un simple élément de langage dirigé contre un concurrent. Autre indicateur à surveiller : la capacité des institutions religieuses à continuer d'influencer la manière dont les entreprises d'IA décrivent ce qu'elles construisent.