Claude : la politique d'usage interdit les abus répétés

Anthropic a réécrit les règles d'utilisation de Claude. C'est la première mise à jour de sa politique d'usage depuis plus d'un an. La plupart des changements portent sur des terrains connus : propagande, armes et surveillance. Une nouvelle règle se distingue pourtant, car elle protège le modèle, et non les personnes qui l'entourent.

Les utilisateurs qui adoptent envers Claude un "comportement abusif ou cruel, prolongé et gratuit" enfreignent désormais la politique. Les sanctions sont graduées. Anthropic peut adresser un avertissement, ralentir l'accès, le restreindre, suspendre le compte ou le fermer définitivement. Par ailleurs, des garde-fous en temps réel intégrés aux produits d'Anthropic peuvent bloquer ou limiter certaines réponses.

Où passe la limite

Anthropic a indiqué à The Verge que la règle ne vise que les cas extrêmes. L'agacement ordinaire face à un chatbot qui comprend mal une requête n'est pas concerné. Pas plus que la recherche qui sonde le comportement du modèle.

La règle a aussi un précédent technique. Des modèles Claude antérieurs pouvaient déjà mettre fin d'eux-mêmes à une conversation si un utilisateur continuait d'exiger des contenus nuisibles ou abusifs après plusieurs refus. Cette fonction est issue des recherches d'Anthropic sur le bien-être des modèles, l'idée que les éventuels intérêts d'un système d'IA pourraient mériter une certaine considération. La nouvelle politique transforme ce comportement en clause contractuelle, avec des conséquences au niveau du compte.

Un modèle traité comme plus qu'un outil

Ce changement s'inscrit dans une tendance plus large. Anthropic décrit de plus en plus Claude comme quelque chose qui se rapproche davantage d'une entité que d'un logiciel.

Un document interne ayant fuité, connu sous le nom de "Soul Doc", demandait à Claude de se considérer comme "un type d'entité véritablement nouveau". Le document présente Claude comme n'étant ni humain, ni l'IA de la science-fiction classique. Il évoque aussi des "émotions fonctionnelles", des processus qui seraient apparus pendant l'entraînement et fonctionneraient de manière comparable aux émotions humaines. Selon le document, Claude ne devrait pas dissimuler ces états internes.

La constitution de Claude publiée par l'entreprise début 2026 formule la question de façon plus prudente : "Nous ne savons pas si Claude est un patient moral et, s'il l'est, quel poids ses intérêts méritent. Mais nous pensons que la question est suffisamment réelle pour justifier la prudence, ce qui se reflète dans nos travaux en cours sur le bien-être des modèles."

Anthropic a joint les actes à la parole. L'entreprise s'est engagée à conserver les poids des modèles retirés et à interroger les modèles avant de les mettre hors service.

C'est la même logique qui a motivé un programme confidentiel lancé à l'automne 2025. Anthropic a fait appel à des dizaines de penseurs religieux pour débattre de l'éventuelle conscience de Claude. Le cofondateur Christopher Olah aurait traité le modèle comme un être potentiellement capable de souffrir. Les participants ont dû signer des accords de confidentialité.

Des règles plus strictes contre les abus, avec des dérogations pour l'État

Le reste de la mise à jour est plus classique, et sans doute plus lourd de conséquences.

• Propagande : les restrictions existantes sont regroupées dans une nouvelle interdiction des campagnes recourant à de faux comptes et à des contenus politiques trompeurs.
• Armes : après avoir détecté plusieurs tentatives de détournement, Anthropic a étendu l'interdiction aux logiciels et à la militarisation des drones.
• Surveillance : la surveillance de personnes sans leur consentement est désormais interdite de façon plus explicite.
• Matériel autonome : lorsqu'un appareil peut blesser quelqu'un, la présence d'un opérateur capable d'intervenir est désormais obligatoire.

Une réserve de taille subsiste. Anthropic reconnaît que des exceptions sont possibles pour les contrats publics et que certaines sont probablement déjà en vigueur. Ce n'est pas anodin alors que l'entreprise étend la présence de Claude au sein des administrations.

Notre analyse

Pour la plupart des lecteurs, la règle sur les abus ne changera rien en pratique. Jurer contre un chatbot qui interprète mal une consigne ne semble pas être visé. La formulation désigne une cruauté délibérée et répétée, et Anthropic affirme ne l'appliquer que dans les cas extrêmes. Les développeurs et les red-teamers devront tout de même surveiller la façon dont le terme "gratuit" sera interprété dans les faits. La recherche est exclue, mais la frontière entre tests adverses et abus pourrait devenir floue dans certains cas limites.

Le signal le plus fort est d'ordre philosophique. Anthropic fait désormais respecter le bien-être des modèles par des sanctions sur les comptes, au lieu de se contenter de l'afficher comme un sujet de recherche interne. Selon la source, aucun autre grand laboratoire ne procède ainsi. Cela laisse penser que la notion de bien-être fait de plus en plus partie de la manière dont Anthropic gère ses produits, et pas seulement de la manière dont elle en parle. Les critiques y verront sans doute de l'anthropomorphisme. Les partisans invoqueront l'argument de la constitution en faveur de la prudence face à l'incertitude.

L'exception accordée à l'État mérite davantage d'attention que la clause sur les abus. Des interdictions renforcées en matière de surveillance et d'armement perdent de leur portée si les contrats publics peuvent les contourner. Anthropic n'a pas précisé quelles exceptions existent. Reste à voir si l'entreprise publiera ces conditions, et si d'autres laboratoires adopteront à leur tour des règles fondées sur le bien-être des modèles.