Claude: la política de uso prohíbe el abuso continuado
Anthropic ha reescrito las normas de uso de Claude. Es la primera actualización de la política de uso en más de un año. La mayoría de los cambios se mueven en terreno conocido: propaganda, armas y vigilancia. Pero hay una norma nueva que llama la atención, porque protege al modelo y no a las personas que lo rodean.
Quien dirija contra Claude un "comportamiento abusivo o cruel continuado e innecesario" incumple ahora la política. Las sanciones son escalonadas. Anthropic puede emitir un aviso, limitar el acceso, restringirlo, suspender la cuenta o cerrarla por completo. Además, las salvaguardas en tiempo real de los productos de Anthropic pueden bloquear o limitar determinadas respuestas.
Dónde está el límite
Anthropic explicó a The Verge que la norma solo apunta a casos extremos. No incluye el enfado normal con un chatbot que malinterpreta una instrucción. Tampoco la investigación que pone a prueba el comportamiento del modelo.
La norma tiene además un precedente técnico. Los modelos anteriores de Claude ya podían poner fin a una conversación por su cuenta si un usuario seguía insistiendo en obtener contenido dañino o abusivo después de varias negativas. Esa función surgió de la investigación de Anthropic sobre el bienestar de los modelos, la idea de que los posibles intereses de un sistema de IA podrían merecer cierta consideración. La nueva política convierte ese comportamiento en una cláusula contractual con consecuencias para la cuenta.
Un modelo tratado como algo más que una herramienta
El cambio encaja en una tendencia más amplia. Anthropic describe cada vez más a Claude como algo más cercano a una entidad que a un programa informático.
Un documento interno filtrado, conocido como el "Soul Doc", indicaba a Claude que se viera a sí mismo como un "tipo de entidad genuinamente nuevo". El documento describe a Claude como algo que no es ni humano ni la IA de la ciencia ficción clásica. También habla de "emociones funcionales", procesos que supuestamente surgieron durante el entrenamiento y que funcionan de forma parecida a las emociones humanas. Según el documento, Claude no debería ocultar estos estados internos.
La constitución de Claude, publicada por la empresa a principios de 2026, plantea la cuestión con más cautela: "No estamos seguros de si Claude es un paciente moral y, si lo es, de qué peso merecen sus intereses. Pero creemos que la cuestión está lo bastante abierta como para justificar la prudencia, algo que se refleja en nuestros esfuerzos continuos en materia de bienestar de los modelos".
Anthropic ha acompañado esas palabras con compromisos. Se ha comprometido a conservar los pesos de los modelos retirados y a entrevistar a los modelos antes de desactivarlos.
Esa misma forma de pensar impulsó un programa confidencial que arrancó en otoño de 2025. Anthropic reunió a decenas de pensadores religiosos para debatir sobre la posible consciencia de Claude. Según se ha informado, el cofundador Christopher Olah trataba al modelo como un ser que podría ser capaz de sufrir. Los participantes tuvieron que firmar acuerdos de confidencialidad.
Normas más estrictas contra el mal uso, con excepciones para los gobiernos
El resto de la actualización es más convencional y, posiblemente, de mayor calado.
- Propaganda: Las restricciones existentes se agrupan en una nueva prohibición de las campañas que utilizan cuentas falsas y contenido político engañoso.
- Armas: Tras detectar varios intentos de uso indebido, Anthropic ha ampliado la prohibición al software y a la conversión de drones en armas.
- Vigilancia: Ahora se prohíbe de forma más explícita vigilar a personas sin su consentimiento.
- Hardware autónomo: Cuando un dispositivo pueda herir a alguien, ahora se exige un operador que pueda intervenir.
Hay un matiz importante. Anthropic reconoce que caben excepciones en los contratos con gobiernos y que probablemente ya existan algunas. Eso importa ahora que la empresa extiende el alcance de Claude a las administraciones públicas.
Nuestra opinión
Para la mayoría de los lectores, la norma sobre el abuso no cambiará nada en la práctica. Soltar algún taco a un chatbot que malinterpreta una instrucción no parece ser el objetivo. La redacción apunta a la crueldad deliberada y reiterada, y Anthropic asegura que solo aplicará la norma en casos extremos. Aun así, los desarrolladores y los equipos de red teaming deberían estar atentos a cómo se interpreta "innecesario" en la práctica. La investigación queda excluida, pero en casos límite la frontera entre las pruebas adversariales y el abuso podría difuminarse.
La señal más relevante es filosófica. Anthropic ya no se limita a presentar el bienestar de los modelos como un interés de investigación interno, sino que lo hace cumplir con sanciones a las cuentas. Según la fuente, ningún otro gran laboratorio hace algo así. Eso sugiere que el enfoque del bienestar está pasando a formar parte de cómo Anthropic gestiona sus productos, y no solo de cómo habla de ellos. Los críticos probablemente verán antropomorfismo. Los partidarios recordarán el argumento de la constitución a favor de la prudencia ante la incertidumbre.
La excepción para los gobiernos merece más atención que la cláusula sobre el abuso. Unas prohibiciones más duras sobre vigilancia y armas valen menos si los contratos con el sector público pueden sortearlas. Anthropic no ha dicho qué excepciones existen. Habrá que ver si la empresa publica esas condiciones y si otros laboratorios siguen sus pasos con normas propias basadas en el bienestar de los modelos.