La cláusula de crueldad es estrecha
La actualización de Anthropic del 8 de octubre añade una prohibición del trato abusivo o cruel sostenido y gratuito hacia sus modelos, y dice que la regla se aplica solo en casos extremos en los que el usuario es cruel sin propósito discernible.
No cubre lo que Anthropic llama versiones comunes de frustración del usuario, réplica, temas creativos oscuros y pruebas o investigación del modelo. La aplicación sigue en manos de la capacidad de Claude de terminar conversaciones abusivas en Claude.ai y Claude Code. The Register señala que no está claro cómo distinguirá Anthropic la frustración de la crueldad gratuita y que no hay pruebas establecidas de que Claude sufra.
Qué cambia el 12 de noviembre
La política actualizada entra en vigor el 12 de noviembre de 2026, y Anthropic dice que la mayoría de las actualizaciones aclaran reglas existentes.
| Ámbito | Qué dice la actualización | A quién afecta |
|---|---|---|
| Actividad engañosa (sección nueva) | Prohíbe la actividad engañosa política o comercial, incluido ocultar quién está detrás de un mensaje, amplificar contenido con cuentas falsas y construir herramientas de operaciones de influencia | Equipos de marketing, crecimiento y agencias |
| Elecciones | Reenfocada en engañar a votantes o perturbar elecciones; se elimina la prohibición general de la segmentación personalizada de voto y campaña | Herramientas cívicas y de campaña |
| Armas | Abarca el software y los componentes que hacen funcionar armas, y armar drones u otros vehículos autónomos | Proveedores de defensa y robótica |
| Vigilancia | No rastrear personas sin consentimiento; Claude no puede decidir ni recomendar a quién investigar, detener o acusar; no construir herramientas de vigilancia | Herramientas de seguridad, sector público e investigación |
| Usos de alto riesgo | Una persona cualificada puede revisar y cambiar las recomendaciones y se informa al afectado de que se usó IA; requisitos sin cambios pero reescritos | Flujos de salud, jurídicos, financieros, de sustento y de servicios públicos |
| Acción física | Un operador cualificado puede observar y detener el equipo, que debe mantener un estado seguro si Claude se desconecta | Robótica y automatización industrial |
| Regiones admitidas | Excluye a personas en regiones no admitidas, a entidades constituidas o con sede allí y a entidades participadas mayoritariamente o controladas desde allí | Cualquier empresa con propiedad transfronteriza |
La entrada resume los cambios y no reproduce la política completa, así que lea la propia política para ver la lista de recomendaciones cubiertas.
Dónde una empresa tiene que cambiar algo
Cuatro cláusulas piden a una empresa que cambie su forma de trabajar.
Revisión humana. Cuando Claude afecta a la salud, los derechos legales, las finanzas, el sustento o el acceso a servicios esenciales, una persona cualificada debe poder revisar y cambiar sus recomendaciones, y el afectado debe saber que se usó IA. Anthropic dice que estos requisitos no cambian pero se han reescrito, y la política completa enumera qué recomendaciones quedan cubiertas.
Acción física. Si Claude está conectado a equipos que realizan acciones físicas autónomas y podrían causar lesiones, un operador cualificado debe poder observarlos y detenerlos, y el equipo debe mantener un estado seguro si Claude se desconecta. Anthropic lo vincula a su Model Hardware Standard.
Cuentas falsas y propiedad. Amplificar contenido mediante cuentas o publicaciones falsas figura en la nueva sección de actividad engañosa, que cubre la actividad comercial además de la política. La regla de regiones admitidas alcanza a las entidades participadas mayoritariamente o controladas por personas o entidades de regiones no admitidas, de modo que una empresa registrada en un país admitido aún puede quedar afectada por quién la posee.
Una lista de comprobación antes del 12 de noviembre
Haga una lista de cada flujo que lleva resultados de Claude a una decisión sobre una persona y anote quién los revisa, con qué autoridad puede cambiarlos y dónde se informa a la persona de que se usó IA.
Haga una lista de cada lugar donde Claude puede actuar sobre equipos o un sistema en producción y pruebe el control de parada y el estado de desconexión. Revise la automatización de marketing y crecimiento en busca de patrones que parezcan amplificación con cuentas falsas y pida a Jurídico que compruebe su cadena de propiedad frente a la página de regiones admitidas.
Para los lectores de Europa, los temas de supervisión humana y de información les sonarán del AI Act de la UE. El artículo 14 pide que los sistemas de alto riesgo puedan ser supervisados eficazmente por personas, con un botón de parada o un procedimiento similar que lleve el sistema a un estado seguro, y el artículo 26 pide que los responsables del despliegue asignen la supervisión a personas con competencia, formación y autoridad e informen a las personas sujetas a un sistema de alto riesgo. Los textos difieren, así que no trate el cumplimiento de uno como prueba del otro.
Leer a continuación: Su promesa de seguridad le puede costar el contrato | El Pentágono perdió un caso de Anthropic y ganó el siguiente
