La clause sur la cruauté est étroite
La mise à jour d'Anthropic du 8 octobre ajoute l'interdiction d'un comportement abusif ou cruel soutenu et gratuit envers ses modèles, et précise que la règle ne vaut que dans les cas extrêmes où un utilisateur est cruel sans but discernable.
Elle ne couvre pas ce qu'Anthropic appelle les formes courantes de frustration de l'utilisateur, de contestation, de thèmes créatifs sombres et de tests ou de recherche sur le modèle. L'application reste confiée à la capacité de Claude de mettre fin aux conversations abusives sur Claude.ai et Claude Code. The Register note qu'on ne sait pas comment Anthropic distinguera la frustration de la cruauté gratuite et qu'il n'existe aucune preuve établie que Claude éprouve de la détresse.
Ce qui change le 12 novembre
La politique mise à jour s'applique le 12 novembre 2026, et Anthropic dit que la plupart des mises à jour clarifient des règles existantes.
| Domaine | Ce que dit la mise à jour | Qui est concerné |
|---|---|---|
| Activité trompeuse (nouvelle section) | Interdit l'activité trompeuse politique ou commerciale, y compris masquer qui est derrière un message, amplifier du contenu avec de faux comptes et fabriquer des outils d'opérations d'influence | Équipes marketing, croissance et agences |
| Élections | Recentrée sur la tromperie des électeurs et la perturbation des élections ; l'interdiction générale du ciblage personnalisé de vote et de campagne est supprimée | Outils civiques et de campagne |
| Armes | Couvre les logiciels et composants qui font fonctionner des armes, ainsi que l'armement de drones ou d'autres véhicules autonomes | Fournisseurs de défense et de robotique |
| Surveillance | Pas de pistage de personnes sans consentement ; Claude ne peut pas décider ni recommander qui doit faire l'objet d'une enquête, être arrêté ou inculpé ; pas d'outils de surveillance | Outils de sécurité, de secteur public et d'enquête |
| Usages à haut risque | Un humain qualifié peut examiner et modifier les recommandations et la personne concernée est informée qu'une IA a servi ; exigences inchangées mais réécrites | Flux de santé, de droit, de finance, de moyens de subsistance et de services publics |
| Action physique | Un opérateur qualifié peut observer et arrêter l'équipement, qui doit rester dans un état sûr si Claude se déconnecte | Robotique et automatisation industrielle |
| Régions prises en charge | Exclut les personnes situées dans des régions non prises en charge, les entités qui y sont constituées ou installées et celles qui en sont détenues majoritairement ou contrôlées | Toute entreprise à actionnariat transfrontalier |
Le billet résume les changements sans reproduire la politique complète, alors lisez la politique elle-même pour la liste des recommandations couvertes.
Où une entreprise doit changer quelque chose
Quatre clauses demandent à une entreprise de changer sa façon de travailler.
Revue humaine. Lorsque Claude influe sur la santé, les droits juridiques, les finances, les moyens de subsistance ou l'accès aux services essentiels, un humain qualifié doit pouvoir examiner et modifier ses recommandations, et la personne concernée doit savoir qu'une IA a servi. Anthropic dit que ces exigences sont inchangées mais réécrites, et la politique complète précise quelles recommandations sont couvertes.
Action physique. Si Claude est relié à un équipement qui accomplit des actions physiques autonomes et pourrait causer des blessures, un opérateur qualifié doit pouvoir l'observer et l'arrêter, et l'équipement doit rester dans un état sûr si Claude se déconnecte. Anthropic le rattache à son Model Hardware Standard.
Faux comptes et propriété. Amplifier du contenu par de faux comptes ou de faux messages relève de la nouvelle section sur l'activité trompeuse, qui couvre l'activité commerciale comme politique. La règle sur les régions prises en charge atteint les entités détenues majoritairement ou contrôlées par des personnes ou entités de régions non prises en charge, si bien qu'une société immatriculée dans un pays pris en charge peut quand même être concernée par l'identité de ses propriétaires.
Une liste de contrôle avant le 12 novembre
Listez chaque flux qui envoie des résultats de Claude vers une décision concernant une personne, et notez qui les examine, de quel pouvoir il dispose pour les modifier et où la personne est informée qu'une IA a servi.
Listez chaque endroit où Claude peut agir sur un équipement ou un système en production, et testez la commande d'arrêt et l'état de déconnexion. Passez en revue l'automatisation marketing et croissance à la recherche de schémas ressemblant à de l'amplification par faux comptes, et demandez au juridique de vérifier votre chaîne de propriété au regard de la page des régions prises en charge.
Pour les lecteurs européens, les thèmes de la supervision humaine et de l'information rappelleront l'AI Act de l'UE. L'article 14 demande que les systèmes à haut risque puissent être effectivement supervisés par des personnes, avec un bouton d'arrêt ou une procédure similaire qui amène le système à s'arrêter en toute sécurité, et l'article 26 demande aux déployeurs de confier la supervision à des personnes ayant la compétence, la formation et l'autorité nécessaires et d'informer les personnes soumises à un système à haut risque. Les textes diffèrent, donc ne tenez pas le respect de l'un pour la preuve de l'autre.
À lire ensuite: Votre promesse de sécurité peut vous coûter le contrat | Le Pentagone a perdu une affaire Anthropic et gagné la suivante
