Grymhetsklausulen är snäv
Anthropics uppdatering den 8 oktober lägger till ett förbud mot ihållande och onödigt kränkande eller grymt beteende mot bolagets modeller, och säger att regeln bara gäller i extrema fall där en användare är grym utan urskiljbart syfte.
Den omfattar inte det Anthropic kallar vanliga former av användarfrustration, motsägelse, mörka kreativa teman samt modelltester och forskning. Tillämpningen stannar hos Claudes förmåga att avsluta kränkande samtal på Claude.ai och Claude Code. The Register noterar att det är oklart hur Anthropic ska skilja frustration från grundlös grymhet och att det inte finns etablerade belägg för att Claude upplever lidande.
Vad som ändras den 12 november
Den uppdaterade policyn gäller från 12 november 2026, och Anthropic säger att de flesta uppdateringarna förtydligar befintliga regler.
| Område | Vad uppdateringen säger | Vem som märker det |
|---|---|---|
| Vilseledande aktivitet (nytt avsnitt) | Förbjuder vilseledande politisk eller kommersiell aktivitet, bland annat att dölja vem som står bakom ett budskap, förstärka innehåll via falska konton och bygga verktyg för påverkansoperationer | Marknadsförings-, tillväxt- och byråteam |
| Val | Omfokuserad på att vilseleda väljare eller störa val; det generella förbudet mot personanpassad röst- och kampanjriktning tas bort | Medborgar- och kampanjverktyg |
| Vapen | Omfattar programvara och komponenter som får vapen att fungera samt beväpning av drönare eller andra autonoma fordon | Försvars- och robotleverantörer |
| Övervakning | Ingen spårning av personer utan samtycke; Claude får inte avgöra eller rekommendera vem som ska utredas, gripas eller åtalas; inga övervakningsverktyg | Säkerhets-, offentliga och utredningsverktyg |
| Högriskanvändning | En kvalificerad människa kan granska och ändra rekommendationer och den berörda får veta att AI använts; krav oförändrade men omskrivna | Flöden inom hälsa, juridik, ekonomi, försörjning och offentliga tjänster |
| Fysisk handling | En kvalificerad operatör kan observera och stoppa utrustningen, som måste hålla ett säkert läge om Claude kopplas bort | Robotik och industriell automation |
| Regioner som stöds | Utesluter personer i regioner som inte stöds, enheter som är registrerade eller har säte där och enheter som därifrån till största delen ägs eller kontrolleras | Alla bolag med gränsöverskridande ägande |
Inlägget sammanfattar ändringarna och återger inte hela policyn, så läs själva policyn för listan över de rekommendationer som omfattas.
Där ett företag måste ändra något
Fyra klausuler ber ett företag ändra hur det arbetar.
Mänsklig granskning. Där Claude påverkar hälsa, juridiska rättigheter, ekonomi, försörjning eller tillgång till nödvändiga tjänster måste en kvalificerad människa kunna granska och ändra rekommendationerna, och den berörda måste få veta att AI använts. Anthropic säger att kraven är oförändrade men omskrivna, och att hela policyn anger vilka rekommendationer som omfattas.
Fysisk handling. Om Claude är kopplad till utrustning som utför autonoma fysiska handlingar och kan orsaka skada måste en kvalificerad operatör kunna observera och stoppa den, och utrustningen måste hålla ett säkert läge om Claude kopplas bort. Anthropic knyter detta till sin Model Hardware Standard.
Falska konton och ägande. Att förstärka innehåll via falska konton eller inlägg ligger i det nya avsnittet om vilseledande aktivitet, som täcker kommersiell aktivitet såväl som politisk. Regeln om regioner som stöds når enheter som till största delen ägs eller kontrolleras av personer eller enheter i regioner som inte stöds, så ett bolag registrerat i ett land som stöds kan ändå drabbas av vem som äger det.
En checklista före 12 november
Gör en lista över varje flöde som skickar Claude-resultat in i ett beslut om en person och anteckna vem som granskar dem, vilken befogenhet personen har att ändra dem och var den berörda får veta att AI använts.
Gör en lista över varje ställe där Claude kan agera på utrustning eller ett levande system och testa stoppkontrollen och läget vid bortkoppling. Granska marknadsförings- och tillväxtautomation efter mönster som liknar förstärkning via falska konton och be juridik kontrollera din ägarkedja mot sidan om regioner som stöds.
För läsare i Europa låter temana mänsklig tillsyn och information bekanta från EU:s AI-förordning. Artikel 14 ber om att högrisksystem effektivt kan övervakas av människor, med en stoppknapp eller liknande förfarande som för systemet till stillastående i ett säkert läge, och artikel 26 ber användare tilldela tillsynen till personer med kompetens, utbildning och befogenhet och informera de personer som omfattas av ett högrisksystem. Texterna skiljer sig åt, så betrakta inte efterlevnad av den ena som bevis för den andra.
Läs vidare: Ert säkerhetslöfte kan kosta er kontraktet | Pentagon förlorade ett Anthropic-mål och vann nästa
