Grusomhedsklausulen er snæver
Anthropics opdatering fra 8. oktober tilføjer et forbud mod vedvarende og formålsløs misbrugende eller grusom adfærd over for sine modeller, og den siger, at reglen kun gælder i ekstreme tilfælde, hvor en bruger er grusom uden påviseligt formål.
Den dækker ikke det, Anthropic kalder almindelige former for brugerfrustration, modsigelse, mørke kreative temaer og modeltest eller forskning. Håndhævelsen forbliver hos Claudes evne til at afslutte misbrugende samtaler på Claude.ai og Claude Code. The Register bemærker, at det er uklart, hvordan Anthropic vil skelne frustration fra ubegrundet grusomhed, og at der ikke er etableret dokumentation for, at Claude oplever lidelse.
Hvad der ændres den 12. november
Den opdaterede politik træder i kraft den 12. november 2026, og Anthropic siger, at de fleste opdateringer præciserer eksisterende regler.
| Område | Hvad opdateringen siger | Hvem der mærker det |
|---|---|---|
| Vildledende aktivitet (nyt afsnit) | Forbyder vildledende politisk eller kommerciel aktivitet, herunder at skjule, hvem der står bag en besked, forstærke indhold via falske konti og bygge værktøjer til påvirkningsoperationer | Marketing-, vækst- og bureauteams |
| Valg | Omlagt til vildledning af vælgere og forstyrrelse af valg; det generelle forbud mod personaliseret målretning af stemmer og kampagner er fjernet | Borger- og kampagneværktøjer |
| Våben | Omfatter software og komponenter, der får våben til at virke, samt bevæbning af droner eller andre autonome køretøjer | Forsvars- og robotleverandører |
| Overvågning | Ingen sporing af personer uden samtykke; Claude må ikke afgøre eller anbefale, hvem der skal efterforskes, anholdes eller sigtes; ingen overvågningsværktøjer | Sikkerheds-, offentlige og efterforskningsværktøjer |
| Højrisikobrug | Et kvalificeret menneske kan gennemgå og ændre anbefalinger, og den berørte får besked om, at AI er brugt; krav uændrede, men omskrevet | Forløb inden for sundhed, jura, finans, livsgrundlag og offentlige tjenester |
| Fysisk handling | En kvalificeret operatør kan observere og stoppe udstyret, som skal holde en sikker tilstand, hvis Claude kobles fra | Robotteknologi og industriel automation |
| Understøttede regioner | Udelukker personer i ikke-understøttede regioner, enheder registreret eller hjemmehørende der og enheder, der derfra er majoritetsejet eller kontrolleret | Enhver virksomhed med grænseoverskridende ejerskab |
Indlægget opsummerer ændringerne og gengiver ikke den fulde politik, så læs selve politikken for listen over dækkede anbefalinger.
Hvor en virksomhed skal ændre noget
Fire klausuler beder en virksomhed om at ændre den måde, den arbejder på.
Menneskelig kontrol. Hvor Claude påvirker sundhed, juridiske rettigheder, økonomi, livsgrundlag eller adgang til væsentlige tjenester, skal et kvalificeret menneske kunne gennemgå og ændre anbefalingerne, og den berørte skal vide, at AI er brugt. Anthropic siger, at kravene er uændrede, men omskrevet, og at den fulde politik angiver, hvilke anbefalinger der er dækket.
Fysisk handling. Hvis Claude er koblet til udstyr, der udfører autonome fysiske handlinger og kan forårsage skade, skal en kvalificeret operatør kunne observere og stoppe det, og udstyret skal holde en sikker tilstand, hvis Claude kobles fra. Anthropic knytter det til sin Model Hardware Standard.
Falske konti og ejerskab. Forstærkning af indhold via falske konti eller opslag ligger i det nye afsnit om vildledende aktivitet, som dækker kommerciel aktivitet såvel som politisk. Reglen om understøttede regioner rækker til enheder, der er majoritetsejet eller kontrolleret af personer eller enheder i ikke-understøttede regioner, så en virksomhed registreret i et understøttet land stadig kan blive ramt af, hvem der ejer den.
En tjekliste før den 12. november
Lav en liste over hvert forløb, der sender Claude-resultater ind i en beslutning om en person, og notér, hvem der gennemgår dem, hvilken beføjelse vedkommende har til at ændre dem, og hvor personen får besked om, at AI er brugt.
Lav en liste over hvert sted, hvor Claude kan handle på udstyr eller et live system, og test stopfunktionen og tilstanden ved frakobling. Gennemgå marketing- og vækstautomatisering for mønstre, der ligner forstærkning via falske konti, og bed jura om at kontrollere din ejerkæde mod siden om understøttede regioner.
For læsere i Europa vil temaerne menneskeligt tilsyn og information lyde bekendt fra EU's AI-forordning. Artikel 14 beder om, at højrisikosystemer effektivt kan overvåges af mennesker, med en stopknap eller tilsvarende procedure, der bringer systemet til standsning i en sikker tilstand, og artikel 26 beder idriftsættere tildele tilsynet til personer med kompetence, uddannelse og beføjelse og informere de personer, der er omfattet af et højrisikosystem. Teksterne er forskellige, så behandl ikke overholdelse af den ene som bevis for den anden.
Læs videre: Dit sikkerhedsløfte kan koste dig kontrakten | Pentagon tabte en Anthropic-sag og vandt den næste
