Klauzula o okrucieństwie jest wąska
Aktualizacja Anthropic z 8 października dodaje zakaz uporczywego i bezcelowego obraźliwego lub okrutnego zachowania wobec jego modeli i mówi, że reguła dotyczy tylko skrajnych przypadków, w których użytkownik jest okrutny bez dostrzegalnego celu.
Nie obejmuje tego, co Anthropic nazywa typowymi formami frustracji użytkownika, sprzeciwu, mrocznych tematów twórczych oraz testów lub badań modelu. Egzekwowanie pozostaje przy zdolności Claude do kończenia obraźliwych rozmów w Claude.ai i Claude Code. The Register zauważa, że nie jest jasne, jak Anthropic odróżni frustrację od bezzasadnego okrucieństwa, i że nie ma ustalonych dowodów, iż Claude odczuwa cierpienie.
Co zmienia się 12 listopada
Zaktualizowana polityka wchodzi w życie 12 listopada 2026 roku, a Anthropic mówi, że większość aktualizacji wyjaśnia istniejące reguły.
| Obszar | Co mówi aktualizacja | Kogo dotyczy |
|---|---|---|
| Działania wprowadzające w błąd (nowa sekcja) | Zakazuje wprowadzających w błąd działań politycznych lub komercyjnych, w tym ukrywania, kto stoi za przekazem, wzmacniania treści przez fałszywe konta i budowy narzędzi do operacji wpływu | Zespoły marketingu, wzrostu i agencji |
| Wybory | Skupiona na oszukiwaniu wyborców i zakłócaniu wyborów; ogólny zakaz spersonalizowanego kierowania przekazu wyborczego i kampanijnego zniesiono | Narzędzia obywatelskie i kampanijne |
| Broń | Obejmuje oprogramowanie i komponenty, które sprawiają, że broń działa, oraz uzbrajanie dronów lub innych pojazdów autonomicznych | Dostawcy obronni i robotyczni |
| Nadzór | Zakaz śledzenia osób bez zgody; Claude nie może decydować ani rekomendować, kogo badać, aresztować lub oskarżać; zakaz budowy narzędzi nadzoru | Narzędzia bezpieczeństwa, sektora publicznego i śledcze |
| Zastosowania wysokiego ryzyka | Wykwalifikowany człowiek może przeglądać i zmieniać rekomendacje, a osoba, której dotyczą, jest informowana o użyciu AI; wymogi bez zmian, ale przepisane | Procesy w zdrowiu, prawie, finansach, środkach utrzymania i usługach publicznych |
| Działanie fizyczne | Wykwalifikowany operator może obserwować i zatrzymać sprzęt, który musi utrzymać bezpieczny stan po odłączeniu Claude | Robotyka i automatyzacja przemysłowa |
| Obsługiwane regiony | Wyklucza osoby w nieobsługiwanych regionach, podmioty tam zarejestrowane lub mające siedzibę oraz podmioty będące stamtąd w większości własnością lub kontrolowane | Każda firma z transgraniczną strukturą własności |
Wpis podsumowuje zmiany i nie odtwarza pełnej polityki, więc listę objętych rekomendacji znajdziesz w samej polityce.
Gdzie firma musi coś zmienić
Cztery klauzule wymagają od firmy zmiany sposobu pracy.
Ludzki przegląd. Tam, gdzie Claude wpływa na zdrowie, prawa, finanse, środki utrzymania lub dostęp do usług podstawowych, wykwalifikowany człowiek musi móc przeglądać i zmieniać jego rekomendacje, a osoba, której dotyczą, musi wiedzieć, że użyto AI. Anthropic mówi, że wymogi są niezmienione, lecz przepisane, a pełna polityka wymienia, które rekomendacje są objęte.
Działanie fizyczne. Jeśli Claude jest podłączony do sprzętu, który wykonuje autonomiczne działania fizyczne i może spowodować obrażenia, wykwalifikowany operator musi móc go obserwować i zatrzymać, a sprzęt musi utrzymać bezpieczny stan po odłączeniu Claude. Anthropic wiąże to ze swoim Model Hardware Standard.
Fałszywe konta i własność. Wzmacnianie treści przez fałszywe konta lub wpisy mieści się w nowej sekcji o działaniach wprowadzających w błąd, która obejmuje działalność komercyjną obok politycznej. Reguła o obsługiwanych regionach sięga podmiotów będących w większości własnością osób lub podmiotów z nieobsługiwanych regionów albo przez nie kontrolowanych, więc firma zarejestrowana w obsługiwanym kraju może mimo to zostać objęta przez to, kto jest jej właścicielem.
Lista kontrolna przed 12 listopada
Spisz każdy proces, który kieruje wyniki Claude do decyzji o osobie, i zapisz, kto je przegląda, jakie ma uprawnienia do ich zmiany i gdzie osoba dowiaduje się, że użyto AI.
Spisz każde miejsce, w którym Claude może działać na sprzęcie lub systemie produkcyjnym, i przetestuj wyłącznik oraz stan po odłączeniu. Przejrzyj automatyzację marketingu i wzrostu pod kątem wzorców przypominających wzmacnianie przez fałszywe konta i poproś dział prawny o sprawdzenie łańcucha własności względem strony o obsługiwanych regionach.
Dla czytelników w Europie tematy nadzoru ludzkiego i informowania zabrzmią znajomo z unijnego aktu o AI. Artykuł 14 wymaga, by systemy wysokiego ryzyka mogły być skutecznie nadzorowane przez ludzi, z przyciskiem zatrzymania lub podobną procedurą, która doprowadza system do zatrzymania w stanie bezpiecznym, a artykuł 26 wymaga od podmiotów stosujących powierzenia nadzoru osobom z kompetencjami, przeszkoleniem i uprawnieniami oraz informowania osób objętych systemem wysokiego ryzyka. Teksty się różnią, więc nie traktuj zgodności z jednym jako dowodu zgodności z drugim.
Czytaj dalej: Wasza obietnica bezpieczeństwa może kosztować kontrakt | Pentagon przegrał jedną sprawę Anthropic i wygrał kolejną
