Die Klausel zur Grausamkeit ist eng gefasst
Anthropics Update vom 8. Oktober ergänzt ein Verbot anhaltenden und sinnlosen missbräuchlichen oder grausamen Verhaltens gegenüber seinen Modellen, und es sagt, die Regel gelte nur in Extremfällen, in denen ein Nutzer ohne erkennbaren Zweck grausam ist.
Sie erfasst nicht, was Anthropic übliche Formen von Frust, Widerspruch, dunklen kreativen Themen sowie Modelltests und Forschung nennt. Die Durchsetzung bleibt bei Claudes Fähigkeit, missbräuchliche Gespräche auf Claude.ai und Claude Code zu beenden. The Register merkt an, es sei unklar, wie Anthropic Frust von grundloser Grausamkeit unterscheiden wolle, und es gebe keine gesicherten Belege dafür, dass Claude Leid empfinde.
Was sich am 12. November ändert
Die aktualisierte Richtlinie tritt am 12. November 2026 in Kraft, und Anthropic sagt, die meisten Änderungen stellten bestehende Regeln klar.
| Bereich | Was das Update sagt | Wen es trifft |
|---|---|---|
| Täuschende Aktivitäten (neuer Abschnitt) | Verbietet täuschende politische oder kommerzielle Aktivitäten, darunter das Verschleiern des Absenders einer Botschaft, das Verstärken von Inhalten über Fake-Konten und den Bau von Werkzeugen für Einflussoperationen | Marketing-, Growth- und Agenturteams |
| Wahlen | Neu auf das Täuschen von Wählern und das Stören von Wahlen ausgerichtet; das pauschale Verbot personalisierter Wähler- und Kampagnenansprache entfällt | Zivilgesellschaftliche und Kampagnenwerkzeuge |
| Waffen | Umfasst Software und Komponenten, die Waffen funktionsfähig machen, sowie das Bewaffnen von Drohnen oder anderen autonomen Fahrzeugen | Rüstungs- und Robotiklieferanten |
| Überwachung | Kein Verfolgen von Personen ohne Einwilligung; Claude darf nicht entscheiden oder empfehlen, wer untersucht, festgenommen oder angeklagt wird; kein Bau von Überwachungswerkzeugen | Sicherheits-, Behörden- und Ermittlungswerkzeuge |
| Hochrisiko-Anwendungen | Eine qualifizierte Person kann Empfehlungen prüfen und ändern, und die Betroffenen werden informiert, dass KI eingesetzt wurde; Anforderungen unverändert, aber neu formuliert | Abläufe in Gesundheit, Recht, Finanzen, Lebensunterhalt und öffentlichen Diensten |
| Physische Handlungen | Ein qualifizierter Bediener kann die Anlage beobachten und stoppen, und sie muss bei einem Verbindungsabbruch von Claude einen sicheren Zustand halten | Robotik und industrielle Automatisierung |
| Unterstützte Regionen | Schließt Personen in nicht unterstützten Regionen, dort eingetragene oder ansässige Unternehmen sowie von dort mehrheitlich gehaltene oder kontrollierte Unternehmen aus | Jedes Unternehmen mit grenzüberschreitenden Eigentumsverhältnissen |
Der Beitrag fasst die Änderungen zusammen und gibt die vollständige Richtlinie nicht wieder. Für die Liste der erfassten Empfehlungen lesen Sie daher die Richtlinie selbst.
Wo ein Unternehmen etwas ändern muss
Vier Klauseln verlangen von einem Unternehmen, seine Arbeitsweise zu ändern.
Menschliche Prüfung. Wo Claude Gesundheit, Rechte, Finanzen, Lebensunterhalt oder den Zugang zu wesentlichen Diensten beeinflusst, muss eine qualifizierte Person die Empfehlungen prüfen und ändern können, und die Betroffenen müssen erfahren, dass KI eingesetzt wurde. Anthropic sagt, diese Anforderungen seien unverändert, aber neu formuliert, und die vollständige Richtlinie nennt, welche Empfehlungen erfasst sind.
Physische Handlungen. Ist Claude mit Anlagen verbunden, die autonom physisch handeln und Verletzungen verursachen könnten, muss ein qualifizierter Bediener sie beobachten und stoppen können, und die Anlage muss bei einem Verbindungsabbruch von Claude einen sicheren Zustand halten. Anthropic verknüpft das mit seinem Model Hardware Standard.
Fake-Konten und Eigentum. Das Verstärken von Inhalten über Fake-Konten oder Fake-Beiträge steht im neuen Abschnitt zu täuschenden Aktivitäten, der kommerzielle wie politische Aktivität abdeckt. Die Regel zu unterstützten Regionen reicht bis zu Unternehmen, die von Personen oder Unternehmen in nicht unterstützten Regionen mehrheitlich gehalten oder kontrolliert werden, sodass auch eine in einem unterstützten Land eingetragene Firma wegen ihrer Eigentümer betroffen sein kann.
Eine Checkliste vor dem 12. November
Listen Sie jeden Ablauf auf, der Claude-Ergebnisse in eine Entscheidung über eine Person einspeist, und halten Sie fest, wer sie prüft, mit welcher Befugnis er sie ändern kann und wo die Person erfährt, dass KI eingesetzt wurde.
Listen Sie jede Stelle auf, an der Claude auf Anlagen oder ein Livesystem einwirken kann, und testen Sie die Stopp-Kontrolle und den Zustand bei Verbindungsabbruch. Prüfen Sie Marketing- und Growth-Automatisierung auf Muster, die nach Verstärkung über Fake-Konten aussehen, und lassen Sie die Rechtsabteilung Ihre Eigentümerkette gegen die Seite zu unterstützten Regionen prüfen.
Für Leser in Europa klingen die Themen menschliche Aufsicht und Information bekannt aus dem EU AI Act. Artikel 14 verlangt, dass Hochrisiko-Systeme von Menschen wirksam beaufsichtigt werden können, mit einer Stopp-Taste oder einem ähnlichen Verfahren, das das System in einem sicheren Zustand zum Halten bringt, und Artikel 26 verlangt, dass Betreiber die Aufsicht Personen mit Kompetenz, Schulung und Befugnis übertragen und die von einem Hochrisiko-System betroffenen Personen informieren. Die Texte unterscheiden sich, behandeln Sie die Einhaltung des einen also nicht als Beleg für den anderen.
Weiterlesen: Ihr Sicherheitsversprechen kann Sie den Auftrag kosten | Das Pentagon verlor einen Anthropic-Fall und gewann den nächsten
