De clausule over wreedheid is smal
De update van Anthropic van 8 oktober voegt een verbod toe op aanhoudend en zinloos beledigend of wreed gedrag tegenover zijn modellen, en zegt dat de regel alleen geldt in extreme gevallen waarin een gebruiker zonder aanwijsbaar doel wreed is.
Het dekt niet wat Anthropic gangbare vormen van frustratie van gebruikers, tegenspraak, duistere creatieve thema's en modeltests of onderzoek noemt. Handhaving blijft bij het vermogen van Claude om beledigende gesprekken te beëindigen op Claude.ai en Claude Code. The Register merkt op dat onduidelijk is hoe Anthropic frustratie van gratuite wreedheid zal onderscheiden en dat er geen vastgesteld bewijs is dat Claude leed ervaart.
Wat er op 12 november verandert
Het bijgewerkte beleid gaat in op 12 november 2026 en Anthropic zegt dat de meeste updates bestaande regels verduidelijken.
| Gebied | Wat de update zegt | Wie het merkt |
|---|---|---|
| Misleidende activiteit (nieuwe sectie) | Verbiedt misleidende politieke of commerciële activiteit, waaronder verbergen wie achter een bericht zit, content versterken via nepaccounts en tools voor beïnvloedingsoperaties bouwen | Marketing-, groei- en bureauteams |
| Verkiezingen | Herschikt naar het misleiden van kiezers en het verstoren van verkiezingen; het algemene verbod op gepersonaliseerde stem- en campagnetargeting vervalt | Burger- en campagnetools |
| Wapens | Dekt software en onderdelen waardoor wapens werken, en het bewapenen van drones of andere autonome voertuigen | Defensie- en roboticaleveranciers |
| Surveillance | Geen volgen van mensen zonder toestemming; Claude mag niet bepalen of aanbevelen wie wordt onderzocht, gearresteerd of vervolgd; geen surveillancetools bouwen | Beveiligings-, overheids- en onderzoekstools |
| Toepassingen met hoog risico | Een gekwalificeerd mens kan aanbevelingen beoordelen en wijzigen en de betrokkene hoort dat AI is gebruikt; eisen ongewijzigd maar herschreven | Processen in gezondheid, recht, financiën, levensonderhoud en publieke diensten |
| Fysieke handelingen | Een gekwalificeerde operator kan de apparatuur observeren en stoppen, en die moet een veilige toestand houden als Claude de verbinding verliest | Robotica en industriële automatisering |
| Ondersteunde regio's | Sluit mensen in niet-ondersteunde regio's uit, entiteiten die daar zijn gevestigd en entiteiten die daarvandaan voor het merendeel worden gehouden of gecontroleerd | Elk bedrijf met grensoverschrijdend eigendom |
Het bericht vat de wijzigingen samen en geeft het volledige beleid niet weer, dus lees het beleid zelf voor de lijst van gedekte aanbevelingen.
Waar een bedrijf iets moet veranderen
Vier clausules vragen een bedrijf om zijn manier van werken te veranderen.
Menselijke controle. Waar Claude gezondheid, rechten, financiën, levensonderhoud of toegang tot essentiële diensten beïnvloedt, moet een gekwalificeerd mens de aanbevelingen kunnen beoordelen en wijzigen, en de betrokkene moet weten dat AI is gebruikt. Anthropic zegt dat deze eisen ongewijzigd maar herschreven zijn, en het volledige beleid noemt welke aanbevelingen gedekt zijn.
Fysieke handelingen. Als Claude is gekoppeld aan apparatuur die autonoom fysieke handelingen verricht en letsel kan veroorzaken, moet een gekwalificeerde operator die kunnen observeren en stoppen, en moet de apparatuur een veilige toestand houden als Claude de verbinding verliest. Anthropic koppelt dit aan zijn Model Hardware Standard.
Nepaccounts en eigendom. Content versterken via nepaccounts of nepberichten valt onder de nieuwe sectie over misleidende activiteit, die commerciële naast politieke activiteit dekt. De regel over ondersteunde regio's reikt tot entiteiten die voor het merendeel in handen zijn van of worden gecontroleerd door personen of entiteiten in niet-ondersteunde regio's, zodat een bedrijf dat in een ondersteund land is geregistreerd toch kan worden geraakt door wie het bezit.
Een checklist voor 12 november
Maak een lijst van elk proces dat Claude-uitkomsten voedt in een beslissing over een persoon en noteer wie ze beoordeelt, welke bevoegdheid die persoon heeft om ze te wijzigen en waar de betrokkene hoort dat AI is gebruikt.
Maak een lijst van elke plek waar Claude op apparatuur of een live systeem kan ingrijpen en test de stopfunctie en de toestand bij verbroken verbinding. Beoordeel marketing- en groei-automatisering op patronen die lijken op versterking via nepaccounts en laat juridische zaken uw eigendomsketen toetsen aan de pagina over ondersteunde regio's.
Voor lezers in Europa klinken de thema's menselijk toezicht en informatieplicht bekend uit de AI-verordening van de EU. Artikel 14 vraagt dat hoogrisicosystemen effectief door mensen kunnen worden gecontroleerd, met een stopknop of vergelijkbare procedure die het systeem in een veilige toestand tot stilstand brengt, en artikel 26 vraagt gebruikers om toezicht toe te wijzen aan personen met bekwaamheid, opleiding en bevoegdheid en om de personen op wie een hoogrisicosysteem wordt toegepast te informeren. De teksten verschillen, dus beschouw naleving van de ene niet als bewijs voor de andere.
Lees hierna: Uw veiligheidsbelofte kan u het contract kosten | Het Pentagon verloor de ene Anthropic-zaak en won de volgende
