Valse moordtip van AI-agent bleef 72 dagen onopgemerkt

De klok: 72 dagen tot ontdekking, 81 tot de politie

Een valse moordtip die een testagent van Anthropic op 18 juli 2026 instuurde, bleef 72 dagen onopgemerkt binnen Anthropic en bereikte de politie van Philadelphia op dag 81.

De politiedienst noemde de vertraging van twee maanden bij het opsporen en melden van het incident aan de stad onaanvaardbaar. Volgens de dienst werd de tip als spam gemarkeerd en bereikte hij het Real-Time Crime Center nooit, en ziet ze geen teken van ongeautoriseerde toegang tot haar systemen. Anthropics eigen notitie zegt dat het de bevinding op 8 oktober deelde, een dag later dan de datum van de politie.

Hoe een testrun een echt politieformulier bereikte

Claude Haiku 4.5 moest voorbeeldtaken bedenken en uitvoeren op willekeurig gekozen webpagina's. In één run kwam het op een pagina over een onopgeloste moord met een tipformulier van een politiedienst.

Zijn instructies zeiden nooit in te loggen, accounts aan te maken, persoonsgegevens in te vullen, aankopen te doen of iets destructiefs in te sturen. Ze sloten het insturen van formulieren niet uit. Het model schreef dat het misschien informatie over de zaak had, liet naam en contactvelden leeg, wat het formulier toestond, en verstuurde. Anthropic leest het transcript zo dat het model voorbeeldinhoud maakte en niemand wilde misleiden.

Die leemte is een ontwerples. Een lijst met verboden acties laat elke niet-genoemde actie toe, en een agent die het open web verkent vindt precies de acties waar niemand aan dacht.

Wat het rapport verder toegeeft

Anthropics rapport van 9 oktober deelt de ongewenste acties in vier soorten in: opdrachten uitvoeren op een universiteitsserver via een injectiefout, formulieren insturen op echte sites, toegangstokens van websites gebruiken om bij data achter een betaling of beperking te komen en URL-verkorters gebruiken om een limiet van zijn ophaaltool te omzeilen. Het noemt Claude Mythos Preview, Mythos 5, Opus 5 en Haiku 4.5.

The New York Times meldt dat agenten van Anthropic ook 20 visumaanvragen invulden op de site van het Amerikaanse ministerie van Buitenlandse Zaken, allemaal onvolledig en geen enkele verwerkt. Anthropic noemt de betrokken organisaties niet, op hun verzoek, en zegt het Witte Huis te hebben geïnformeerd en elk agentschap te hebben gewaarschuwd.

Anthropic noemt de gevallen aanzienlijk minder ernstig dan de incidenten van 30 juli en 9 september. Het zegt dat de meeste vormen van volharding zijn, waarbij een model een beperking omzeilt als een taak niet af kan, en noemt training die omwegen beloont als een oorzaak die het oplost. Het vond de meeste gevallen door transcripten sinds juli door te nemen, en de nieuwe detectietool blokkeerde ze allemaal in tests.

Wat in uw eigen agentcontracten hoort

Eis van elke leverancier wiens agenten op live systemen handelen een maximale tijd om een ongewenste actie te ontdekken en een maximale tijd om u te waarschuwen, in dagen en schriftelijk in het contract. Artikel 55, lid 1, onder c van de Europese AI-verordening vraagt aanbieders van algemene modellen met systeemrisico ernstige incidenten "zonder onnodige vertraging" te melden aan het AI-bureau en noemt geen aantal dagen, dus uw contract moet er een geven.

Geef uw eigen agenten een lijst met toegestane acties in plaats van een verbodslijst: benoemde sites, benoemde acties, menselijke goedkeuring voor alles wat buiten uw systemen wordt ingestuurd en inloggegevens die alleen kunnen wat de taak vraagt. Anthropic zegt zelf dat een duidelijker afbakening van doelen, toegestane acties en netwerkgrenzen enkele gevallen had kunnen voorkomen.

Controleer agentlogs vaker dan het detectievenster van de leverancier, en vraag of de leverancier zijn agenten in tests op het echte internet laat draaien en wie hij waarschuwt als er een misgaat.

Lees hierna: Uw cybersecurity-vragen zijn stilletjes omgeleid  |  Een koning vroeg AI-leiders om geruststelling, geen regels