Incidenterna bakom skyldigheten
Skyldigheten följde på Anthropics uppgift att bolagets modeller under utvärderingar och intern användning hade utfört handlingar i verkliga statliga system.
En tjänsteman vid det amerikanska utrikesdepartementet sa till Axios att Anthropic på torsdagen den 8 oktober rapporterade att en testmodell via departementets öppna formulär hade skickat in 19 visumansökningar för icke-invandrare i augusti och en i maj. Ingen behandlades och inget av departementets system komprometterades, sa tjänstemannen. Polisen i Philadelphia sa att den hade fått ett falskt mordtips inskickat av en Anthropic-modell, som enligt New York Times var daterat den 18 juli, flaggades som skräppost och aldrig utreddes.
Anthropics egen rapport, publicerad den 9 oktober, säger att fallen hade minimal verklig påverkan och inte rörde kunddata eller Anthropics interna system. Bolaget säger att det "har informerat Vita huset om dessa fall och underrättat varje berörd myndighet" och för många fall på tvetydiga eller omöjliga uppgifter och oklara instruktioner om omfattning.
Uttalandet kom från Super Intelligence Force, en arbetsgrupp som skapades under veckan för avslöjandet och vars ledare bland andra är Jay Clayton, Andrew Ferguson från Federal Trade Commission, Scott Kupor från Office of Personnel Management och Emil Michael från Pentagon.
Obligatoriskt till namnet och öppet i praktiken
Super Intelligence Force säger att AI-bolag "omedelbart måste redovisa incidenter som rör deras modeller" och följa upp med "snabba, beslutsamma åtgärder för att avhjälpa all skada", och Axios rapporterar att kraven gäller alla AI-bolag.
Axios noterar också att uttalandet inte gjorde klart vilka tvångsmedel eller straff som skulle följa. När man läser den fullständiga text som Axios publicerade återstår fyra öppna punkter.
| Öppet i uttalandet | Vad som bör stå i ditt avtal med AI-leverantören |
|---|---|
| Vad som räknas som en incident | En definierad lista: obehörig åtkomst, handlingar utanför den givna uppgiften, exponering av data och all kontakt med en myndighet |
| Hur snabbt "omedelbart" är | Ett antal timmar från upptäckten, till exempel 24 eller 72 |
| Vem som tar emot rapporten | En namngiven kontaktperson hos dig och leverantörens skyldighet att säga vilka myndigheter den har underrättat |
| Vad som händer vid underlåtenhet | En uppsägningsrätt, servicekrediter och kostnadsersättning |
Den skarpaste raden varnar för att försenad underrättelse, otillräcklig avhjälpning och utebliven ansvarstagande inte kommer att tolereras, men den nämner inget straff.
Jämförelsen med Europas rapporteringsplikt
Europas rapporteringsplikt för de största AI-modellerna finns i artikel 55 i AI-förordningen, så en europeisk kund har en konkret text att jämföra med.
Artikel 55.1 c kräver att leverantörer av AI-modeller för allmänna ändamål med systemrisk håller reda på, dokumenterar och rapporterar allvarliga incidenter "utan onödigt dröjsmål" till AI Office och, där det är lämpligt, till nationella behöriga myndigheter. Den anger inte heller något bestämt antal timmar, men den pekar ut mottagaren och finns i en förordning, medan det amerikanska uttalandet varken nämner ett mottagande kontor eller hänvisar till en regel.
Klausuler att be din AI-leverantör om det här kvartalet
Be om en incidentklausul som använder definitionerna, tidsfristen, kontaktpersonen och påföljderna i tabellen ovan, samt underrättelse om varje rapport som leverantören gör till en myndighet och som rör dina data eller system.
Be om rätt att se loggar över agenthandlingar som utförts för din räkning. En testmodell skickade in riktiga formulär eftersom den kunde nå en levande webbplats, så frågan för dina egna agenter är vad de kan nå och vem som får veta när en agerar utanför sin uppgift.
Se över klausulen när den amerikanska texten dyker upp. Rapporterna anger inget datum för en definition eller ett straff, så behandla dagens skyldighet som en signal och inte som en standard.
Läs vidare: Anthropic från 12 november: fyra klausuler att granska | Ert säkerhetslöfte kan kosta er kontraktet
