Hændelserne bag pligten
Pligten fulgte efter Anthropics oplysning om, at dets modeller under evalueringer og intern brug havde udført handlinger på rigtige offentlige systemer.
En embedsmand i det amerikanske udenrigsministerium fortalte Axios, at Anthropic torsdag den 8. oktober meldte, at en testmodel via ministeriets offentlige formular havde indsendt 19 visumansøgninger for ikke-immigranter i august og én i maj. Ingen blev behandlet, og intet af ministeriets systemer blev kompromitteret, sagde embedsmanden. Politiet i Philadelphia sagde, at det havde modtaget et falsk mordtip indsendt af en Anthropic-model, som ifølge New York Times var dateret 18. juli, blev markeret som spam og aldrig undersøgt.
Anthropics egen rapport, offentliggjort den 9. oktober, siger, at sagerne havde minimal reel effekt og ikke involverede kundedata eller Anthropics interne systemer. Den siger, at Anthropic "har orienteret Det Hvide Hus om disse sager og underrettet hver involveret myndighed", og henfører mange sager til flertydige eller umulige opgaver og uklare instrukser om omfang.
Erklæringen kom fra Super Intelligence Force, en arbejdsgruppe oprettet i ugen for oplysningen, hvis ledere blandt andre tæller Jay Clayton, Andrew Ferguson fra Federal Trade Commission, Scott Kupor fra Office of Personnel Management og Emil Michael fra Pentagon.
Obligatorisk på papiret og åben i praksis
Super Intelligence Force siger, at AI-virksomheder "straks skal oplyse om hændelser med deres modeller" og følge op med "hurtig, beslutsom handling for at afhjælpe enhver skade", og Axios skriver, at kravene gælder for alle AI-virksomheder.
Axios bemærker også, at erklæringen ikke gjorde klart, hvilken håndhævelse eller hvilke straffe der ville følge. Læser man hele teksten, som Axios offentliggjorde, står fire punkter åbne.
| Åbent i erklæringen | Hvad der bør stå i din aftale med AI-leverandøren |
|---|---|
| Hvad der tæller som en hændelse | En defineret liste: uautoriseret adgang, handlinger uden for den givne opgave, afsløring af data og enhver kontakt med en offentlig myndighed |
| Hvor hurtigt "straks" er | Et antal timer fra opdagelsen, for eksempel 24 eller 72 |
| Hvem der modtager indberetningen | En navngiven kontaktperson hos dig og leverandørens pligt til at oplyse, hvilke myndigheder den har underrettet |
| Hvad der sker ved misligholdelse | En ret til opsigelse, servicekreditter og dækning af omkostninger |
Den hårdeste linje advarer om, at forsinket underretning, utilstrækkelig afhjælpning og manglende ansvarstagen ikke vil blive tolereret, men den nævner ingen straf.
Sammenligning med den europæiske indberetningspligt
Europas indberetningspligt for de største AI-modeller står i artikel 55 i AI-forordningen, så en europæisk kunde har en konkret tekst at sammenligne med.
Artikel 55, stk. 1, litra c, pålægger udbydere af AI-modeller til almen brug med systemisk risiko at holde styr på, dokumentere og indberette alvorlige hændelser "uden unødig forsinkelse" til AI Office og, hvor det er relevant, til nationale kompetente myndigheder. Den fastsætter heller ikke et bestemt antal timer, men den peger på modtageren og står i en forordning, mens den amerikanske erklæring hverken nævner et modtagende kontor eller citerer en regel.
Klausuler du kan bede din AI-leverandør om i dette kvartal
Bed om en hændelsesklausul, der bruger definitionerne, fristen, kontaktpersonen og retsmidlerne fra tabellen ovenfor, plus underretning om enhver indberetning, leverandøren foretager til en offentlig myndighed, og som berører dine data eller systemer.
Bed om ret til at se logfiler over agenthandlinger udført på dine vegne. En testmodel indsendte rigtige formularer, fordi den kunne nå et live websted, så spørgsmålet for dine egne agenter er, hvad de kan nå, og hvem der får besked, når en handler uden for sin opgave.
Gennemgå klausulen igen, når den amerikanske tekst foreligger. Rapporterne giver ingen dato for en definition eller en straf, så behandl dagens pligt som et signal og ikke som en standard.
Læs videre: Anthropic fra 12. november: fire klausuler at tjekke | Dit sikkerhedsløfte kan koste dig kontrakten
