Anthropic wygrał w marcu i nadal jest usuwany

Rozprawa, która przyniosła dwa terminy i żadnego rozstrzygnięcia

30 lipca na sali sądowej w San Francisco sędzia federalna Rita Lin wysłuchała wzajemnych wniosków o wyrok w trybie uproszczonym w sprawie Anthropika przeciwko administracji Trumpa i Departamentowi Obrony. Przyjęła oba do rozstrzygnięcia i zapowiedziała pisemne postanowienie. Nie powiedziała kiedy. Lin zauważyła na sali, że akta pod pewnymi względami pogorszyły się dla rządu i że nie widzi dodatkowych dowodów uzasadniających to, co zrobił.

Z tej rozprawy wyszły dwa zegary, które nadal chodzą. Programy pilotażowe agencji korzystających z technologii Anthropika wygasają 30 sierpnia. Pentagon zamierza zakończyć wygaszanie produktu 30 września. Obie daty poprzedzają rozstrzygnięcie, które nie ma żadnej daty. Taki jest rzeczywisty kształt tej historii i nie jest to kształt, który nadały jej nagłówki. Firma wygrywa spór i przegrywa kalendarz.

Trzy dni, których rząd nie wyjaśnił

Tutaj kolejność waży więcej niż treść. Anthropic ujawnił swój spór z Pentagonem o zabezpieczenia wokół Claude'a 26 lutego, odmawiając zastosowania do masowej inwigilacji i do wskazywania celów dla broni śmiercionośnej. 27 lutego administracja zadziałała publicznie. Rządowa analiza ryzyka nosi datę 2 marca, trzy dni później. Lin powiedziała to wprost ze swojego miejsca: na dzień 27 lutego w aktach nie ma żadnej informacji o tym, co Anthropic mógł, a czego nie mógł zrobić.

To jest ta część, która dotyczy was. Ocena ryzyka napisana po decyzji, którą ma uzasadniać, nie jest oceną, tylko notatką. Każdy europejski podmiot prowadzący akta dostawców zewnętrznych na podstawie DORA lub NIS2 prędzej czy później przedłoży je nadzorowi, w Polsce Komisji Nadzoru Finansowego, a pierwszą rzeczą, na którą patrzy kontroler, jest to, czy analiza wyprzedza działanie. Większość ocen wyjścia nie przechodzi tego testu, bo powstaje dopiero wtedy, gdy wyjście zostało już przesądzone na górze.

Czego sąd nie znalazł w aktach

Departament Obrony twierdził, że Anthropic mógłby wyłączyć lub zmienić swoje modele w trakcie działań bojowych. Lin stwierdziła, że nie widzi dowodu na to, by firma mogła zmienić dostarczony model albo przełączyć jakiś wyłącznik awaryjny. Gdy odjąć politykę, wydarzyło się coś niezwykłego: sąd federalny zbadał na materiale dowodowym, czy dostawca modelu zachowuje kontrolę nad modelem po dostawie, i nie znalazł niczego, co by to potwierdzało.

To pytanie stoi w każdej europejskiej ankiecie dla dostawców sztucznej inteligencji i prawie nikt nie ma na nie udokumentowanej odpowiedzi. Ustalenie nie wiąże żadnego europejskiego nadzoru i nie będzie cytowane w Brukseli. Mimo to jest to pierwszy raz, gdy pytanie zostało sprawdzone, a nie założone. Jeżeli wasza własna ocena dostawcy twierdzi, że może on albo że nie może ingerować w model pracujący produkcyjnie, wiecie już, jak wygląda dowód na to, bo sąd musiał go szukać.

Sześć na szesnaście i żaden nie wrócił

Szesnaście instytucji federalnych miało umowy z Anthropikiem, bezpośrednio lub przez podmioty trzecie. Sześć je wypowiedziało. To 37,5 procent publicznej bazy klientów utracone w tygodniach po ogłoszeniu w mediach społecznościowych i wiele miesięcy przed tym, zanim jakikolwiek sąd dotarł do istoty sprawy. 26 marca Lin wydała zabezpieczenie, nazwała te działania orwellowskimi i prawdopodobnie bezprawnymi oraz uznała je za klasyczny odwet za korzystanie z wolności słowa. Sześć umów nie wróciło.

Policzcie dni z drugiej strony. Od 27 lutego do daty zakończenia 30 września mija 215 dni. Od 26 marca, dnia, w którym Anthropic wygrał zabezpieczenie, do tej samej daty mija 188. Firma spędzi około pół roku na byciu usuwaną ze środowiska informatycznego, trzymając w ręku korzystne dla siebie postanowienie sądu. Microsoft, Google, pracownicy OpenAI oraz największy amerykański związek zawodowy pracowników federalnych złożyli pisma popierające. Nic z tego nie przesunęło harmonogramu migracji.

Piszcie klauzulę przeciw wskazaniu, a nie przeciw wyrokowi

Praktyczny błąd polega na traktowaniu ryzyka politycznego dostawcy jako kwestii prawnej ze środkiem prawnym. Anthropic mógł pozwać, ponieważ to Anthropic był stroną wskazaną. Wy jako klient nie możecie. Jeżeli wasz dostawca modelu zostanie uznany za ryzyko łańcucha dostaw przez rząd, przed którym nie odpowiadacie, umowa się nie zawiesza, budżet migracji nie zostaje zwrócony, a jedyną dźwignią jest klauzula wyjścia, którą napisaliście, zanim cokolwiek z tego się zaczęło.

Piszcie ją zatem przeciw wyzwalaczowi, a nie przeciw wynikowi. Trzy zmiany warte wprowadzenia w tym kwartale. Zdefiniujcie zdarzenie wyzwalające jako wskazanie, wpis na listę lub zakaz udziału w zamówieniach ze strony dowolnego rządu grupy G7, a nie jako prawomocne rozstrzygnięcie. Zażądajcie od dostawcy pisemnego i udokumentowanego zapewnienia, czy zachowuje jakąkolwiek zdolność zmiany lub wycofania dostarczonego modelu. I wpiszcie do budżetu okres pracy równoległej w ramach wyjścia, bo w tej sprawie terminy ustalił ten, kto usuwał, i nikt nie zapytał o zdanie operatorów.

Czytaj dalej: 16.000 firm łączy ryzyko dostawców. Ty nie  |  Microsoft szkolił własnych handlowców, by nazywali Claude wolniejszym