Zdanie, którego nikt nie miał zobaczyć

W czerwcu asystentka w biurze kongresmenki Anny Pauliny Luny, republikanki z Florydy, dodała tekst wygenerowany przez AI, aby poprawić streszczenie poprawki. Opublikowana wersja wciąż zawierała słowa "Claude responded", czyli odpowiedź samego chatbota, wewnątrz publicznego tekstu.

Luna później otwarcie przyznała, co się stało: jej zespół użył AI do poprawienia projektu i nie zredagował wyniku przed publikacją. Błąd stał się publiczny, ponieważ nikt nie przeczytał ostatecznej wersji na tyle uważnie, by zauważyć trzy słowa, które nie miały prawa znaleźć się w federalnym projekcie ustawy.

Dlaczego Legislative Counsel jest przeciążone

Zdarzenie to widoczny objaw znacznie szerszego wzorca wewnątrz House Office of Legislative Counsel, bezpartyjnych prawników, którzy zamieniają pomysły polityczne w tekst ustawy. Według wywiadów z ośmioma obecnymi i byłymi urzędnikami, na które powołuje się Politico, biura Kongresu i zewnętrzne grupy nacisku coraz częściej idą bezpośrednio do Claude lub ChatGPT, by napisać sam tekst ustawy, zanim przekażą go biuru do weryfikacji.

AI potrafi wygenerować taki tekst znacznie szybciej, niż mógłby go napisać jakikolwiek zespół prawników, co oznacza, że prawnicy biura spędzają teraz znacznie więcej czasu na przepisywaniu wadliwych projektów, niż kiedykolwiek spędzali na pisaniu od zera, a zaległości rosną za każdym razem, gdy przychodzi nowy projekt wspomagany przez AI z tym samym rodzajem błędu już w środku.

Czego AI nie potrafi ocenić

Zgłaszane błędy to nie literówki, to błędy kategorii prawnej, które zmieniają sposób działania ustawy po jej uchwaleniu. Weryfikatorzy opisywali projekty AI niezdolne odróżnić, czy dana pula środków powinna być prawnie skonstruowana jako ulga podatkowa, odliczenie podatkowe, zwolnienie podatkowe czy dotacja, cztery instrumenty o różnych zasadach kwalifikowalności, różnych agencjach je egzekwujących i różnych konsekwencjach dla ludzi, którym ustawa ma pomóc.

Błędnie zacytowane przepisy i niepoprawne definicje prawne wewnątrz ustawy nie zostają na papierze, mogą wywołać pozwy sądowe, opóźnić uchwalenie ustawy albo zostać odkryte dopiero, gdy ustawa już obowiązuje, kiedy poprawienie jej wymaga całkowicie nowego procesu legislacyjnego.

Decyzja, którą ignoruje każdy zespół

Lekcja sięga daleko poza Kongres. Każda organizacja, która wdrożyła generatywną AI do pisania dokumentów prawnych, umownych lub zgodności, prowadzi ten sam eksperyment: narzędzie sprawia, że pierwszy projekt jest niemal darmowy, a ta szybkość po cichu naciska na weryfikatorów, by poświęcali mniej czasu na kontrolę, dokładnie wtedy, gdy kontrola liczy się najbardziej.

Zdarzenie w biurze Luny to tania wersja tej porażki, kłopotliwa, ale możliwa do przetrwania publiczna korekta. W umowie, zgłoszeniu regulacyjnym czy już uchwalonej ustawie ten sam pominięty etap weryfikacji tworzy błąd, którego nikt nie zauważa, dopóki nie staje się kosztowny. Liczy się decyzja nie o tym, czy używać AI do pisania, lecz o tym, czy weryfikacja zachowuje tę samą rzetelność, jaką miała, zanim pisanie stało się darmowe.

Czytaj dalej: Google wyrzucił niemal gotowy model AI  |  Prompt sterujący twoją firmą nie ma właściciela