Co tak naprawdę rozstrzygnął sąd w Monachium

Przez lata zakładano, że asystent AI po prostu wydobywa to, co już znajduje się w sieci, a odpowiedzialność pozostaje przy pierwotnym źródle. Sąd Krajowy w Monachium to odrzucił. Orzekł, że AI Overviews Google generuje niezależne, nowe, merytoryczne wypowiedzi przez ocenę i łączenie treści osób trzecich, oraz że tylko Google może sprawdzić te wypowiedzi, zanim się pojawią. Sąd wydał postanowienie zabezpieczające, zakazujące Google powtarzania fałszywych twierdzeń o dwóch wydawnictwach, pod groźbą kary do 250.000 euro.

To rozróżnienie ma większe znaczenie niż strony sporu. Lista linków z cytatami wskazuje gdzie indziej. Odpowiedź AI mówi własnym głosem. W chwili gdy system formułuje nowe twierdzenie, sąd uznaje operatora za autora tego twierdzenia. Po niewłaściwej stronie tej granicy domyślnie znajduje się dziś większość firm wdrażających AI.

Dlaczego sięga to znacznie dalej niż sam Google

To orzeczenie jest jednym z pierwszych w Europie, które pociąga operatora AI do bezpośredniej odpowiedzialności za treści generowane przez AI, a jego logika nie zależy od Google. Chatbot wsparcia, który nazywa konkurenta oszustem, asystent sprzedaży, który wymyśla cechy produktu, narzędzie wewnętrzne, które podaje coś fałszywego o dostawcy: każde z nich tworzy nową wypowiedź, którą może kontrolować tylko operator. Zgodnie z rozumowaniem z Monachium to operator za nią odpowiada.

Google argumentowało, że każdy mógłby obalić tę wypowiedź dzięki dalszemu sprawdzeniu. Sąd uznał, że możliwość zaprzeczenia twierdzeniu zwykle nie usuwa odpowiedzialności za jego wypowiedzenie. Dla każdej firmy, która wdrożyła asystenta AI w przekonaniu, że ryzyko ponosi model, a nie sama firma, to przekonanie jest teraz udokumentowanym zagrożeniem.

Co powinna teraz zrobić poważna firma

Traktuj każdy wynik AI skierowany do klienta jak treść opublikowaną, bo europejski sąd właśnie tak go traktuje. To znaczy: wiedzieć dokładnie, gdzie twoja AI generuje swobodne twierdzenia o ludziach, firmach czy faktach, jakie zabezpieczenia stoją przed tymi wynikami i kto odpowiada, gdy jedno z nich jest błędne. Większość organizacji nie potrafi dziś odpowiedzieć na te trzy pytania, i to jest prawdziwa luka, którą obnaża to orzeczenie.

Rozwiązaniem nie jest wyłączenie asystenta. Jest nim zmapowanie zagrożenia: spisanie systemów, które mówią w twoim imieniu, ograniczenie ich tam, gdzie koszt błędnej odpowiedzi jest wysoki, oraz udokumentowanie mechanizmów kontroli, tak aby odpowiedzialnością można było zarządzać, a nie odkrywać ją w sądzie. Zrobione wcześnie jest to zadanie z zakresu nadzoru. Zrobione za późno jest lekcją za 250.000 euro.

Czytaj dalej: Twój agent AI może teraz wydawać twoje pieniądze. Trudna część to wszystko, co dzieje się później.  ·  Istnieje już jeden wspólny punkt odniesienia dla bezpieczeństwa AI. Oto dlaczego sięga do twoich zakupów.