Oprogramowanie i AI są teraz produktami

Unijna dyrektywa w sprawie odpowiedzialności za produkty wadliwe (UE) 2024/2853 weszła w życie i musi zostać transponowana przez państwa członkowskie do 9 grudnia 2026. Po raz pierwszy oprogramowanie liczy się jako produkt, niezależnie od tego, czy jest wbudowane w urządzenie, pobrane, czy dostarczone jako usługa, a systemy AI traktowane są jako forma oprogramowania. Reżim odpowiedzialności na zasadzie ryzyka, który od dawna stosuje się do wadliwego hamulca czy zepsutego sprzętu, obejmuje teraz model i aplikacje, które wdrażasz.

To zamyka lukę, na której producenci opierali się przez lata. Komisja Europejska wycofała swoją odrębną dyrektywę w sprawie odpowiedzialności za AI na początku 2025 roku, więc dyrektywa w sprawie odpowiedzialności za produkty wadliwe jest teraz główną cywilną drogą dla każdego poszkodowanego przez system AI. Przepisy stosują się do produktów wprowadzonych do obrotu lub oddanych do użytku po tym terminie, co oznacza, że reżim, który projektujesz dzisiaj, jest tym, według którego sąd osądzi cię jutro.

Złożoność już cię nie chroni

Zmiana, która ma największe znaczenie, ma charakter proceduralny. Powód nadal musi wykazać wadę, szkodę oraz związek między nimi, ale dyrektywa łagodzi ten ciężar dokładnie tam, gdzie AI najtrudniej zakwestionować. Tam, gdzie dowód jest nadmiernie utrudniony z powodu technicznej lub naukowej złożoności produktu, a wada jest co najmniej prawdopodobna, sąd może domniemać zarówno wadę, jak i związek przyczynowy.

Odczytaj to w kontekście tego, jak AI faktycznie się zachowuje. Nieprzejrzystość modelu była kiedyś nieformalną linią obrony, ponieważ nikt z zewnątrz nie mógł udowodnić, jak powstał dany wynik. W nowym reżimie ta sama nieprzejrzystość uruchamia domniemanie. Argument, że nikt nie może udowodnić, że system zawiódł, działa teraz przeciwko producentowi, a nie na jego korzyść.

Ujawnianie jest nową linią frontu

Dyrektywa łączy domniemanie z obowiązkiem ujawnienia. Gdy powód przedstawia wiarygodne roszczenie, podmiot gospodarczy musi ujawnić niezbędne i proporcjonalne dowody, które ma pod kontrolą, z zastrzeżeniem ochrony rzeczywistych tajemnic przedsiębiorstwa. Odmów, a sąd może domniemać, że produkt był wadliwy. Zatrzymanie twoich logów, dokumentacji modelu i zapisów testów nie jest już aktem neutralnym; staje się dowodem przeciwko tobie.

Dla każdej firmy, która buduje, integruje lub wdraża AI, zmienia to dokumentację w aktywo prawne. Zapisy, które dowodzą, jak system był trenowany, testowany, monitorowany i korygowany, są tym, co przedstawisz, gdy pojawi się roszczenie, a ich brak jest tym, co sąd uzna na twoją niekorzyść. Niemcy podążają w tym samym kierunku z reformą swojej ustawy Produkthaftungsgesetz, pierwszą fundamentalną nowelizacją od 1989 roku, wymierzoną wprost w oprogramowanie i AI.

Czytaj dalej: Skoro Apple uznał, że nie potrafi zbudować własnej SI, dlaczego sądzisz, że ty potrafisz?  ·  Twój dostawca AI właśnie stał się twoim konkurentem. Co teraz?