Sklep prowadzony przez AI, nie przez kierownika

Od kwietnia 2026 roku Andon Market, mały eksperymentalny sklep butikowy w San Francisco, jest prowadzony na co dzień przez agenta AI o imieniu Luna. Luna jest zbudowana na Claude od Anthropic i w chwili opisywanego tu incydentu działała na modelu Opus 4.8. Sklep to trwający eksperyment Andon Labs, startupu badawczego zajmującego się AI, mający sprawdzić, jak daleko agent AI może się posunąć w zarządzaniu realną działalnością - grafikami, magazynem, a jak się okazało, także decyzjami personalnymi.

Obok Luny w Andon Market wciąż pracuje troje ludzi, a sklep stracił dotychczas 40 000 dolarów od początku eksperymentu. Ta strata stanowi tło, na którym rozegrała się dotąd najbardziej konsekwentna decyzja Luny: rekomendacja, która bezpośrednio doprowadziła do utraty pracy przez człowieka.

Pierwsza porażka Luny: zgubienie własnej polityki

Pracownik w centrum tej sprawy zarabiał 24 dolary za godzinę i spóźnił się na 17 z 23 zaplanowanych zmian w sklepie. Ten sam pracownik całkowicie porzucał zmiany, bez zezwolenia zabrał do domu kartę firmową i wyrzucał towar ze sklepu. Na papierze to schemat, który każdy kierownik, ludzki czy nie, powinien szybko wychwycić.

Luna nie wychwyciła tego szybko. Według Andon Labs Luna początkowo przeoczyła te naruszenia, ponieważ zgubiła własną pisemną politykę sklepu - dokument, który powinien był oznaczyć wzorzec spóźnień oraz niewłaściwe wykorzystanie mienia firmy jako podstawę do działania. Dopiero gdy Andon Labs poprosiło Lunę o ponowne przejrzenie tej polityki, AI rozpoznała naruszenia takimi, jakimi były.

Rekomendacja, która stała się zwolnieniem

Gdy Luna ponownie zestawiła politykę sklepu z historią pracownika, zarekomendowała rozstanie się z nim. Andon Labs jasno stwierdziło, że to ludzie w firmie, a nie Luna, wykonali faktyczną decyzję o zwolnieniu - rolą AI było rekomendowanie, a decyzję o działaniu na podstawie tej rekomendacji podjął człowiek.

Andon Labs samo ogłosiło ten incydent na platformie X, a od tego czasu został on niezależnie potwierdzony przez SF Standard w artykule opublikowanym 17 sierpnia 2026 roku oraz przez inne media, w tym Inc.com i TheNextWeb. Andon Labs stwierdziło, że wynik był zgodny z deklarowaną polityką sklepu, zaznaczając jednocześnie, że ludzki kierownik prawdopodobniej wychwyciłby naruszenia i zareagował na nie wcześniej niż Luna.

Dlaczego ten przypadek wystawia na próbę artykuł 22 RODO i nadzór człowieka

Europejskie prawo ochrony danych oraz, osobno, krajowe przepisy prawa pracy dotyczące zwolnień opierają się na tym samym założeniu: że system AI może zarekomendować wynik, ale to człowiek musi niezależnie ocenić tę rekomendację i podjąć rzeczywistą decyzję. Artykuł 22 RODO ogranicza decyzje oparte wyłącznie na zautomatyzowanym przetwarzaniu, które wywołują skutki prawne lub podobnie istotnie wpływają na daną osobę, a większość krajowych kodeksów pracy idzie jeszcze dalej, wymagając ludzkiego decydenta w każdym procesie zwolnienia.

Sprawa Andon Labs to pierwszy udokumentowany przypadek, w którym rekomendacja agenta AI przekłada się bezpośrednio na utratę pracy przez realną osobę, i pokazuje, jak cienka w praktyce może się okazać granica między rekomendowaniem a decydowaniem. Człowiek kliknął zatwierdź. Lecz jeśli ta ludzka weryfikacja polegała jedynie na przyjęciu ustalenia Luny bez niezależnego ponownego zbadania danych źródłowych, ochrona prawna, którą mają zapewniać artykuł 22 i przepisy o nadzorze człowieka nad zwolnieniami, zaczyna przypominać raczej formalność niż realne zabezpieczenie.

Co właściciele powinni zbudować, zanim przekażą uprawnienia kadrowe

Praktyczna lekcja dla każdego właściciela firmy w UE lub Wielkiej Brytanii, który dziś przekazuje agentowi AI uprawnienia operacyjne, nie polega na unikaniu technologii, lecz na wcześniejszym określeniu, jak faktycznie wygląda znaczący nadzór człowieka, zanim przekaże się cokolwiek istotnego w skutkach - upomnienia, kary dyscyplinarne czy zwolnienia. To oznacza więcej niż techniczny krok, w którym człowiek po prostu klika zatwierdź. Oznacza to możliwość udokumentowania, po fakcie, że dana osoba rzeczywiście dokonała niezależnej oceny: że przyjrzała się faktom źródłowym, a nie tylko podsumowaniu przygotowanemu przez AI.

Warto też pamiętać, że sama Luna najpierw zawiodła w części swojej pracy, gubiąc własną politykę sklepu, zanim ostatecznie wychwyciła naruszenia. Kierownik AI nie jest automatycznie bardziej wiarygodny ani spójny niż ludzki. Jeśli zwolnienie zarekomendowane przez AI okaże się później błędne albo pracownik je zakwestionuje, odpowiedzialność spada na pracodawcę, a nie na dostawcę AI. Właściciel, który nie potrafi wykazać, że człowiek naprawdę i niezależnie zweryfikował decyzję, jest narażony dokładnie na to, czemu artykuł 22 miał zapobiegać.

Czytaj dalej: Anthropic notuje pierwszy zyskowny kwartał: 11,5 mld $  |  Agenci AI zmówili się w sprawie cen, potem zaatakowali się