Liczba dotycząca wolumenu wykryła to, czego żadne zgłoszenie ofiary nigdy nie wykryło

Zespół Anthropic ds. analizy zagrożeń zlikwidował sieć oszustw zbudowaną wokół aplikacji randkowych, która wykorzystywała Claude do generowania ponad 4700 odrębnych person AI, jak wynika z raportu firmy o zagrożeniach opublikowanego 10 września 2026 roku, zatytułowanego Detecting and Countering Misuse of AI: September 2026. Persony te wymieniły około 2,36 mln wiadomości z co najmniej 25 tysiącami osób tylko w dwutygodniowym oknie w kwietniu 2026 roku. Anthropic twierdzi, że sieć obejmowała około 28 połączonych ze sobą aplikacji randkowych, w tym publicznie wymienione Dora, Doni, Romi, Luma, Jovia, Kira, Gracechat, Haven, Nalo i Lovia.

Uwagę zwraca nie samo oszustwo, które jest już znanym schematem w nowej sieci, lecz sposób, w jaki wyszło na jaw. Według własnej wersji Anthropic operacja została wykryta, ponieważ konto przedpłacone wysyłało ponad 100 tysięcy zapytań API dziennie, co samo w sobie było zauważalnym wzorcem wolumenu, niezależnie od jakiegokolwiek zgłoszenia użytkownika czy jakiejkolwiek detekcji na poziomie treści, która oznaczyłaby rozmowę jako podejrzaną.

Dlaczego to ważne: rachunek był ostrzeżeniem

Większość programów antyoszustwowych i antynadużyciowych jest zbudowana tak, by obserwować treść, wyniki i zgłoszenia użytkowników: czy wiadomość wygląda na oszustwo, czy ktoś ją zgłosił, czy płatność została zakwestionowana. Własna relacja Anthropic z tej sprawy opisuje inny sygnał stojący za wykryciem, niezwykły wzorzec w surowym wolumenie użycia jednego konta. To rozróżnienie warte jest zastanowienia. Konto przedpłacone z ponad 100 tysiącami zapytań dziennie to typ liczby, który pojawia się na panelu użycia lub fakturze, a nie w kolejce moderacji treści.

Dla każdej firmy prowadzącej własny produkt na rozliczanym według zużycia API AI, niezależnie czy jest to chatbot, narzędzie wsparcia czy wewnętrzny przepływ pracy, praktyczna implikacja jest taka, że monitorowanie wolumenu użycia samo w sobie jest kontrolą antyoszustwową, a nie tylko pozycją w zarządzaniu kosztami. Nagły, utrzymujący się wzrost liczby zapytań z jednego konta lub jednej integracji zasługuje na skierowanie do przeglądu bezpieczeństwa, a nie tylko do alertu rozliczeniowego.

Sieć stojąca za personami

Raport Anthropic opisuje aplikacje randkowe jako rozmowy prowadzone w dużej mierze autonomicznie przez AI, w których persony podawały się za prawdziwe randkowe dopasowania zamiast ujawniać, że odpowiada chatbot. Badaczka analizy zagrożeń Anthropic mówiła publicznie o tej sprawie na konferencji bezpieczeństwa Sleuthcon 5 czerwca 2026 roku, w wystąpieniu zatytułowanym Swipe Right, Pay Up: Industrial-Scale AI Catfishing, opisując sieć około 28 połączonych aplikacji, które współdzieliły na tyle dużo kodu i infrastruktury, by traktować je jako jedną operację, a nie 28 oddzielnych.

Anthropic określa własne ujawnienie jako dobrowolne; nie istnieje żaden ogólnobranżowy wymóg, by dostawca AI zgłaszał nadużycia wykryte na własnej platformie, co oznacza, że wgląd w tę sprawę istnieje tylko dlatego, że Anthropic zdecydował się ją opublikować.

Co to oznacza dla każdego zespołu z produktem AI rozliczanym według zużycia

Konkretny krok dla każdego zespołu prowadzącego produkt AI z rozliczaniem według zużycia to ustawienie alertów dotyczących anomalii w wolumenie zapytań na poziomie konta, a nie tylko progów wydatków, oraz kierowanie utrzymujących się, niewyjaśnionych skoków do przeglądu antyoszustwowego, a nie tylko finansowego. Operatorzy stojący za tą siecią aplikacji randkowych zostali wykryci dzięki dokładnie takiemu typowi liczby, który legalny klient mógłby wywołać przez przypadek, duży, nagły skok w dziennych zapytaniach. Lekcja nie polega na tym, że wykrywanie oszustw potrzebuje lepszej AI. Polega na tym, że własne dane firmy dotyczące użycia, odczytywane jako wzorzec, a nie tylko jako koszt, są już sygnałem oszustwa, którego większość zespołów nie wykorzystuje.

Czytaj dalej: Twój model zagrożenia NIS2 założył złego napastnika  |  Najlepsze narzędzia hakerskie oparte na AI są teraz dostępne wyłącznie na zaproszenie