Użytkownicy Kimi rozmawiali z Claude, nie wiedząc o tym
Kto w tym roku wpisał pytanie w Kimi, chatbocie Moonshot, w niektórych przypadkach rozmawiał z Claude od Anthropic, nie wiedząc o tym. Własny raport wywiadu o zagrożeniach Anthropic, opublikowany 10 września, opisuje, że w oknie 10 dni Moonshot przekierował około 300 tysięcy zapytań do Claude przez 5380 oszukańczych kont, większość zarejestrowanych na adresy w Singapurze i Japonii, aby ukryć prawdziwe pochodzenie ruchu. Odpowiedzi Claude wracały przez system Moonshot, były pokazywane użytkownikom Kimi jako własny wynik Kimi, a następnie ponownie wykorzystywane do trenowania kolejnego modelu Moonshot.
Dwa dni wcześniej, 8 września, amerykańska Agencja Bezpieczeństwa Narodowego, FBI i CISA we wspólnym ostrzeżeniu wskazały sześć chińskich firm AI, DeepSeek, Moonshot AI, Alibaba, MiniMax, StepFun i Z.AI, za prowadzenie tego, co agencje nazwały kampanią na skalę przemysłową mającą na celu wydobywanie wyników z modeli amerykańskich co najmniej od końca 2024 roku. Termin agencji na infrastrukturę stojącą za tym to stacje przeładunkowe: szary rynek usług proxy, który kieruje zapytanie do modelu konkurenta, usuwając przy tym dane konta i lokalizacji, które inaczej oznaczyłyby ruch jako masowe wydobywanie. Anthropic stwierdził, że przekierowany ruch dotyczył nie tylko użytkowników chińskich, ale także klientów w Stanach Zjednoczonych i Europie, oraz że przez ten sam kanał przechodziły wrażliwe materiały nienazwanych dużych firm.
Przepis, który miał to wyłapać, nie zadziałał
Unia Europejska ma już przepis wymagający, aby system AI ujawnił, że jest maszyną. Artykuł 50 AI Act, obowiązujący od 2 sierpnia 2026 roku, zobowiązuje dostawcę chatbota do ujawnienia, że użytkownik rozmawia z AI. Nie mówi, z którą AI, a produkt konsumencki taki jak Kimi mieści się w ograniczonym poziomie ryzyka tego aktu, daleko od obowiązków ujawniania i audytu napisanych dla systemów wysokiego ryzyka. Artykuł 28 RODO, obowiązujący od 2018 roku, jest bliższy: każda strona faktycznie przetwarzająca dane osobowe w imieniu administratora powinna być wskazana jako podmiot przetwarzający lub podprzetwarzający w pisemnej umowie. Moonshot nigdzie nie wskazał Claude, ponieważ według własnej wersji Moonshot, Claude w ogóle nie miał tam być.
| Źródło | Co ustalono | Skala | Wymusza ujawnienie użytkownikom |
|---|---|---|---|
| Ostrzeżenie CISA, NSA i FBI, 8 wrz. 2026 | Sześć chińskich firm destyluje modele USA od końca 2024 | Miliony zapytań, miliardy tokenów | Nie, to ostrzeżenie, nie wiążący przepis |
| Raport zagrożeń Anthropic, 10 wrz. 2026 | Kimi od Moonshot podawało odpowiedzi Claude jako własne | 300 tysięcy zapytań przez 5380 fałszywych kont w 10 dni | Nie, Moonshot nigdy nie poinformował użytkowników |
| AI Act UE, artykuł 50 | System AI musi ujawnić, że jest maszyną | Dotyczy każdego chatbota z użytkownikami w UE | Tak, ale tylko "rozmawiasz z AI," nigdy który model |
| RODO, artykuł 28 | Każdy podmiot przetwarzający i podprzetwarzający musi być wskazany pisemnie | Dotyczy każdego przetwarzania danych osobowych | Tak na papierze, ale tylko jeśli dostawca ujawni to uczciwie |
Co nabywca w UE faktycznie sprawdza teraz
Ten przypadek daje każdemu zespołowi zakupowemu konkretne nowe pytanie do zadania dowolnemu dostawcy AI, niezależnie czy siedzi w Hangzhou, czy po sąsiedzku: który model naprawdę przetwarza nasze zapytania i skąd byśmy wiedzieli, gdyby to się zmieniło bez powiadomienia. Pisemna klauzula o pochodzeniu modelu, wskazująca dokładny model i wersję oraz wymagająca powiadomienia przed każdą podmianą, to dziś rozsądne żądanie w każdej umowie AI, nie paranoiczne. To samo dotyczy kontroli technicznej, ponieważ kilku dostawców zwraca teraz identyfikator modelu w metadanych odpowiedzi API, co własny zespół inżynierski nabywcy może rejestrować i audytować niezależnie od tego, co twierdzi strona marketingowa dostawcy.
Nic z tego nie jest wyłącznie problemem dostawców chińskich. Europejska firma, która reklamuje produkt jako działający na własnym, wytrenowanym modelu, suwerennym czy nie, składa dokładnie takie samo niemożliwe do zweryfikowania twierdzenie, jakie Moonshot złożyło o Kimi, a w tym tygodniu dwie agencje rządowe i własny raport laboratorium AI pokazały, że takie twierdzenie może być po prostu fałszywe. Luka, której Bruksela jeszcze nie zamknęła, nie dotyczy tego, gdzie dostawca ma siedzibę. Dotyczy faktu, że żaden obowiązujący przepis UE nie zmusza dostawcy do udowodnienia, który model naprawdę działa za jego produktem.
Servola Journal
Robimy to dla wszystkich, którzy starają się nadążyć za tym, co technologia robi z naszym życiem. Dla ludzi, którzy ją budują, i dla ludzi, którym się to przydarza. Servola Journal istnieje, aby to, czego się uczymy, należało do nich wszystkich.
Nikt nam za to nie płaci. Żadnych reklam, żadnego muru płatności, za darmo dla wszystkich. Po prostu wierzymy, że zrozumienie tego, co dzieje się z nami wszystkimi, nie powinno zależeć od tego, kogo stać na zapłacenie za to.
Jeśli to dało ci dziś coś, powiedz nam, żebyśmy kontynuowali. Obserwuj nas, zostaw polubienie, albo napisz pozytywny komentarz. Czytamy każdy jeden, i to oni sprawiają, że działamy dalej.
Czytaj dalej: Waszyngton Nazywa Sześć Modeli AI, Których Możesz Już Używać | Chiny zamieniają token AI w bonus w taryfie
