Cztery godziny w poniedziałkową noc

Późnym wieczorem w poniedziałek 3 sierpnia Telegram przestał pojawiać się w wyszukiwarce App Store. Użytkownicy w wielu krajach stwierdzili, że nie mogą go już pobrać na iPhone'a ani iPada. Mac App Store pozostał nietknięty. Google Play również. Zgłoszenia nieudanych pobrań zaczęły napływać wkrótce po godzinie 01:00 GMT, a około 23:00 czasu wschodniego aplikacja wróciła.

Apple podał powód oficjalnie. "Krótko usunęliśmy Telegram ze sklepu App Store po tym, jak nasza weryfikacja znalazła treści naruszające nasze surowe wytyczne zakazujące materiałów przedstawiających seksualne wykorzystywanie dzieci", oświadczyła firma. "Aplikacja została następnie przywrócona po tym, jak twórca niezwłocznie usunął treści i zablokował użytkownika, który je opublikował." Telegram potwierdził wynik własnymi słowami: "Telegram został przywrócony w App Store i wkrótce powinien być znów dostępny dla wszystkich użytkowników." Nie odniósł się do przyczyny, a powrót skwitował na X uwagą, że doniesienia o jego zgonie są przesadzone.

To nie był pierwszy raz. Telegram usuwano już w 2018 roku za nieodpowiednie treści, w Brazylii w 2023 roku po wnioskach o informacje i w Chinach w 2024 roku na mocy nakazu regulatora. Ten przypadek wyróżnia to, że był globalny, wywołany treścią i zakończony, zanim większość Europy się obudziła.

Reguła, która to umożliwiła

Nic w oprogramowaniu Telegrama tego nie spowodowało. Przeczytaj zdanie Apple ponownie: wyzwalaczem była treść opublikowana przez użytkownika, a naprawą usunięcie tej treści i zablokowanie tego konta przez twórcę. Sama aplikacja nigdy nie była problemem, a naprawa nie wymagała żadnej zmiany w kodzie.

App Store Review Guidelines firmy Apple czynią z tego regułę, a nie wyjątek. Wytyczna 1.2 wymaga od każdej aplikacji z treściami tworzonymi przez użytkowników lub funkcjami społecznościowymi metody filtrowania materiałów obraźliwych, mechanizmu zgłaszania takich treści wraz z terminowymi odpowiedziami, możliwości blokowania nadużywających użytkowników oraz opublikowanych danych kontaktowych. Następnie umieszcza obowiązek tam, gdzie umieściło go zdarzenie: "To twoja odpowiedzialność, aby usuwać treści naruszające tę wytyczną, twój regulamin lub twoje standardy społeczności."

Konsekwencja zapisana jest w tym samym akapicie. Jeśli Apple znajdzie takie treści, poprosi twórcę o ich usunięcie i o przedstawienie planu poprawy zgodności, a w zależności od tej odpowiedzi aplikacja może zostać usunięta z App Store do czasu wykazania poprawy. Rażące lub powtarzające się zachowania stanowią podstawę natychmiastowego usunięcia zarówno z App Store, jak i z Apple Developer Program. Wytyczna 1.1.4 dotycząca jawnie seksualnych materiałów stoi obok jako podstawa odrzucenia i usunięcia.

Zmienna, która przesądziła o długości

Dwie aplikacje mogłyby otrzymać identyczne ustalenie i przeżyć bardzo różne wtorki. Wytyczna wiąże wynik z odpowiedzią twórcy, a ta odpowiedź jest problemem operacyjnym: znaleźć obiekt, usunąć go, ustalić i zablokować konto oraz odpisać, poza godzinami pracy, o dowolnej porze, o której nadejdzie weryfikacja. Telegram zrobił to w ciągu jednej nocy. Aplikacja, której dyżurny inżynier widzi wiadomość następnego ranka o dziewiątej, nie.

To ta część, która uogólnia się daleko poza komunikatory. Każda powierzchnia, na której obcy może umieścić bajty w twoim produkcie, jest w tym sensie treścią tworzoną przez użytkowników: pole recenzji, publiczne pole komentarzy, zdjęcie profilowe, udostępniony dokument, załącznik do zgłoszenia serwisowego, czat wewnątrz gry. Większość firm prowadzących coś takiego nie uważa się za operatora funkcji moderacyjnej i przekonuje się o czymś przeciwnym tej nocy, w której to ma znaczenie.

Sedno: w najpoważniejszych kategoriach treści zakładaj, że usunięcie wyprzedza negocjacje. Apple opisuje drabinę zaczynającą się od żądania, ale zastrzega też natychmiastowe usunięcie w przypadkach rażących, a materiał przedstawiający seksualne wykorzystywanie dzieci jest tego najwyraźniejszym przykładem. To znaczy, że o twojej ekspozycji decyduje czas przywrócenia, a nie opowieść o zapobieganiu.

Zmierz własną liczbę w tym tygodniu

Przeprowadź ćwiczenie zamiast czytać politykę. Wybierz działającą powierzchnię z treściami użytkowników, poproś kogoś o złożenie zgłoszenia wobec konkretnego obiektu o trzeciej nad ranem w niedzielę i zmierz cztery rzeczy: ile czasu minie, zanim zobaczy je człowiek, zanim obiekt zniknie, zanim konto zostanie zablokowane i zanim ktoś zdoła odpowiedzieć sklepowi, co zrobiono. Ten łączny czas to twoje ryzyko dystrybucji, wyrażone w godzinach. Cała reszta twojej dokumentacji zaufania i bezpieczeństwa opisuje zamiary.

Dwie uwagi strukturalne, na które warto zareagować. Niech opublikowana droga kontaktu z wytycznej 1.2 będzie obsługiwana przez dyżur, a nie przez skrzynkę, której nikt nie pilnuje, bo to kanał, z którego skorzysta sklep. I ustal, które z twoich kanałów dystrybucji są niezależne: Mac App Store i Google Play przez cały czas wydawały Telegram, i tylko dlatego zdarzenie było dla większości użytkowników niedogodnością, a nie awarią.

Czytaj dalej: Usługi Apple skurczyły się z kwartału na kwartał  |  Sąd odbiera Big Techowi przycisk zwlekania