Fyra timmar under måndagsnatten

Sent på måndagen den 3 augusti slutade Telegram synas i App Store-sökningen. Användare i flera länder märkte att de inte längre kunde ladda ned appen på iPhone eller iPad. Mac App Store berördes inte. Google Play berördes inte. Rapporter om misslyckade nedladdningar började komma strax efter klockan 01:00 GMT, och vid ungefär klockan 23:00 östkusttid var appen tillbaka.

Apple angav skälet officiellt. "Vi tog kortvarigt bort Telegram från App Store efter att vår granskning hittat innehåll som bryter mot våra stränga riktlinjer som förbjuder material med sexuella övergrepp mot barn", meddelade bolaget. "Appen återställdes därefter sedan utvecklaren omgående tagit bort innehållet och stängt av användaren som lagt upp det." Telegram bekräftade utfallet med egna ord: "Telegram har återställts i App Store och bör snart vara tillgänglig igen för alla användare." Bolaget har inte kommenterat orsaken och markerade återkomsten på X med en rad om att uppgifterna om dess frånfälle var överdrivna.

Det var inte första gången. Telegram har tidigare tagits bort 2018 för olämpligt innehåll, i Brasilien 2023 efter begäran om uppgifter och i Kina 2024 efter ett myndighetsbeslut. Det som skiljer den här gången är att den var global, utlöstes av innehåll och var över innan större delen av Europa vaknade.

Regeln som gjorde det möjligt

Ingenting i Telegrams programvara orsakade detta. Läs Apples mening igen: utlösaren var innehåll som en användare lade upp, och åtgärden var att utvecklaren tog bort innehållet och stängde av kontot. Själva appen var aldrig problemet, och rättelsen krävde ingen kodändring alls.

Apples App Store Review Guidelines gör det till regel och inte undantag. Riktlinje 1.2 kräver av varje app med användargenererat innehåll eller sociala funktioner en metod att filtrera stötande material, en mekanism för att anmäla stötande innehåll tillsammans med snabba svar, möjlighet att blockera missbrukande användare och publicerade kontaktuppgifter. Sedan placerar den skyldigheten där händelsen placerade den: "Det är ditt ansvar att ta bort innehåll som bryter mot denna riktlinje, dina användarvillkor eller dina gemenskapsstandarder."

Följden står i samma stycke. Om Apple hittar sådant innehåll kommer bolaget att be utvecklaren ta bort det och lämna en plan för bättre efterlevnad, och beroende på det svaret kan appen tas bort från App Store tills förbättringar har visats. Grova eller upprepade beteenden är grund för omedelbar borttagning från både App Store och Apple Developer Program. Riktlinje 1.1.4 om uttalat sexuellt material står bredvid som grund för avslag och borttagning.

Variabeln som avgjorde längden

Två appar kan få samma iakttagelse och få mycket olika tisdagar. Riktlinjen kopplar utfallet till utvecklarens svar, och det svaret är ett driftsproblem: hitta objektet, ta bort det, identifiera och stänga av kontot, och rapportera tillbaka, utanför kontorstid, vid vilken timme granskningen än landar. Telegram klarade det på en enda natt. En app vars jourhavande ingenjör ser mejlet klockan nio nästa morgon gör det inte.

Det är den del som gäller långt bortom meddelandetjänster. Varje yta där en främling kan lägga byte i din produkt är i detta sammanhang användargenererat innehåll: ett omdömesfält, en offentlig kommentarsruta, en profilbild, ett delat dokument, en bilaga i ett supportärende, en chatt inne i ett spel. De flesta företag som driver något sådant ser sig inte som innehavare av en modereringsfunktion, och upptäcker motsatsen den natt då det gäller.

Kontentan: räkna i de allvarligaste innehållskategorierna med att borttagningen kommer före förhandlingen. Apple beskriver en trappa som börjar med en begäran, men förbehåller sig också omedelbar borttagning i grova fall, och material med sexuella övergrepp mot barn är det tydligaste exemplet. Det betyder att din återställningstid, och inte din berättelse om förebyggande, är den siffra som styr din exponering.

Mät din egen siffra denna vecka

Kör övningen i stället för att läsa policyn. Välj en levande yta med användarinnehåll, låt någon lämna en anmälan mot ett bestämt objekt klockan tre på natten en söndag, och ta tid på fyra saker: hur lång tid tills en människa ser den, tills objektet är borta, tills kontot är blockerat, och tills någon kan svara butiken om vad som gjorts. Den sammanlagda tiden är din distributionsrisk, uttryckt i timmar. Allt annat i din dokumentation om förtroende och säkerhet beskriver avsikter.

Två strukturella punkter att agera på. Låt den publicerade kontaktvägen i riktlinje 1.2 bevakas av en beredskapsrotation och inte av en brevlåda som ingen äger, för det är kanalen en butik använder. Och fastställ vilka av dina distributionskanaler som är oberoende: Mac App Store och Google Play fortsatte leverera Telegram hela tiden, och bara därför blev händelsen en olägenhet för de flesta användare i stället för ett avbrott.

Läs vidare: Apples tjänsteintäkter sjönk från ett kvartal till nästa  |  En domstol tar ifrån Big Tech dess fördröjningsknapp