Fire timer mandag nat

Sent mandag den 3. august holdt Telegram op med at dukke op i App Store-søgningen. Brugere i flere lande opdagede, at de ikke længere kunne hente den på iPhone eller iPad. Mac App Store var upåvirket. Google Play var upåvirket. Meldinger om mislykkede downloads begyndte at komme kort efter klokken 01:00 GMT, og omkring klokken 23:00 amerikansk østkysttid var appen tilbage.

Apple oplyste grunden officielt. "Vi fjernede kortvarigt Telegram fra App Store, efter at vores gennemgang fandt indhold, der overtræder vores strenge retningslinjer om forbud mod materiale med seksuelt misbrug af børn", meddelte selskabet. "Appen blev efterfølgende genindsat, efter at udvikleren straks havde fjernet indholdet og udelukket den bruger, der havde lagt det op." Telegram bekræftede udfaldet med egne ord: "Telegram er genindsat i App Store og bør snart være tilgængelig igen for alle brugere." Selskabet har ikke kommenteret årsagen og markerede returen på X med en bemærkning om, at rygterne om dets død var overdrevne.

Det var ikke første gang. Telegram er tidligere blevet fjernet i 2018 på grund af upassende indhold, i Brasilien i 2023 efter anmodninger om oplysninger og i Kina i 2024 efter et myndighedspåbud. Det, der adskiller denne gang, er, at den var global, udløst af indhold og overstået, før det meste af Europa vågnede.

Reglen der gjorde det muligt

Intet i Telegrams software forårsagede dette. Læs Apples sætning igen: udløseren var indhold, som en bruger lagde op, og løsningen var, at udvikleren fjernede indholdet og udelukkede kontoen. Selve appen var aldrig problemet, og rettelsen krævede ingen kodeændring overhovedet.

Apples App Store Review Guidelines gør det til reglen og ikke til undtagelsen. Retningslinje 1.2 kræver af enhver app med brugerskabt indhold eller sociale funktioner en metode til at filtrere anstødeligt materiale, en mekanisme til at anmelde anstødeligt indhold sammen med rettidige svar, mulighed for at blokere krænkende brugere og offentliggjorte kontaktoplysninger. Derefter placerer den pligten dér, hvor hændelsen placerede den: "Det er dit ansvar at fjerne indhold, der overtræder denne retningslinje, dine servicevilkår eller dine fællesskabsstandarder."

Konsekvensen står i samme afsnit. Finder Apple sådant indhold, vil selskabet bede udvikleren om at fjerne det og fremlægge en plan for bedre efterlevelse, og afhængigt af det svar kan appen fjernes fra App Store, indtil forbedringer er påvist. Grove eller gentagne forhold er grundlag for øjeblikkelig fjernelse fra både App Store og Apple Developer Program. Retningslinje 1.1.4 om åbenlyst seksuelt materiale står ved siden af som grundlag for afvisning og fjernelse.

Den størrelse der afgjorde længden

To apps kunne få det samme fund og få vidt forskellige tirsdage. Retningslinjen knytter udfaldet til udviklerens svar, og det svar er et driftsproblem: find objektet, fjern det, identificér og udeluk kontoen, og meld tilbage, uden for arbejdstid, på det tidspunkt gennemgangen nu lander. Telegram klarede det på én nat. En app, hvis vagthavende ingeniør ser mailen klokken ni næste morgen, gør ikke.

Det er den del, der gælder langt ud over beskedtjenester. Enhver flade, hvor en fremmed kan lægge bytes ind i dit produkt, er i denne sammenhæng brugerskabt indhold: et anmeldelsesfelt, en offentlig kommentarboks, et profilbillede, et delt dokument, en vedhæftning på en supportsag, en chat inde i et spil. De fleste virksomheder, der driver en af delene, opfatter ikke sig selv som indehavere af en moderationsfunktion og opdager det modsatte den nat, hvor det gælder.

Kort sagt: ved de alvorligste indholdskategorier bør du regne med, at fjernelsen kommer før forhandlingen. Apple beskriver en trappe, der begynder med en anmodning, men forbeholder sig også øjeblikkelig fjernelse i grove tilfælde, og materiale med seksuelt misbrug af børn er det klareste eksempel. Det betyder, at din genoprettelsestid, og ikke din fortælling om forebyggelse, er det tal, der styrer din eksponering.

Mål dit eget tal i denne uge

Kør øvelsen i stedet for at læse politikken. Vælg en aktiv flade med brugerindhold, lad nogen indgive en anmeldelse af et konkret element klokken tre om natten en søndag, og tag tid på fire ting: hvor længe der går, før et menneske ser den, før elementet er væk, før kontoen er blokeret, og før nogen kan svare butikken med, hvad der er gjort. Den samlede tid er din distributionsrisiko, udtrykt i timer. Alt andet i din dokumentation om tillid og sikkerhed beskriver hensigter.

To strukturelle punkter, der bør handles på. Lad den offentliggjorte kontaktvej i retningslinje 1.2 overvåges af en vagtordning og ikke af en postkasse, ingen ejer, for det er den kanal, en butik bruger. Og få fastslået, hvilke af dine distributionskanaler der er uafhængige: Mac App Store og Google Play blev ved med at levere Telegram hele vejen igennem, og kun derfor var hændelsen en gene for de fleste brugere frem for et nedbrud.

Læs videre: Apples serviceomsætning faldt fra et kvartal til det næste  |  En domstol tager Big Techs forhalingsknap