Fire timer mandag nat

Sent mandag den 3. august holdt Telegram op med at dukke op i App Store-søgningen. Brugere i flere lande opdagede, at de ikke længere kunne hente den på iPhone eller iPad. Mac App Store var upåvirket. Google Play var upåvirket. Meldinger om mislykkede downloads begyndte at komme kort efter klokken 01:00 GMT, og omkring klokken 23:00 amerikansk østkysttid var appen tilbage.

Apple oplyste grunden officielt. "Vi fjernede kortvarigt Telegram fra App Store, efter at vores gennemgang fandt indhold, der overtræder vores strenge retningslinjer om forbud mod materiale med seksuelt misbrug af børn", meddelte selskabet. "Appen blev efterfølgende genindsat, efter at udvikleren straks havde fjernet indholdet og udelukket den bruger, der havde lagt det op." Telegram bekræftede udfaldet med egne ord: "Telegram er genindsat i App Store og bør snart være tilgængelig igen for alle brugere." Selskabet har ikke kommenteret årsagen og markerede returen på X med en bemærkning om, at rygterne om dets død var overdrevne.

Det var ikke første gang. Telegram er tidligere blevet fjernet i 2018 på grund af upassende indhold, i Brasilien i 2023 efter anmodninger om oplysninger og i Kina i 2024 efter et myndighedspåbud. Det, der adskiller denne gang, er, at den var global, udløst af indhold og overstået, før det meste af Europa vågnede.

Reglen der gjorde det muligt

Intet i Telegrams software forårsagede dette. Læs Apples sætning igen: udløseren var indhold, som en bruger lagde op, og løsningen var, at udvikleren fjernede indholdet og udelukkede kontoen. Selve appen var aldrig problemet, og rettelsen krævede ingen kodeændring overhovedet.

Apples App Store Review Guidelines gør det til reglen og ikke til undtagelsen. Retningslinje 1.2 kræver af enhver app med brugerskabt indhold eller sociale funktioner en metode til at filtrere anstødeligt materiale, en mekanisme til at anmelde anstødeligt indhold sammen med rettidige svar, mulighed for at blokere krænkende brugere og offentliggjorte kontaktoplysninger. Derefter placerer den pligten dér, hvor hændelsen placerede den: "Det er dit ansvar at fjerne indhold, der overtræder denne retningslinje, dine servicevilkår eller dine fællesskabsstandarder."

Konsekvensen står i samme afsnit. Finder Apple sådant indhold, vil selskabet bede udvikleren om at fjerne det og fremlægge en plan for bedre efterlevelse, og afhængigt af det svar kan appen fjernes fra App Store, indtil forbedringer er påvist. Grove eller gentagne forhold er grundlag for øjeblikkelig fjernelse fra både App Store og Apple Developer Program. Retningslinje 1.1.4 om åbenlyst seksuelt materiale står ved siden af som grundlag for afvisning og fjernelse.

Den størrelse der afgjorde længden

To apps kunne få det samme fund og få vidt forskellige tirsdage. Retningslinjen knytter udfaldet til udviklerens svar, og det svar er et driftsproblem: find objektet, fjern det, identificér og udeluk kontoen, og meld tilbage, uden for arbejdstid, på det tidspunkt gennemgangen nu lander. Telegram klarede det på én nat. En app, hvis vagthavende ingeniør ser mailen klokken ni næste morgen, gør ikke.

Det er den del, der gælder langt ud over beskedtjenester. Enhver flade, hvor en fremmed kan lægge bytes ind i dit produkt, er i denne sammenhæng brugerskabt indhold: et anmeldelsesfelt, en offentlig kommentarboks, et profilbillede, et delt dokument, en vedhæftning på en supportsag, en chat inde i et spil. De fleste virksomheder, der driver en af delene, opfatter ikke sig selv som indehavere af en moderationsfunktion og opdager det modsatte den nat, hvor det gælder.

Kort sagt: ved de alvorligste indholdskategorier bør du regne med, at fjernelsen kommer før forhandlingen. Apple beskriver en trappe, der begynder med en anmodning, men forbeholder sig også øjeblikkelig fjernelse i grove tilfælde, og materiale med seksuelt misbrug af børn er det klareste eksempel. Det betyder, at din genoprettelsestid, og ikke din fortælling om forebyggelse, er det tal, der styrer din eksponering.

Mål dit eget tal i denne uge

Kør øvelsen i stedet for at læse politikken. Vælg en aktiv flade med brugerindhold, lad nogen indgive en anmeldelse af et konkret element klokken tre om natten en søndag, og tag tid på fire ting: hvor længe der går, før et menneske ser den, før elementet er væk, før kontoen er blokeret, og før nogen kan svare butikken med, hvad der er gjort. Den samlede tid er din distributionsrisiko, udtrykt i timer. Alt andet i din dokumentation om tillid og sikkerhed beskriver hensigter.

To strukturelle punkter, der bør handles på. Lad den offentliggjorte kontaktvej i retningslinje 1.2 overvåges af en vagtordning og ikke af en postkasse, ingen ejer, for det er den kanal, en butik bruger. Og få fastslået, hvilke af dine distributionskanaler der er uafhængige: Mac App Store og Google Play blev ved med at levere Telegram hele vejen igennem, og kun derfor var hændelsen en gene for de fleste brugere frem for et nedbrud.

Afpresningspåstanden Apple ikke har adresseret

Durovs udlægning ændrer, hvilken slags hændelse dette var. Han sagde, at angriberen var "en nedtagningsafpresser: en, der kræver løsesum fra gruppeejere mod ikke at ramme deres fællesskaber", og at den konkrete metode var at redigere et gammelt opslag i en allerede offentlig gruppe for at indsætte AI-ændret materiale med seksuelt misbrug af børn. Fordi Telegrams moderationsværktøjer fremhæver nye opslag til gennemgang, ikke redigeringer af gamle, så eksisterende gruppemedlemmer aldrig ændringen dukke op som noget at anmelde, og afpresseren anmeldte det manipulerede opslag direkte til Apple for at udløse fjernelsen, før Telegrams egne systemer opdagede det.

Apple har ikke kommenteret afpresningspåstanden; selskabets offentlige udtalelse dækker kun det fundne indhold og det faktum, at udvikleren fjernede det. Den tavshed betyder noget for enhver, der driver en platform med offentlige grupper eller kanaler: Det betyder, at en angriber, der forstår din gennemgangsproces, kan vende platformens eget sikkerhedsløfte mod dig ved at udløse en fjernelse i stedet for at bryde ind på en server, og ingen kodegennemgang eller infrastrukturhærdning fanger det. Forsvaret er ikke teknisk. Det er en moderations- og klageproces, der er hurtig og dokumenteret nok til at vise en bedømmer på få minutter, hvilken ændring der blev foretaget af hvem.

Læs videre: Apples App Store har mistet sin sidste fortaler  |  Apple fastsætter nye EU App Store-gebyrer fra 1. okt.