Een upload van een gebruiker haalt uw app uit de winkel

Vier uur in de maandagnacht

Laat op maandag 3 augustus verscheen Telegram niet meer in de zoekresultaten van de App Store. Gebruikers in meerdere landen merkten dat ze de app niet langer op iPhone of iPad konden downloaden. De Mac App Store bleef ongemoeid. Google Play bleef ongemoeid. Meldingen van mislukte downloads kwamen kort na 01:00 GMT binnen, en rond 23:00 uur oostelijke tijd was de app terug.

Apple gaf de reden voor de camera. "We hebben Telegram kort uit de App Store verwijderd nadat onze beoordeling inhoud aantrof die in strijd is met onze strikte richtlijnen die materiaal van seksueel kindermisbruik verbieden", aldus het bedrijf. "De app werd vervolgens hersteld nadat de ontwikkelaar de inhoud prompt had verwijderd en de gebruiker die deze had geplaatst had geblokkeerd." Telegram bevestigde de afloop in eigen woorden: "Telegram is hersteld in de App Store en zou binnenkort weer voor alle gebruikers beschikbaar moeten zijn." Over de oorzaak zweeg het bedrijf, en het markeerde de terugkeer op X met een opmerking dat berichten over zijn einde overdreven waren.

Het was niet de eerste keer. Telegram werd eerder verwijderd in 2018 wegens ongepaste inhoud, in Brazilië in 2023 na informatieverzoeken en in China in 2024 op grond van een regelgevend bevel. Wat dit geval onderscheidt, is dat het wereldwijd was, door inhoud werd uitgelokt en voorbij was voordat het grootste deel van Europa wakker werd.

De regel die het mogelijk maakte

Niets in Telegrams software veroorzaakte dit. Lees de zin van Apple nog eens: de aanleiding was inhoud die een gebruiker plaatste, en het herstel was dat de ontwikkelaar die inhoud verwijderde en dat account blokkeerde. De app zelf was nooit het probleem, en de oplossing vergde geen enkele codewijziging.

De App Store Review Guidelines van Apple maken dat structureel in plaats van uitzonderlijk. Richtlijn 1.2 verlangt van elke app met door gebruikers gegenereerde inhoud of sociale functies een methode om aanstootgevend materiaal te filteren, een mechanisme om aanstootgevende inhoud te melden met tijdige reacties, de mogelijkheid om misbruikende gebruikers te blokkeren en gepubliceerde contactgegevens. Vervolgens legt zij de plicht daar waar het incident die legde: "Het is uw verantwoordelijkheid om inhoud te verwijderen die in strijd is met deze richtlijn, uw servicevoorwaarden of uw communitynormen."

Het gevolg staat in dezelfde alinea. Treft Apple zulke inhoud aan, dan zal het de ontwikkelaar vragen die te verwijderen en een plan te leveren om de naleving te verbeteren, en afhankelijk van dat antwoord kan de app uit de App Store worden gehaald totdat verbeteringen zijn aangetoond. Grove of herhaalde gedragingen vormen grond voor onmiddellijke verwijdering uit zowel de App Store als het Apple Developer Program. Richtlijn 1.1.4 over openlijk seksueel materiaal staat ernaast als grond voor afwijzing en verwijdering.

De variabele die de duur bepaalde

Twee apps kunnen dezelfde bevinding krijgen en een heel verschillende dinsdag beleven. De richtlijn koppelt de uitkomst aan de reactie van de ontwikkelaar, en die reactie is een operationeel vraagstuk: het object vinden, verwijderen, het account herkennen en blokkeren, en terugmelden, buiten kantooruren, op welk tijdstip de beoordeling ook binnenkomt. Telegram deed dat binnen één nacht. Een app waarvan de dienstdoende engineer de mail de volgende ochtend om negen uur ziet, niet.

Dit is het deel dat ver buiten berichtendiensten geldt. Elk oppervlak waar een vreemde bytes in uw product kan zetten, is hiervoor door gebruikers gegenereerde inhoud: een recensieveld, een openbaar reactieveld, een profielfoto, een gedeeld document, een bijlage bij een supportticket, een chat in een spel. De meeste bedrijven die zoiets draaien zien zichzelf niet als uitvoerder van een moderatiefunctie, en ontdekken het tegendeel in de nacht dat het ertoe doet.

Kort gezegd: ga er bij de ernstigste inhoudscategorieën van uit dat verwijdering voorafgaat aan onderhandeling. Apple beschrijft een ladder die met een verzoek begint, maar behoudt zich ook onmiddellijke verwijdering voor in grove gevallen, en materiaal van seksueel kindermisbruik is daarvan het duidelijkste voorbeeld. Uw hersteltijd, en niet uw preventieverhaal, is dus het getal dat uw blootstelling bepaalt.

Meet deze week uw eigen getal

Doe de oefening in plaats van het beleid te lezen. Kies een actief oppervlak met gebruikersinhoud, laat iemand op zondag om drie uur 's nachts een melding indienen over een concreet item, en klok vier dingen: hoe lang tot een mens het ziet, hoe lang tot het item weg is, hoe lang tot het account is geblokkeerd, en hoe lang tot iemand de winkel kan antwoorden met wat er is gedaan. Die doorlooptijd is uw distributierisico, uitgedrukt in uren. Al het overige in uw trust-and-safetydocumentatie beschrijft een intentie.

Twee structurele punten om op te handelen. Laat de in richtlijn 1.2 gepubliceerde contactroute bewaken door een piketrooster en niet door een postbus die niemand beheert, want dat is het kanaal dat een winkel gebruikt. En stel vast welke van uw distributiekanalen werkelijk onafhankelijk zijn: de Mac App Store en Google Play bleven Telegram de hele tijd aanbieden, en alleen daardoor was het voorval voor de meeste gebruikers een ongemak in plaats van een uitval.

Lees hierna: Apples dienstenomzet kromp van kwartaal tot kwartaal  |  Rechter neemt Big Tech de vertraagknop af