Quatre heures dans la nuit de lundi
Tard le lundi 3 août, Telegram a cessé d'apparaître dans la recherche de l'App Store. Des utilisateurs de plusieurs pays ne pouvaient plus la télécharger sur iPhone ou iPad. Le Mac App Store n'était pas touché. Google Play non plus. Les signalements de téléchargements échoués ont commencé peu après 01h00 GMT, et vers 23h00 heure de la côte est l'application était revenue.
Apple en a donné la raison officiellement. "Nous avons brièvement retiré Telegram de l'App Store après que notre examen a trouvé un contenu qui viole nos règles strictes interdisant le matériel d'abus sexuel sur mineurs", a déclaré l'entreprise. "L'application a ensuite été rétablie après que le développeur a promptement retiré le contenu et banni l'utilisateur qui l'avait publié." Telegram a confirmé l'issue en ses propres termes: "Telegram a été rétablie sur l'App Store et devrait bientôt être de nouveau disponible pour tous les utilisateurs." L'entreprise n'a pas commenté la cause et a salué son retour sur X en jugeant exagérées les nouvelles de sa disparition.
Ce n'était pas la première fois. Telegram avait déjà été retirée en 2018 pour contenu inapproprié, au Brésil en 2023 à la suite de demandes d'informations, et en Chine en 2024 sur ordre réglementaire. Ce qui distingue ce cas, c'est qu'il fut mondial, déclenché par un contenu, et terminé avant que la majeure partie de l'Europe ne se réveille.
La règle qui l'a rendu possible
Rien dans le logiciel de Telegram n'a causé cela. Relisez la phrase d'Apple: le déclencheur fut un contenu publié par un utilisateur, et le remède fut le retrait de ce contenu et le bannissement de ce compte par l'éditeur. L'application elle-même n'a jamais été le problème, et la correction n'a exigé aucune modification de code.
Les App Store Review Guidelines d'Apple en font une norme et non une exception. La règle 1.2 impose à toute application comportant du contenu généré par les utilisateurs ou des fonctions sociales une méthode de filtrage du matériel choquant, un mécanisme de signalement des contenus offensants assorti de réponses rapides, la possibilité de bloquer les utilisateurs abusifs et des coordonnées publiées. Elle place ensuite l'obligation là où l'incident l'a placée: "Il vous incombe de retirer le contenu qui viole la présente règle, vos conditions de service ou vos standards de communauté."
La conséquence figure dans le même paragraphe. Si Apple trouve un tel contenu, elle demandera à l'éditeur de le retirer et de fournir un plan d'amélioration de sa conformité et, selon cette réponse, l'application pourra être retirée de l'App Store jusqu'à ce que les améliorations soient démontrées. Un comportement grave ou répété justifie le retrait immédiat de l'App Store et du programme développeur d'Apple. La règle 1.1.4, sur le matériel ouvertement sexuel, l'accompagne comme motif de rejet et de retrait.
La variable qui a décidé de la durée
Deux applications pourraient recevoir le même constat et connaître des mardis très différents. La règle fait dépendre l'issue de la réponse de l'éditeur, et cette réponse est un problème d'exploitation: trouver l'objet, le retirer, identifier et bannir le compte, rendre compte, hors des heures ouvrées, à l'heure où l'examen tombe. Telegram l'a fait en une seule nuit. Une application dont l'ingénieur d'astreinte voit le courriel à neuf heures le lendemain, non.
C'est la partie qui se généralise bien au-delà de la messagerie. Toute surface où un inconnu peut déposer des octets dans votre produit relève ici du contenu généré par les utilisateurs: un champ d'avis, une zone de commentaires publique, une photo de profil, un document partagé, une pièce jointe à un ticket de support, un salon de discussion dans un jeu. La plupart des entreprises qui en exploitent une ne se voient pas comme exerçant une fonction de modération, et découvrent le contraire la nuit où cela compte.
En clair: pour les catégories de contenu les plus graves, tablez sur un retrait qui précède la négociation. Apple décrit une échelle qui commence par une demande, mais se réserve aussi le retrait immédiat dans les cas graves, et le matériel d'abus sexuel sur mineurs en est l'exemple le plus net. Votre délai de rétablissement, et non votre récit de prévention, est donc le chiffre qui gouverne votre exposition.
Mesurez votre propre chiffre cette semaine
Faites l'exercice plutôt que de lire la politique. Choisissez une surface active de contenu d'utilisateurs, faites déposer par quelqu'un un signalement sur un élément précis à trois heures du matin un dimanche, et chronométrez quatre choses: le temps avant qu'un humain le voie, le temps avant que l'élément disparaisse, le temps avant que le compte soit bloqué, et le temps avant que quelqu'un puisse répondre à la boutique en indiquant ce qui a été fait. Ce temps total est votre risque de distribution, exprimé en heures. Tout le reste de votre documentation de confiance et sécurité décrit une intention.
Deux points structurels sur lesquels agir. Faites surveiller par une astreinte, et non par une boîte aux lettres sans propriétaire, la voie de contact publiée qu'exige la règle 1.2, car c'est le canal qu'une boutique utilisera. Et vérifiez lesquels de vos canaux de distribution sont indépendants: le Mac App Store et Google Play ont continué de servir Telegram tout du long, et c'est la seule raison pour laquelle l'incident fut une gêne pour la plupart des utilisateurs plutôt qu'une interruption.
À lire ensuite: Les services d'Apple ont reculé d'un trimestre à l'autre | Un tribunal retire aux géants leur bouton de report
