Quattro ore di una notte di lunedì

A tarda sera di lunedì 3 agosto Telegram ha smesso di comparire nella ricerca dell'App Store. Utenti di più paesi hanno scoperto di non poterla più scaricare su iPhone o iPad. Il Mac App Store non è stato toccato. Google Play nemmeno. Le segnalazioni di download falliti sono arrivate poco dopo l'01:00 GMT, e verso le 23:00 ora della costa orientale l'app era tornata.

Apple ha dato la ragione ufficialmente. "Abbiamo rimosso brevemente Telegram dall'App Store dopo che la nostra revisione ha trovato contenuti che violano le nostre severe linee guida che vietano il materiale pedopornografico", ha dichiarato l'azienda. "L'app è stata poi ripristinata dopo che lo sviluppatore ha prontamente rimosso il contenuto e bannato l'utente che lo aveva pubblicato." Telegram ha confermato l'esito con parole proprie: "Telegram è stata ripristinata sull'App Store e dovrebbe presto tornare disponibile per tutti gli utenti." Non ha commentato la causa e ha salutato il rientro su X con una battuta sul fatto che le notizie della sua fine fossero esagerate.

Non era la prima volta. Telegram è già stata tolta nel 2018 per contenuti inappropriati, in Brasile nel 2023 per richieste di informazioni e in Cina nel 2024 per un ordine regolatorio. Ciò che distingue questo caso è che è stato globale, innescato da un contenuto e concluso prima che gran parte dell'Europa si svegliasse.

La regola che lo ha reso possibile

Nulla nel software di Telegram ha causato questo. Rileggete la frase di Apple: l'innesco è stato un contenuto pubblicato da un utente, e il rimedio è stato che lo sviluppatore rimuovesse quel contenuto e bannasse quell'account. L'app in sé non è mai stata il problema, e la soluzione non ha richiesto alcuna modifica di codice.

Le App Store Review Guidelines di Apple rendono tutto questo ordinario e non eccezionale. La linea guida 1.2 impone a ogni app con contenuti generati dagli utenti o funzioni sociali un metodo per filtrare il materiale offensivo, un meccanismo per segnalare contenuti offensivi con risposte tempestive, la possibilità di bloccare utenti abusivi e recapiti pubblicati. Poi colloca l'obbligo dove lo ha collocato l'incidente: "È vostra responsabilità rimuovere i contenuti che violano questa linea guida, i vostri termini di servizio o i vostri standard della comunità."

La conseguenza è scritta nello stesso paragrafo. Se Apple trova tali contenuti, chiederà allo sviluppatore di rimuoverli e di presentare un piano per migliorare la conformità e, in base a quella risposta, l'app può essere rimossa dall'App Store fino a quando i miglioramenti non siano dimostrati. Le condotte gravi o ripetute giustificano la rimozione immediata sia dall'App Store sia dall'Apple Developer Program. La linea guida 1.1.4, sul materiale apertamente sessuale, la affianca come motivo di rifiuto e rimozione.

La variabile che ha deciso la durata

Due app potrebbero ricevere lo stesso rilievo e avere martedì molto diversi. La linea guida lega l'esito alla risposta dello sviluppatore, e quella risposta è un problema operativo: trovare l'oggetto, rimuoverlo, identificare e bannare l'account, rispondere, fuori orario, a qualunque ora arrivi la revisione. Telegram ce l'ha fatta in una sola notte. Un'app il cui ingegnere di turno legge la mail alle nove del mattino dopo, no.

Questa è la parte che si generalizza ben oltre la messaggistica. Qualsiasi superficie in cui uno sconosciuto possa mettere byte nel vostro prodotto è, a questi fini, contenuto generato dagli utenti: un campo recensioni, una casella di commenti pubblica, una foto profilo, un documento condiviso, un allegato a un ticket di assistenza, una chat dentro un gioco. La maggior parte delle aziende che gestiscono una di queste cose non si considera titolare di una funzione di moderazione, e scopre il contrario la notte in cui conta.

In sostanza: nelle categorie di contenuto più serie, mettete in conto che la rimozione preceda la trattativa. Apple descrive una scala che inizia con una richiesta, ma si riserva anche la rimozione immediata per i casi gravi, e il materiale pedopornografico ne è l'esempio più chiaro. Ciò significa che il vostro tempo di ripristino, e non il vostro racconto sulla prevenzione, è il numero che governa la vostra esposizione.

Misurate il vostro numero questa settimana

Fate l'esercitazione invece di leggere la policy. Scegliete una superficie attiva con contenuti degli utenti, fate inviare a qualcuno una segnalazione su un elemento preciso alle tre di notte di una domenica e cronometrate quattro cose: quanto passa prima che un essere umano la veda, quanto prima che l'elemento sparisca, quanto prima che l'account sia bloccato e quanto prima che qualcuno possa rispondere al negozio dicendo che cosa è stato fatto. Quel tempo complessivo è il vostro rischio di distribuzione, espresso in ore. Tutto il resto della vostra documentazione su fiducia e sicurezza descrive intenzioni.

Due note strutturali su cui agire. Tenete il recapito pubblicato previsto dalla linea guida 1.2 presidiato da una reperibilità e non da una casella di posta di cui nessuno risponde, perché è il canale che un negozio userà. E verificate quali dei vostri canali di distribuzione sono indipendenti: il Mac App Store e Google Play hanno continuato a servire Telegram per tutto il tempo, ed è l'unico motivo per cui l'episodio è stato un fastidio per la maggior parte degli utenti anziché un blocco.

Da leggere ora: I servizi di Apple sono calati da un trimestre all'altro  |  Un tribunale toglie ai colossi il pulsante del rinvio