Quatro horas na noite de segunda-feira

Ao fim da segunda-feira, 3 de agosto, o Telegram deixou de aparecer na pesquisa da App Store. Utilizadores de vários países verificaram que já não conseguiam descarregá-lo no iPhone ou no iPad. A Mac App Store não foi afectada. O Google Play também não. Os relatos de descargas falhadas começaram a chegar pouco depois das 01:00 GMT, e por volta das 23:00 da costa leste dos Estados Unidos a app estava de volta.

A Apple deu a razão oficialmente. "Retirámos brevemente o Telegram da App Store depois de a nossa revisão ter encontrado conteúdo que viola as nossas directrizes rigorosas que proíbem material de abuso sexual de crianças", afirmou a empresa. "A app foi posteriormente reposta depois de o programador ter removido prontamente o conteúdo e banido o utilizador que o publicou." O Telegram confirmou o desfecho por palavras suas: "O Telegram foi reposto na App Store e deverá em breve estar de novo disponível para todos os utilizadores." Não comentou a causa e assinalou o regresso no X com uma linha sobre serem exageradas as notícias do seu fim.

Não foi a primeira vez. O Telegram já tinha sido retirado em 2018 por conteúdo inadequado, no Brasil em 2023 na sequência de pedidos de informação, e na China em 2024 por ordem regulatória. O que distingue este caso é ter sido global, desencadeado por conteúdo e resolvido antes de a maior parte da Europa acordar.

A regra que o tornou possível

Nada no software do Telegram causou isto. Releia a frase da Apple: o gatilho foi conteúdo publicado por um utilizador, e a solução foi o programador remover esse conteúdo e banir essa conta. A app em si nunca foi o problema, e a correcção não exigiu qualquer alteração de código.

As App Store Review Guidelines da Apple tornam isso regra e não excepção. A directriz 1.2 exige a qualquer app com conteúdo gerado por utilizadores ou funções sociais um método para filtrar material ofensivo, um mecanismo para denunciar conteúdo ofensivo com respostas atempadas, a capacidade de bloquear utilizadores abusivos e contactos publicados. Depois coloca a obrigação onde o incidente a colocou: "É da sua responsabilidade remover conteúdo que viole esta directriz, os seus termos de serviço ou as suas normas de comunidade."

A consequência está escrita no mesmo parágrafo. Se a Apple encontrar esse conteúdo, pedirá ao programador que o remova e que apresente um plano para melhorar o cumprimento e, consoante essa resposta, a app pode ser retirada da App Store até se demonstrarem melhorias. Comportamentos graves ou repetidos são fundamento para remoção imediata tanto da App Store como do Apple Developer Program. A directriz 1.1.4, sobre material abertamente sexual, acompanha-a como fundamento de rejeição e remoção.

A variável que decidiu a duração

Duas apps podiam receber a mesma constatação e ter terças-feiras muito diferentes. A directriz liga o desfecho à resposta do programador, e essa resposta é um problema operacional: encontrar o objecto, removê-lo, identificar e banir a conta e responder, fora de horas, à hora a que a revisão chegar. O Telegram conseguiu-o numa única noite. Uma app cujo engenheiro de piquete vê o email às nove da manhã seguinte, não.

É esta a parte que se generaliza muito para lá das mensagens. Qualquer superfície onde um desconhecido possa colocar bytes no seu produto é, para este efeito, conteúdo gerado por utilizadores: um campo de avaliações, uma caixa de comentários pública, uma fotografia de perfil, um documento partilhado, um anexo num pedido de apoio, uma conversa dentro de um jogo. A maioria das empresas que opera uma destas coisas não se vê a exercer uma função de moderação, e descobre o contrário na noite em que isso conta.

Em resumo: nas categorias de conteúdo mais sérias, conte com a remoção a preceder a negociação. A Apple descreve uma escada que começa com um pedido, mas reserva também a remoção imediata para casos graves, e o material de abuso sexual de crianças é o exemplo mais claro. Isso significa que o seu tempo de reposição, e não a sua narrativa de prevenção, é o número que governa a sua exposição.

Meça o seu próprio número esta semana

Faça o exercício em vez de ler a política. Escolha uma superfície viva com conteúdo de utilizadores, peça a alguém que apresente uma denúncia sobre um item concreto às três da manhã de um domingo, e cronometre quatro coisas: quanto tempo até um humano a ver, quanto até o item desaparecer, quanto até a conta ser bloqueada, e quanto até alguém poder responder à loja com o que foi feito. Esse tempo total é o seu risco de distribuição, expresso em horas. Todo o resto da sua documentação de confiança e segurança descreve intenções.

Duas notas estruturais sobre as quais agir. Mantenha a via de contacto publicada da directriz 1.2 vigiada por uma escala de piquete e não por uma caixa de correio de que ninguém é dono, porque é o canal que uma loja vai usar. E confirme quais dos seus canais de distribuição são independentes: a Mac App Store e o Google Play continuaram a servir o Telegram todo o tempo, e só por isso o incidente foi um incómodo para a maioria dos utilizadores em vez de uma paragem.

Leia a seguir: Os serviços da Apple caíram de um trimestre para o outro  |  Um tribunal retira às grandes tecnológicas o botão de adiar