Vier Stunden in der Montagnacht

Spät am Montag, dem 3. August, tauchte Telegram nicht mehr in der App-Store-Suche auf. Nutzer in mehreren Ländern konnten die App auf iPhone und iPad nicht mehr laden. Der Mac App Store war nicht betroffen. Google Play war nicht betroffen. Meldungen über fehlgeschlagene Downloads trafen kurz nach 01:00 Uhr GMT ein, und gegen 23:00 Uhr Ostküstenzeit war die App wieder da.

Apple nannte den Grund offiziell. "Wir haben Telegram kurzzeitig aus dem App Store entfernt, nachdem unsere Prüfung Inhalte gefunden hatte, die gegen unsere strengen Richtlinien zum Verbot von Material über sexuellen Kindesmissbrauch verstoßen", teilte das Unternehmen mit. "Die App wurde anschließend wiederhergestellt, nachdem der Entwickler die Inhalte umgehend entfernt und den Nutzer gesperrt hatte, der sie gepostet hatte." Telegram bestätigte das Ergebnis mit eigenen Worten: "Telegram ist im App Store wiederhergestellt und sollte bald wieder für alle Nutzer verfügbar sein." Zur Ursache äußerte sich das Unternehmen nicht und kommentierte die Rückkehr auf X mit dem Hinweis, Berichte über sein Ableben seien übertrieben.

Es war nicht das erste Mal. Telegram wurde bereits 2018 wegen unangemessener Inhalte entfernt, 2023 in Brasilien wegen Auskunftsersuchen und 2024 in China auf behördliche Anordnung. Dieser Fall unterscheidet sich dadurch, dass er global war, durch Inhalte ausgelöst wurde und vorüber war, bevor der größte Teil Europas aufwachte.

Die Regel, die das möglich machte

Nichts an Telegrams Software verursachte das. Lesen Sie Apples Satz noch einmal: Auslöser war ein von einem Nutzer geposteter Inhalt, und Abhilfe war die Entfernung dieses Inhalts und die Sperrung dieses Kontos durch den Entwickler. Die App selbst war nie das Problem, und die Behebung erforderte keinerlei Codeänderung.

Apples App Store Review Guidelines machen daraus einen Regelfall und keine Ausnahme. Richtlinie 1.2 verlangt von jeder App mit nutzergenerierten Inhalten oder sozialen Funktionen eine Methode zum Filtern anstößigen Materials, einen Meldeweg für anstößige Inhalte samt zeitnaher Reaktion, die Möglichkeit, missbräuchliche Nutzer zu sperren, und veröffentlichte Kontaktdaten. Dann legt sie die Pflicht dorthin, wo der Vorfall sie hinlegte: "Es liegt in Ihrer Verantwortung, Inhalte zu entfernen, die gegen diese Richtlinie, Ihre Nutzungsbedingungen oder Ihre Community-Standards verstoßen."

Die Folge steht im selben Absatz. Findet Apple solche Inhalte, fordert es den Entwickler zur Entfernung und zur Vorlage eines Plans zur Verbesserung der Einhaltung auf, und je nach Antwort kann die App aus dem App Store entfernt werden, bis Verbesserungen nachgewiesen sind. Grobe oder wiederholte Verstöße rechtfertigen die sofortige Entfernung aus App Store und Apple Developer Program. Richtlinie 1.1.4 zu offen sexuellem Material steht daneben als Grund für Ablehnung und Entfernung.

Die Größe, die über die Dauer entschied

Zwei Apps könnten denselben Befund erhalten und sehr unterschiedliche Dienstage erleben. Die Richtlinie knüpft das Ergebnis an die Reaktion des Entwicklers, und diese Reaktion ist ein Betriebsproblem: das Objekt finden, es entfernen, das Konto identifizieren und sperren, zurückmelden, außerhalb der Geschäftszeiten, zu welcher Stunde die Prüfung auch eintrifft. Telegram schaffte das in einer einzigen Nacht. Eine App, deren Bereitschaftsingenieur die Mail am nächsten Morgen um neun sieht, schafft das nicht.

Genau das lässt sich weit über Messenger hinaus verallgemeinern. Jede Fläche, auf der ein Fremder Bytes in Ihr Produkt legen kann, ist in diesem Sinne nutzergenerierter Inhalt: ein Bewertungsfeld, ein öffentliches Kommentarfeld, ein Profilbild, ein geteiltes Dokument, ein Anhang an einem Support-Ticket, ein Chat in einem Spiel. Die meisten Unternehmen, die so etwas betreiben, halten sich nicht für Betreiber einer Moderationsfunktion und lernen in der entscheidenden Nacht das Gegenteil.

Unterm Strich: Rechnen Sie bei den schwersten Inhaltskategorien damit, dass die Entfernung vor der Verhandlung kommt. Apple beschreibt eine Stufenleiter, die mit einer Aufforderung beginnt, behält sich aber die sofortige Entfernung für grobe Fälle vor, und Material über sexuellen Kindesmissbrauch ist das klarste Beispiel dafür. Damit ist Ihre Wiederherstellungszeit und nicht Ihre Präventionserzählung die Zahl, die Ihr Risiko bestimmt.

Messen Sie diese Woche Ihre eigene Zahl

Machen Sie die Übung, statt die Richtlinie zu lesen. Wählen Sie eine aktive Fläche mit Nutzerinhalten, lassen Sie jemanden sonntags um drei Uhr morgens eine Meldung zu einem konkreten Objekt absetzen, und stoppen Sie vier Zeiten: bis ein Mensch sie sieht, bis das Objekt weg ist, bis das Konto gesperrt ist und bis jemand dem Store antworten kann, was getan wurde. Diese Gesamtzeit ist Ihr Vertriebsrisiko, in Stunden ausgedrückt. Alles Übrige in Ihrer Trust-and-Safety-Dokumentation beschreibt Absichten.

Zwei strukturelle Punkte lohnen die Umsetzung. Lassen Sie den in Richtlinie 1.2 veröffentlichten Kontaktweg von einer Rufbereitschaft überwachen und nicht von einem Postfach, für das sich niemand zuständig fühlt, denn das ist der Kanal, den ein Store nutzt. Und prüfen Sie, welche Ihrer Vertriebswege wirklich unabhängig sind: Der Mac App Store und Google Play lieferten Telegram durchgehend aus, und nur deshalb war der Vorfall für die meisten Nutzer eine Unannehmlichkeit statt eines Ausfalls.

Weiterlesen: Apples Services-Umsatz schrumpfte zum Vorquartal  |  Ein Gericht nimmt Big Tech den Verzögerungsknopf