Telegram ist in dieser Woche kurzzeitig aus dem App Store verschwunden. Firmenchef Pawel Durow hat nun öffentlich erklärt, was aus seiner Sicht dahintersteckt.
Kurzes Verschwinden aus dem App Store
Telegram-Gründer Pawel Durow hat sich in sozialen Netzwerken zu den Umständen der kurzfristigen Entfernung der App aus dem App Store geäußert. Er erklärte, der Dienst sei von einer Person ins Visier genommen worden, die er als „Lösch-Erpresser“ bezeichnet. In einem ausführlichen Beitrag auf X schilderte Durow, wie ein mutmaßlich böswilliger Akteur vorgegangen sein soll. Dieser habe eine ältere Nachricht in einem weiterhin aktiven Gruppenchat nachträglich bearbeitet, um dort „KI-veränderte illegale Inhalte“ einzufügen.
Sie sehen gerade einen Platzhalterinhalt von Standard. Um auf den eigentlichen Inhalt zuzugreifen, klicken Sie auf den Button unten. Bitte beachten Sie, dass dabei Daten an Drittanbieter weitergegeben werden.
Laut Durow waren diese Inhalte für die übrigen Gruppenmitglieder nicht sichtbar und wurden daher auch nicht gemeldet. Erst so sei die Grundlage für einen Erpressungsversuch geschaffen worden. Ziel sei gewesen, Telegram zu Zahlungen zu bewegen, um weitere Schritte zu verhindern. Demnach habe die Person angekündigt, mit einer großen Anzahl automatisierter Konten genau diesen eigenen Beitrag bei Apple zu melden, falls das Unternehmen kein Geld zahle. So sollte offenbar Druck aufgebaut werden, indem Apple zu einer Reaktion veranlasst wird.
Vorwurf: Überreaktion von Apple
Durow wirft Apple in seinem Beitrag vor, sich von diesem Vorgehen beeinflussen zu lassen. „Erpresser:innen haben einen Weg gefunden, Apple zu einer Überreaktion zu verleiten“, schreibt er. Apple habe Telegram aus dem App Store entfernt, bevor das Unternehmen überhaupt kontaktiert worden sei. Aus Durows Sicht entsteht dadurch ein grundsätzliches Risiko für alle mobilen Apps, die Inhalte von Benutzer:innen hosten. Wenn einzelne Meldungen ohne vorherige Rücksprache zu solch drastischen Schritten führen, könnten ähnliche Angriffe auch andere Plattformen treffen.
Durow spricht in diesem Zusammenhang von einem „potenziellen systemischen Risiko“ für alle Plattformen mit nutzergenerierten Inhalten. Der Fall Telegram versteht er damit als Beispiel für ein breiteres Problem. Nach seiner Darstellung reicht es, wenn ein einzelner böswilliger Akteur Inhalte manipuliert und anschließend massenhaft Meldungen auslöst, um Konsequenzen in den App-Marktplätzen anzustoßen.
Alte Debatte, neue Werkzeuge
Die Frage, wer für nutzergenerierte Inhalte verantwortlich ist, beschäftigt soziale Netzwerke und Plattformbetreiber:innen seit Jahren. Immer wieder geht es darum, wie weit die Pflichten von Diensten reichen, illegale oder problematische Inhalte zu verhindern oder zu entfernen. Telegram und Durow standen selbst bereits mehrfach im Fokus solcher Diskussionen. Die aktuellen Vorwürfe knüpfen somit an eine bekannte Debatte an.
Neu ist vor allem, dass laut Durow Werkzeuge mit Künstlicher Intelligenz das Vorgehen von Erpresser:innen erleichtern können. Zwischen Video- und Bildbearbeitung in Chatbots und der Geschwindigkeit, mit der sogenannte Aufgaben-Agenten heute arbeiten, sei es einfacher geworden, entsprechende Inhalte zu erzeugen und zu verbreiten. Die Kombination aus KI-gestützter Bearbeitung, nachträglicher Änderung älterer Nachrichten und automatisierten Meldungen könnte Angriffe dieser Art begünstigen. Durow stellt den jüngsten Vorfall daher in einen größeren Zusammenhang technischer Entwicklungen, ohne über diesen konkreten Fall hinaus ins Detail zu gehen.
