BR24 Logo
BR24 Logo
Netzwelt

Terror live im Netz: Lassen sich die Terror-Shows stoppen? | BR24

© pa/dpa

Experten fordern, dass klassische und neue Medien die Täter von Terrorattacken und Amokläufen nicht berühmt machen sollten.

10
Per Mail sharen
Teilen
  • Artikel mit Audio-Inhalten

Terror live im Netz: Lassen sich die Terror-Shows stoppen?

Livestreams und Videos von rechtsradikalen, aber auch islamistischen Terroristen zeigen: Extremisten wie der mutmaßliche Täter von Halle wollen oft nicht nur töten, sondern auch Aufmerksamkeit erregen. Lassen sich solche Inszenierungen verhindern?

10
Per Mail sharen
Teilen

Fünf Zuschauer. Mehr waren nicht dabei, als ein mutmaßlich rechtsextremer Terrorist am jüdischen Jom-Kippur-Feiertag eine Synagoge in Halle stürmen wollte, an der Tür scheiterte und dann zwei Menschen im Umfeld des Gotteshauses und eines Döner-Ladens erschoss.

Der mutmaßliche Schütze hatte seine Tat über das Portal Twitch etwa 35 Minuten lang live ins Internet übertragen. Während dem Angriff sahen nur wenige Menschen zu, wie Twitch via Twitter bekannt gab. Im Anschluss sahen noch rund 2.200 Nutzer das abgeschlossene Video, ehe es von der Website gelöscht wurde. Weitere Versionen wurden aber wohl über Messaging-Dienste verbreitet, wie die Online-Extremismus-Expertin Megan Squire in einer ersten Analyse anmerkte.

Schnell werden Erinnerungen an den Terrorangriff im neuseeländischen Christchurch im März 2019 wach, wo ein Rechtsterrorist 51 Menschen in einer Moschee erschoss. Er streamte seine Tat live auf Facebook und erreichte Millionen von Menschen, nicht zuletzt, weil das abgeschlossene Video nach der Tat immer wieder neu auf Plattformen wie Facebook, Youtube und Co. geladen wurde.

Auch der sogenannte Islamische Staat sorgte in den vergangenen Jahren immer wieder mit Videos von Enthauptungen und ähnlichen Gewaltakten für Aufsehen. Alle genannten Terroristen erreichten damit letztlich eines ihrer Hauptziele: Aufmerksamkeit für sich und ihre Weltsicht.

Initiative will Nachahmertaten verhindern

In den USA kämpft die "Don’t name them"-Initiative (deutsch: "Sagt nicht, wie sie heißen") der Texas State University gemeinsam mit dem FBI schon seit einigen Jahren dagegen, dass Amokläufern und Terroristen mediales Interesse zu Teil wird. Nicht zuletzt, weil dies potentielle Nachahmer motivieren könne und den Tätern ihren Wunsch nach Aufmerksamkeit erfülle. Dass es auch den Terroristen von Halle und Christchurch nicht zuletzt um solche Aufmerksamkeit ging, zeigen auch ihre mutmaßlichen Manifeste.

Ein Täter braucht heute nicht mehr zwingend Zeitungen und Fernsehsender, um berühmt zu werden. Er kann einfach selbst zum TV-Sender werden, indem er seine Tat – wie in Halle geschehen – einfach selbst live übertragt. Selbst wenn nicht viele Menschen zeitgleich zusehen, bleibt der fertige Stream auf Plattformen wie Facebook oder eben Twitch als Video abrufbar und lässt sich weiterverbreiten, herunterladen und immer wieder neu uploaden.

Facebook: Live-Videos überfordern die Technik

Genau das macht den Kampf gegen Aufmerksamkeit für Terroristen zu einer so schwierigen Angelegenheit. Denn Plattformen wie Facebook, Youtube oder Twitch scheinen aktuell nicht in der Lage, die riesige Menge an Inhalten, die sekündlich auf ihre Server trifft, effektiv zu scannen, zu moderieren und gegebenenfalls zu löschen.

So ließ Facebooks Chef-Wissenschaftler für Künstliche Intelligenz, Yann LeCun, nach der Terrorattacke in Christchurch wissen, man sei noch weit davon entfernt, dieses Problem zu lösen. Das Kontrollieren von Live-Übertragungen stelle die technischen Systeme vor unzählige Probleme. Unter anderem die Kombination von Ton und Bild, aber auch fehlendes Übungsmaterial für die Künstliche Intelligenz erschwere die Moderation von Live-Inhalten.

Das bestätigt auch Matthias Nießner, der sich als Professor an der TU München mit Visual Computing und Maschinenlernen auseinandersetzt, gegenüber BR24. Technische Lösungen für das Kontrollieren von Videos seien sehr aufwändig, da es schwierig sei und um große Datenmengen gehe. Dafür brauche es viel Know-How und es gebe nur wenige Experten. Daher ist man auch bei Facebook weiter auf menschliche Prüfer angewiesen. Die müssen jedoch erst einmal auf die problematischen Live-Videos in der unüberschaubaren Menge an Inhalten aufmerksam werden.

Pauschaler Bann von Terrorvideos oft schwierig

Hinzu kommen Probleme dabei, zu verhindern, dass ein abgeschlossener Live-Stream als Video im Netz verbreitet wird. In Konkurrenz stehende Firmen wie Youtube, Facebook, Snap oder Reddit arbeiten im "Global Internet Forum to Counter Terrorism" zusammen, um ein Überschwappen problematischer Inhalte auf mehrere Plattformen zu verhindern. Dort werden die Videos und ihre speziellen, möglichst einzigartigen und technischen Merkmale geteilt, um die Probleminhalte leichter identifizierbar zu machen. Doch es bleiben Hürden.

Auch klassische Medien sind Teil des Problems

Wie das Technik-Portal "Wired" angesichts der Tat in Neuseeland berichtete, liegt dies durchaus auch an traditionellen Medien. Da diese – teils berechtigterweise – Ausschnitte aus den Videos der Täter zeigen, ist ein konsequentes Löschen der Videos schwierig. Websites wie Facebook oder Youtube würden immer Gefahr laufen, versehentlich Beiträge zu löschen, in denen das problematische Material journalistisch eingeordnet wird.

Ein weiteres Problem für das Löschen ist laut "Wired" die schiere Größe von Diensten wie Twitch oder Youtube. Sekündlich werden dort enorme Datenmengen hochgeladen. Zu viel, um einen Gegencheck aller Inhalte effektiv zu ermöglichen. Doch auch die vermeintlich einfache Lösung dieser Problematik, ein weltweiter Upload-Stopp in der Zeit nach Terrorattacken, ist nicht ohne Gegenargument. Schließlich werden soziale Medien auch genutzt, um auf soziale Probleme oder Unrecht aufmerksam zu machen. Wer dies tun möchte, würde durch einen Bann zumindest für einige Zeit davon abgehalten.

Technisch versierte Nutzer können Sperren umgehen

Selbst wenn die Plattform-Betreiber zu Schritten wie Upload-Stopps oder radikalem Löschen, auch von Medien-Beiträgen, bereit wären, bleiben jedoch auch diese letztlich wohl wirkungslos, wenn Nutzer etwas um jeden Preis weiterverbreiten will. So weist Patrick Beuth bei "Spiegel Online" darauf hin, dass technisch versierte Nutzer die Videos letztlich wohl so bearbeiten könnten, dass selbst eine sehr intelligente Künstliche Intelligenz sie beim Upload übersehen würde. Im Fall von Christchurch sei dies bei Facebook bereits geschehen.

Im Zweifel bleiben fest entschlossenen Nutzern zudem ohnehin noch Plattformen wie 4chan , die auch höchst problematische Inhalte zulassen und quasi keine Kontrolle betreiben. Wer ein Video mit aller Macht verbreiten will, wird dies wohl auch in digitalen Zeiten irgendwie, irgendwo, irgendwann schaffen.

Eine rein technische Lösung für die Problematik der Live-Terrorshows scheint zumindest erst einmal nicht in Sicht. Dennoch birgt sie laut Professor Nießner die größte Hoffnung für die Zukunft: "Es ist völlig undenkbar, dass man Milliarden von Videos und Bildern, die pro Tag hochgeladen werden, noch alle von Menschenhand analysieren kann. Das heißt: Machine Learning, KI und die entsprechende Automatisierung sind eigentlich die einzige Chance so etwas in den Griff zu bekommen."