Donald Trump. Kanye West. Die weit rechts stehenden republikanischen Kongressabgeordneten Marjorie Taylor Greene. Drei prominente und umstrittene Personen, deren bislang gesperrte Konten Twitter-Chef Elon Musk entsperrt hat. Am Donnerstag ist er noch einen Schritt weiter gegangen. Musk hat nun eine generelle “Amnestie” für gesperrte Accounts angekündigt, nachdem in einer Twitter-Umfrage 72,4 Prozent der Teilnehmer dafür gestimmt hatten. Ab kommender Woche dürfen nun alle Accounts zurück, die nicht "das Gesetz gebrochen oder unerhört Spam verbreitet haben".
Weniger Moderation: Rassistische Inhalte nehmen zu
Experten für Onlinesicherheit rechnen damit, dass die Freischaltungen zu einer Zunahme von Belästigung, Hassreden und Falschinformationen auf Twitter führen werden. Schon in den vier Wochen seit der Übernahme der Plattform durch Musk haben rassistische, antisemitische und andere toxische Inhalte zugenommen. Auch, weil Musk große Teile der Belegschaft entlassen hat, darunter viele Mitarbeiter, die für die Inhaltsmoderation zuständig waren sowie fast alle Experten für Menschenrechte und Ethik.
- Zum Artikel: Deutsche Twitter-Mitarbeiter klagen gegen Kündigung
Musk setzt auf Meinungsfreiheit
Musk - ein selbst erklärter "Absolutist der Meinungsfreiheit" hat schon vor seiner Twitter-Übernahme mehrmals gesagt, dass er die Moderationsrichtlinien auf Twitter als viel zu streng erachtet und darin eine Zensur sieht. Am 18. November twitterte er, dass Meinungsfreiheit die neue Maßgabe für Twitter sei. Negative und Hass-Tweets sollten allerdings in ihrer Reichweite beschränkt werden. Man werde sie nur finden können, wenn man explizit danach suche. Der Würzburger IT-Anwalt Chan-jo Jun kündigte an, diesen Tweet vor Gericht gegen Twitter zu verwenden, da er beweise, dass "illegale Inhalte aufgrund Ihrer bewussten Entscheidung sichtbar bleiben".
Antisemitsmus-Beauftragter wehrt sich gegen Verleumdung
Jun vertritt den baden-württembergischen Beauftragten gegen Antisemitismus Michael Blume, der Twitter verklagt, Inhalte, die ihn verleumden, von der Plattform zu löschen und dafür zu sorgen, dass sie nicht wieder auftauchen. Analog soll das "Take down and stay down"-Prinzip für sinngleiche Inhalte gelten.
In dem Verfahren Blume vs. Twitter geht es indirekt auch um das Netzwerkdurchsetzungsgesetz (NetzDG). Das NetzDG ist ein deutsches Gesetz, mit dem die Verbreitung strafbarer und ehrverletzender Inhalte im Netz unterbunden werden soll.
Das NetzDG gilt für soziale Netzwerke, die in Deutschland mehr als zwei Millionen registrierte Nutzer haben. Darunter fällt offensichtlich auch Twitter, auch wenn das Unternehmen keine deutschen Nutzungszahlen nennt. Betroffene Nutzer können den Plattformen Inhalte melden, die ihrer Ansicht nach gegen einen der 22 im NetzDG aufgeführten Straftatbestände wie Volksverhetzung, Beleidigung oder Verleumdung verstoßen.
Twitter moderiert erst nach eigenen Regeln, dann nach dem NetzDG
Blume hat Twitter 46 solcher diffamierender Posts als Verstoß gegen das NetzDG gemeldet — Twitter hat aber nur drei davon entfernt. Und die auch nur, weil sie gegen die eigenen Regeln und Richtlinien verstoßen. Blume und sein Anwalt Jun bezweifeln, dass Twitter die gemeldeten Posts anschließend auch auf Verstöße gegen das NetzDG geprüft habe. Sie sind der Ansicht, dass das nur mit menschlicher Moderation geht, nicht aber mit automatischer Moderation. Sie sind der Überzeugung, dass Twitter gar nicht die Kapazitäten dafür habe - nach den jüngsten Entlassungsrunden eher noch weniger als zuvor.
Twitter klagt gegen Teile des NetzDG
Gegen die Entscheidung, dass 43 der 46 von ihm gemeldeten Tweets online bleiben, wollte Blume Einspruch einlegen. Das NetzDG sieht in §3b vor, dass Plattformen ein Einspruchsverfahren anbieten müssen. Doch Twitter klagte im Januar - also noch vor der Übernahme durch Elon Musk - gegen zwei Paragraphen des NetzDG, darunter §3b, das Verwaltungsgericht Köln hat diesen Fall noch nicht entschieden. So lange das Verfahren nicht abgeschlossen ist, muss Twitter keine staatlichen Sanktionen fürchten, weil es kein Einspruchsverfahren anbietet. Verstöße gegen das NetzDG können mit Bußgeldern bis zu fünf Millionen Euro geahndet werden. Im Oktober verhängte das Bundesamt für Justiz gegen Telegram zwei verschiedene Bußgeldbescheide in Höhe von zusammen 5,1 Millionen Euro.
Digitale-Dienste-Gesetz der EU geht weiter als das NetzDG
Allerdings stellt sich die Frage, welche praktische Bedeutung das NetzDG in Zukunft haben wird, denn faktisch wird es durch eine Art digitales Grundgesetz der EU abgelöst: Am 16. November ist der Digital Services Act (DSA), zu deutsch Digitale-Dienste-Gesetz in Kraft getreten.
Der DSA regelt auch die Frage der Moderation von Inhalten und enthält auch sinngemäß die wesentlichen Bestimmungen des NetzDG. So müssen Plattformen unter anderem
- Meldeverfahren für rechtswidrige Inhalte anbieten
- begründen, warum sie einen Inhalt gelöscht oder beschränkt haben (oder das nicht getan haben)
- Nutzern eine Beschwerdemöglichkeit gegen ihre Moderations-Entscheidungen geben
- potenziell strafrechtlich relevante Inhalte an die Strafverfolgungsbehörden der betreffenden Mitgliedstaaten melden.
Das sind fast alles Punkte, gegen die sich Twitter in Deutschland gerade sträubt bzw. klagt.
EU-Kommission wird sehr große Plattformen selbst beaufsichtigen
Für sehr große Online-Plattformen mit mehr als 45 Millionen monatlichen Nutzern in der EU gelten zusätzlich noch weitere Regeln: Sie müssen etwa den nationalen oder europäischen Aufsichtsbehörden Logik und Funktionsweise ihrer Algorithmen und Empfehlungssysteme erläutern. Außerdem müssen sie systemische Risiken, die durch die Nutzung ihrer Plattform entstehen können, ermitteln, analysieren und bewerten. Dazu zählen zum Beispiel die Verbreitung von Hassrede oder die vorsätzliche Manipulation von Wahlprozessen und öffentlichen Diskursen.
Die Aufsicht über sehr große Online-Plattformen hat die EU-Kommission selbst. Für kleinere Plattformen sind jeweils nationale Koordinatoren für digitale Dienste zuständig. Wer das in Deutschland sein wird, ist noch nicht geklärt, im Gespräch sind die Bundesnetzagentur und die Landesmedienanstalten.
Ist Twitter in der EU eine sehr große Plattform?
Die spannende Frage wird nun sein, ob Twitter als sehr große Plattform gilt oder nicht. Alle Online-Plattformen, also auch Twitter, müssen bis zum 17. Februar 2023 ihre Nutzerzahl veröffentlichen. Auf Grundlage dieser Zahlen entscheidet die EU-Kommission, wer als sehr große Online-Plattform eingestuft wird. Twitter hat nach eigenen Angaben 238 Millionen täglich aktive Nutzer weltweit, nach Ländern ist diese Zahl aber nicht aufgeschlüsselt. Die EU legt den Begriff aktiver Nutzer aber sehr weit aus: Dazu zählen nicht nur Personen, die einen Account haben, sondern auch User, die einen Tweet anklicken oder einfach nur sehen, etwa in Form eines Embeds. Unter diesen Voraussetzungen dürfte Twitter wahrscheinlich schon als sehr große Plattform eingestuft werden.
Breton: Der Vogel wird nach europäischen Regeln fliegen
Sehr große Online-Plattformen müssen schon ab Sommer 2023 die DSA-Regeln umsetzen, also auch die für Inhaltsmoderation. EU-Binnenmarkt-Kommissar Thierry Breton erwartet, dass dann der DSA für Nutzer schon erste sichtbare Erfolge zeigt, zum Beispiel einen gut sichtbaren Button, mit dem man illegale Inhalte melden kann. Als Elon Musk am 28. Oktober seine Twitter-Übernahme mit den Worten "der Vogel ist befreit" kommentierte, antwortete Breton: "In Europa wird der Vogel nach unseren europäischen Regeln" fliegen.
Hohe Strafen bei Verstößen
Der 17. Februar 2024 - der Tag, bis zu dem die Mitgliedsstaaten ihre Digitale-Dienste-Koordinatoren benennen müssen, markiert dann den vollständigen Geltungsbeginn des Digitale-Dienste-Gesetzes - und zwar für alle Online-Diensteanbieter in der EU. Spätestens dann wird Twitter unter den DSA fallen. Selbst wenn Twitter nur als "normale" Online-Plattform eingestuft werden sollte: Auch dann würden die oben genannten Regeln zur Inhaltsmoderation gelten. Für die Einhaltung wäre dann eben eine deutsche Aufsichtsbehörde zuständig.
Unabhängig von der Einstufung können bei Verstößen gegen das Digitale-Dienste-Gesetz Geldbußen von bis zu sechs Prozent des weltweiten Jahresumsatzes des betreffenden Unternehmens verhängt werden. Im Falle von Twitter wären das bei einem Umsatz von 5,08 Milliarden Dollar im vergangenen Jahr etwa 304 Millionen Dollar.
Das ist die Europäische Perspektive bei BR24.
"Hier ist Bayern": Der BR24 Newsletter informiert Sie immer montags bis freitags zum Feierabend über das Wichtigste vom Tag auf einen Blick – kompakt und direkt in Ihrem privaten Postfach. Hier geht’s zur Anmeldung!