Bayern 2 - Zündfunk


5

#failoftheweek Warum die Deep Fake-Panik gefährlicher ist, als die Deep Fakes selbst

Deep Fakes schaden der Demokratie! Deep Fakes führen dazu, dass wir unseren eigenen Augen nicht trauen können! Deep Fakes sind wie Photoshop – nur schlimmer! Seit Jahren sorgen Deep Fakes für Panik bei Feuilletonisten und Fake News-Bekämpfer*innen. Doch die Deep Fake-Panik ist am Ende ein größeres Problem, als die Deep Fakes selbst, kommentiert Christian Schiffer.

Von: Christian Schiffer

Stand: 07.05.2021

Screenshot von einem Obama-Deep Fake | Bild: Youtube Screenshot

Die Neujahrsansprache des gabunischen Staatsoberhaupts Ali Bongo im Jahr 2019. Es ist eine Ansprache, die überraschend kommt, denn der autokratisch regierende Präsident ist zuvor längere Zeit nicht mehr gesehen worden. Gerüchte machen die Runde, er sei vielleicht sogar gar nicht mehr am Leben. Mit dem Video möchte Bongo ein Zeichen setzen: Hey! Ich bin pumperlgsund, gehen Sie bitte weiter, hier gibt es nichts zu sehen! Doch leider blickt der damals 59-jährige bei seiner Ansprache etwas merkwürdig in die Kamera. Sein Blick ist starr, er blinzelt selten, die Gesichtszüge wirken so, als wären sie mit Unmengen von Botox einbetoniert worden.

YouTube-Vorschau - es werden keine Daten von YouTube geladen.

Le président gabonais Ali Bongo, mort ou vivant ?  Vidéo deepfake ? | Bild: FINANCES AFRICA (via YouTube)

Le président gabonais Ali Bongo, mort ou vivant ? Vidéo deepfake ?

Und so kommt  einer Gruppe von Militärs ein Verdacht: Was, wenn es gar nicht der Präsident ist, der da zu uns spricht, sondern ein digitales Abbild des Präsidenten, das mit Hilfe von künstlicher Intelligenz hergestellt wurde? Sie glauben, die Neujahrsansprache ist ein sogenannter Deep Fake und Ali Bongo in Wirklichkeit tot oder zumindest schwer krank. Einen besseren Moment für einen Staatsstreich gibt es doch gar nicht! Also putschen sie und besetzten kurzerhand den Rundfunk.

YouTube-Vorschau - es werden keine Daten von YouTube geladen.

Gabon: soldiers announce a coup attempt on state television | Bild: Guardian News (via YouTube)

Gabon: soldiers announce a coup attempt on state television

Der Putsch bricht wenig später in sich zusammen und doch zeigt das Beispiel Gabun die Gefahr auf, die von Deep Fakes ausgeht. Oder genauer: Der Putsch in Gabun zeigt die Gefahr auf, die von Deep Fakes wirklich ausgeht.

Die Photoshopisierung der Welt

Denn wenn es um Deep Fakes geht, geht es eigentlich immer darum, dass bewegte Bilder mit Hilfe der Deep Fake-Technologie so manipuliert werden, dass sie etwas zeigen, das eigentlich gar nicht passiert ist, etwa einen Barack Obama, der böse Dinge über Donald Trump sagt. Die Photoshopisierung der Welt drohe und die Deep Fake-Technologie sei ein Geschenk für jeden, der Fake News in die Welt setzten wolle, heißt es dann gerne.

YouTube-Vorschau - es werden keine Daten von YouTube geladen.

You Won’t Believe What Obama Says In This Video! 😉 | Bild: BuzzFeedVideo (via YouTube)

You Won’t Believe What Obama Says In This Video! 😉

Doch was, wenn es genau umgekehrt ist? Was, wenn es gar nicht der noch ziemlich aufwändige und seltene Deep Fake ist, von dem die Gefahr ausgeht, sondern die Angst vor der bloßen Möglichkeit eines Deep Fakes viel gefährlicher ist? Die meisten Experten zumindest gehen davon aus, dass die Fernsehansprache von Ali Bongo damals nicht manipuliert war. Und seitdem geraten immer häufiger reale Bilder oder Videos unter Deep Fake-Verdacht.

Zwei Youtuber und ein bisschen Schminke

Diese Woche erst sollen niederländische Politiker in einer Videokonferenz auf einen Deep Fake hereingefallen sein, der einen Vertrauten des russischen Oppositionellen Alexej Nawalny zeigen sollte. Doch dann stellt sich heraus: Die Politiker*innen waren auf keinen Deep Fake hereingefallen, sondern auf zwei Youtuber und ein bisschen Schminke.

YouTube-Vorschau - es werden keine Daten von YouTube geladen.

Дипфейк Шоу #1: Видео-пранк с Верховной Радой и Слугой Народа | Bild: Vovan222prank (via YouTube)

Дипфейк Шоу #1: Видео-пранк с Верховной Радой и Слугой Народа

Kurz vorher machte schon die Geschichte einer US-amerikanischen Mutter die Runde, die mit Hilfe der Deep Fake-Technologie Videos von Cheerleader-Konkurrentinnen ihrer Tochter erstellt haben soll, die diese unter anderem beim Rauchen zeigen. Deep Fake-Expert*innen vermuten allerdings, dass die Videos wohl echt sind, trotzdem steht die Mutter nun als dreiste Videomanipulatorin am Pranger. In Malaysia wiederum gestand ein Politiker in einem Video eine homosexuelle Affäre und erklärte später, das Ganze sei ein manipuliertes Deep Fake-Video gewesen. Es kann also auch gut sein, wenn man bestimmte Dinge unter Deep Fake-Verdacht stellen kann.

Es mag sein, dass Deep Fakes irgendwann so perfekt sind, dass von ihnen eine Gefahr für die Demokratie ausgeht. Nur muss eine Manipulation gar nicht perfekt sein, damit sie geglaubt wird. Es glauben beispielsweise genügend Menschen an amateurhaft gephotoshoppte Bilder, wenn sie nur ihre Vorurteile gegenüber Flüchtlingen bedienen. Und zweitens werden in der Zukunft nicht nur die Deep Fakes besser werden, sondern auch die Möglichkeiten, diese zu enttarnen. Stand heute aber spricht vieles dafür, dass die Deep Fake-Panik die Demokratie gerade mehr gefährdet, als die Deep Fakes selbst.


5