Zurück zur Startseite
Kultur
Zurück zur Startseite
Kultur

Deepfake - oder wie man Politiker zum Singen bringt | BR24

© BR

Donald Trump, Wladimir Putin und Hassan Ruhani - alle singen vereint in größter Harmonie die Friedenshymne "Imagine" von John Lennon. So scheint es zumindest. Aber das Video ist ein sogenannter Deepfake und dahinter stecken israelische IT-Tüftler.

Per Mail sharen
Teilen
  • Artikel mit Audio-Inhalten

Deepfake - oder wie man Politiker zum Singen bringt

Donald Trump, Wladimir Putin und Hassan Ruhani - alle singen die Friedenshymne "Imagine" von John Lennon. So scheint es zumindest. Aber das Video ist eine Fälschung, ein sogenannter Deepfake - dahinter stecken israelische IT-Tüftler.

Per Mail sharen
Teilen

Sogenannte Deepfakes, also gefälschte Videos von Personen werden immer realistischer. Genau wie bei dem Politiker-Chor, der in großer Harmonie "Imagine" von John Lennon singt, verhält es sich bei einem vermeintlichen Video von Mark Zuckerberg, das jüngst durchs Internet ging: Auf den ersten Blick wirkt es echt, Zuckerbergs Mimik und seine Lippenbewegungen scheinen real. Doch das sind sie nicht. Denn hinter dem Video – genauso wie beim "Imagine"-Fake - steckt die künstliche Intelligenz von "Canny AI".

Schlecht synchronisierte Serien als Auslöser

Dieses Unternehmen wurde von zwei israelischen IT-Spezialisten gegründet. Nach eigener Aussage geht es ihnen in erster Linie nicht darum, Fälschern von Videos zu helfen. Sondern die Macher von Canny AI ärgerten sich über schlecht synchronisierte Fernsehserien. Da passen der Ton und die Lippenbewegungen häufig nur leidlich zusammen. Canny AI will das ändern. Einer der Gründer, Omer Ben Ami, erklärte dem israelischen Fernsehsender "12":

"Wenn wir beispielsweise ein Video des Synchronsprechers nehmen und das zu synchronisierende Video, dann lernt unser System, die Gesichtszüge des Schauspielers mit den Gesichtszügen des Synchronsprechers zu verknüpfen." Omer Ben Ami

Einsparungen für die Werbe-Industrie

Ihre Methode könne Geld sparen, schreiben die Macher von Canny AI auf ihrer Webseite. So müsse ein Werbevideo nicht neu produziert werden, wenn es in eine andere Sprache übersetzt wird: Die Lippenbewegungen in der Werbung werden vom Computer einfach neu berechnet.

"Jeder kann alles fälschen"

Canny AI ist ein typisch israelisches Startup: Die beiden Firmengründer lernten ihr IT-Handwerk in Spezialeinheiten der israelischen Armee. Geld verdienen wollen die Israelis mit seriösen Kunden. Nicht mit Deepfake-Videos. Die Menschen sollten wissen, wenn ein Video manipuliert wurde, sagte Omer Ben Ami der Washington Post. Ein Gedanke, den sein Kollege Jonathan Heimann im israelischen Fernsehen unterstreicht:

"Für die Zukunft ist es wichtig, darauf zu achten, wer den Inhalt veröffentlicht. Denn auf einmal kann jeder alles fälschen. Man muss sich bewusst sein, dass es jetzt auch bei Videos so sein kann." Jonathan Heimann

Nur Zuckerbergs Stimme fehlte zur Perfektion

Für das Deepfake-Video mit dem angeblichen Mark Zuckerberg analysierten die Macher von Canny AI ein echtes Video des Facebook-Chefs. Mehrere Stunden lang verglich ein Computer das echte Video mit den Lippenbewegungen eines Schauspielers.

Das Ergebnis ist fast perfekt. Aber eben nur fast. Vor allem die Stimme klingt etwas anders als vom echten Zuckerberg. Mit der Stimme, so Canny AI gegenüber der Washington Post, habe man sich nicht beschäftigt. Weil es den Israelis um Aufklärung geht, haben sie nichts dagegen, dass ihr Fake aufgeflogen ist.

💡 Was sind Deepfakes - und sind sie gefährlich?

Deepfake nennt man die Technik, mit Hilfe von Künstlicher Intelligenz täuschend echt wirkende Bilder oder Videos herzustellen, die nicht wirklich echt sind. Dieses Verfahren kann zum Beispiel für satirische Zwecke eingesetzt werden - die Grenze zu Manipulation und Fake-News ist aber oft schwer zu ziehen. So erregte im April 2018 ein Deepfake-Video des US-Kabarettisten Jordan Peele Aufsehen, in dem er Barack Obama vor den Gefahren manipulierter Videos warnen und seinen Nachfolger Donald Trump als "absoluten Vollidioten" bezeichnen ließ. Einen Deepfake anzufertigen, ist heute nicht mehr schwer. Man braucht nur einen PC mit leistungsstarker Grafikkarte und eine Software, die es umsonst im Internet gibt. (Erklärt von der BR24-Redaktion)