Es sieht aus wie ein Video aus dem "heute journal". Moderator Christian Sievers begrüßt das Publikum und eröffnet die Sendung mit den Worten: "Wir beginnen heute mit einer Entwicklung, bei der es auf die Frage, was sie verändert hat, nur eine Antwort gibt: Alles. Wir schauen in eine Zukunft, die längst begonnen hat." So weit, so plausibel. Doch dann sagt Sievers etwas, was Nachrichtenmoderatoren eher nicht sagen: Er macht Werbung für eine KI-gestützte Anlageplattform, auf der man mit geringem Einsatz große Geldsummen verdienen könne.
Natürlich hat Sievers das nicht gesagt, jemand hat ihm diese Worte in den Mund gelegt. Der ZDF-Moderator weist auf X selbst auf den Fake hin: "Der Typ sieht aus wie ich, klingt (fast) wie ich. Aber ich bin es nicht wirklich… Echt nicht. Vorsicht, fiese Betrugs-Masche mit KI in soz. Medien."
Stimmen lassen sich klonen
Offensichtlich hat jemand Sievers' Stimme mithilfe von Künstlicher Intelligenz geklont. Dazu werden lediglich kurze Stimmsequenzen der zu klonenden Stimme benötigt. Bei Nachrichtensprechern wie Sievers ist das kein Problem. Das "heute journal" stellt seine Sendungen auf die ZDF-Website. Mit im Web verfügbaren Programmen wie ElevenLabs können Stimmen mit wenig Aufwand geklont werden: Man loggt sich auf der Seite des Anbieters ein, lädt eine Stimmprobe hoch und lässt sie das Programm analysieren. So entsteht binnen weniger Minuten ein künstlicher Stimmenklon.
Es reicht, einen Text einzugeben, den die geklonte Stimme dann "spricht". So wie die vermeintliche Geldanlage-Werbung der Stimme, die wie die von Christian Sievers klingt. Und diese geklonte Stimme wurde vermutlich als Tonspur in den originalen "heute journal"-Ausschnitt kopiert.
Auch Tagesschau-Sprecher betroffen
Im August war auch Tagesschau-Sprecher André Schünke etwas ganz Ähnliches passiert. Im Netz kursierte ein Video, in dem er angeblich Werbung für eine Geldanlage-Website macht, mit der man in kurzer Zeit viel Geld verdienen könne. Schünke bezeichnete das Video auf seinem Instagram-Kanal als "KI-Fake" und rief die Nutzer auf, es ihm und Meta zu melden.
Die Betreiber solcher Geldanlage-Websites versuchen offenbar, sich in diesen Deepfake-Videos die Bekanntheit und Seriosität von Nachrichtensprechern zunutze zu machen. Geklonte Stimmen werden auch von Kriminellen eingesetzt, die damit Schockanrufe durchführen, um Angehörige zu einer Geldzahlung zu veranlassen.
ZDF-Moderator Sievers hat das Deepfake-Video von sich offenbar auch bei sozialen Netzwerken gemeldet, ist aber von der Reaktion enttäuscht. Auf X schreibt er: "Schlimme neue Welt. Und von Facebook und Co: Nur Achselzucken."
- Zum Artikel: Kriminelle Klone: Betrug mit künstlichen Stimmen
Das ist die Europäische Perspektive bei BR24.
"Hier ist Bayern": Der BR24 Newsletter informiert Sie immer montags bis freitags zum Feierabend über das Wichtigste vom Tag auf einen Blick – kompakt und direkt in Ihrem privaten Postfach. Hier geht’s zur Anmeldung!