Viel wissen wir noch nicht über das Jahr 2024, aber eines ist klar: Das Superwahljahr wird für viel Gesprächsstoff sorgen. Im Sommer wird das Europäische Parlament gewählt, im Herbst die Landtage in Sachsen, Thüringen und Brandenburg und im November schließlich der Präsident der Vereinigten Staaten.
Fortschritte im Bereich von KI-generierten Fake-Aufnahmen sorgen jetzt für Unruhe: Könnte 2024 nicht nur das Jahr der Wahlen, sondern auch das Jahr der Fakes werden?
Falscher Biden ruft an
Anlass zur Sorge gab zuletzt eine Meldung aus New Hampshire, wo diese Woche wichtige Vorwahlen der beiden großen US-amerikanischen Parteien stattfanden. Kurz vor der Wahl waren zahlreiche Wähler von einem automatischen Anruf, einem sogenannten "Robo-Call", erreicht worden. Darin war eine Aufnahme von US-Präsident Joe Biden zu hören, der die Bürger des Staates dazu aufforderte, nicht an den Vorwahlen teilzunehmen.
Nur: Diese Worte hatte Biden nie gesagt. Obwohl die Stimme dem Präsidenten zum Verwechseln ähnlich klang, handelte es sich dabei um einen KI-generierten Fake. Gefälschte Stimmen als Werkzeug in der Wahlkampfmanipulation.
Fakes sind oft nicht mehr von der Realität zu unterscheiden
Es ist nun zehn Monate her, dass viele Nutzer auf Social Media von einem KI-generierten Bild des Papstes getäuscht wurden, in welchem Franziskus in einem langen Daunenmantel unterwegs ist. Seitdem hat sich die Technologie weiter verbessert. Auch Details wie Hände und Schatten werden in den KI-Fakes mittlerweile realistisch dargestellt – ein bloßes Hinsehen genügt oft nicht zum Entlarven der Fälschung.
Ebenso sind Video- und Audio-Fälschungen von der Realität kaum noch zu unterscheiden, auch Olaf Scholz war im November Opfer eines überzeugenden Deepfakes geworden. Kenner und Faktenchecker entdecken oft noch Ungereimtheiten in den Aufnahmen, doch die sind immer schwerer zu erkennen. Zudem werden Fakes dieser Art in Anrufen und Videocalls eingesetzt – hier ist es nicht möglich, mal eben einen Faktencheck durchzuführen.
Wahlen im letzten Jahr waren bereits durch KI-Fakes beeinflusst
Im Jahr 2023 kam es in gleich mehreren wichtigen Wahlkämpfen zu Zwischenfällen durch KI-generierte Fakes:
Kurz vor der Parlamentswahl in der Slowakei veröffentlichten Unbekannte eine Audiodatei auf Facebook, in der einer der slowakischen Spitzenkandidaten angeblich mit einer Zeitungsredakteurin eine Wahlmanipulation ausheckte. Das Tondokument wurde schnell als Fälschung entlarvt, dennoch verbreitete es sich rasant auf Social Media.
Auch vor der Präsidentschaftswahl in Argentinien sorgte KI für Turbulenzen. So verbreitete das Wahlkampfbüro des Kandidaten Sergio Massa ein manipuliertes Video des späteren Gewinners Javier Milei, in dem Milei über Organhandel sprach. Das Video wurde als KI-generiert gekennzeichnet, dennoch gilt die Verwendung von KI-Manipulationen im Wahlkampf als Tabubruch.
Lässt sich das Super-Fake-Jahr verhindern?
In Vorbereitung auf die Präsidentschaftswahlen in den USA hat der KI-Marktführer OpenAI angekündigt, Manipulationen verhindern zu wollen. Beispielsweise sollen Bilder, die mit OpenAI-Systemen erstellt werden, in Zukunft mit einem unsichtbaren Wasserzeichen versehen sein, das sie als KI-generiert kennzeichnet.
In der Praxis dürfte das wenig Einfluss auf die Verbreitung von Fakes im Internet haben. Die prominentesten KI-Anbieter verbieten das Erstellen von manipulativen Inhalten jetzt schon in ihren Nutzungsbedingungen. Doch viele KI-Systeme sind Open Source und damit frei zugänglich. Auch der kommende "AI Act", mit dem die EU die künstliche Intelligenz regulieren möchte, wird wohl wenig Einfluss auf diejenigen haben, die mit KI-Fälschungen bewusst täuschen und manipulieren wollen.
"Hier ist Bayern": Der BR24 Newsletter informiert Sie immer montags bis freitags zum Feierabend über das Wichtigste vom Tag auf einen Blick – kompakt und direkt in Ihrem privaten Postfach. Hier geht’s zur Anmeldung!