Dieses Bild ist fake: Der Papst im Daunenmantel
Bildrechte: Midjourney

Dieses Bild ist fake: Der Papst im Daunenmantel

Per Mail sharen
Artikel mit Bild-InhaltenBildbeitrag

Virales Papst-Foto ist Fake: So täuscht künstliche Intelligenz

Ein Foto von Papst Franziskus erobert das Internet im Sturm – dabei stammt es von einem KI-Bildgenerator. Ein eher harmloses Beispiel für eine echte Bedrohung: Fake-Material ist immer schwerer von echtem zu unterscheiden.

Über dieses Thema berichtet: Zündfunk am .

Es ist ein kurioses Bild: Papst Franziskus, unterwegs auf der Straße, gehüllt in einen dicken Daunenmantel. Das Outfit wirkt einerseits päpstlich extravagant, andererseits wie ein Look, den auch ein Luxusmarken-Model oder ein Rapper in einem Musikvideo tragen würde. In nur wenigen Stunden wird das Bild massenhaft geteilt, teilweise erreichen Tweets damit hunderttausende Likes. Problem: Das Bild ist nicht echt.

Fast perfekte Fake-Realität

Veröffentlicht wurde das Bild am Samstag in der Reddit-Community für "Midjourney". Midjourney ist ein Text-zu-Bild-Generator, mit dem man einfach Beschreibungen in Grafiken verwandeln kann – um so Dinge abzubilden, die in der Realität nie passiert sind. Bis vor einigen Wochen waren Midjourney-Grafiken zwar gut darin, "künstlerisch" aussehende Bilder zu erstellen, nicht aber Bilder, die aussehen wie die Realität. Das ist nun vorbei. Es gilt deshalb als wahrscheinlich, dass in nur kurzer Zeit auch KI-Bilder erscheinen werden, die man allein durch Hinschauen nicht entlarven kann.

Was verrät das Fake-Bild?

Noch aber lässt sich mit einer Analyse erkennen, dass das Bild nicht echt ist. Ein Hinweis ist etwa die Partie um die Augen und die Brille. Die Brille auf dem KI-generierten Bild hat unten keinen Rand und geht einfach über in die Haut. Auch der Schatten der Brille auf der rechten Wange passt nicht zur Form der Brille. Dem falschen Papst fehlt außerdem ein für den echten Franziskus charakteristischer Leberfleck unter dem rechten Auge. Die Gesichtshaut wirkt bei genauem Hinsehen eher wie gemalt.

Bildrechte: BR24/dpa-Bildfunk/Alessandra Tarantino
Artikel mit Bild-InhaltenBildbeitrag

Leberfleck und Reißverschluss verraten den falschen Papst

Auch lohnt sich – wie oft bei KI-produzierten Bildern – der Blick auf die Hände. Dort verstecken sich häufig Fehler der KI, zum Beispiel fehlen Finger. In diesem Beispiel sehen die Hände für den betagten Papst zu jung aus. Der Daumennagel an der linken Hand sieht unnatürlich aus und es ist ein weißer, ovaler Ring um die Daumenspitze herum zu sehen. Auch an den Spitzen von Mittel- und Ringfinger scheinen die Finger unnatürlich zu verschmelzen.

In der rechten Hand trägt der KI-generierte Papst Franziskus einen undefinierbaren Gegenstand in der Hand, der aussieht wie eine Mischung aus wiederverwendbarer Flasche oben und einer Plastiktüte unten. Der Übergang zwischen den Fingern und diesem Gegenstand sieht unnatürlich aus.

Bildrechte: BR24
Artikel mit Bild-InhaltenBildbeitrag

Der Mantel ist schick – aber unecht

Und es gibt noch eine Auffälligkeit: Die Kreuz-Kette des falschen Franziskus, die er über dem Daunenmantel trägt, ist unvollständig. Dem Silber-Band fehlt die von Franziskus aus gesehen linke Hälfte, es hört über dem Kreuz-Anhänger abrupt auf. Das Kreuz trägt auch eine eigenartige Gravur, die nichts mit Jesus zu tun hat. Auch der Seidengürtel hat auf der – ebenfalls von Franziskus aus gesehen – linken Seite des Mantels keine Entsprechung: Dort passen Stoff, Position und Größe der Schnalle nicht mit der rechten Seite zusammen. Ebenso weist das Ärmelbündchen an der linken Seite einen unrealistischen Knick auf.

An anderen Stellen zeigt der KI-produzierte Mantel ebenfalls Schwächen: Am Kragen ist rechts noch ein Reißverschluss-Teil zu sehen, das links kein Gegenüber findet. Über dem Kreuz teilt sich die Knopfleiste auf unrealistische Weise und verläuft sich dann nach rechts ins Nichts. Unter dem Kreuz bildet der Mantel zwischen rechter Seite und Knopfleiste eine unpassende Falte.

Fake-Bilder werden zum Alltag

Einige Tage bevor das Papst-Bild zum viralen Phänomen wurde, hatte bereits eine andere Bilderreihe für Aufmerksamkeit gesorgt: Täuschend echt aussehende Midjourney-Bilder, in denen zu sehen ist, wie Donald Trump verhaftet wird. Wirklich täuschen konnten diese nicht allzu viele Menschen, eine Verhaftung des ehemaligen US-Präsidenten würde schließlich für ein großes Medienecho sorgen.

Doch bei weniger absurd aussehenden Szenarien ist das anders. Nur wenige Stunden nach dem viralen Papst-Bild machte bereits der nächste Fake die Runde: Tesla-Gründer Elon Musk Hand in Hand mit einer Politikerin der US-Demokraten, Alexandria Ocasio-Cortez.

Was ändert sich damit?

Noch nie war es so leicht, so echt aussehende Fake-Bilder zu erstellen. Im Vergleich zu aufwendigen Fotomontagen brauchen Bild-KIs oft nur wenige Sekunden, um ein Bild zu schaffen und können deshalb Desinformation in Masse produzieren. Auch lässt sich bei klassischen Photoshop-Fakes meist zurückverfolgen, wenn ein Teil eines Bildes aus einem anderen Bild kopiert wurde. Künstliche Intelligenz macht das unmöglich, jeder Teil des Bildes ist neu generiert.

Und bei Bildern macht die Technologie nicht halt. Auch Stimmen lassen sich mit künstlicher Intelligenz mittlerweile täuschend echt nachahmen. Schon jetzt wird diese Technologie in Kombination mit Video-Deepfakes eingesetzt, um falsche Videos von Prominenten oder angeblichen Nachrichtensprechern zu erstellen. Über Social Media lassen sich diese Videos dann schnell verbreiten.

Solange keine Möglichkeit existiert, echte Bilder als real zu markieren, gilt in den sozialen Medien also Grund zur Vorsicht: Immer mehr Fotos und andere Aufnahmen werden gefälscht sein.

Das ist die Europäische Perspektive bei BR24.

"Hier ist Bayern": Der BR24 Newsletter informiert Sie immer montags bis freitags zum Feierabend über das Wichtigste vom Tag auf einen Blick – kompakt und direkt in Ihrem privaten Postfach. Hier geht’s zur Anmeldung!