2

Stundenablauf Vorschläge für Unterrichtseinheiten "Deepfakes"

Wie passt das alles in 45 Minuten? Hier haben wir einige Vorschläge erarbeitet ...

Stand: 17.05.2020

Gesichter von Sebastian Schaffstein und Christina Wolf werden vermessen | Bild: BR

Sachinformation

Deepfakes sind gezielt gestaltete Bild- und/oder Tonmanipulationen. Durch das Ersetzen von Bildausschnitten in Videos, zum Beispiel das Kopieren des Gesichts eines Menschen auf das Gesicht eines anderen, werden neue realistisch wirkende Medieninhalte geschaffen. Deepfake-Methoden nutzen das maschinelle Lernen, um die Fälschungen herzustellen.

Methodische Überlegungen

Die Schüler*innen kennen, zum Beispiel durch die entsprechenden Einheiten von „so geht MEDIEN“, den Begriff „Fake News“ und haben vielleicht schon Methoden kennengelernt, wie sie eine Fake News entlarven. Das Phänomen „Deepfake“ geht noch einen Schritt weiter. Es verdeutlicht, dass mit zunehmend verbesserter Technologie eine zunehmend kritische Haltung gegenüber dem Realitätsgehalt der Medien erforderlich ist.

Für einige Schüler*innen eröffnen sich hier vielleicht Fantasien, selber kreativ tätig zu werden und damit kommen sie an ein aktuelles Beispiel für angewandte Medienethik. Entsprechend geht es um folgende Punkte: Sensibilisierung, Auseinandersetzung mit den Wirkungen, Reflexion über die Folgen, Wertekonflikte thematisieren, ein Ethos entwickeln und Handlungsoptionen aufzeigen (Grimm et al. 2018).

Angestrebte Kompetenzen

Von der Existenz von Deepfakes wissen, mögliche Folgen abschätzen, ein eigenes Ethos entwickeln.

Methodisches Vorgehen im Überblick
ZeitInhaltSozialformMaterial
10 MinAnsehen des Videos „Deepfakes – wie Videos gefälscht werden“frontalBeamer / Whiteboard
5 MinBegriffe und Techniken klären: Was ist ein Deepfake? Wie funktioniert das?KlassengesprächBeamer / Whiteboard
13 MinArbeitsblatt bearbeiten, Aufgaben 1 bis 3:Partner*innenarbeitArbeitsblatt
5 MinErgebnisse der Partner*innenarbeit zusammentragenKlassengespräch
7 MinKann ein Deepfake legal sein?
Bearbeiten Arbeitsblatt, Aufgabe 4
Partner*innenarbeitArbeitsblatt
5 MinIm Klassengespräch besprechenKlassengespräch

Benötigtes Material

  • Arbeitsblatt 1 zu Deepfakes
  • Film „Deepfakes – wie Videos gefälscht werden“ zur Einspielung vorbereiten

Die Unterrichtseinheit

Hintergrund zu Deepfakes

Das Wort „Deepfake“ ist eine Zusammensetzung aus „Deep Learning“ und „Fake“. Deep Learning ist ein Teilbereich des maschinellen Lernens. Dabei werden große Datenmengen mit Hilfe von Algorithmen in viele einzelne Schichten strukturiert, Merkmale extrahiert und klassifiziert. Die gewonnenen Muster können immer wieder mit anderen Daten verknüpft werden. Die Maschine kann dadurch lernen und Einordnungen, Entscheidungen oder Prognosen treffen. Das ganze System der Datenstrukturierung, der Analyse und des Lernens wird auch künstliches neuronales Netz genannt.

Eine Programmierung kann zum Beispiel zunehmend darauf trainiert werden, wie eine bestimmte Person in den verschiedensten Perspektiven und Zusammenhängen aussieht, und bei neuen Bildern entscheiden, ob es sich um diese Person handelt. Die Maschine kann lernen, wie „unangemessene Bilder“ aussehen und diese beim Upload in soziale Netzwerke blockieren oder aufgrund vorhandener Daten vorhersagen, wie sich Kunden eines Unternehmens verhalten werden.

Beim Deepfake werden Entwicklungen des Deep Learnings genutzt, um Videos zu fälschen. Dabei wird zum Beispiel der Kopf einer Person, die gar nicht im Film vorkommt, auf den Körper eines Akteurs oder einer Akteurin im Film gesetzt. Die Aufnahmen beider Gesichter – also vom Original und der „Fälschung“ – werden mit Hilfe von Algorithmen analysiert und in Punkte unterteilt. Es wird jeweils ein künstliches neuronales Netz über die Aufnahmen gelegt, und zwar nicht nur von einem Bild, sondern von möglichst vielen verschiedenen Aufnahmen der Gesichter in unterschiedlichen Positionen, mit unterschiedlicher Mimik und unterschiedlichen Aufnahmebedingungen wie Helligkeit oder Kontrasten. Der Computer kann die Wahrscheinlichkeit berechnen, wie gut die Punkte von Gesicht A und von Gesicht B übereinander passen und die Gesichter entsprechend übereinanderlegen.

Weil von prominenten Schauspieler*innen bereits sehr viele Aufnahmen im Internet vorhanden sind, werden sie bevorzugt Opfer von Deepfakes, so zum Beispiel Nicolas Cage. Die Gesichter von Schauspielerinnen und Sängerinnen wurden bereits häufig in Pornos kopiert. Einer Untersuchung des niederländischen Unternehmens Deeptrace von 2019 zu Folge sind 96 Prozent der entdeckten Deepfakes pornografisch.

Mit Apps und frei verfügbarer Software kann jedermann kurze Clips und eine nicht perfekte Qualität von Deepfakes erstellen. Qualitativ hochwertige Deepfakes, die zudem nicht nur ein paar Sekunden, sondern viele Minuten lang dauern, sind aufwendig, teuer in der Produktion und kommen selten vor.

Neben den Bildern, können auch Audios gefälscht werden. Aus Stimmproben lässt sich mit Hilfe von Software in Wirklichkeit nicht Gesagtes erzeugen. Derzeit ist noch relativ viel Ausgangsmaterial nötig, damit es neu gemixt und die Lücken von der künstlichen Intelligenz ergänzt werden können. Die Zukunftsperspektive ist, dass aus wenigen Sekunden Originalton beliebig viele Sequenzen erstellt werden können.

Gemeinsam den Film „Deepfakes – wie Videos gefälscht werden“ ansehen

Die Klasse schaut sich gemeinsam den Film „Deepfakes – wie Videos gefälscht werden“ an.

Begriffe klären

Im Klassengespräch wird noch einmal gesichert: Was ist ein Deepfake und wie funktioniert er.

Was würdet ihr deepfaken?

In Partner*innenarbeit diskutieren die Schüler*innen das Arbeitsblatt. Dabei werden sie selber gedanklich aktiv und überlegen, was sie gerne deepfaken würden. Sie entscheiden sich für zwei Varianten und überlegen für diese dann, welche Folgen entstehen könnten. In einer Pro-Contra-Liste suchen sie Argumente für oder gegen dieses Medienhandeln.

  1. Was würdet ihr deepfaken? Findet zwei Beispiele.
  2. Welche Folgen könnte dies haben? Denkt euch vier mögliche Folgen aus.
  3. Erstellt eine Pro- und Contra-Liste. Findet vier Gründe, warum es gut sein könnte, einen Deepfake zu produzieren, und vier, die dagegensprechen.

Im Klassengespräch werden die erarbeiteten Punkte zusammengetragen.

Kann ein Deepfake legal sein?

In Partner*innenarbeit wird die Aufgabe 4 des Arbeitsblattes bearbeitet und überlegt, welche Aussagen wohl richtig sind. Das Ergebnis:

Bezogen auf die konkrete Zulässigkeit dieser sogenannten Deepfakes ist in Deutschland noch kein Gerichtsurteil bekannt.

  • Deepfakes sind wie eine Karikatur ein künstlerischer Ausdruck. Sie dienen zur Belustigung oder zur Meinungsbildung. Damit ist es eine legale Montage, die unter künstlerische Freiheit fällt.  (falsch)
  • Wenn durch die Bearbeitung eine fehlerhafte oder herabwürdigende Darstellung des Betroffenen entsteht, verletzt es diesen in seinen Persönlichkeitsrechten und er hat einen Unterlassens- und eventuell auch einen Schadensersatzanspruch. (richtig)
  • Ein Deepfake ist nur illegal, wenn die Bearbeitung dazu geeignet ist, potenzielle Zuschauer*innen über das Zustandekommen des Inhaltes zu täuschen, und sie dazu bringt, zu glauben, das Video sei echt. (richtig)

Verfälschte Informationen, insbesondere, wenn nicht deutlich wird, wie sie entstanden sind, dienen nicht der Meinungsbildung. Sie sind ein Eingriff in die Intimsphäre der Betroffenen und nicht durch „künstlerische Neuschöpfung“ oder eine Nutzung im Pressekontext gerechtfertigt.

Eine täuschend echte Deepfake-Montage kann danach so gut wie nie legal verbreitet werden, denn die Technik ist dazu ausgelegt, andere über den Inhalt zu täuschen.

Arbeitsblatt "Deepfakes" Format: PDF Größe: 714,62 KB

So könnte die Stunde ablaufen ... "Deepfakes" Format: PDF Größe: 169,89 KB


2