Deepfakes und KI-Bilder erkennen: Medienkompetenz im digitalen Zeitalter

2023 verbreitete sich ein Bild von Papst Franziskus in einer weißen Daunenjacke rasend schnell in sozialen Netzwerken – stilecht, glaubwürdig, und komplett von einer Künstlichen Intelligenz erzeugt. Millionen Menschen hielten es zunächst für echt. Dieses Beispiel zeigt exemplarisch, wie sehr sich die Bildmanipulation in den vergangenen Jahren verändert hat: War Bildfälschung früher aufwendige Handarbeit in Bildbearbeitungsprogrammen, genügt heute oft ein simpler Text-Prompt, um täuschend echte Bilder oder sogar bewegte Videos von Personen zu erzeugen, die nie so gehandelt oder gesprochen haben. Für den Kunstunterricht ergibt sich daraus eine dringliche neue Aufgabe: Schülerinnen und Schülern konkrete Werkzeuge an die Hand zu geben, mit denen sie KI-generierte und manipulierte Bilder erkennen können.

Material zu diesem Artikel

Die im Text erwähnten Unterrichtsmaterialien auf einen Blick. Digitaler Download, sofort einsetzbar.

Manipulation in Bildmedien: Werbung & Social Media - Unterrichtsm... €19,99Ansehen FachKomplett Kunst – 100+ Unterrichtsreihen einsatzbereit für den... €99,90Ansehen

Was bedeutet: Deepfake?

Der Begriff Deepfake setzt sich aus "Deep Learning", einer Methode des maschinellen Lernens, und "Fake" zusammen und bezeichnet mittels Künstlicher Intelligenz erzeugte oder manipulierte Bilder, Videos oder Audioaufnahmen, die reale Personen zeigen, ohne dass die dargestellten Handlungen oder Äußerungen tatsächlich stattgefunden haben. Technisch beruhen die meisten Deepfakes auf sogenannten Generative Adversarial Networks (GANs) oder neueren Diffusionsmodellen: Zwei neuronale Netze arbeiten dabei gegeneinander – eines erzeugt Bilder, das andere versucht, Fälschungen zu erkennen – und trainieren sich gegenseitig so lange, bis die erzeugten Bilder für das Prüfnetzwerk und schließlich auch für das menschliche Auge nicht mehr von echten Aufnahmen zu unterscheiden sind. Davon zu unterscheiden sind KI-Bildgeneratoren wie Midjourney, DALL-E oder Stable Diffusion, die keine realen Personen manipulieren, sondern komplett neue, vorher nicht existierende Bilder allein aus einer Textbeschreibung erzeugen. Beide Technologien basieren auf riesigen Datenmengen realer Fotografien, aus denen die KI statistische Muster von Licht, Textur und Anatomie gelernt hat.

Von der Fotomontage zur KI-generierten Bildwelt

Bildmanipulation ist kein neues Phänomen: Bereits im 19. Jahrhundert retuschierten Fotografen Abzüge von Hand, und spätestens seit Stalins Sowjetunion wurden unliebsame Personen systematisch aus offiziellen Fotografien wegretuschiert. Mit Photoshop, das 1990 auf den Markt kam, wurde digitale Bildmanipulation massentauglich, blieb aber weiterhin arbeitsintensiv und erforderte handwerkliches Geschick. Der entscheidende Bruch kam mit dem Aufkommen von GANs ab 2014, entwickelt vom Forscher Ian Goodfellow, und ihrer rasanten Weiterentwicklung ab etwa 2017, als erste überzeugende Gesichtstausch-Videos im Internet kursierten. Seit der Veröffentlichung leistungsfähiger Diffusionsmodelle ab 2022 hat sich die Technologie nochmals demokratisiert: Wo früher spezialisiertes technisches Wissen nötig war, genügt heute ein kostenloser Onlinedienst und ein kurzer Text, um realistische Bilder in Sekunden zu erzeugen. Diese Entwicklung von aufwendiger Handarbeit zu massenhaft verfügbarer, fast kostenloser Bildproduktion verändert die gesellschaftliche Dimension der Bildmanipulation fundamental.

Fallbeispiel: Der "Papst im Daunenmantel" und seine Folgen

Das im März 2023 verbreitete Bild von Papst Franziskus in einer auffälligen weißen Daunenjacke wurde mit dem Bildgenerator Midjourney erstellt und ursprünglich als erkennbarer Scherz in einer geschlossenen Chatgruppe gepostet. Ohne Kontext auf Plattformen wie Twitter und Reddit weiterverbreitet, hielten jedoch Millionen Menschen weltweit das Bild für eine echte Fotografie – selbst erfahrene Nutzerinnen und Nutzer wurden getäuscht. Bei genauerem Hinsehen verrieten mehrere typische KI-Fehler die Fälschung: Die Finger der rechten Hand wirkten leicht deformiert, der Rand der Brille verschwamm unscharf mit dem Gesicht, und ein am Handgelenk sichtbares Getränk wirkte physikalisch unplausibel platziert. Der Fall zeigte zugleich die gesellschaftliche Brisanz: Nur wenige Wochen später kursierte ein KI-generiertes Bild einer vermeintlichen Verhaftung von Donald Trump, das ebenfalls millionenfach verbreitet wurde, bevor es als Fälschung entlarvt wurde – ein Hinweis darauf, dass KI-Bilder zunehmend auch politisch instrumentalisiert werden.

Praxisbeispiel / Unterrichtsaktivität: "Ist dieses Bild echt?"

Eine wirkungsvolle Unterrichtseinheit konfrontiert die Klasse mit einer Serie von zehn bis zwölf Bildern – eine Mischung aus echten Fotografien und KI-generierten oder manipulierten Bildern, ohne dass zunächst verraten wird, welche Kategorie zutrifft. In Kleingruppen bewerten die Schülerinnen und Schüler zunächst jedes Bild anhand einer Checkliste typischer Verräter: unstimmige Hände und Finger, asymmetrische Ohrringe oder Brillen, unlogische Schatten- und Lichtführung, verschwommene Übergänge zwischen Haaren und Hintergrund, sich wiederholende Textilmuster sowie fehlende oder verzerrte Hintergrundschrift. Anschließend werden die Ergebnisse aufgelöst und mit Rückmeldediensten wie umgekehrter Bildsuche oder spezialisierten KI-Erkennungstools abgeglichen. Als Erweiterung können die Lernenden selbst mit einem kostenlosen KI-Bildgenerator experimentieren, um aus eigener Erfahrung zu verstehen, wie leicht überzeugende Bilder heute entstehen – verbunden mit einer Reflexion über die ethischen Grenzen dieses Einsatzes.

Typische Missverständnisse

• "KI-Bilder lassen sich immer an unförmigen Händen erkennen." Dieses frühe Erkennungsmerkmal galt vor allem für ältere Generatoren; aktuelle Modelle haben dieses Problem größtenteils gelöst, wodurch neue Prüfkriterien nötig werden.
• "Nur technisch unbedarfte Menschen fallen auf Deepfakes herein." Der Fall des Papst-Bildes zeigte, dass auch medienerfahrene Personen getäuscht werden, insbesondere wenn Bilder ohne Kontext und in schneller Scrollgeschwindigkeit konsumiert werden.
• "Ein Wasserzeichen oder KI-Label macht ein Bild automatisch sicher erkennbar." Kennzeichnungspflichten existieren bislang uneinheitlich und lassen sich technisch häufig entfernen oder umgehen, weshalb sie kein verlässliches alleiniges Erkennungsmerkmal sind.

Grenzen der Betrachtung

Die Konzentration auf visuelle Erkennungsmerkmale wie fehlerhafte Hände birgt ein grundlegendes Problem: KI-Modelle verbessern sich in kurzen Abständen, sodass heute gültige Erkennungsregeln in wenigen Monaten veraltet sein können. Nachhaltiger als das Trainieren einzelner Erkennungsmerkmale ist daher eine grundsätzliche Haltung des Quellencheckens: die Frage nach Ursprünglichkeit, Kontext und Verbreitungsweg eines Bildes, unabhängig von seiner technischen Herstellungsart. Zudem berührt das Thema komplexe rechtliche und ethische Fragen – Urheberrecht der Trainingsdaten, Persönlichkeitsrechte abgebildeter Personen, Regulierungsansätze wie den EU AI Act –, die eine einzelne Unterrichtseinheit nur anreißen, nicht erschöpfend behandeln kann.

Das Wichtigste auf einen Blick

• Deepfakes und KI-Bildgeneratoren basieren meist auf GANs oder Diffusionsmodellen, die aus riesigen Bilddatenmengen statistische Muster lernen.
• Die Technologie hat sich seit 2022 stark demokratisiert: Realistische Bilder entstehen heute in Sekunden aus einem einfachen Text-Prompt.
• Der "Papst im Daunenmantel" von 2023 zeigt exemplarisch, wie schnell KI-Bilder sich ohne Kontext viral verbreiten und für echt gehalten werden.
• Klassische Erkennungsmerkmale wie deformierte Hände verlieren durch Modellverbesserungen zunehmend an Verlässlichkeit.
• Nachhaltiger als einzelne Erkennungstricks ist eine grundsätzliche Haltung des Quellen- und Kontextcheckens bei jedem Bild.

Passendes Unterrichtsmaterial

Für die vertiefte Behandlung von Bildmanipulation in Werbung und Social Media bietet stifo passendes Material:

• Manipulation in Bildmedien, Werbung & Social Media – Unterrichtsmaterial zu Bildmanipulation, Retusche und kritischer Bildkompetenz, ideal ergänzt durch die aktuelle KI-Dimension von Deepfakes.
• FachKomplett Kunst – das komplette Kunst-Fachpaket mit über 100 einsatzbereiten Unterrichtsreihen.

Weitere passende Beiträge

• Manipulation in Bildmedien, Werbung und Social Media unterrichten
• Medienbildung und Medienkompetenz im Kunstunterricht fördern
• NFTs und Blockchain-Kunst im Kunstunterricht
• Kunst und Medien im Wandel unterrichten
• Logo-Design verstehen: Prinzipien effektiver Markengestaltung
• Die AIDA-Formel im Kunstunterricht: Werbung analysieren

Häufig gestellte Fragen

Was ist der Unterschied zwischen einem Deepfake und einem KI-generierten Bild?
Ein Deepfake manipuliert Bild- oder Videomaterial einer real existierenden Person, während ein KI-generiertes Bild ein komplett neues Bild ohne realen fotografischen Ursprung erzeugt.

Woran erkennt man aktuell noch KI-generierte Bilder?
Häufige Hinweise sind unstimmige Hände, asymmetrischer Schmuck, unlogische Schattenführung, verschwommene Haar-Hintergrund-Übergänge und verzerrte Hintergrundschrift, wobei sich diese Merkmale mit neuen Modellversionen laufend verändern.

Was war das Besondere am Fall des "Papstes im Daunenmantel"?
Das Bild zeigte, wie schnell und weit sich ein erkennbar als Scherz gemeintes KI-Bild ohne Kontext verbreiten und selbst von medienerfahrenen Menschen für echt gehalten werden kann.

Was sind GANs?
Generative Adversarial Networks sind zwei gegeneinander trainierte neuronale Netze, von denen eines Bilder erzeugt und das andere Fälschungen erkennen soll, wodurch sich die Bildqualität schrittweise verbessert.

Sind Wasserzeichen eine verlässliche Lösung gegen Deepfakes?
Nur bedingt, da Kennzeichnungspflichten uneinheitlich umgesetzt und technisch häufig entfernt oder umgangen werden können.

Welche Rolle spielt der Kontext eines Bildes bei der Echtheitsprüfung?
Eine sehr große: Fragen nach Quelle, ursprünglichem Verbreitungsweg und Zweck eines Bildes sind oft aussagekräftiger als rein visuelle Erkennungsmerkmale.

Eignet sich das Thema auch für fächerübergreifenden Unterricht?
Ja, insbesondere in Verbindung mit Politik, Ethik oder Informatik lassen sich rechtliche Regulierung, Desinformation und technische Grundlagen vertiefen.

Fazit

Deepfakes und KI-generierte Bilder verändern grundlegend, wie leicht überzeugende, aber falsche Bildwelten entstehen können – und wie wichtig es ist, Bilder nicht mehr automatisch als Beweis für Realität zu akzeptieren. Der Kunstunterricht kann hier eine Schlüsselrolle einnehmen, weil er seit jeher das genaue Sehen und die kritische Bildanalyse schult. Wer Schülerinnen und Schüler an konkreten Beispielen wie dem "Papst im Daunenmantel" üben lässt, vermittelt eine Medienkompetenz, die weit über den Kunstunterricht hinaus für eine mündige Mediennutzung im digitalen Zeitalter unverzichtbar ist.