Deepfakes erkennen – digitalen Täuschungen mit Training und Skepsis begegnen

Ob täuschend echte Videos von Politikern, gefälschte Sprachnachrichten oder künstliche Fotos in Sozialen Netzwerken – Deepfakes sind eine der Folgen der rasanten Entwicklung generativer KI. Der Begriff „Deepfake“ setzt sich aus „Deep Learning“ und „Fake“ zusammen. Er beschreibt Medieninhalte, die mithilfe künstlicher Intelligenz manipuliert oder vollständig erzeugt werden. 

Für die Öffentlichkeit sind Deepfakes problematisch, weil sie als Desinformation, als Mittel zum Betrug und zur Demütigung genutzt werden können. Aber auch, weil sie das Vertrauen angreifen: in Bilder, in Videos, in Stimmen und letztlich in Informationen und die Berichterstattung selbst. 

Für den Journalismus ist das eine doppelte Herausforderung: Einerseits müssen Fälschungen erkannt werden. Andererseits steigt der Druck, echte Inhalte besonders sorgfältig zu verifizieren, weil auch authentisches Material inzwischen leichter angezweifelt werden kann.

Wer Deepfakes erkennen will, muss auch unter Zeitdruck kritisch bleiben, Material aufmerksam analysieren und die aktuellen technischen Möglichkeiten der KI-Manipulation wie auch deren Schwachstellen kennen.

Welche Formen der Manipulation gibt es?

Deepfakes können vollständig künstlich erzeugtes Material sein, d. h. Bilder oder Videos werden ohne reale Vorlage rein aus Textbefehlen (Prompts) erschaffen.

Es kann aber auch bestehendes Material wie z. B. ein Foto, ein Video oder eine Audio-Datei nachträglich mit KI-Werkzeugen bearbeitet worden sein wie z. B.:

• Face-Swapping: Das Gesicht einer Person wird in ein bestehendes Video eingesetzt oder deren Mimik wird manipuliert.
• Voice Cloning / Lip Sync: Wenige Sekunden echtes Audiomaterial genügen, um eine Stimme perfekt zu imitieren. Bei einem Lip-Sync-Video wird die Tonspur getauscht und die Lippenbewegung mittels KI angeglichen.

Wie Sie KI-Fälschungen prüfen können

Durch den Fortschritt der Technologie sind klassische Fehler wie starre Blicke oder grobe Pixelfehler selten geworden. Wer verdächtige Videos oder Audioaufnahmen systematisch analysieren möchte, sollte deshalb u. a. auf folgende Details achten:

• Gibt es optische Unstimmigkeiten wie flimmernde Übergänge, unlogische Schatten, unsaubere Hintergründe oder asymmetrische Details? Stimmt die Perspektive?
• Prüfen Sie das Audio auf Asynchronität von Lippenbewegung und Ton sowie auf unnatürlich klingende Stimmen. Allerdings ist es sehr schwer geworden, KI-generiertes Audio zu erkennen. Nutzen Sie deshalb Vergleichsmaterial und hinterfragen Sie vor allem den Inhalt des Gesagten. Passt die Aussage zur Person, und ist der Inhalt logisch?
• Überprüfen Sie den Kontext, indem Sie die Quelle des Mediums recherchieren und sich fragen: Wer hat gepostet und wann? Machen Sie bei Bedarf eine Bilder-Rückwärtssuche. Gibt es Anzeichen oder erste Kommentare von User*innen, die die Echtheit des Posts thematisieren?

Wie Sie Bilder und Fakten zielgerichtet verifizieren und welche Recherchemethoden es dafür gibt, lernen Sie bei uns in Theorie und Praxis u. a. in diesen Trainings:

• Seminar: KI-Bilder und Photoshop-Manipulationen erkennen – mit Bildanalysen gegen Deep-Fakes
• Seminar: Fakten finden in Zeiten von Desinformation und KI

Die ARD setzt für ihre Mitarbeitenden auf den Deepfake-Führerschein – ein Web-Based-Training der Autor*innen Jana Heigl, Bayerischer Rundfunk, und Thomas Beckers, Westdeutscher Rundfunk, produziert von der ARD.ZDF medienakademie. Das Training informiert detailliert über Deepfakes, sensibilisiert für die Risiken und unterstützt Nutzer*innen, Quellen und Material kritisch zu beurteilen.