Direkt zum Seiteninhalt

Bildmanipulation im Netz - Fakt oder Fake?

Lesezeit: Minuten
Eben noch der Nachbar und plötzlich Tom Cruise? Bildmanipulation ist oft mehr als eine Täuschung unserer Sinne und dient als Instrument der bewussten Beeinflussung und Schädigung von Menschen. Erfahren Sie, was Deepfakes sind und wie sie entlarvt werden können.

Die Geschichte der Fotografie und täuschend echter Bildmanipulation sind eng verwoben. Getrieben von politischen Agenden, zum Zwecke der Propaganda oder um Falschnachrichten zu verbreiten, wurden die Techniken zur Verfälschung visueller Originale schon früh perfektioniert. So wurde schon in den Anfangsjahren der USA der Kopf von Präsident Lincoln auf den Körper von Jefferson Davis, dem Präsidenten der Konföderation, montiert. Etwas moderner ist die legendäre Bildmontage, in der die junge Jane Fonda zusammen mit US Politiker John Kerry bei einer Antikriegsveranstaltung gezeigt wird. Dies hat aber nie so stattgefunden. Waren früher Bildmanipulationen mit einem großen technischen Aufwand verbunden, sind es heute nur noch wenige Klicks bis hin zum Video.

Manipulationen durch Face-Swapping
Deepfakes sind Fälschungen von Bild, Ton und Text. Dabei geht es um Manipulation von Personen und oftmals um den Diebstahl von Identitäten durch Einsatz von Künstlicher Intelligenz (KI). Das bekannteste Phänomen ist Face-Swapping, bei dem die Gesichter zweier Personen getauscht werden. Auf Social Media oft als „Spaß“ zur Unterhaltung genutzt, verfolgen Deepfakes verschiedene Absichten. Naheliegend ist die Verfolgung politischer Ziele, die Diskreditierung von Personen der Öffentlichkeit oder die Vortäuschung einer anderen Identität. So werden im Rahmen der Verbreitung von Fake News, also gezielter Desinformation, Deepfakes zur Manipulation und Mobilisierung von Nutzer*innen Sozialer Netzwerke wie Facebook, Instagram, TikTok und Co. genutzt.

Die im Auftrag des Europäischen Parlaments erstellte Studie „Tackling deepfakes in European policy“ nennt persönliche Erpressung als eines der Hauptmotive zur Erstellung von Deepfakes. Davon sind hauptsächlich Frauen und Mädchen betroffen. Als häufigste Ausprägung gilt die Erpressung durch Deepfakes, in denen das Gesicht des Opfers mit dem einer Darstellerin pornografischer Videos getauscht wird. Der Bericht des Niederländischen Cybersecurity Unternehmens Deeptrace aus dem Jahr 2019 gibt sogar an, dass 96% aller Deepfake-Inhalte der Pornografie zuzuordnen seien.

Ein weiteres Szenario der Nutzung von Deepfakes besteht im Bereich Cyber-Grooming, einer Form sexueller Belästigung Minderjähriger durch Erwachsene, die sich Kindern im Netz auf subtile Art und Weise annähern und dadurch das Vertrauen ihrer Opfer aufbauen. Eine Masche der Täter*innen ist es dabei, sich als eher gleichaltrige Kinder bzw. Jugendliche auszugeben, um die wahre Identität zu verschleiern.
Formen der Manipulation
Um sich vor Medienmanipulationen zu schützen, ist es wichtig zu wissen, welche die gängigsten Formen der Fälschung sind. Face-Swapping ist aktuell die am häufigsten genutzte Methode. Gründe dafür sind die technisch einfache Umsetzung und die stetig verbesserte Qualität der Ergebnisse, da mit jedem Upload im Netz, vor allem auf Social Media, die Datenbanken für KIs gefüttert werden. Je öfter eine Person ihr Gesicht hochlädt, desto leichter ist es für eine KI, dieses nachzuahmen, weil der Datensatz immer größer wird.

Eine weitere Methode der Gesichtsfälschung ist das „Face Reenactment“, bei dem unter Verwendung von 3D-Modellen Gesichtszüge einer Person willkürlich - sogar live - manipuliert werden können. Viele Gesichtsfilter auf TikTok und Instagram nutzen diese Technologie.

Auch bei der Fälschung von Stimmen kommen Anwendungen aus dem Bereich der künstlichen Intelligenz, die sogenannten neuronalen Netze zum Tragen. Dabei unterscheidet man zwischen Text-to-Speech (TTS) Verfahren und Voice-Conversion (VC). TTS bedeutet übersetzt Text-zu-Sprache. Eine KI liest also einen geschriebenen Text ein und gibt diesen in der Stimme des Opfers aus. VC, also Stimm-Umwandlung bedeutet hingegen, dass eine Person einen Text einspricht, der in Echtzeit von der KI in die Stimme des Opfers umgewandelt wird. Das funktioniert sogar im „Livemodus“.
Mit offenen Augen und Ohren gegen Deepfakes
So verblüffend echt einige Ergebnisse auf den ersten Blick wirken, gibt es dennoch Indikatoren, die auf Fälschungen hindeuten:

  • Achten Sie bei Gesichtsmanipulationen besonders auf unstimmige Belichtung und verwaschene Konturen. Manchmal ist es ein seltsamer Schatten, oder der Übergang zwischen Ohrläppchen und Hintergrund - der ist dann auffällig schwammig.

  • Achten sie außerdem genau auf sichtbare Übergänge.

  • Gefälschte Stimmen haben oft einen monotonen, metallischen Klang.

  • Schenken Sie außerdem der Aussprache besondere Aufmerksamkeit, da KIs zwar die Klangfarbe einer Stimme gut erfassen, aber Probleme mit Akzenten und insbesondere Dialekten haben.

  • Lippen-Synchronität ist ein weiteres, relativ leicht zu erkennendes Phänomen, denn einfache KI kann diese nicht abbilden.

Deepfakes sollten, wie jede Form der gezielten Falschinformation, insbesondere bei jungen Menschen thematisiert werden. So kann neben den oben genannten Punkten leicht geprüft werden, ob es ich um eine geprüfte Quelle handelt. Auch kann man zum Beispiel über die Bilderrückwärtssuche gute Hinweise erhalten, ob man eventuell einem Deepfake aufsitzt. Nicht zuletzt sollten wir immer hinterfragen, ob Aussagen und Handlungen zu der jeweiligen Person passen.
Hat dieser Artikel gefallen?
Weiterlesen im Dossier "Manipulation im Netz"
/mediabase/img/cache/6526_740x740.png Der Webcast zur Thematik der manipulativen und missbräuchlichen Nutzung im Netz. Webcast - Manipulation im Netz
/mediabase/img/cache/6509_740x740.jpg Was meinen Sie? Machen Sie mit bei der Umfrage zum aktuellen Schwerpunkthema des Dossiers. Online-Umfrage

Interview: Fake News im Netz begegnen

Deepfakes auf der Spur

Hate, Shaming, Blaming

Interview: Realität oder Schönheitswahn?

Interview: Ich bin so, wie ich bin!

Materialien

Bild
Hier finden Sie eine Vielzahl an Materialien und Projektideen unserer Netzwerkpartner rund um das Thema Kommunikation und Verantwortung.
Zur Teachtoday Toolbox

Straßenumfrage

SCROLLER digital

Bild
Mit SCROLLER Mut im Netz erfahren Kinder, wie man in Chats, Online Games und auf anderen Plattformen mutig gegen Beleidigungen sein kann.
Zum SCROLLER digital Mut im Netz

Artikel teilen!

Den Beitrag mit einem Klick weitergeben!

Teilen