Aus der Praxis

Sexualisierte Deepfakes

Die aktuelle Debatte, etwa rund um gefälschte pornografische Inhalte von Collien Fernandes, zeigt, wie leicht heute täuschend echte Bilder, Videos oder Stimmen mithilfe von Künstlicher Intelligenz erstellt werden können. Was früher technisches Spezialwissen erforderte, ist inzwischen für viele frei zugänglich und wird zunehmend missbräuchlich eingesetzt.

Besonders betroffen sind Frauen und Mädchen, deren Gesichter ohne Einwilligung in sexualisierte Inhalte eingefügt werden. Diese Form digitaler Gewalt zielt darauf ab, Menschen gezielt zu erniedrigen und bloßzustellen. Für Betroffene kann das schwerwiegende emotionale und soziale Folgen haben, zumal sich einmal verbreitete Inhalte oft kaum vollständig aus dem Netz entfernen lassen.

Auch rechtlich stehen viele Betroffene bisher vor Herausforderungen, da digitale Gewalt schwer zu verfolgen ist. Gleichzeitig gibt es politische Bestrebungen, Schutzlücken zu schließen. Künftig soll es verboten sein, sexualisierte Inhalte, unabhängig davon, ob sie echt oder KI-generiert sind, ohne Zustimmung der betroffenen Person zu erstellen oder zu verbreiten.

Für Eltern bedeutet das: Es ist wichtig, sich mit diesen Entwicklungen auseinanderzusetzen und Kinder frühzeitig zu begleiten. Offene Gespräche über Online-Erfahrungen, altersgerechte Aufklärung über Deepfakes und eine Stärkung des Selbstwertgefühls helfen Kindern, sich sicherer im digitalen Raum zu bewegen. Wenn ein Kind betroffen ist, sollte schnell gehandelt werden: Inhalte sichern, melden und Unterstützung suchen – denn Medienbildung ist heute auch Schutz vor digitaler Gewalt. Verstöße können zum Beipsiel über dieses Formular gemeldet werden: https://www.jugendschutz.net/verstoss-melden