Der Fall Collien Fernandes befeuert die Debatte um nicht-einvernehmliche Deepfake-Pornografie. Die EU verschärft jetzt ihre Gesetze zum Schutz von Betroffenen – doch Deutschland hinkt in der Umsetzung bereits jetzt hinterher.
Was ist Deepfake-Pornografie?
Bei Deepfake-Pornografie werden mithilfe von KI real existierende Gesichter und Körper bisweilen täuschend echt in pornografische Fotos oder Videos montiert oder das Bildmaterial wird insgesamt mit KI hergestellt. Dies kann mit dem Einverständnis der gezeigten Personen passieren, zum Beispiel in der Porno- oder der Filmindustrie, doch oft fehlt die Zustimmung. Die entstehenden Inhalte wirken manchmal so authentisch, dass selbst Angehörige oder Experten sie auf den ersten Blick für echt halten können.
Wie verbreitet ist Deepfake-Pornografie?
Es gibt keine verlässlichen Zahlen, wie verbreitet nicht-einvernehmliche Deepfake-Pornografie ist. Schätzungen zu Folge waren 2023 rund 100.000 Deepfake-Videos im Internet, davon sind laut einer Studie des Unternehmens Sensity (früher Deeptrace) 96 Prozent Deepfake-Pornografie. Das Social-Media-Unternehmen Views4You beobachtet bei Deepfake-Pornografie zwischen 2022 und 2023 einen Anstieg um 464 Prozent.
Wer sind die Betroffenen?
Opfer nicht-einvernehmlicher Deepfake-Pornografie sind fast ausschließlich Frauen. Expertinnen und Experten sprechen deshalb von einer geschlechtsspezifischen Form der digitalen Gewalt. Besonders oft sind Frauen betroffen, die in der Öffentlichkeit stehen, wie Schauspielerinnen, Wissenschaftlerinnen oder Politikerinnen.
Doch es gibt auch Fälle, in denen Frauen abgebildet werden, die nicht in der Öffentlichkeit sind. In der spanischen Stadt Almendralejo erregte im Jahr 2022 ein Fall international Aufsehen. Minderjährige Jungen hatten Nacktfotos von Mädchen erstellt und herumgeschickt – sogenannte Deepnudes („Ausziehfotos“). In Almendralejo waren mehr als 20 Mädchen betroffen.
Neben öffentlich zugänglichen Netzwerken kursieren die Inhalte auch über private Chatgruppen und verschlüsselte Messenger. Dabei werden sowohl Links zu Plattformen geteilt, auf denen Deepfakes erstellt oder gehandelt werden, als auch fertige Bilder oder Videos. In vielen Fällen geschieht das anonym.
Wer sind die Täter?
In den Fällen, in denen die Hersteller von KI-manipulierter Pornografie bekannt wurden, waren es Jungen und Männer. Das LKA Hessen schreibt in einer Stellungnahme an den Deutschlandfunk: „Allein handelnde Täter stammen zumeist aus dem persönlichen Umfeld der Opfer. Darüber hinaus werden ‚Deepfake-Pornos‘ von unbekannten Tätern erstellt, die über Online-Communities und Foren an Bilder ihrer Opfer gelangen. Organisierte Gruppen erstellen ‚Deepfake-Pornos‘ hingegen insbesondere zur kommerziellen Verbreitung.“
Zum Teil organisieren sich Täter im Internet, um die Frauen zu demütigen und zu quälen. „Das ist ein richtiger, perfider Sport, ein perfides Hobby“, sagt Jacqueline Sittig vom Deutschen Juristinnenbund. Wenn ein Inhalt einmal im Netz sei, werde er wie eine Lawine auf öffentlichen und nicht öffentlichen Wegen verbreitet.
Wo werden nicht-einvernehmliche Deepfake-Pornos verbreitet?
Nicht-einvernehmliche Deepfake-Pornografie verbreitet sich über Social Media, Online-Plattformen, Pornoseiten oder spezialisierte Foren im sogenannten Darknet.
Wie ist die Rechtslage in Deutschland?
Im deutschen Strafrecht ist die Herstellung und Verbreitung nicht-einvernehmlicher Deepfake-Pornografie derzeit nicht explizit strafbar. Bestehende Vorschriften – etwa zur Beleidigung (§ 185 StGB), zur Verletzung des höchstpersönlichen Lebensbereichs (§ 201a StGB) oder zum Recht am eigenen Bild (§ 22 KUG) – greifen nur in Einzelfällen. Das könnte sich jedoch bald ändern.
Denn Deutschland muss handeln: Seit Mai 2024 ist eine EU-Richtlinie in Kraft, die vorsieht, dass in allen Mitgliedstaaten das Anfertigen und Verbreiten von manipulierten Darstellungen sexueller Handlungen ohne Zustimmung der Betroffenen unter Strafe gestellt werden soll. Bis zum Sommer 2027 müssen die Länder entsprechendes nationales Recht schaffen. Bundesjustizministerin Stefanie Hubig (SPD) hatte jüngst mehrfach betont, dass sie Strafbarkeitslücken gegen digitale Gewalt schließen möchte. Mitte April 2026 hat ihr Ministerium einen entsprechenden Gesetzesentwurf vorgelegt.
Was plant die EU gegen Deepfakes?
Ab dem 2. Dezember 2026 sollen in der EU KI-Anwendungen verboten sein, mit denen man sexualisierte Deepfakes generieren kann. Darauf haben sich Vertreter der Mitgliedstaaten und des Europäischen Parlaments in der Nacht auf den 7.5.2026 geeinigt. Ab wann Bildmaterial als zu intim bzw. als sexualisiert gilt, ist dabei nicht ganz klar. Bikini-Bilder, wie sie Anfang des Jahres 2026 massenhaft mit dem Chatbot Grok erstellt wurden, fallen vermutlich nicht unter das Verbot.
Das neue Verbot, das sich nun abzeichnet, würde die Perspektive von der Bestrafung der Tat hin zum Verbot des Werkzeugs wechseln, also der KI-Anwendung an sich. Wobei Verhandlungsteilnehmer betonen, dass das Verbot nicht dazu führen soll, die Erstellung oder Manipulation von Bildern übermäßig stark einzuschränken.
Was können Opfer tun?
Betroffene von nicht-einvernehmlicher Deepfake-Pornografie können Anzeige erstatten. Die Polizei prüft dann den Einzelfall. Außerdem können die Opfer versuchen, das KI-Material aus dem Internet entfernen zu lassen. Bei Google gibt es dazu ein Meldeformular. Eine Herausforderung ist, dass jedes Bild oder Video pro URL gemeldet werden muss – also einzeln. Wenn das klappt, dann tauchen die Bilder bei Google nicht mehr in der Suche auf.
Auf den Plattformen selbst, wo die Bilder hochgeladen und verteilt werden, sind sie deshalb allerdings noch nicht gelöscht. Die Opfer müssen die Plattformen zusätzlich kontaktieren.
Ein Problem ist, dass auf vielen Webseiten und Plattformen eindeutige, einfach zugängliche und valide Meldewege für Opfer von Deepfake-Pornografie fehlen. Kleinere oder ausländische Dienste – etwa auf Pornoplattformen, Imageboards oder Foren – bieten oft keine klaren Meldeformulare oder Supportstrukturen.
Unterstützung bekommen die Opfer von nicht-einvernehmlicher Deepfake-Pornografie bei Organisationen wie dem Weißen Ring, HateAid oder AnnaNackt.
Online-Beitrag: Tobias Pastoors
