Sexualisierte Deepfakes
Schutz vor sexualisierter Gewalt im digitalen Raum: Was Deutschland von anderen Ländern lernen kann
Illustration einer Frau, die mit dem Missbrauch ihrer Bilder durch sexualisierte Deepfakes auf digitalen Plattformen konfrontiert wird. KI-generiertes Bild.
© FNFDer Bundesrat berät am Freitag, dem 20. November, den Regierungsentwurf des Bundeskabinetts für ein Gesetz zur Stärkung des zivilrechtlichen und strafrechtlichen Schutzes. Das Kabinett hatte ihn am 7. Oktober 2026 beschlossen. Ziel ist, Menschen besser vor sexualisierten Bildern zu schützen, die ohne ihre Zustimmung erstellt und verbreitet werden. Diese sogenannten Non-consensual Synthetic Imagery (NCSI) können für die Betroffenen gravierende und langanhaltende Folgen haben.
Ein neues Policy Paper zeigt erhebliche Lücken im aktuellen Entwurf auf. Es vergleicht die Gesetzgebung im Vereinigten Königreich, in Brasilien und in Indien und leitet daraus Empfehlungen für die Debatte in Deutschland ab.
Das Papier wurde vom Centre for Communication Governance (CCG) der National Law University Delhi im Auftrag der Friedrich-Naumann-Stiftung für die Freiheit erstellt. Es liefert wichtige Erkenntnisse für die anstehende parlamentarische Diskussion.
Nicht nur die Verbreitung in den Blick nehmen
Eine der zentralen Erkenntnisse: Wirksame Regeln müssen die gesamte Wertschöpfungskette erfassen. Dazu gehören die digitalen Werkzeuge, mit denen solche Bilder erstellt werden, die App-Stores, die diese Werkzeuge anbieten, sowie die Zahlungsdienstleister, die deren Betrieb ermöglichen. Die rechtliche Verantwortung darf nicht erst bei der Verbreitung der Inhalte ansetzen.
Das Vereinigte Königreich geht diesen Weg bereits. Die britische Gesetzgebung untersagt sowohl die Bereitstellung sogenannter Nudification-Apps, also von Tools zur digitalen Erstellung sexuell expliziter Bilder, als auch deren Verbreitung über App-Stores. Vergleichbare Regelungen fehlen im deutschen Regierungsentwurf.
Plattformen in die Pflicht nehmen
Alle drei untersuchten Länder verpflichten zudem digitale Plattformen, über die solche Inhalte verbreitet werden. Sie sollen schnell handeln, damit sich die Bilder nicht massenhaft herunterladen und weiterverbreiten lassen.
Die Fristen unterscheiden sich deutlich. Indien und Brasilien verlangen, solche Inhalte innerhalb von zwei Stunden zu entfernen. Im Vereinigten Königreich gilt eine Frist von höchstens 48 Stunden. Der deutsche Regierungsentwurf sieht dagegen keine vergleichbare konkrete Frist für die Löschung durch Plattformbetreiber vor. Betroffene sollen stattdessen die Löschung rechtswidriger Inhalte gerichtlich beantragen können.
Schutz ohne anlasslose Überwachung
Die Friedrich-Naumann-Stiftung unterstützt das Ziel, Betroffene sexualisierter Deepfakes wirksam zu schützen und dabei die gesamte Entstehungskette in den Blick zu nehmen. Für Dr. Maren Jasper-Winter, Mitglied im Bundesvorstand der FDP und im Vorstand der Stiftung, ist dabei eine Grenze klar:
Wir müssen Betroffene wirksam schützen, dürfen den Schutz aber nicht mit anlassloser Überwachung und Vorratsdatenspeicherung erkaufen.
Wirksamer Schutz dürfe und müsse nicht mit einer Ausweitung staatlicher Überwachung einhergehen, so Jasper-Winter. Gerade deshalb sei es wichtig, die Verantwortung dort zu verorten, wo die Inhalte entstehen und verbreitet werden.
Wie es weitergeht
Am Freitag, dem 20. November, berät der Bundesrat den Entwurf. Anschließend wird er dem Bundestag zur weiteren Beratung zugeleitet. Das Policy Paper soll dazu beitragen, die Diskussion über die Ausgestaltung der Regeln auf eine breite Grundlage zu stellen.
Das vollständige Policy Paper mit einer vergleichenden Analyse der Gesetzgebung im Vereinigten Königreich, in Brasilien und in Indien ist unten verfügbar: