Rechtsanwalt & Spezialist für Kryptorecht & KI-Recht, Zertifizierter Geldwäschebeauftragter (TÜV)
T (+49) 040 / 7344 086-0
Rechtsanwältin & Expertin für Kryptorecht und Markenrecht
T (+49) 040 / 7344 086-0
| KI-Recht
Blog News
Die Europäische Union verschärft den rechtlichen Umgang mit sexualisierten Deepfakes. Mit der Verordnung (EU) 2026/1744 hat die Europäische Union die KI-Verordnung um neue Verbote besonders schädlicher KI-Praktiken ergänzt. Die Änderungsverordnung wurde am 24. Juli 2026 im Amtsblatt der Europäischen Union veröffentlicht und ist seit dem 27. Juli 2026 in Kraft. Die neuen Verbote für bestimmte KI-Systeme und Nutzungsweisen im Zusammenhang mit nicht einvernehmlichen intimen Darstellungen gelten ab dem 2. Dezember 2026.
Im Überblick
Ab dem 2. Dezember 2026 verbietet die KI-Verordnung bestimmte KI-Systeme und Nutzungsweisen, mit denen ohne ausdrückliche Einwilligung realistische intime Darstellungen identifizierbarer Personen erzeugt oder manipuliert werden. Ebenfalls erfasst werden KI-Systeme und Nutzungen zur Erzeugung oder Manipulation von Material sexuellen Missbrauchs von Kindern. Zulässige Formen allgemeiner Bildbearbeitung werden dadurch nicht pauschal verboten.
Was passiert, wenn eine KI auf einfachen Befehl reale Personen scheinbar entkleidet oder sexualisiert darstellt? Die Debatte verschärfte sich Ende 2025 und Anfang 2026, nachdem Nutzer den in die Plattform X integrierten Chatbot Grok eingesetzt hatten, um nicht einvernehmliche sexualisierte Darstellungen realer Personen zu erzeugen. Berichte und aufsichtsrechtliche Untersuchungen betrafen dabei insbesondere den Schutz von Frauen und Minderjährigen. Die Europäische Kommission eröffnete im Januar 2026 eine Untersuchung nach dem Digital Services Act.
In Deutschland erhielt die Debatte über Deepfakes zuletzt durch den Fall Collien Fernandes zusätzliche Aufmerksamkeit. Sie wirft ihrem früheren Ehemann Christian Ulmen vor, unter ihrem Namen Fake-Profile in sozialen Netzwerken angelegt und darüber Deepfake-Bilder von ihr sowie Pornovideos mit Frauen verbreitet zu haben, die ihr ähnlich sehen.
Fernandes erhob gegen ihren früheren Ehemann Christian Ulmen verschiedene Vorwürfe im Zusammenhang mit Fake-Profilen und manipulierten beziehungsweise sexualisierten Inhalten. Diese Angaben sind als Vorwürfe zu kennzeichnen. Das OLG Hamburg entschied in einem presserechtlichen Eilverfahren mit Beschluss vom 22. Juni 2026, Az. 7 W 72/26, dass DER SPIEGEL nicht den Verdacht erwecken durfte, Ulmen habe Deepfake-Videos von Fernandes selbst hergestellt oder verbreitet. Dafür fehle es an einem hinreichenden Mindestbestand an Beweistatsachen. Eine strafrechtliche Entscheidung über eine Schuld Ulmens war damit nicht verbunden.
Die Vorfälle verstärkten die öffentliche und regulatorische Diskussion über nicht einvernehmliche intime KI-Inhalte. Die inzwischen verabschiedete EU-Regelung greift diese Risiken auf, ohne dass die Vorschrift allein auf einzelne öffentlich bekannt gewordene Fälle zurückgeführt werden kann.
Dabei will der europäische Gesetzgeber den Anwendungsbereich genau bestimmen. Das Verbot soll gezielt besonders schädliche Nutzungsformen erfassen und die allgemeine Erstellung oder Bearbeitung von Bildern weiterhin gewährleisen. Welche sexualisierten Darstellungen im Einzelnen unter die neue Regelung fallen, hängt daher von der gesetzlichen Definition ab.
Deepfakes sind KI-generierte oder KI-manipulierte Bild-, Audio- oder Videoinhalte, die bestehenden Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähneln und fälschlich authentisch oder wahr erscheinen können. Nicht jeder vollständig synthetische KI-Inhalt ist deshalb automatisch als Deepfake einzuordnen.
Der Begriff verbindet „Deep Learning“ mit dem englischen Wort „Fake“. Deep Learning bezeichnet eine Methode, mit der KI-Systeme große Datenmengen auswerten und typische Merkmale einer Person erlernen. Je mehr Bild-, Video- oder Tonmaterial verfügbar ist, desto überzeugender kann das künstlich erzeugte Ergebnis wirken.
Deepfakes können für kreative oder satirische Zwecke eingesetzt werden. Problematisch wird ihr Einsatz, wenn sie Personen täuschend echt darstellen, ihre Rechte verletzen oder ohne Zustimmung sexualisierte Inhalte erzeugen.
Anbieter von Chatbots und anderen KI-Diensten sollen künftig kenntlich machen, wenn Bilder, Videos oder weitere Inhalte mithilfe Künstlicher Intelligenz erzeugt wurden. Die Kennzeichnung kann unter anderem durch maschinenlesbare Metadaten, Herkunftsnachweise oder sichtbare beziehungsweise unsichtbare technische Markierungen erfolgen. Ein sichtbares Wasserzeichen ist nur eine mögliche Umsetzung und wird nicht für jeden Inhalt zwingend vorgeschrieben.
Der Start der Pflichten verschiebt sich jedoch. Die Transparenzpflichten für KI-generierte und manipulierte Inhalte werden nicht einheitlich auf Dezember 2026 verschoben. Art. 50 der KI-Verordnung ist grundsätzlich ab dem 2. August 2026 anwendbar. Anbieter von Systemen, die bereits vor diesem Zeitpunkt in Verkehr gebracht wurden, müssen die technische Kennzeichnungspflicht nach Art. 50 Abs. 2 aufgrund einer Übergangsregelung jedoch erst ab dem 2. Dezember 2026 erfüllen. Die Offenlegungspflichten für Betreiber von Deepfakes nach Art. 50 Abs. 4 sind hiervon zu unterscheiden.
Die Übergangsregelung verschafft Anbietern bereits vor dem 2. August 2026 in Verkehr gebrachter Systeme zusätzliche Zeit, um die technische Kennzeichnungspflicht nach Art. 50 Abs. 2 umzusetzen. Ob und in welchem Umfang einzelne Dienste von dieser Regelung profitieren, ist anhand des jeweiligen Systems und seines Bereitstellungszeitpunkts zu prüfen.
Die EU verfolgt mit der Reform zwei Ziele. Einerseits soll die Anwendung der KI-Regeln in den Mitgliedstaaten stärker vereinheitlicht werden. Andererseits setzt das Verbot sexualisierter Deepfakes und KI-generierter Darstellungen sexuellen Kindesmissbrauchs ein deutliches Zeichen für den Schutz der Grundrechte.
Auch auf nationaler Ebene gibt es weitere Bestrebungen. Bundesjustizministerin Stefanie Hubig hat einen Gesetzentwurf vorgelegt, der bestehende Strafbarkeitslücken bei pornografischen Deepfakes schließen soll.
Die wichtigsten Punkte:
Die Richtlinie (EU) 2024/1385 zur Bekämpfung von Gewalt gegen Frauen und häuslicher Gewalt verpflichtet die Mitgliedstaaten, bis zum 14. Juni 2027 unter anderem das Herstellen oder Manipulieren und anschließende öffentliche Zugänglichmachen bestimmter intimer Inhalte ohne Einwilligung unter den in Art. 5 genannten Voraussetzungen unter Strafe zu stellen. Deutschland muss diese Vorgaben noch in nationales Recht umsetzen.
Das Bundesministerium der Justiz und für Verbraucherschutz veröffentlichte am 17. April 2026 einen Referentenentwurf für ein Gesetz zur Stärkung des zivilrechtlichen und strafrechtlichen Schutzes vor digitaler Gewalt. Der Entwurf ist noch kein geltendes Recht. Er soll unter anderem Strafbarkeitslücken schließen, die Identifizierung verantwortlicher Accountinhaber erleichtern und unter bestimmten Voraussetzungen gerichtliche Accountsperren ermöglichen.
Geplant sind neue oder erweiterte Straftatbestände für die Herstellung und Verbreitung sexualisierter Deepfakes sowie für sonstige manipulierte Inhalte, die Rechte der dargestellten Person verletzen.
Zugleich soll das Gesetz Betroffenen die zivilrechtliche Rechtsdurchsetzung erleichtern. Vorgesehen sind vereinfachte gerichtliche Auskunftsverfahren, mit denen die Identität verantwortlicher Nutzer festgestellt werden kann. Bei schweren oder wiederholten Rechtsverletzungen sollen Gerichte außerdem die Entfernung von Inhalten und die Sperrung von Nutzerkonten anordnen können.
Die geplanten Regelungen verbinden damit strafrechtliche Sanktionen mit besseren Möglichkeiten für Betroffene, Unterlassungs- und Schadensersatzansprüche durchzusetzen. Der deutsche Gesetzgeber ergänzt die europäischen Vorgaben so um Instrumente, die auch gegen anonyme Täter und fortlaufende Rechtsverletzungen auf Plattformen wirken sollen.
Setzt Ihr Unternehmen KI-Systeme zur Erstellung, Bearbeitung oder Veröffentlichung von Bildern, Videos oder Texten ein? Dann stellt sich schnell die Frage, welche Kennzeichnungs-, Schutz- und Kontrollpflichten gelten. Wie lassen sich sexualisierte Deepfakes, Persönlichkeitsrechtsverletzungen und sonstige rechtswidrige Inhalte vermeiden? Sie möchten darüber hinaus wissen, welche Maßnahmen erforderlich sind, um KI-Anwendungen rechtssicher in bestehende Prozesse zu integrieren?
Als Kanzlei für KI-Recht unterstützt wir von SBS LEGAL Unternehmen bei der rechtssicheren Nutzung Künstlicher Intelligenz. Wir beraten zur KI-Verordnung, zu Kennzeichnungspflichten, technischen Schutzmaßnahmen und zur Prüfung interner Prozesse. Darüber hinaus begleiten wir Unternehmen aus Dienstleistung, Finanzwesen, Gesundheitssektor und weiteren Branchen bei der Einführung und Kontrolle von KI-Systemen. Unser Team unterstützt Start-ups ebenso wie etablierte Unternehmen dabei, rechtliche Risiken frühzeitig zu erkennen und ihre KI-Nutzung sicher und zukunftsfähig auszurichten.
Für weitere Rückfragen stehen wir Ihnen jederzeit gerne auch telefonisch zur Verfügung. Wünschen Sie die Rechtsberatung von dem erfahrenen Team aus Fachanwälten und Spezialisten von SBS LEGAL?