Rechtsanwalt & Spezialist für Kryptorecht & KI-Recht, Zertifizierter Geldwäschebeauftragter (TÜV)
T (+49) 040 / 7344 086-0
Rechtsanwalt & Fachanwalt für Urheber- und Medienrecht
T (+49) 040 / 7344 086-0
Rechtsanwältin & Expertin für Kryptorecht und Markenrecht
T (+49) 040 / 7344 086-0
Fachanwalt für Urheber- und Medienrecht und Spezialist für Arbeitsrecht, Zertifizierter Datenschutzbeauftragter (TÜV)
T (+49) 040 / 7344 086-0
Blog News
Wie weit darf Künstliche Intelligenz gehen, wenn sie intime oder sexualisierte Inhalte auf Knopfdruck erzeugen kann? Der Rat setzt in seiner Position ein deutliches Signal für den Schutz von Persönlichkeitsrechten und Menschenwürde. Künftig sollen KI-Anwendungen strikt verboten sein, wenn sie sexuelle oder intime Inhalte erzeugen oder Material zum sexuellen Missbrauch von Kindern herstellen.
Im Fokus stehen dabei vor allem sogenannte Nudification-Apps und explizite Deepfakes, die für Betroffene massive Folgen haben können. Gleichzeitig soll das EU-KI-Amt bei allgemeinen KI-Modellen stärkere Befugnisse erhalten, während in besonders sensiblen Bereichen wie Strafverfolgung und Grenzmanagement weiterhin nationale Sonderzuständigkeiten bestehen bleiben.
Nudification-Apps sind KI-Anwendungen, die Fotos bekleideter Personen so bearbeiten, dass täuschend echt wirkende Nacktaufnahmen entstehen. Technisch arbeiten sie mit generativer KI, etwa mit Deep-Learning-Modellen, die Kleidung digital „entfernen“ und fehlende Körperpartien künstlich ergänzen.
Sie werden häufig verwendet, um ohne Einwilligung sexualisierte Deepfakes zu erzeugen. Betroffen sind überwiegend Frauen. Die Folgen reichen von Bloßstellung und Einschüchterung bis zu Erpressung und erheblichen psychischen Belastungen. Gerade weil sich viele dieser Apps als harmlose Foto- oder Video-Tools tarnen, verbreiten sie sich schnell und sind für Betroffene besonders schwer kontrollierbar.
Im EU-AI-Act sollen Nudification-Apps ausdrücklich unter die verbotenen KI-Praktiken fallen, wenn sie nicht einvernehmliche intime Deepfakes erzeugen. Die Regelung knüpft an Artikel 5 an und sieht bei Verstößen Bußgelder von bis zu 7 Prozent des weltweiten Jahresumsatzes vor. Hintergrund sind unter anderem Fälle wie die Grok-Deepnudes 2026, bei denen KI-Funktionen missbraucht wurden, um aus Fotos sexualisierte Fälschungen zu erstellen. Auch außerhalb der EU wächst der Druck. Das Vereinigte Königreich arbeitet ebenfalls an einem Verbot, App-Stores entfernen nach öffentlicher Kritik einzelne Vorlagen sowie Funktionen und Studien – etwa aus dem parlamentarischen Umfeld – weisen besonders auf die geschlechtsspezifischen Schäden solcher Anwendungen hin und fordern stärkere präventive Filter.
Die politische Initiative für das Verbot kam maßgeblich aus dem Europäischen Parlament. Besonders Abgeordnete wie Sergey Lagodinsky drängten seit Anfang 2026 auf eine strengere Regelung für sexualisierte Deepfakes. Zunächst stand sogar ein weitergehendes Verbot im Raum, das auch einvernehmliche Fälle erfasst hätte. Der politische Kompromiss fiel am Ende enger aus. Er richtet sich auf nicht einvernehmliche oder missbräuchliche Deepfakes und auf KI-Systeme, die Material zum sexuellen Missbrauch von Kindern erzeugen können. Auf diese Linie verständigten sich Rat und Parlament politisch am 11. und 12. März 2026. Danach folgen die formellen Schritte in den Ausschüssen und die weiteren Verhandlungen, mit dem Ziel, die Lücken des bisherigen AI-Acts zügig zu schließen.
Bisher setzte der europäische Rechtsrahmen bei Deepfakes vor allem auf Transparenz, also auf Kennzeichnungspflichten. Nun rücken harte Verbote und wirksamer Opferschutz in den Mittelpunkt. Auslöser waren auch aktuelle Missbrauchsfälle Anfang 2026, bei denen KI-Tools in großem Umfang sexualisierte Fälschungen erzeugten, häufig zulasten von Frauen und Minderjährigen. Künftig sollen Anbieter ihre Modelle so gestalten, trainieren und filtern, dass solche Inhalte gar nicht erst erzeugt werden können. Parallel dazu erhöhen nationale Gesetzgeber den Druck zusätzlich, etwa über strafrechtliche Verschärfungen. Für Plattformen und Entwickler bedeutet das schon jetzt, dass Risikoanalysen, Schutzmechanismen und Löschprozesse deutlich an Bedeutung gewinnen.
Artikel 5 des EU AI Acts regelt verbotene KI-Praktiken, darunter Systeme mit hohem Missbrauchspotenzial für Grundrechte.
Mehrere Untersuchungen machen deutlich, wie gravierend die Folgen von Intim-Deepfakes für Betroffene sind. Nach einer Analyse des Deutschen Bundestags richten sich derartige Inhalte überwiegend gegen Frauen. Sie werden häufig eingesetzt, um Menschen zu demütigen, unter Druck zu setzen oder zu erpressen. Die Auswirkungen reichen weit über einen bloßen Reputationsschaden hinaus. Beschrieben werden schwere psychische Belastungen, langanhaltende Traumata und in Einzelfällen sogar existenzielle Krisen. Hinzu kommt, dass die rechtliche Verfolgung oft schwierig ist, weil Manipulationen technisch nicht immer leicht nachzuweisen sind.
Auch Fachleute ordnen das Phänomen klar als geschlechtsspezifisches Problem ein. Die Autorin Nina Schick beschreibt Deepfakes als Ausdruck digitaler Machtstrukturen, in denen vor allem Frauen zum Ziel sexualisierter Manipulation werden. Weitere Studien bestätigen, dass solche Inhalte nicht nur die mentale Gesundheit erheblich beeinträchtigen, sondern auch soziale Beziehungen, berufliche Chancen und das Sicherheitsgefühl der Betroffenen nachhaltig beschädigen. Besonders problematisch ist die enorme Geschwindigkeit, mit der solche Bilder oder Videos erzeugt und verbreitet werden können. Untersuchungen zu aktuellen Fällen zeigen, dass schon ein einzelnes Foto ausreichen kann, um innerhalb kürzester Zeit täuschend echte und kaum kontrollierbare Fälschungen zu erzeugen. Genau deshalb fordern viele Expertinnen und Experten präventive technische Schutzmechanismen, weil eine spätere Löschung den eingetretenen Schaden oft nicht mehr ausgleichen kann.
Der EU-AI-Act zwingt Anbieter generativer KI künftig zu deutlich strengeren Schutzmaßnahmen gegen intime Deepfakes und Nudification-Anwendungen. Unternehmen müssen ihre Systeme technisch und organisatorisch so gestalten, dass sexualisierte Manipulationen oder nicht einvernehmliche Nacktbilder gar nicht erst entstehen können. Anders als bei früheren Regeln, die vor allem auf Kennzeichnung oder Transparenz setzen, geht es nun um ein klares Verbot bestimmter Inhalte. Für Entwickler, Plattformen und Betreiber bedeutet das, ihre Modelle, Moderationssysteme und internen Prozesse frühzeitig anzupassen, um rechtliche Risiken und hohe Bußgelder zu vermeiden.
KI-Systeme müssen mit technischen Sicherheitsmechanismen ausgestattet werden, die missbräuchliche Inhalte bereits im Entstehungsprozess verhindern. Dazu gehören Filter für problematische Prompts, automatisierte Prüfungen von Bild- und Videoinhalten sowie Trainingsmethoden, die riskante Datensätze von vornherein ausschließen. Ziel ist es, dass Systeme gar nicht erst in der Lage sind, intime Deepfakes oder sexualisierte Darstellungen zu erzeugen.
Neben technischen Maßnahmen verlangt der Rechtsrahmen auch umfassende Dokumentation und kontinuierliches Risikomanagement. Anbieter müssen darlegen, mit welchen Daten ihre Modelle trainiert wurden, welche Risiken für Grundrechte bestehen und welche Schutzmechanismen implementiert sind. Außerdem sind regelmäßige Prüfungen und Meldungen von Vorfällen vorgesehen, damit Behörden nachvollziehen können, wie Systeme betrieben und überwacht werden.
Auch auf organisatorischer Ebene müssen Unternehmen reagieren. Dazu zählen interne Compliance-Strukturen, Schulungen für Entwickler und Moderationsteams sowie klare Nutzungsbedingungen für Plattformen und Nutzer. Zusätzlich werden regelmäßige externe Audits erwartet. Unternehmen müssen daher frühzeitig prüfen, ob ihre Systeme den europäischen Anforderungen entsprechen und entsprechende Verträge, Prozesse und Sicherheitskonzepte anpassen.
Urheberrecht schützt auch KI-verarbeitete Texte
LG Frankfurt: Urheberrecht bei KI-generierter Musik
Stehen Sie vor der Frage, ob Ihr KI-System unter die neuen Verbote oder Hochrisiko-Regeln fällt? Müssen Sie technische Schutzmaßnahmen gegen Deepfakes, Missbrauch oder diskriminierende Outputs einführen? Oder möchten Sie klären, welche Pflichten sich aus der KI-VO für Ihr Unternehmen konkret ergeben und wie sich Haftungsrisiken frühzeitig begrenzen lassen?
Unsere Fachanwälte für KI-Recht begleiten Mandanten seit den ersten regulatorischen Entwicklungen rund um Künstliche Intelligenz. Wir beraten Start-ups ebenso wie etablierte Anbieter aus Dienstleistung, Finanzsektor, Gesundheitswesen und anderen Branchen bei der rechtssicheren Einführung und Nutzung von KI-Technologien. Dazu gehört die Prüfung Ihrer Prozesse und Systeme im Lichte der KI-VO ebenso wie die rechtliche Begleitung bei der Umsetzung technischer Schutzmaßnahmen, interner Compliance-Strukturen und organisatorischer Anforderungen. So unterstützen wir Sie dabei, KI-Anwendungen sicher, belastbar und zukunftsfähig aufzustellen.
Für weitere Rückfragen stehen wir Ihnen jederzeit gerne auch telefonisch zur Verfügung. Wünschen Sie die Rechtsberatung von dem erfahrenen Team aus Fachanwälten und Spezialisten von SBS LEGAL?