Rechtsanwalt & Spezialist für Kryptorecht & KI-Recht, Zertifizierter Geldwäschebeauftragter (TÜV)
T (+49) 040 / 7344 086-0
Rechtsanwältin & Expertin für Kryptorecht
T (+49) 040 / 7344 086-0
| KI-Recht
Blog News
Wie lässt sich sicherstellen, dass Menschen KI-generierte Inhalte erkennen und einordnen können? Diese Frage steht im Mittelpunkt der aktuellen Konsultation der EU-Kommission. Ziel ist es, gemeinsam mit Unternehmen, Wissenschaft und Zivilgesellschaft klare Leitlinien und einen verbindlichen Verhaltenskodex für eine größere Transparenz beim Einsatz künstlicher Intelligenz zu entwickeln. Was es damit genau auf sich hat, beleuchten wir in diesem Beitrag.
Die Konsultation folgt auf den im August 2024 in Kraft getretenen EU Artificial Intelligence Act (KI-VO). Sie konkretisiert vor allem die in Artikel 50 festgelegten Transparenzpflichten, die Anbieter und Betreiber von KI-Systemen ab August 2026 erfüllen müssen.
Darin heißt es:
1 Die Anbieter stellen sicher, dass KI‑Systeme, die für die direkte Interaktion mit natürlichen Personen bestimmt sind, so konzipiert und entwickelt werden, dass die betreffenden natürlichen Personen informiert werden, dass sie mit einem KI‑System interagieren, es sei denn, dies ist aus Sicht einer angemessen informierten, aufmerksamen und verständigen natürlichen Person aufgrund der Umstände und des Kontexts der Nutzung offensichtlich. […]
und weiter
4 Betreiber eines KI‑Systems, das Bild-, Ton- oder Videoinhalte erzeugt oder manipuliert, die ein Deepfake sind, müssen offenlegen, dass die Inhalte künstlich erzeugt oder manipuliert wurden. […]
Damit legt die EU-Kommission den Grundstein für ein europaweit einheitliches Verständnis von Transparenz, Vertrauen und Verantwortung im Umgang mit KI. Ein entscheidender Schritt auf dem Weg zu einer ethisch und rechtlich fundierten digitalen Zukunft.
Künstliche Intelligenz (KI) bezeichnet Systeme, die menschliche Denk- und Entscheidungsprozesse technisch nachbilden. Sie analysieren Daten, erkennen Muster und treffen auf dieser Grundlage selbstständig oder teilautomatisiert Entscheidungen. Der EU Artificial Intelligence Act definiert KI-Systeme als Software, die mit Hilfe von Techniken wie maschinellem Lernen, logikbasierten Ansätzen oder Wissensrepräsentation entwickelt wurde und Ergebnisse wie Vorhersagen, Empfehlungen oder Entscheidungen liefert, die das Umfeld beeinflussen.
Typische Merkmale von KI-Systemen sind:
Vielfältige Einsatzgebiete: Von Medizin über Finanzwesen bis hin zu öffentlicher Verwaltung und Kunst – KI wird zunehmend in nahezu allen Lebensbereichen eingesetzt.
Mit der gestarteten Konsultation verfolgt die EU-Kommission das Ziel, die Umsetzung der Transparenzpflichten aus dem EU Artificial Intelligence Act (KI-VO) praxisnah zu gestalten und europaweit einheitliche Standards für den Umgang mit KI-Systemen zu schaffen. Im Mittelpunkt steht die Frage, wie Nutzerinnen und Nutzer zuverlässig erkennen können, wann sie mit KI interagieren oder KI-generierte Inhalte sehen. Nutzerinnen und Nutzer sollen künftig klar erkennen können, wann und in welchem Umfang KI-Systeme Inhalte erzeugen oder Entscheidungen beeinflussen
Ein weiterer Schwerpunkt liegt auf dem Vertrauen in KI-Technologien. Durch transparente Informationen und klare Kommunikationspflichten soll die Akzeptanz in der breiten Bevölkerung gestärkt und Missbrauch gezielt verhindert werden. Unternehmen sollen wissen, wie sie die gesetzlichen Transparenzpflichten nach Artikel 50 der KI-Verordnung praktisch umsetzen können, wie etwa durch Kennzeichnung von KI-generierten Texten oder Bildern sowie durch technische Systeme, die eine eindeutige Erkennung ermöglichen.
Zugleich sollen die Vorgaben Rechtssicherheit schaffen, um Innovation nicht zu bremsen. Einheitliche europäische Standards sollen die Entwicklung neuer KI-Anwendungen erleichtern und gleichzeitig verhindern, dass unterschiedliche nationale Regelungen zu Unsicherheiten führen.
Ein zentrales Ziel ist außerdem der Schutz vor Manipulation und Desinformation. Besonders im Bereich generativer KI, etwa bei der Erstellung von Texten, Bildern oder Videos, sollen klare Regeln sicherstellen, dass Nutzerinnen und Nutzer künstlich erzeugte Inhalte von echten menschlichen Beiträgen unterscheiden können. So will die EU-Kommission einen verantwortungsvollen und transparenten Umgang mit KI im digitalen Raum fördern.
Der geplante „Code of Practice on Transparency“ der Europäischen Kommission legt konkrete Maßnahmen fest, um die im europäischen KI-Gesetz vorgesehenen Transparenzpflichten praktisch umzusetzen.
Angesichts der Vielzahl leistungsfähiger KI-Systeme, die heute in der Lage sind, Texte, Bilder, Videos und Audiodateien täuschend echt zu erzeugen oder zu verändern, wird es zusehends schwieriger, KI-Inhalte von menschlich erstellten und authentischen Inhalten zu unterscheiden. Das wiederum birgt erhebliche Risiken, etwa durch Fehlinformationen, Manipulation, Betrug oder Identitätsmissbrauch.
Um diesen Gefahren zu begegnen, sieht Artikel 50 des KI-Gesetzes verbindliche Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme vor, darunter generative und interaktive KI-Modelle sowie Deepfakes. Die Verpflichtungen sollen Täuschung, Nachahmung und Desinformation eindämmen und gleichzeitig Vertrauen und Integrität im digitalen Informationsraum stärken.
Der Kodex konkretisiert diese Vorgaben in der Praxis. Er umfasst klare Anforderungen zur Kennzeichnung und Erkennbarkeit von KI-Inhalten, etwa durch Wasserzeichen oder digitale Herkunftsnachweise („Content Credentials“), sowie verbindliche Informationsstandards und Kommunikationspflichten. Damit soll sichergestellt werden, dass die Nutzung von KI nachvollziehbar und überprüfbar bleibt. Insbesondere bei sensiblen Anwendungen wie Emotionserkennung, biometrischer Kategorisierung oder Medieninhalten mit großem Verbreitungspotenzial.
Die Konsultation richtet sich an ein breites Spektrum von Akteuren:
KI-Systeme können heute Texte, Bilder, Videos und Audioinhalte erzeugen, die kaum noch von menschlich erstellten Inhalten zu unterscheiden sind. Dadurch entstehen Risiken wie Fehlinformationen, Manipulation, Betrug oder Identitätsmissbrauch. Der Verhaltenskodex soll sicherstellen, dass Menschen immer erkennen können, wann sie mit KI interagieren oder KI-generierten Inhalten ausgesetzt sind. So werden Täuschung und Missbrauch eingedämmt und Vertrauen in KI-Systeme gefördert.
Artikel 50 des KI-Gesetzes enthält die zentralen Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme. Insbesondere für generative KI sowie Deepfakes.
Die Vorschrift verpflichtet Anbieter dazu, Nutzer klar zu informieren, wenn sie mit KI interagieren, wenn Inhalte manipuliert oder automatisch erstellt wurden oder wenn emotionserkennende oder biometrische Systeme eingesetzt werden.
Diese Regeln sollen Manipulation, Nachahmung und Desinformation verhindern und das Vertrauen in die digitale Informationsumgebung stärken.
Artikel 50 unterscheidet vier Hauptgruppen:
Welche technischen Lösungen werden für die Kennzeichnung von KI-Inhalten genutzt?
Zur Erkennung und Kennzeichnung von KI-generierten Inhalten werden verschiedene Technologien entwickelt:
Die Leitlinien erläutern den gesamten Artikel 50 und schaffen rechtliche Klarheit zu Definitionen, Ausnahmen und Anwendungsbereichen. Der Verhaltenskodex geht einen Schritt weiter. Er beschreibt konkrete technische und organisatorische Maßnahmen, mit denen Anbieter ihre Transparenzpflichten praktisch umsetzen können, etwa durch Kennzeichnungssysteme oder Benutzerhinweise. Beide Instrumente ergänzen sich und sollen Rechtssicherheit schaffen, ohne Innovation zu behindern.
Die Europäische Kommission hatte Anbieter und Betreiber generativer KI-Systeme, Forschungseinrichtungen, Zivilgesellschaft, Behörden und Bürgerinnen und Bürger ein, bis zum 9. Oktober 2025 eingeladen, an der Ausarbeitung mitzuwirken.
Nach Abschluss der öffentlichen Konsultation und der Phase der Interessenbekundung beginnt nun die praktische Ausarbeitung des europäischen Verhaltenskodex für transparente KI-Systeme. Das Amt für künstliche Intelligenz wird alle zugelassenen Interessenträger offiziell zur Teilnahme einladen und die Leitung der verschiedenen Arbeitsgruppen benennen. Diese Gruppen setzen sich aus Vertreterinnen und Vertretern von Unternehmen, Forschung, Zivilgesellschaft und Behörden zusammen.
Der offizielle Auftakt erfolgt im November 2025 mit einer gemeinsamen Plenarsitzung aller Beteiligten. Anschließend startet der Redaktionsprozess, in dem die technischen, rechtlichen und organisatorischen Maßnahmen für den Kodex im Detail abgestimmt werden. Die Fertigstellung des endgültigen Verhaltenskodex ist bis spätestens Juni 2026 vorgesehen.
Sie möchten wissen, welche Transparenzpflichten künftig für Ihr Unternehmen gelten werden? Sie fragen sich, ob Ihr KI-System unter die Vorgaben des Artikels 50 des KI-Gesetzes fällt oder ob Sie sich an der Ausarbeitung des europäischen Verhaltenskodex beteiligen sollten? Oder möchten Sie Ihre bestehenden Prozesse frühzeitig an die kommenden Transparenz- und Kennzeichnungspflichten anpassen, um rechtliche Risiken und Reputationsschäden zu vermeiden?
Unser interdisziplinäres Team aus Fachanwälten für IT-Recht, Datenschutzrecht und KI-Recht begleitet Sie umfassend bei allen rechtlichen und organisatorischen Fragen rund um den Einsatz künstlicher Intelligenz. Wir unterstützen Sie bei der rechtssicheren Umsetzung der Transparenzanforderungen, der Vertragsgestaltung mit KI-Anbietern, der Erstellung von Kennzeichnungs- und Informationsrichtlinien sowie bei der strategischen Vorbereitung auf die kommenden EU-Vorgaben.
Für weitere Rückfragen stehen wir Ihnen jederzeit gerne auch telefonisch zur Verfügung. Wünschen Sie die Rechtsberatung von dem erfahrenen Team aus Fachanwälten und Spezialisten von SBS LEGAL?