Transparenzpflichten für KI

Transparenzpflichten nach dem EU AI Act sollen erkennbar machen, wann Menschen mit bestimmten KI-Systemen interagieren und wann bestimmte Inhalte künstlich erzeugt oder manipuliert wurden. Art. 50 der KI-Verordnung (EU) 2024/1689 unterscheidet dabei insbesondere zwischen Pflichten für Anbieter und Betreiber von KI-Systemen, technischen Kennzeichnungen KI-generierter Inhalte sowie Offenlegungspflichten bei Deepfakes und bestimmten Texten von öffentlichem Interesse. Der folgende Überblick erklärt, wann die Transparenzpflichten gelten, welche Ausnahmen vorgesehen sind und was Unternehmen bei der praktischen Umsetzung beachten sollten.

Was sind Transparenzpflichten?

Transparenzpflichten sind gesetzliche Informations- und Kennzeichnungspflichten, die sicherstellen sollen, dass Menschen erkennen können, wann sie mit einem KI-System interagieren oder wann Inhalte ganz oder teilweise durch Künstliche Intelligenz erzeugt oder manipuliert wurden. Die Transparenzpflichten sind insbesondere in Art. 50 der KI-Verordnung (EU AI Act) geregelt und gelten für bestimmte KI-Systeme sowie für deren Anbieter und Betreiber.

Zweck der Transparenzpflichten

Die Transparenzpflichten sollen das Vertrauen in KI-Systeme stärken, Täuschungen verhindern und Nutzern ermöglichen, informierte Entscheidungen zu treffen. Betroffene Personen sollen erkennen können, ob sie mit einer KI kommunizieren oder ob Bilder, Videos, Audiodateien oder Texte künstlich erzeugt oder verändert wurden.

Welche Transparenzpflichten gibt es?

Je nach Art des KI-Systems unterscheiden sich die Pflichten. Anbieter von KI-Systemen müssen beispielsweise Nutzer darüber informieren, wenn diese mit einem KI-System interagieren. Erzeugt ein KI-System synthetische Inhalte wie Texte, Bilder, Audio- oder Videodateien, müssen diese grundsätzlich in geeigneter Weise als künstlich erzeugt oder manipuliert gekennzeichnet werden. Die eingesetzten technischen Kennzeichnungen müssen wirksam, zuverlässig und möglichst interoperabel sein.

Auch Betreiber bestimmter KI-Systeme treffen Transparenzpflichten. Werden Systeme zur Emotionserkennung oder biometrischen Kategorisierung eingesetzt, sind betroffene Personen hierüber zu informieren. Beim Einsatz von Deepfakes oder anderen künstlich erzeugten bzw. manipulierten Bild-, Ton- oder Videoinhalten besteht grundsätzlich eine Offenlegungspflicht. Gleiches gilt für KI-generierte Texte, die der Information der Öffentlichkeit über Angelegenheiten von öffentlichem Interesse dienen.

Gibt es Ausnahmen?

Ja. Die KI-Verordnung sieht verschiedene Ausnahmen vor. Transparenzpflichten können insbesondere entfallen, wenn aus den Umständen bereits eindeutig erkennbar ist, dass mit einem KI-System interagiert wird. Weitere Ausnahmen bestehen unter anderem für bestimmte Standardbearbeitungen ohne wesentliche Veränderung des Inhalts sowie für den Einsatz im Bereich der Strafverfolgung unter den gesetzlich vorgesehenen Voraussetzungen. Bei journalistisch oder redaktionell überprüften KI-generierten Inhalten gelten teilweise ebenfalls Erleichterungen.

Praktische Bedeutung für Unternehmen

Unternehmen sollten bereits bei der Entwicklung und dem Einsatz von KI-Systemen prüfen, ob Transparenzpflichten bestehen. Hierzu gehören insbesondere die Gestaltung geeigneter Hinweise für Nutzer, die technische Kennzeichnung KI-generierter Inhalte sowie interne Prozesse zur Einhaltung der Vorgaben des AI Acts. Verstöße können aufsichtsrechtliche Maßnahmen und Bußgelder nach sich ziehen.

Fazit für die Praxis

Transparenzpflichten gehören zu den zentralen Anforderungen der europäischen KI-Verordnung. Sie sollen einen nachvollziehbaren und verantwortungsvollen Einsatz von Künstlicher Intelligenz gewährleisten. Anbieter und Betreiber sollten frühzeitig prüfen, welche Pflichten für ihre jeweiligen KI-Systeme gelten und wie diese rechtssicher umgesetzt werden können. 

SBS LEGAL – Kanzlei für KI-Recht

SBS LEGAL berät Unternehmen zu allen Fragen im Bereich KI-Recht und zur Umsetzung der Vorgaben des EU AI Acts. Dazu gehören insbesondere Transparenzpflichten, KI-Compliance und rechtliche Anforderungen beim Einsatz generativer KI.

Transparenzpflichten nach dem AI Act rechtssicher einordnen

Welche Vorgaben des Art. 50 AI Act gelten, hängt insbesondere von der Rolle als Anbieter oder Betreiber, der eingesetzten KI-Anwendung und der Art der erzeugten oder manipulierten Inhalte ab. SBS LEGAL unterstützt Unternehmen bei der rechtlichen Einordnung ihrer KI-Systeme, der Prüfung relevanter Transparenz- und Offenlegungspflichten sowie bei der Entwicklung geeigneter Compliance-Maßnahmen.

Der Erstkontakt zu SBS LEGAL ist kostenlos.