02.09.2026 | KI-Recht

KI-Inhalte kennzeichnen: Was Art. 50 KI-Verordnung verlangt

Wer KI-Inhalte mit Chatbots, Bildgeneratoren, Sprachmodellen oder KI-Agenten erstellt, veröffentlicht oder ausspielt, muss seit dem 2. August 2026 die Transparenzpflichten des Art. 50 KI-VO prüfen. Je nach Rolle als Anbieter oder Betreiber geht es dabei um Hinweise bei direkter KI-Interaktion, maschinenlesbare Markierungen synthetischer Inhalte, die Offenlegung von Deepfakes und die Kennzeichnung bestimmter KI-generierter Texte zu Angelegenheiten von öffentlichem Interesse.

Dieser Beitrag zeigt, welche Pflichten Unternehmen nach der Verordnung (EU) 2024/1689 in ihrer aktuellen, durch den Digital Omnibus geänderten Fassung treffen, welche Ausnahmen bei Standardbearbeitungen und menschlicher redaktioneller Kontrolle bestehen und wie sich die Anforderungen aus Art. 50 KI-VO in Marketing, Kundenservice und Content-Prozessen praktisch berücksichtigen lassen.

Was verlangt Art. 50 KI-Verordnung seit August 2026?

Seit dem 2. August 2026 gelten die Transparenzpflichten aus Art. 50 der Verordnung (EU) 2024/1689, der europäischen KI-Verordnung.

Die Transparenzpflichten aus Art. 50 KI-VO wurden durch die inzwischen in Kraft getretene Digital-Omnibus-Verordnung (EU) 2026/1744 nicht aufgeschoben. Anders als bei bestimmten Vorgaben für Hochrisiko-KI gilt Art. 50 deshalb bereits seit dem 2. August 2026.

Unternehmen müssen deshalb bereits heute prüfen, ob ihre KI-Anwendungen unter Art. 50 KI-VO fallen und welche Informationen sie gegenüber Nutzern bereitstellen müssen.

Art. 50 KI-VO soll insbesondere verhindern, dass Menschen KI-Systeme und künstlich erzeugte Inhalte irrtümlich für menschliche Kommunikation oder authentische Inhalte halten. Hintergrund ist die zunehmende Qualität synthetischer Inhalte. Nach Erwägungsgrund 133 können solche Inhalte unter anderem Risiken für Desinformation, Betrug, Identitätsmissbrauch und Verbrauchertäuschung schaffen. Die KI-Verordnung setzt deshalb nicht auf ein grundsätzliches Verbot solcher Anwendungen, sondern auf Transparenz gegenüber den betroffenen Personen.

Die Anforderungen unterscheiden sich nach dem jeweiligen KI-Einsatz. Art. 50 Abs. 1 KI-VO betrifft insbesondere Systeme, die unmittelbar mit Menschen interagieren.

Art. 50 Abs. 2 KI-VO regelt die maschinenlesbare Kennzeichnung synthetisch erzeugter oder manipulierter Audio-, Bild-, Video- und Textinhalte. Art. 50 Abs. 3 KI-VO enthält Informationspflichten für Emotionserkennung und biometrische Kategorisierung.

 Art. 50 Abs. 4 KI-VO erfasst insbesondere Deepfakes sowie bestimmte KI-generierte Texte. Wie die Information bereitgestellt werden muss, bestimmt ergänzend Art. 50 Abs. 5 KI-VO.

Übergangsfrist für bestimmte ältere KI-Systeme

Für einen begrenzten Kreis von Anbietern gilt eine Übergangsregelung. Nach Art. 111 Abs. 4 KI-VO müssen Anbieter von Systemen, die synthetische Audio-, Bild-, Video- oder Textinhalte erzeugen und bereits vor dem 2. August 2026 in Verkehr gebracht wurden, die technischen Anforderungen aus Art. 50 Abs. 2 KI-VO erst bis zum 2. Dezember 2026 umsetzen. Die Erleichterung gilt ausschließlich für Anbieter und nur für die maschinenlesbare Kennzeichnung. Betreiberpflichten sowie die Offenlegung von Deepfakes bleiben davon unberührt.

Anbieter oder Betreiber. Wen treffen welche Transparenzpflichten?

Art. 50 KI-VO unterscheidet danach, welche Rolle ein Unternehmen beim Einsatz von Künstlicher Intelligenz einnimmt. Anbieter ist nach Art. 3 Nr. 3 KI-VO grundsätzlich, wer ein KI-System entwickelt oder entwickeln lässt und es unter eigenem Namen oder eigener Marke in Verkehr bringt oder in Betrieb nimmt. Betreiber ist nach Art. 3 Nr. 4 KI-VO dagegen, wer ein KI-System in eigener Verantwortung beruflich einsetzt. Für die Transparenzpflichten ist diese Abgrenzung wichtig, weil Art. 50 unterschiedliche Anforderungen an beide Rollen richtet. Ein Unternehmen kann bei einem Anwendungsfall zudem gleichzeitig Anbieter und Betreiber sein.

Für viele Unternehmen liegt der Schwerpunkt auf der Betreiberrolle, weil sie fremde KI-Systeme für Marketing, Kundenservice oder Kommunikation einsetzen. Wer ein fremdes Modell jedoch in ein eigenes Produkt integriert und dieses unter der eigenen Marke anbietet, kann zusätzlich Anbieterpflichten übernehmen. Die Einordnung sollte deshalb für jeden KI-Anwendungsfall gesondert erfolgen.

Wann müssen KI-Chatbots als solche erkennbar sein?

Für KI-Systeme, die unmittelbar mit natürlichen Personen interagieren, gilt Art. 50 Abs. 1 KI-VO. Anbieter müssen solche Systeme so gestalten, dass Nutzer darüber informiert werden, dass sie mit Künstlicher Intelligenz kommunizieren. Erfasst sind insbesondere Chatbots, Sprachassistenten, KI-gestützte Telefonassistenten und KI-Avatare, die mit Menschen in einen unmittelbaren Austausch treten. Ein einfaches Formular, das lediglich Daten abfragt, fällt dagegen nicht unter diese Regelung.

Eine ausdrückliche Kennzeichnung ist nur dann entbehrlich, wenn für eine angemessen informierte, aufmerksame und verständige Person bereits aufgrund der Umstände offensichtlich ist, dass sie mit einem KI-System interagiert. Diese Ausnahme ist eng auszulegen. Ein Roboter-Symbol oder ein Fantasiename für den Chatbot genügt nicht zwingend. Je menschlicher Sprache, Auftreten und Ansprache wirken, desto weniger können Unternehmen davon ausgehen, dass die KI-Natur für Nutzer ohne zusätzlichen Hinweis erkennbar ist. Bei Angeboten, die sich an Kinder oder andere besonders schutzbedürftige Personengruppen richten, sollte auf eine ausdrückliche Information deshalb nicht verzichtet werden.

Die Information muss nach Art. 50 Abs. 5 KI-VO spätestens bei der ersten Interaktion erfolgen und klar sowie eindeutig formuliert sein. Ein Hinweis erst nach mehreren Nachrichten, ausschließlich in den Nutzungsbedingungen oder versteckt in der Fußzeile reicht hierfür nicht aus. Nach den Leitlinien der Europäischen Kommission sollen KI-Agenten zudem erkennen lassen, für welches Unternehmen sie handeln. In der Praxis bietet sich daher ein kurzer Hinweis unmittelbar zu Beginn des Chats oder Gesprächs an, der sowohl den KI-Einsatz als auch das verantwortliche Unternehmen erkennen lässt.

Wie sind KI-Bilder, Videos, Audioinhalte und Deepfakes zu kennzeichnen?

Bei KI-generierten Bildern, Videos und Audioinhalten unterscheidet Art. 50 KI-VO zwischen einer technischen Kennzeichnung durch den Anbieter und einer für Menschen wahrnehmbaren Offenlegung durch den Betreiber. Anbieter von Systemen, die synthetische Inhalte erzeugen, müssen nach Art. 50 Abs. 2 KI-VO grundsätzlich dafür sorgen, dass die Ausgaben maschinenlesbar gekennzeichnet und als künstlich erzeugt oder manipuliert erkennbar sind. Die eingesetzten Verfahren sollen technisch möglichst wirksam, interoperabel, belastbar und zuverlässig sein.

Für Unternehmen, die solche Inhalte veröffentlichen oder einsetzen, ist vor allem Art. 50 Abs. 4 KI-VO relevant. Eine zusätzliche Offenlegung gegenüber dem Publikum ist erforderlich, wenn es sich um einen Deepfake handelt. Nach Art. 3 Nr. 60 KI-VO sind damit durch KI erzeugte oder manipulierte Bild-, Ton- oder Videoinhalte gemeint, die realen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähneln und fälschlicherweise für echt gehalten werden könnten. Der Begriff reicht damit deutlich über klassische Gesichtstausch-Videos hinaus. Auch ein realistisch wirkendes KI-Foto einer nicht existierenden Produktionshalle oder eine synthetisch erzeugte Stimme kann darunterfallen. Offensichtlich comichafte, stilisierte oder unrealistische Darstellungen sind dagegen grundsätzlich keine Deepfakes.

Die Kennzeichnung muss nach Art. 50 Abs. 5 KI-VO klar, eindeutig und rechtzeitig wahrnehmbar sein. Ein versteckter Hinweis in allgemeinen Informationen genügt nicht. Bei künstlerischen, kreativen, satirischen oder fiktionalen Werken darf die Offenlegung zurückhaltender gestaltet werden. Die Kennzeichnung entfällt dadurch jedoch nicht vollständig.

Besteht für einen Bild-, Video- oder Audioinhalt eine Offenlegungspflicht nach Art. 50 Abs. 4 KI-VO, sollte der Hinweis klar mit dem betreffenden Inhalt verbunden werden. Nicht jeder KI-generierte Medieninhalt unterliegt automatisch dieser für Menschen wahrnehmbaren Kennzeichnungspflicht. Entscheidend ist insbesondere, ob ein Deepfake im Sinne von Art. 3 Nr. 60 KI-VO vorliegt.

Fünf Tipps für die praktische Kennzeichnung:

• KI-Bilder: Kennzeichnung möglichst direkt am Bild platzieren.
• KI-Videos: Hinweis gut sichtbar und rechtzeitig einblenden.
• Synthetische Stimmen: Kennzeichnung verständlich und frühzeitig mitteilen.
• Technische Markierungen: Maschinenlesbare Kennzeichnungen möglichst erhalten.
• Realistische Inhalte: Prüfen, ob ein Deepfake nach Art. 3 Nr. 60 KI-VO vorliegt.

Wann müssen KI-generierte Texte gekennzeichnet werden?

Für KI-generierte Texte enthält Art. 50 Abs. 4 KI-VO eine deutlich engere Kennzeichnungspflicht als für Deepfakes. Nicht jeder mit Künstlicher Intelligenz erstellte Text muss offengelegt werden. Die Pflicht greift nur, wenn ein KI-generierter oder KI-manipulierter Text veröffentlicht wird, um die Öffentlichkeit über eine Angelegenheit von öffentlichem Interesse zu informieren. Dafür müssen Veröffentlichung, Informationszweck und öffentliches Interesse zusammenkommen.

Als Angelegenheiten von öffentlichem Interesse nennt die Kommission unter anderem Politik, öffentliche Verwaltung, Justiz, Grundrechte, öffentliche Sicherheit, Gesundheit, Umwelt, Verbraucherschutz sowie wirtschaftliche und wissenschaftliche Entwicklungen. Ein Unternehmensblog zu einer Gesetzesänderung oder ein Ratgeber zu Gesundheitsthemen kann deshalb erfasst sein.

Produktbeschreibungen, Stellenanzeigen, interne Arbeitsanweisungen oder individuelle Kunden-E-Mails fallen typischerweise nicht allein aufgrund ihres KI-Einsatzes unter diese besondere Offenlegungspflicht. Entscheidend bleibt jedoch, ob der konkrete Text veröffentlicht wird, um die Öffentlichkeit über eine Angelegenheit von öffentlichem Interesse zu informieren.

Für professionelle Unternehmenskommunikation ist außerdem die Ausnahme bei menschlicher Überprüfung oder redaktioneller Kontrolle wichtig. Wurde der KI-generierte Inhalt inhaltlich geprüft und übernimmt eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung, kann die Kennzeichnungspflicht entfallen. Eine nur oberflächliche Kontrolle genügt hierfür jedoch nicht.

Wann greift die Ausnahme bei menschlicher oder redaktioneller Kontrolle?

Für bestimmte KI-generierte Texte sieht Art. 50 Abs. 4 KI-VO eine wichtige Ausnahme von der Kennzeichnungspflicht vor. Sie greift, wenn der Inhalt vor der Veröffentlichung einer echten menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurde und eine natürliche oder juristische Person die redaktionelle Verantwortung übernimmt. Die Ausnahme gilt nur für Texte. Für Deepfakes besteht sie nicht.

• Eine fachkundige Person muss den Inhalt tatsächlich prüfen.
• Fakten und Quellen sollten inhaltlich kontrolliert werden.
• Der Text muss geändert oder abgelehnt werden können.
• Eine verantwortliche Person oder Stelle muss die Veröffentlichung freigeben.
• Eine reine Rechtschreibprüfung reicht nicht aus.
• Ein kurzes Überfliegen genügt ebenfalls nicht.
• Automatisierte Freigaben ersetzen keine menschliche Kontrolle.
• Unternehmen sollten den Prüfschritt nachvollziehbar dokumentieren.
• Eine namentliche Freigabe und ein kurzer Prüfvermerk können als Nachweis dienen.
• Für KI-generierte Bilder, Videos oder Audios, die als Deepfakes einzustufen sind, entfällt die Kennzeichnung trotz redaktioneller Prüfung nicht.

Wie sollte die KI-Kennzeichnung in der Praxis umgesetzt werden?

Art. 50 Abs. 5 KI-VO verlangt, dass die erforderlichen Informationen klar und eindeutig bereitgestellt werden. Sie müssen spätestens bei der ersten Interaktion oder dann erfolgen, wenn die betroffene Person dem jeweiligen Inhalt ausgesetzt wird. Zudem sind die geltenden Anforderungen an die Barrierefreiheit zu beachten. Wie die Kennzeichnung konkret aussieht, hängt deshalb von der Art der KI-Anwendung und des Inhalts ab. Versteckte Hinweise in Nutzungsbedingungen oder am Ende einer Seite sind regelmäßig keine sichere Lösung.

Aus Compliance-Sicht empfiehlt es sich außerdem, vorhandene technische Herkunfts- oder KI-Markierungen beim Exportieren, Bearbeiten und Weitergeben möglichst zu erhalten. Art. 50 Abs. 2 KI-VO richtet die Pflicht zur technischen, maschinenlesbaren Kennzeichnung allerdings primär an die Anbieter der betreffenden KI-Systeme.

Welche wettbewerbsrechtlichen Folgen drohen bei fehlender Kennzeichnung?

Eine fehlende oder irreführende KI-Kennzeichnung kann nicht nur aufsichtsrechtliche Folgen nach der KI-Verordnung haben. Unternehmen müssen zusätzlich mit wettbewerbsrechtlichen Ansprüchen rechnen. Ob Art. 50 KI-VO selbst eine Marktverhaltensregel im Sinne des § 3a UWG darstellt, ist bislang gerichtlich nicht abschließend geklärt. Unabhängig davon können insbesondere § 5 UWG sowie § 5a UWG greifen, wenn KI-generierte Inhalte Verbraucher über ihre Herkunft, ihren kommerziellen Zweck oder tatsächliche Verhältnisse täuschen. Möglich sind insbesondere Abmahnungen, Unterlassungsansprüche und einstweilige Verfügungen.

Beispiel 1. KI-generierte Produktionsstätte

Ein Unternehmen wirbt mit einem fotorealistischen KI-Bild einer Produktionshalle, die tatsächlich nicht existiert, ohne die künstliche Erstellung offenzulegen. Dadurch kann beim Verbraucher ein falscher Eindruck über die betrieblichen Verhältnisse entstehen. Eine solche Darstellung kann als Irreführung nach § 5 UWG angegriffen werden. Neben einem Unterlassungsverfahren kommt unabhängig davon ein Bußgeld nach Art. 99 KI-VO in Betracht. Dieses kann bei Verstößen gegen Art. 50 bis zu 15 Millionen Euro oder drei Prozent des weltweiten Jahresumsatzes betragen.

Beispiel 2. KI-Avatar als scheinbar unabhängiger Kunde

Ein KI-generierter Avatar empfiehlt in einem Social-Media-Video die Produkte des Unternehmens und wirkt dabei wie ein unabhängiger Nutzer. Wird der kommerzielle Hintergrund nicht erkennbar gemacht, kann insbesondere § 5a Abs. 4 UWG einschlägig sein. Auch hier können Verbände oder andere Anspruchsberechtigte Unterlassung verlangen und gegebenenfalls eine einstweilige Verfügung beantragen. Einen festen gesetzlichen Geldbetrag sieht das UWG für eine solche Abmahnung nicht vor.

Beispiel 3. KI-generierte Bewertungen

Werden künstlich erzeugte Verbraucherbewertungen oder Empfehlungen zur Verkaufsförderung eingesetzt, kommt insbesondere Nr. 23c des Anhangs zu § 3 Abs. 3 UWG in Betracht. Nr. 23b kann zusätzlich relevant sein, wenn ein Unternehmen behauptet, veröffentlichte Bewertungen stammten von tatsächlichen Verbrauchern, ohne angemessene und verhältnismäßige Schritte zur Überprüfung ihrer Echtheit zu treffen.

Dabei handelt es sich um besonders strenge Per-se-Verbote. Eine zusätzliche Prüfung, ob der Wettbewerbsverstoß eine bestimmte Erheblichkeit erreicht, ist nicht erforderlich. Auch hier drohen insbesondere Unterlassungsansprüche und gerichtliche Eilverfahren.

Bei der finanziellen Bewertung ist zwischen Wettbewerbsrecht und behördlichem Bußgeld zu unterscheiden. Für einen UWG-Verstoß gibt es keine pauschale Geldbuße in bestimmter Höhe. Bei bestimmten digitalen Informations- und Kennzeichnungspflichten kann ein Mitbewerber nach § 13 Abs. 4 Nr. 1 UWG zudem keinen Ersatz seiner Abmahnkosten verlangen. Bei Unternehmen mit regelmäßig weniger als 100 Beschäftigten ist unter den Voraussetzungen des § 13a Abs. 2 UWG bei einer erstmaligen Abmahnung durch einen Mitbewerber außerdem eine Vertragsstrafe ausgeschlossen. Unterlassungsansprüche sowie Verfahren durch Wirtschaftsverbände und qualifizierte Einrichtungen bleiben davon jedoch unberührt.

Wie können Unternehmen eine interne KI-Compliance aufbauen?

Unternehmen sollten die Transparenzpflichten aus Art. 50 KI-VO nicht nur bei einzelnen Veröffentlichungen prüfen. Sinnvoll ist ein fester interner Prozess, der erfasst, wo KI eingesetzt wird, welche Rolle das Unternehmen dabei übernimmt und welche Kennzeichnung im jeweiligen Fall erforderlich ist. Auch Zuständigkeiten, Freigaben und Verträge mit externen Dienstleistern sollten einbezogen werden.

1. Erfassen Sie alle KI-Anwendungen im Unternehmen.
   Dokumentieren Sie auch Werkzeuge, die einzelne Fachabteilungen eigenständig einsetzen. Dazu können Bildgeneratoren, Textassistenten, Übersetzungstools oder KI-Funktionen bestehender Software gehören.
2. Bestimmen Sie für jeden Einsatz die eigene Rolle.
   Prüfen Sie, ob Ihr Unternehmen Anbieter, Betreiber oder in einzelnen Fällen beides ist. Daraus ergibt sich, welche Pflichten aus Art. 50 KI-VO greifen.
3. Legen Sie ein einheitliches Kennzeichnungskonzept fest.
   Definieren Sie, welche Inhalte gekennzeichnet werden, welche Formulierungen verwendet werden und wo der Hinweis erscheinen soll. Abweichungen sollten begründet und dokumentiert werden.
4. Dokumentieren Sie redaktionelle Prüfungen und Verantwortlichkeiten.
   Wer sich bei KI-generierten Texten auf die Ausnahme für menschliche oder redaktionelle Kontrolle stützen möchte, sollte den Prüfprozess nachvollziehbar festhalten. Verantwortliche Personen und Freigaben sollten erkennbar sein.
5. Beziehen Sie Dienstleister, Verträge und Schulungen ein.
   Agenturen und Content-Dienstleister sollten ihren KI-Einsatz offenlegen und vorhandene Kennzeichnungen erhalten. Gleichzeitig sollten Beschäftigte wissen, welche KI-Anwendungen sie nutzen dürfen und wann eine Kennzeichnung erforderlich wird.

Wir von SBS LEGAL als Kanzlei für KI-Recht unterstützen Sie dabei, bestehende KI-Anwendungen rechtlich einzuordnen und passende Compliance-Strukturen für Ihr Unternehmen zu entwickeln. Dazu gehören unter anderem die Prüfung Ihrer Anbieter- und Betreiberrolle, interne KI-Richtlinien, Kennzeichnungskonzepte, Freigabeprozesse sowie die rechtliche Gestaltung von Verträgen mit Agenturen und KI-Dienstleistern.

SBS LEGAL – Kanzlei für KI-Recht

Nutzen Sie bereits KI-Systeme im Marketing, Kundenservice oder in internen Prozessen? Wissen Sie, ob Ihr Unternehmen dabei als Anbieter oder Betreiber handelt und welche Pflichten bereits gelten? Sind Ihre KI-Anwendungen vollständig erfasst, Kennzeichnungen einheitlich geregelt und redaktionelle Freigaben dokumentiert? Gerade durch die gestaffelte Anwendung der KI-Verordnung und die Änderungen durch den Digital Omnibus kann schnell unklar werden, welche Anforderungen für den jeweiligen Anwendungsfall maßgeblich sind.

Dann sind Sie bei SBS LEGAL genau richtig! 

Wir von SBS LEGAL als Kanzlei für KI-Recht unterstützen Sie bei der rechtlichen Einordnung Ihrer KI-Anwendungen und beim Aufbau einer belastbaren KI-Compliance. Wir prüfen Ihre Use Cases und Rollen nach der KI-Verordnung, führen GAP-Analysen durch und entwickeln mit Ihnen interne Richtlinien sowie Prozesse für Daten-, Modell- und Prompt-Governance. Darüber hinaus begleiten wir Sie bei technischen und organisatorischen Kontrollen, Dokumentation und Monitoring sowie bei Schulungskonzepten zur KI-Kompetenz nach Art. 4 KI-VO. Dabei berücksichtigen wir auch die gestaffelten Anwendungszeitpunkte der KI-Verordnung und die durch den Digital Omnibus geänderten Fristen für Hochrisiko-KI.

Für weitere Rückfragen stehen wir Ihnen jederzeit gerne auch telefonisch zur Verfügung. Wünschen Sie die Rechtsberatung von dem erfahrenen Team aus Fachanwälten und Spezialisten von SBS LEGAL?

Der Erstkontakt zu SBS LEGAL ist kostenlos.

Zurück zur Blog-Übersicht