Rechtsanwalt & Spezialist für Kryptorecht & KI-Recht, Zertifizierter Geldwäschebeauftragter (TÜV)
T (+49) 040 / 7344 086-0
171 Bewertungen
https://www.provenexpert.com/sbs-legal-rechtsanwaelte
97 Bewertungen
https://www.anwalt.de/sbs-legal-rechtsanwaelte
63 Bewertungen
https://www.google.com/search?&q=sbs-legal
14 Bewertungen
https://www.facebook.com/SBS-LEGAL-Rechtsanw%C3%A4lte
Die Verordnung über künstliche Intelligenz hat viele Namen. Sie ist allgemeinhin als KI-Verordnung bekannt oder kurz: KI-VO. Im Englischen wird sie AI Act oder EU AI Act genannt.
Ein Unternehmen bindet einen KI-Chatbot in seinen Kundenservice ein und lässt zudem eingehende Bewerbungen von einer Software vorsortieren.
Beide Prozesse laufen im Alltag unauffällig mit, können rechtlich jedoch bereits unterschiedliche Pflichten und Einordnungsfragen nach der KI-Verordnung auslösen. Während für Chatbots insbesondere Transparenzpflichten relevant ist, gelten die verschobenen Hochrisiko-Pflichten für KI-Systeme zur Bewerberauswahl grundsätzlich erst ab dem 2. Dezember 2027.
Nach Angaben von Eurostat nutzten 2025 bereits 20,0 Prozent der EU-Unternehmen ab zehn Beschäftigten KI-Technologien, gegenüber 13,5 Prozent im Jahr zuvor. Unter großen Unternehmen lag der Anteil bei rund 55 Prozent.
Wer KI anbietet oder betreibt, sollte deshalb wissen, welche Anforderungen die KI-Verordnung stellt, welche Fristen inzwischen gelten und welche Pflichten sich durch den Digitalen Omnibus verschoben haben.
Die KI-Verordnung – Verordnung (EU) 2024/1689, häufig als AI Act bezeichnet, ist das erste umfassende Regelwerk der Europäischen Union für künstliche Intelligenz. Die KI-Verordnung trat am 1. August 2024 in Kraft und gilt als EU-Verordnung unmittelbar in den Mitgliedstaaten. Ihre einzelnen Vorschriften werden jedoch gestaffelt anwendbar. Durch den Digitalen Omnibus wurden mehrere Anwendungsfristen inzwischen geändert. Ihr Ziel ist ein einheitlicher Binnenmarkt für vertrauenswürdige KI, der
schützt, ohne Innovation unnötig zu bremsen.
Die Verordnung folgt dabei einem risikobasierten Ansatz. Nicht die Technologie als solche wird reguliert, sondern der konkrete Verwendungszweck eines KI-Systems. Je höher das Risiko für Menschen, desto strenger die Anforderungen.
Adressat der Pflichten sind sowohl Hersteller als auch Anbieter, Betreiber, Einführer, Händler und Produkthersteller. Man kann davon ausgehen, das die meisten Unternehmen Betreiber sind, da sie KI-Systeme einsetzen, die andere entwickelt haben.
Aber Achtung! Bei Hochrisiko-KI-Systemen kann ein Betreiber, Händler, Einführer oder sonstiger Dritter unter den Voraussetzungen des Art. 25 DSGVO selbst zum Anbieter werden. Das gilt insbesondere bei einer eigenen Namens- oder Markenkennzeichnung eines bereits in Verkehr gebrachten Hochrisiko-KI-Systems, bei einer wesentlichen Veränderung oder wenn die Zweckbestimmung eines bislang nicht hochriskanten Systems so geändert wird, dass daraus ein Hochrisiko-KI-System wird.
In der Praxis betrifft das unter anderem:
Ein Bezug zu KI genügt für die rechtliche Einordnung allein noch nicht. Maßgeblich ist, ob ein System unter den Begriff des KI-Systems fällt, welche Rolle das Unternehmen dabei einnimmt und welcher Risikoklasse die konkrete Zweckbestimmung zuzuordnen ist.
Der Wirkungskreis der KI-Verordnung reicht über die Grenzen der EU hinaus. Erfasst werden daher auch Anbieter, die KI-Systeme in der Union in Verkehr bringen oder in Betrieb nehmen, unabhängig von ihrem Sitz. Ebenso fallen unter die Richtlinien Betreiber mit Sitz in der Union. Hinzu kommt der Fall, dass Anbieter oder Betreiber aus einem Drittland ansässig sind, die von einem KI-System erzeugten Ergebnisse aber in der Union verwendet werden.
Auch Unternehmen mit Sitz außerhalb der EU können erfasst sein. Wesentlich ist insbesondere, ob sie KI-Systeme oder GPAI-Modelle in der Union in Verkehr bringen beziehungsweise KI-Systeme dort in Betrieb nehmen oder ob die von einem KI-System erzeugte Ausgabe in der Union verwendet wird.
GPAI ist die Abkürzung für General-Purpose AI, also KI mit allgemeinem Verwendungszweck. Gemeint sind leistungsfähige KI-Modelle, die nicht auf einen einzelnen Anwendungsfall beschränkt sind, sondern für sehr unterschiedliche Aufgaben eingesetzt werden können. Dazu zählen etwa die Erstellung von Texten und Bildern, das Programmieren, das Zusammenfassen von Inhalten oder das Übersetzen zwischen verschiedenen Sprachen.
Die Verordnung ordnet KI-Anwendungen vier Stufen zu. Die Einordnung entscheidet über den Umfang der Pflichten und sollte deshalb dokumentiert werden.
Quer zu dieser Systematik stehen die Regeln für KI-Modelle mit allgemeinem Verwendungszweck (General Purpose AI, GPAI). Sie knüpfen nicht an den Einsatzzweck an, sondern an das Modell selbst, und treffen vor allem dessen Anbieter.
Die KI-Verordnung gilt gestaffelt. Mit der Digital-Omnibus-Verordnung (EU) 2026/1744, die am 24. Juli 2026 im Amtsblatt verkündet wurde und am 27. Juli 2026 in Kraft trat, hat der europäische Gesetzgeber dieses Fristengerüst neu geordnet. Für eigenständige Hochrisiko-KI-Systeme nach Anhang III verschiebt sich die Anwendbarkeit um 16 Monate auf den 2. Dezember 2027. Für produktbezogene Hochrisiko-KI-Systeme nach Art. 6 Abs. 1 und Anhang I gilt nun der 2. August 2028.
Wichtig ist die Unterscheidung zwischen Frist und Pflicht. Der Digitale Omnibus verschiebt die Anwendbarkeit, streicht die materiellen Anforderungen aber nicht. Risikomanagement, Daten-Governance, technische Dokumentation, Protokollierung, menschliche Aufsicht, Robustheit und Cybersicherheit bleiben inhaltlich bestehen.
Auslöser der Reform waren praktische Umsetzungsprobleme. Die harmonisierten Normen, die Unternehmen als technische Grundlage für den Konformitätsnachweis benötigen, lagen nicht rechtzeitig vor.
Zum Zeitpunkt des Kommissionsvorschlags im November 2025 hatten zudem nur acht von 27 Mitgliedstaaten eine zentrale Anlaufstelle für die Marktüberwachung benannt. Die Kommission bezifferte die initialen Compliance-Kosten für ein mittelständisches Unternehmen mit einem Hochrisiko-KI-System auf bis zu 600.000 Euro, was einer Gewinnbelastung von 30 bis 40 Prozent entsprechen kann (TÜV Rheinland Consulting, April 2026, unter Berufung auf die Folgenabschätzung der Kommission).
Die wesentlichen Änderungen:
Der Europäische Datenschutzausschuss und der Europäische Datenschutzbeauftragte hatten die Reform in ihrer Gemeinsamen Stellungnahme 1/2026 vom 20. Januar 2026 in Teilen kritisch begleitet, insbesondere hinsichtlich der Fristverschiebung und der Verarbeitung besonderer Kategorien personenbezogener Daten. Mehrere dieser Punkte fanden sich in den Positionen von Rat und Parlament wieder. Der Maßstab der strengen Erforderlichkeit blieb erhalten.
Zusammengefasst geht es weniger um weniger Regulierung als um eine gezieltere Regulierung mit stärkerer zentraler Durchsetzung.
Seit dem 2. August 2026 gelten die Transparenzpflichten des Art. 50. Anbieter von KI-Systemen zur direkten Interaktion mit Menschen müssen ihre Systeme grundsätzlich so gestalten, dass Nutzer erkennen können, dass sie mit KI interagieren. Anbieter generativer Systeme müssen zudem unter den Voraussetzungen des Art. 50 Abs. 2 eine maschinenlesbare Kennzeichnung künstlich erzeugter oder manipulierter Ausgaben ermöglichen.
Betreiber treffen daneben eigene Offenlegungspflichten, insbesondere beim Einsatz von Deepfakes sowie bei bestimmten KI-generierten oder manipulierten Texten zu Angelegenheiten von öffentlichem Interesse.
Für die maschinenlesbare Kennzeichnung nach Artikel 50 Absatz 2 gilt eine Übergangsfrist bis zum 2. Dezember 2026, allerdings nur für generative Systeme, die bereits vor dem 2. August 2026 in Verkehr gebracht wurden.
Sobald die jeweiligen Hochrisiko-Vorschriften anwendbar sind, treffen Betreiber unter anderem Pflichten zur zweckgemäßen Verwendung, menschlichen Aufsicht, Kontrolle bestimmter Eingabedaten, Überwachung des Betriebs und Aufbewahrung von Protokollen. Für Anhang-III-Systeme gelten diese Vorschriften grundsätzlich ab dem 2. Dezember 2027, für die von Art. 6 Abs. 1 und Anhang I erfassten Systeme ab dem 2. August 2028. Für bestimmte Betreiber kommt zusätzlich eine Grundrechte-Folgenabschätzung nach Art. 27 in Betracht, insbesondere für öffentliche Stellen und private Erbringer öffentlicher Dienste sowie bei bestimmten Hochrisiko-Anwendungen zur Bonitätsbewertung und im Lebens- oder Krankenversicherungsbereich.
Anbieter von GPAI-Modellen müssen technische Dokumentation vorhalten, nachgelagerten Anbietern Informationen bereitstellen, eine Strategie zur Einhaltung des Urheberrechts umsetzen und eine hinreichend detaillierte Zusammenfassung der Trainingsinhalte veröffentlichen. Modelle mit systemischem Risiko unterliegen zusätzlichen Pflichten zu Modellbewertung, Risikominderung, Vorfallmeldung und Cybersicherheit. Diese Pflichten gelten seit dem 2. August 2025; für vor diesem Datum in Verkehr gebrachte Modelle läuft die Frist bis zum 2. August 2027.
Die KI-Verordnung ersetzt das Datenschutzrecht nicht, sondern tritt daneben. Wer ein KI-System mit personenbezogenen Daten trainiert oder betreibt, benötigt weiterhin eine Rechtsgrundlage nach der DSGVO und muss Zweckbindung, Transparenz, Datenminimierung und Betroffenenrechte beachten. Auch eine Datenschutz-Folgenabschätzung kann erforderlich sein.
Beide Regelwerke verfolgen unterschiedliche Schutzrichtungen. Die DSGVO schützt natürliche Personen bei der Verarbeitung personenbezogener Daten. Die KI-Verordnung verfolgt dagegen einen system- und risikobezogenen Regulierungsansatz, der unter anderem Inverkehrbringen, Inbetriebnahme und Verwendung von KI sowie Pflichten verschiedener Akteure und den Schutz von Gesundheit, Sicherheit und Grundrechten erfasst.
In der Praxis überschneiden sich die Prüfungen häufig, etwa bei Dokumentation, Risikobewertung und Information der Betroffenen. Der Digitale Omnibus hat zudem klargestellt, dass besondere Kategorien personenbezogener Daten unter engen Voraussetzungen zur Erkennung und Korrektur von Verzerrungen verarbeitet werden dürfen, soweit dies unbedingt erforderlich ist.
Die Verordnung sieht einen gestuften Bußgeldrahmen vor. Maßgeblich ist jeweils der höhere Betrag aus Festbetrag und Umsatzanteil, bezogen auf den weltweiten Jahresumsatz des vorangegangenen Geschäftsjahres.
Für KMU einschließlich Start-ups gilt bei den Bußgeldtatbeständen des Art. 99 Abs. 3 bis 5 grundsätzlich der jeweils niedrigere Betrag aus Festbetrag und Umsatzanteil. Für kleine Mid-Cap-Unternehmen hat der Digitale Omnibus diese Begünstigung auf die Bußgelder nach Art. 99 Abs. 4 und 5 erstreckt.
Neben Bußgeldern kommen Maßnahmen der Marktüberwachung in Betracht, etwa Rücknahmeanordnungen oder das Verbot der weiteren Bereitstellung.
Der Einsatz von KI verändert Prozesse schneller, als Governance-Strukturen typischerweise nachwachsen. Eine Bitkom-Erhebung aus dem Frühjahr 2026 unter 604 Unternehmen ab 20 Beschäftigten zeigt nachfoldende Lücke. 41 Prozent der Unternehmen setzten KI aktiv ein, aber nur 21 Prozent verfügten über eine formale KI-Strategie.
KI gelangt selten über ein einziges Projekt ins Unternehmen. Sie kommt als Funktion in bestehender Software, über Browser-Erweiterungen, über Fachabteilungen oder über Beschäftigte, die eigene Werkzeuge nutzen. Ohne ein Verzeichnis der eingesetzten Systeme lässt sich weder die Risikoklasse noch die eigene Rolle bestimmen.
Viele Unternehmen gehen davon aus, reine Betreiber zu sein. Wer ein System jedoch unter eigenem Namen anbietet, es wesentlich verändert oder einem Hochrisikozweck zuführt, wird selbst zum Anbieter. Damit verschiebt sich das Pflichtenprogramm erheblich, einschließlich Konformitätsbewertung und Registrierung.
Kennzeichnungs- und Offenlegungspflichten gelten unabhängig von der Risikoklasse und sind seit August 2026 durchsetzbar. Betroffen sind alltägliche Anwendungen wie Chatbots im Kundenservice, KI-generierte Bilder im Marketing oder synthetische Stimmen in der Telefonie.
Trainings-, Validierungs- und Eingabedaten enthalten häufig personenbezogene Daten. Fragen nach Rechtsgrundlage, Herkunft der Daten, Aufbewahrung und Betroffenenrechten bleiben bestehen. Hinzu kommen urheberrechtliche und geschäftsgeheimnisbezogene Fragestellungen.
Die meisten KI-Funktionen werden eingekauft. Anbieterangaben zu Zweckbestimmung, Grenzen des Systems, Trainingsdaten und Konformität sind deshalb zentral. Vertragliche Zusicherungen und Nachweise sollten vor dem Einsatz vorliegen, nicht danach.
Betrieblicher Anpassungsdruck, wenn ein System nachträglich als hochriskant eingestuft wird
Finn Niklas Nitz ist Rechtsanwalt und Experte für das KI-Recht bei SBS LEGAL Rechtsanwälte.
SBS LEGAL berät Unternehmen im KI-Recht bei der rechtlichen Einordnung und Umsetzung der KI-Verordnung (AI Act). Dazu gehören insbesondere die Prüfung von KI-Systemen, Rollen und Risikoklassen sowie Fragen zu Transparenzpflichten und KI-Compliance.
Welche Anforderungen gelten, hängt insbesondere von der Zweckbestimmung des KI-Systems, der Rolle des Unternehmens und den jeweils anwendbaren Vorschriften ab. SBS LEGAL unterstützt Unternehmen bei der Bestandsaufnahme eingesetzter KI-Systeme, der rechtlichen Klassifizierung, der Entwicklung geeigneter Governance-Strukturen sowie bei der Einordnung von Schnittstellen zu Datenschutz, Urheberrecht und weiteren regulatorischen Anforderungen.