Rechtsanwalt & Spezialist für Kryptorecht & KI-Recht, Zertifizierter Geldwäschebeauftragter (TÜV)
T (+49) 040 / 7344 086-0
Rechtsanwältin & Expertin für Kryptorecht
T (+49) 040 / 7344 086-0
Blog News
Unternehmen setzen zunehmend auf Künstliche Intelligenz (KI), um effizienter und wettbewerbsfähiger zu werden. Doch wie gut ist das Personal auf diese neuen Technologien wirklich vorbereitet? Gemäß Artikel 4 der KI-Verordnung (KI-VO) müssen Anbieter und Betreiber sicherstellen, dass ihre Mitarbeitenden ausreichende Kenntnisse und Fähigkeiten im Umgang mit KI-Systemen besitzen. Wer hier nachlässig handelt, riskiert nicht nur kostspielige Fehler, sondern auch juristische Konsequenzen. Doch welche gesetzlichen Anforderungen genau gelten und welche Maßnahmen zur Vermittlung der erforderlichen KI-Kompetenz sind in der Praxis sinnvoll?
Anbieter und Betreiber von KI-Systemen müssen sicherstellen, dass ihre Teams über die notwendigen Qualifikationen, praktische Erfahrungen sowie regelmäßige Schulungen verfügen, die der spezifischen Nutzung der KI angepasst sind.
Geregelt ist das im Artikel 4 der EU-Verordnung über Künstliche Intelligenz, die am 2. Februar 2025 in Kraft trat. Ziel ist es, Fähigkeiten, Kenntnisse und das Verständnis zu trainieren, die es ermöglichen, KI-Systeme sachkundig einzusetzen und sich der Chancen sowie Risiken bewusst zu sein. Nur so lässt sich langfristig ein sicherer und verantwortungsvoller Umgang mit KI-Technologien gewährleisten und potenzielle Risiken für betroffene Personen minimieren.
KI-Kompetenz ist nach Artikel 3 Nr. 56 der KI-VO definiert als Kombination von Fähigkeiten, Kenntnissen und Verständnis, die es Anbietern, Betreibern sowie betroffenen Personen ermöglichen, KI-Systeme sachgerecht zu bedienen.
Entscheidend ist dabei, dass die Personen sich der Möglichkeiten, Risiken und potenziellen Schäden durch KI bewusst sind und ihre Rechte und Pflichten in Bezug auf die KI-Verordnung kennen. Mangelnde KI-Kompetenz kann teuer werden!
Gemäß Artikel 4 KI-VO müssen Anbieter und Betreiber entsprechende Trainingsmaßnahmen ergreifen, die je nach Kontext unterschiedlich ausfallen. All solche KI-Schulungen, bezieht man sich auf das Basistraining, sollten also Inhalte über technische Besonderheiten während der Entwicklung und Nutzung der KI-Systeme verfügen und auf konkrete Fragen zur Interpretation der KI-Ergebnisse eingehen.
Insbesondere bei Hochrisiko-KI-Systemen werden neben dem Grundlagenkurs zusätzlich spezielle Schulungen erforderlich, die sicherstellen, dass Mitarbeitende befähigt sind, die gesetzlich vorgeschriebene menschliche Aufsicht ordnungsgemäß wahrzunehmen.s
Wichtig ist es im Blick zu behalten, dass eine einmalige KI-Schulung für Mitarbeitende dem Artikel 4 KI-VO kaum Rechnung trägt. Da sich KI-Technologien rasch weiterentwickeln, ist es wesentlich, regelmäßige Updates und fortlaufende Trainingsprogramme für Mitarbeitende bereitzustellen. Nur so bleibt das Personal mit aktuellen Kenntnissen ausgestattet und für zukünftige Herausforderungen vorbereitet.
Die Vorteile liegen auf der Hand: Ein umfassendes Verständnis garantiert Unternehmen, Chancen effektiv zu nutzen und potenzielle Gefahren deutlich zu reduzieren. Damit wird eine kontinuierliche, gut strukturierte Schulungsstrategie zum entscheidenden Erfolgsfaktor für die nachhaltige und verantwortungsvolle Integration von KI in die Unternehmenspraxis.
Je nach Rolle und Aufgabenbereich variieren die Anforderungen an die KI-Kompetenzen stark.
Folgende Zielgruppen sollten daher in einem Unternehmen berücksichtigt werden:
Vor allem im Hinblick auf Hochrisiko-KI-Systeme sind spezifische Kenntnisse erforderlich, um die Sicherheit und Funktionalität angemessen zu gewährleisten. Gemäß Art. 14 KI-VO erfordert diese Aufgabe gezielte Schulungen, um Risiken für Gesundheit, Sicherheit und Grundrechte rechtzeitig zu erkennen und ihnen entgegenzuwirken.
Mit Wirkung ab dem 2. Februar 2025 stehen Unternehmen vor der verbindlichen Aufgabe, interne Strukturen zu schaffen, die gezielt auf den Ausbau von Kompetenzen im Bereich Künstliche Intelligenz abzielen.
Insbesondere wird erwartet, dass feste Maßnahmen etabliert werden, die eine nachhaltige Entwicklung von Fachwissen im Umgang mit KI-Systemen sicherstellen. Als unerlässliche Schritte gelten dabei vor allem systematische Schulungen, klare Verantwortlichkeiten und eine nachvollziehbare Dokumentation der Kompetenzentwicklung im Unternehmen.
Die nachfolgenden Punkte geben Ihnen einen Überblick über geeignete Maßnahmen.
Der Aufbau von KI-Kompetenz im Unternehmen beginnt mit der Entwicklung klarer Richtlinien und Standards. Diese definieren Best Practices, ethische Grundsätze sowie verbindliche Compliance-Anforderungen. Einheitliche Vorgaben schaffen für alle Beteiligten eine transparente Orientierung und erleichtern die tägliche Praxis beim Umgang mit Künstlicher Intelligenz.
Eine fortlaufende Qualifizierung sollte zu einem zentralen Bestandteil jeder nachhaltigen KI-Strategie werden. All das technische Fachwissen oder ethische Fragen werden innerhalb von regelmäßigen Schulungen vermittelt, die sich wiederum nach dem aktuellen Stand der Rechtsprechung und Technologie richten. Auch ist es wichtig, individuelle Erfahrungen und Vorkenntnisse der Mitarbeitenden einzubeziehen, um gezielt auf unterschiedliche Lernbedarfe eingehen zu können. Zu berücksichtigen sind hierbei auch Mitbestimmungsrechte des Betriebsrats.
Besonders wirkungsvoll zeigt sich die Zusammenarbeit von Fachrichtungen wie Informatik, Recht und Ethik. Praxisorientierte Bildungsformate gewährleisten, Risiken und Chancen von KI-Anwendungen ganzheitlich zu reflektieren und voneinander zu lernen.
Alle Maßnahmen, die dem Kompetenzaufbau dienen, sollten in die übergeordnete Compliance-Strategie eingebettet sein. Die konkrete Ausgestaltung orientiert sich dabei an bestehenden Strukturen, dem individuellen Risikoprofil sowie den eigenen Einsatzgebieten von KI. Da datenschutzrechtliche Überlegungen beim Einsatz von Künstlicher Intelligenz stets mitgedacht werden müssen, empfiehlt sich eine enge Verzahnung mit bestehenden Compliance-Strukturen und spezifischen Schulungsformaten. So lassen sich die Einhaltung gesetzlicher Vorgaben sicherstellen, interne Bildungsinitiativen koordinieren und eine konsistente KI-Strategie etablieren.
Der erste Schritt ist es, mit der Grundlagenschulung zu beginnen und in dieser die KI-Kompetenz zu vermitteln.
Obwohl sich Artikel 4 der KI-Verordnung zunächst durch eine eher appellative Formulierung auszeichnet, entfaltet er im rechtlichen Kontext eine nicht zu unterschätzende Wirkung. In Haftungsprozessen kann das Unterlassen erforderlicher Maßnahmen schnell als Verletzung einer Sorgfaltspflicht gewertet werden.
Kommt es etwa zu Fehlfunktionen oder Schäden, die durch ein KI-System verursacht wurden, rückt vor Gericht die Frage in den Fokus, ob das Unternehmen angemessene Schulungen und Qualifizierungsmaßnahmen umgesetzt hat.
Auch arbeitsrechtlich hat die Vorschrift weitreichende Konsequenzen. Einerseits betreffen die Anforderungen aus Artikel 4 sowohl Ansprüche als auch Pflichten der vom KI-Einsatz betroffenen Mitarbeiter, insbesondere im Hinblick auf den Erwerb von KI-Kompetenz. Andererseits wirkt sich die Regelung auf den Bestand des Arbeitsverhältnisses aus, etwa im Fall einer Kündigung aufgrund fehlender Qualifikation im KI-Bereich. Darüber hinaus ist der Betriebsrat bei der Ausgestaltung und Umsetzung entsprechender Schulungsmaßnahmen zwingend nach den §§ 96 ff. BetrVG zu beteiligen.
Im Folgenden werden drei konkrete Schulungskonzepte vorgestellt, mit denen Unternehmen die Anforderungen aus Art. 4 KI-VO effektiv und zielgruppengerecht umsetzen können. Jede Schulung ist spezifisch auf die Bedürfnisse unterschiedlicher Benutzergruppen abgestimmt.
Schulungskonzept 1: Grundlagentraining für den allgemeinen Betrieb
Das erste Konzept richtet sich insbesondere an Mitarbeiter, die regelmäßig mit KI-Systemen arbeiten, aber nicht direkt an deren technischer Entwicklung beteiligt sind. Ziel ist es, ein solides Grundverständnis zu schaffen und ethische sowie praktische Fragen zu beantworten. Inhalte dieser Schulung umfassen:
Grundlagenwissen KI:
Ethische Verantwortung:
Praktische Umsetzung:
Schulungskonzept 2: Vertiefendes Training für technische Experten
Das zweite Konzept spricht gezielt Mitarbeiter wie Datenanalysten, Softwareentwickler und IT-Sicherheitsfachleute an, die an der Entwicklung und Implementierung von KI-Systemen beteiligt sind oder diese technisch betreuen. Ziel ist die Vertiefung technischer und regulatorischer Kenntnisse:
Technische Fachkompetenz:
Risikomanagement:
Regulatorische Anforderungen:
Schulungskonzept 3: Spezialschulung zur menschlichen Aufsicht bei Hochrisiko-KI-Systemen
Das dritte Schulungskonzept richtet sich speziell an Mitarbeiter, denen gemäß KI-VO die Rolle der „menschlichen Aufsicht“ über Hochrisiko-KI-Systeme zukommt. Die Schulung befähigt diese Mitarbeiter dazu, aktiv und verantwortlich auf die Funktionalität und Sicherheit der Systeme einzuwirken:
Systemverständnis und Grenzen:
Bewusstsein für Automatisierungsbias:
Interpretation und Entscheidungsfreiheit:
Regulatorisches und ethisches Verständnis:
Sie haben Fragen zur KI-Verordnung oder benötigen rechtliche Unterstützung bei der Umsetzung der verpflichtenden Schulungen nach Art. 4 KI-VO? Möchten Sie wissen, wie Sie Ihr Personal rechtssicher auf den Umgang mit KI vorbereiten, welche regulatorischen Anforderungen konkret erfüllt werden müssen und wann Unterlassungsansprüche bestehen? Vielleicht stehen Sie auch vor der Herausforderung, spezifische Trainingsprogramme für Hochrisiko-KI-Systeme zu konzipieren und möchten mögliche Haftungsrisiken frühzeitig erkennen?
Unser erfahrenes Team aus Rechtsanwälten und Fachanwälten im Bereich KI-Recht unterstützt Sie kompetent und zuverlässig in allen Fragen rund um die KI-Verordnung und die hiermit verbundenen rechtlichen Themengebiete.
Für weitere Rückfragen stehen wir Ihnen jederzeit gerne auch telefonisch zur Verfügung. Wünschen Sie die Rechtsberatung von dem erfahrenen Team aus Fachanwälten und Spezialisten von SBS LEGAL?