10.04.2025 | IT-Recht

Mangelnde KI-Kompetenz kann teuer werden - Art. 4 KI-VO

Unternehmen setzen zunehmend auf Künstliche Intelligenz (KI), um effizienter und wettbewerbsfähiger zu werden. Doch wie gut ist das Personal auf diese neuen Technologien wirklich vorbereitet? Gemäß Artikel 4 der KI-Verordnung (KI-VO) müssen Anbieter und Betreiber sicherstellen, dass ihre Mitarbeitenden ausreichende Kenntnisse und Fähigkeiten im Umgang mit KI-Systemen besitzen. Wer hier nachlässig handelt, riskiert nicht nur kostspielige Fehler, sondern auch juristische Konsequenzen. Doch welche gesetzlichen Anforderungen genau gelten und welche Maßnahmen zur Vermittlung der erforderlichen KI-Kompetenz sind in der Praxis sinnvoll?

Was hat es mit Artikel 4 der KI-Verordnung (KI-VO) auf sich?

Anbieter und Betreiber von KI-Systemen müssen sicherstellen, dass ihre Teams über die notwendigen Qualifikationen, praktische Erfahrungen sowie regelmäßige Schulungen verfügen, die der spezifischen Nutzung der KI angepasst sind.

​Geregelt ist das im Artikel 4 der EU-Verordnung über Künstliche Intelligenz, die am 2. Februar 2025 in Kraft trat. Ziel ist es, Fähigkeiten, Kenntnisse und das Verständnis zu trainieren, die es ermöglichen, KI-Systeme sachkundig einzusetzen und sich der Chancen sowie Risiken bewusst zu sein. Nur so lässt sich langfristig ein sicherer und verantwortungsvoller Umgang mit KI-Technologien gewährleisten und potenzielle Risiken für betroffene Personen minimieren.

Was meinen Kompetenzen für die Erfüllung des Artikel 4 KI-VO?

KI-Kompetenz ist nach Artikel 3 Nr. 56 der KI-VO definiert als Kombination von Fähigkeiten, Kenntnissen und Verständnis, die es Anbietern, Betreibern sowie betroffenen Personen ermöglichen, KI-Systeme sachgerecht zu bedienen.

Entscheidend ist dabei, dass die Personen sich der Möglichkeiten, Risiken und potenziellen Schäden durch KI bewusst sind und ihre Rechte und Pflichten in Bezug auf die KI-Verordnung kennen. Mangelnde KI-Kompetenz kann teuer werden!

Gemäß Artikel 4 KI-VO müssen Anbieter und Betreiber entsprechende Trainingsmaßnahmen ergreifen, die je nach Kontext unterschiedlich ausfallen. All solche KI-Schulungen, bezieht man sich auf das Basistraining, sollten also Inhalte über technische Besonderheiten während der Entwicklung und Nutzung der KI-Systeme verfügen und auf konkrete Fragen zur Interpretation der KI-Ergebnisse eingehen.

Insbesondere bei Hochrisiko-KI-Systemen werden neben dem Grundlagenkurs zusätzlich spezielle Schulungen erforderlich, die sicherstellen, dass Mitarbeitende befähigt sind, die gesetzlich vorgeschriebene menschliche Aufsicht ordnungsgemäß wahrzunehmen.s

Wer gehört zur Zielgruppe des Artikel 4 KI-VO?

Je nach Rolle und Aufgabenbereich variieren die Anforderungen an die KI-Kompetenzen stark.

Folgende Zielgruppen sollten daher in einem Unternehmen berücksichtigt werden:

• Betriebsmitarbeiter:Mitarbeitende, die täglich KI-Systeme bedienen und die Anwendung sicherstellen müssen.
• Datenanalysten:Spezialisten, die große Datenmengen auswerten, Muster erkennen und datengetriebene Entscheidungen unterstützen.
• Entscheidungsträger:Führungskräfte, die strategische Entscheidungen über den Einsatz und die Risiken von KI treffen.
• Entwickler von KI-Systemen:Experten mit tiefgehenden technischen Kenntnissen zur Entwicklung von KI-Technologien.
• IT-Sicherheitsexperten:Verantwortliche für den Schutz von KI-Systemen gegen Cyberangriffe und Sicherheitsrisiken.
• Mitarbeiter mit Kundenkontakt:Mitarbeitende, die KI-gestützte Lösungen für Kundensupport und -zufriedenheit einsetzen.
• Produktmanager:Verantwortliche, die KI-Produkte entwickeln und erfolgreich am Markt platzieren.
• Softwareentwickler:Experten für die Programmierung und Integration von Softwareanwendungen, die KI-Technologien nutzen.

Vor allem im Hinblick auf Hochrisiko-KI-Systeme sind spezifische Kenntnisse erforderlich, um die Sicherheit und Funktionalität angemessen zu gewährleisten. Gemäß Art. 14 KI-VO erfordert diese Aufgabe gezielte Schulungen, um Risiken für Gesundheit, Sicherheit und Grundrechte rechtzeitig zu erkennen und ihnen entgegenzuwirken.

3 mögliche Ansätze für Schulungskonzepte nach Artikel 4 KI‑VO

Im Folgenden werden drei konkrete Schulungskonzepte vorgestellt, mit denen Unternehmen die Anforderungen aus Art. 4 KI-VO effektiv und zielgruppengerecht umsetzen können. Jede Schulung ist spezifisch auf die Bedürfnisse unterschiedlicher Benutzergruppen abgestimmt.

Schulungskonzept 1: Grundlagentraining für den allgemeinen Betrieb

Das erste Konzept richtet sich insbesondere an Mitarbeiter, die regelmäßig mit KI-Systemen arbeiten, aber nicht direkt an deren technischer Entwicklung beteiligt sind. Ziel ist es, ein solides Grundverständnis zu schaffen und ethische sowie praktische Fragen zu beantworten. Inhalte dieser Schulung umfassen:

Grundlagenwissen KI:

• Begriffsklärung und grundlegende Funktionsweisen von KI-Systemen.
• Unterschiede zwischen maschinellem Lernen, neuronalen Netzwerken und anderen KI-Technologien.
• Praxisbeispiele zur Veranschaulichung typischer KI-Anwendungen im Unternehmensumfeld.

Ethische Verantwortung:

• Sensibilisierung für ethische Fragen, soziale Auswirkungen und Urheberrecht von KI.
• Vermittlung von Richtlinien zur verantwortungsvollen Nutzung von KI-Technologien.
• Überblick über regulatorische Vorgaben zur ethischen Anwendung von KI.

Praktische Umsetzung:

• Fallbeispiele zur konkreten Anwendung von KI im täglichen Betrieb.
• Interaktive Übungen, die den sicheren und effektiven Umgang mit KI simulieren.
• Bewusstmachen typischer Fehlerquellen und deren Vermeidung.

Schulungskonzept 2: Vertiefendes Training für technische Experten

Das zweite Konzept spricht gezielt Mitarbeiter wie Datenanalysten, Softwareentwickler und IT-Sicherheitsfachleute an, die an der Entwicklung und Implementierung von KI-Systemen beteiligt sind oder diese technisch betreuen. Ziel ist die Vertiefung technischer und regulatorischer Kenntnisse:

Technische Fachkompetenz:

• Vertiefung in die Programmierung und den Aufbau von Algorithmen.
• Datenmanagement und optimale Vorbereitung von Datensätzen für KI-Modelle.
• Praxiswissen zu Modellerstellung, Training und Validierung von KI-Systemen.

Risikomanagement:

• Identifikation potenzieller Risiken und Entwicklung geeigneter Präventionsmaßnahmen.
• Sicherheitsanforderungen und -strategien bei der Implementierung und Nutzung von KI-Technologien.
• Erstellung und Anwendung von Notfallplänen für KI-Systeme.

Regulatorische Anforderungen:

• Umfassende Erläuterung der KI-VO und deren praktische Auswirkungen.
• Pflichten zur Dokumentation, Compliance und Berichterstattung nach KI-VO.
• Verantwortlichkeiten und mögliche Haftungsrisiken für technische Experten.

Schulungskonzept 3: Spezialschulung zur menschlichen Aufsicht bei Hochrisiko-KI-Systemen

Das dritte Schulungskonzept richtet sich speziell an Mitarbeiter, denen gemäß KI-VO die Rolle der „menschlichen Aufsicht“ über Hochrisiko-KI-Systeme zukommt. Die Schulung befähigt diese Mitarbeiter dazu, aktiv und verantwortlich auf die Funktionalität und Sicherheit der Systeme einzuwirken:

Systemverständnis und Grenzen:

• Intensive Vermittlung der technischen Eigenschaften und Leistungsgrenzen der Hochrisiko-KI-Systeme.
• Übungen zur Erkennung typischer Anomalien oder Funktionsstörungen.

Bewusstsein für Automatisierungsbias:

• Schulung zur kritischen Reflexion der Ergebnisse, um ein übermäßiges Vertrauen in KI-Ausgaben zu verhindern.
• Vermittlung von Strategien, um potenzielle Fehler frühzeitig zu erkennen.

Interpretation und Entscheidungsfreiheit:

• Schulung spezifischer Methoden zur richtigen Interpretation von KI-Ergebnissen.
• Praktische Übungen zur eigenständigen Entscheidungsfindung, einschließlich der Befugnis, KI-Ausgaben im Zweifel zu übersteuern oder zu deaktivieren.

Regulatorisches und ethisches Verständnis:

• Erläuterung der spezifischen regulatorischen Vorgaben nach Art. 14 KI-VO.
• Vermittlung ethischer Kriterien für Entscheidungen bei kritischen Situationen.
• Praxisnahe Szenarien zur gezielten Umsetzung gesetzlicher Anforderungen.

SBS LEGAL – Kanzlei für KI-Recht 

Sie haben Fragen zur KI-Verordnung oder benötigen rechtliche Unterstützung bei der Umsetzung der verpflichtenden Schulungen nach Art. 4 KI-VO? Möchten Sie wissen, wie Sie Ihr Personal rechtssicher auf den Umgang mit KI vorbereiten, welche regulatorischen Anforderungen konkret erfüllt werden müssen und wann Unterlassungsansprüche bestehen? Vielleicht stehen Sie auch vor der Herausforderung, spezifische Trainingsprogramme für Hochrisiko-KI-Systeme zu konzipieren und möchten mögliche Haftungsrisiken frühzeitig erkennen?

Dann sind Sie bei SBS LEGAL genau richtig!

Unser erfahrenes Team aus Rechtsanwälten und Fachanwälten im Bereich KI-Recht unterstützt Sie kompetent und zuverlässig in allen Fragen rund um die KI-Verordnung und die hiermit verbundenen rechtlichen Themengebiete.

Für weitere Rückfragen stehen wir Ihnen jederzeit gerne auch telefonisch zur Verfügung. Wünschen Sie die Rechtsberatung von dem erfahrenen Team aus Fachanwälten und Spezialisten von SBS LEGAL?

Der Erstkontakt zu SBS LEGAL ist immer kostenlos.

Zurück zur Blog-Übersicht