Rechtsanwältin, Fachanwältin für Informationstechnologierecht & Zertifizierte Datenschutzbeauftragte (TÜV)
T (+49) 040 / 7344 086-0
Fachanwalt für Urheber- und Medienrecht und Spezialist für Arbeitsrecht, Zertifizierter Datenschutzbeauftragter (TÜV)
T (+49) 040 / 7344 086-0
Blog News
Persönliche Daten sind schützenswert und der Schutz spielt immer wieder eine wichtige Rolle. Der Datenschutz im Arbeitsrecht ist bei der Arbeit mit persönlichen Daten unausweichlich und es stellen sich daher immer wieder Fragen des Datenschutzrechts. Durch neue Technologien stellen sich auch immer wieder neue rechtliche Fragen. Insbesondere der Umgang mit künstlicher Intelligenz (KI) und das Zusammenspiel von dieser mit der Datenschutzgrundverordnung (DSGVO) sind Fragen des modernen Arbeitsrechts. Mehr dazu und zu der EU KI-Verordnung, im folgenden Artikel.
Die EU hat im Mai 2024 eine Verordnung veröffentlicht, welche sich mit KI beschäftigt und an welche sich Unternehmen halten müssen. Zum Schutz von persönlichen Daten erhöht die Verordnung die Anforderungen an die Nutzung von KI-Systemen. Dabei geht es nach einem risikobasierten Ansatz und die Anforderungen werden je nach verbundenem Risiko für die körperliche oder geistige Gesundheit des Arbeitnehmers, seiner Rechte oder seiner Selbstbestimmung erhöht. KI-Systeme sind ab sofort in die folgenden Risikostufen einzuteilen: Die Hochrisikosysteme, KI-Systeme mit geringem Risiko und grundlegende KI-Modelle (sog. General Purpose AI).
KI-Systeme, mit einem unannehmbaren bzw. inakzeptablen Risiko den Menschen unterdrücken zu können, sind gänzlich verboten. KI-Systeme mit hohem Risiko sind erlaubt, unterliegen allerdings besonders strengen Auflagen. Diese Pflichten treffen nicht nur Nutzende, sondern insbesondere auch Anbieter und Betreiber von KI-Systemen. Nutzer von KI-Systemen haben daneben ebenfalls die Verantwortung, die KI-Systeme nur innerhalb der rechtlichen Grenzen zu nutzen. Diese Regelung ist besonders für das Arbeitsrecht interessant, denn viele der im Personalbereich verwendeten KI-Systeme, welche beispielsweise für Bewerbungen oder Schulungen verwendet werden, fallen in die Kategorie der Hochrisiko-Systeme i.S.d. Art. 6 KI-Verordnung. Hochrisikosysteme sind nach Anhang III (Ziff. 4) solche Systeme, die entweder die Einstellung oder die Auswahl von Mitarbeitern und Mitarbeiterinnen oder deren Bewertung, Überwachung, Beförderung oder Kündigung betreffen. Das wird naturgemäß also im Bereich des Personalwesens zahlreiche KI-Systeme betreffen.
Die Verwendung von KI geht daher für Unternehmen und damit für Arbeitgeber mit umfangreichen Pflichten einher. Diese Pflichten werden in Art. 16 bis Art. 27 KI-Verordnung näher benannt und sind vorwiegend spezifische Überwachungs-, Dokumentations- und Transparenzpflichten, die Pflicht zur Etablierung eines Risikomanagements, Sorgfaltspflichten bei der Datenauswahl, insbesondere im Hinblick auf die Vermeidung von Diskriminierungen, Informations- und Schulungspflichten, Sicherstellung des bestimmungsgemäßen Gebrauchs der KI sowie des Einsatzes einer menschlichen Aufsicht.
Die Datenschutzgrundverordnung, DSGVO, ist eine andere Verordnung der EU, welche die Verarbeitung und den Schutz von personenbezogenen Daten regelt. Die KI Verordnung spezifiziert die DSGVO und reicht daher allerdings weiter. Die Verwendung von Daten für eine KI kann daher sowohl gegen die KI Verordnung als auch gegen die DSGVO verstoßen, da beide Daten schützen. Probleme mit der DSGVO im Rahmen der Nutzung von KI können vor allem dann auftreten, wenn Arbeitgeber nicht transparent kommunizieren, welche Systeme tatsächlich zum Einsatz kommen, denn nach Art. 13 DSGVO ist dieser verpflichtet, ihre Mitarbeiter über die Verarbeitung ihrer Daten zu informieren. Ebenso besteht nach Art. 22 DSGVO das Recht, einer ausschließlich auf einer automatisierten Verarbeitung beruhenden Entscheidung nicht unterworfen zu werden, die ihnen gegenüber einer rechtlichen Wirkung entfaltet oder sie in ähnlicher Weise erheblich beeinträchtigt. Beim Erstellen von Ermahnungen, Abmahnungen, Zeugnissen und besonders Kündigungen ist der KI-Einsatz daher besonders vorsichtig zu verwenden und eine menschliche Entscheidungskompetenz geboten.
Insbesondere in Bewerberauswahlprozessen wird vermehrt Software eingesetzt, die voll- oder teilautomatisiert helfen soll, den richtigen Bewerber zu finden. Zum Einsatz kommen dabei sowohl Programme, die Lebensläufe und Zeugnisse auswerten und Persönlichkeitsprofile der Bewerber erstellen, als auch Algorithmen, die automatisiert soziale Netzwerke nach passenden Kandidaten durchsuchen. Die Nutzung von KI zur automatisierten Bewerberauswahl bietet zahlreiche Vorteile, insbesondere die Tatsache, dass kein Mitarbeiter stunden über Stunden die Bewerbungsunterlagen durchsehen und auswerten muss, was nicht nur Zeit, sondern demnach auch kosten spart. Möglicherweise verringert es sogar Diskriminierung, da eine natürliche Person womöglich eigene Erfahrungen und Ansichten, wenn auch unterbewusst, in den Auswahlprozess mit einbezieht. Allerdings könnte es auch genau anders sein.
Die Bewerberauswahl durch KI kann zu einer Benachteiligung von einzelnen Personen oder Personengruppen führen oder diese verstärken. Die Bewertung von eingehenden Bewerbungen auf eine spezielle Stelle muss grundsätzlich unabhängig von beispielsweise Geschlecht, Herkunft oder Alter erfolgen. Zur Beurteilung wird das KI-System allerdings auf zurückliegende, erfolgreiche Bewerbungen zurückgreifen. War in der Gruppe der erfolgreichen Bewerber eine bestimmte Gruppe, etwa männliche Bewerber einer bestimmten Herkunft, überrepräsentiert, so kann dies dazu führen, dass ein KI-System Bewerber mit ähnlichen Kriterien bevorzugt, obwohl die Person nicht wegen dieses Kriteriums ausgewählt wurde. Das kann in der Folge also neben DSGVO und KI Verordnungsverstoß auch noch gegen das Benachteiligungsverbot nach § 7 Abs. 1 AGG verstoßen. Beim Umgang mit KI Systemen bleibt daher stets Vorsicht geboten.
Möchten Sie mehr über KI im Zusammenhang mit Recht erfahren? Wollen Sie gerne wissen, ob Sie gegen den Datenschutz verstoßen oder gegen einen Verstoß vorgehen? Wir als spezialisierte Anwälte für Datenschutzrecht und Arbeitsrecht beraten Sie gerne bei jeglichen Belangen, um Sie und Ihre Daten zu schützen. Sie wollen wissen, wie Sie sich vor einem Hackerangriff schützen, oder wie Sie sich im Falle eines Hackerangriffes am besten verhalten sollten? Sie brauchen Hilfe bei Erstellung eines IT-Sicherheitskonzeptes? Sie wollen erfahren, wie Sie Datenflüsse protokollieren und kontrollieren?
Bei Fragen zum Datenschutzrecht stehen wir Ihnen sehr gerne mit unseren erfahrenen Anwälten für Datenschutzrecht und zertifizierten Datenschutzbeauftragten zur Verfügung. Unser Team berät Sie fachlich kompetent und zielorientiert. Wünschen Sie die Rechtsberatung von dem erfahrenen Team aus Rechtsanwälten und Spezialisten der SBS LEGAL Rechtsanwälte? Dann freuen wir uns auf Ihre Kontaktaufnahme.