Rechtsanwalt & Fachanwalt für Urheber- und Medienrecht
T (+49) 040 / 7344 086-0
Fachanwalt für Urheber- und Medienrecht und Spezialist für Arbeitsrecht, Zertifizierter Datenschutzbeauftragter (TÜV)
T (+49) 040 / 7344 086-0
Blog News
Künstliche Intelligenz stellt Rechtssysteme weltweit vor neue Herausforderungen. Sie macht vielen Menschen Angst, wenn es bspw. um das vollständige Ersetzen menschlicher Tätigkeiten geht. Besonders in den kulturschaffenden Branchen hat KI große Auswirkungen. Einer der Gründe für den langanhaltenden Autoren- und Schauspielerstreik in Hollywood war die Angst, von künstlicher Intelligenz ersetzt zu werden. Wir haben uns am 24. November bereits mit dem Thema KI-Recht und Urheberrecht auseinandergesetzt. Auch bestehen viele weitere Risiken solcher KI-Systeme. Die EU möchte mit ihrem KI-Verordnungsentwurf COM/2021/206 final (KI-VOE) einen Rechtsrahmen für KI in Europa schaffen.
Die EU sieht das massive Potenzial, welches künstlicher Intelligenz innewohnt. Sie erleichtert Arbeitsabläufe, verbessert Prognosen oder weist Ressourcen zu. Insgesamt kann sie für die Gesellschaft und die Umwelt von großem Nutzen sein. Die EU zählt als wichtige Anwendungsbereiche bspw. die Sektoren Klimaschutz, Umwelt und Gesundheit, Finanzen und Mobilität auf. Sie möchte daher eine weltweite Führungsposition in der Entwicklung von künstlicher Intelligenz aufbauen.
KI-Systemen wohnen allerdings auch große Risiken inne. Das hat die EU natürlich erkannt, weshalb sie die Entwicklung bald in einen rechtlichen Rahmen fassen will, der auch Grenzen setzt. So heißt es in Begründung 1.1 des Verordnungsvorschlags: „Es muss gewährleistet sein, dass die auf dem Unionsmarkt in Verkehr gebrachten und verwendeten KI-Systeme sicher sind und die bestehenden Grundrechte und die Werte der Union wahren.“
Künstliche Intelligenz zu definieren, stellt schon ein Jahrzehntealtes Problem dar. Der Verordnungsentwurf macht es folgendermaßen:
Nr. 1: „System der künstlichen Intelligenz“ (KI-System) eine Software, die mit einer oder mehreren der in Anhang I aufgeführten Techniken und Konzepte entwickelt worden ist und im Hinblick auf eine Reihe von Zielen, die vom Menschen festgelegt werden, Ergebnisse wie Inhalte, Vorhersagen, Empfehlungen oder Entscheidungen hervorbringen kann, die das Umfeld beeinflussen, mit dem sie interagieren“
[…]
Diese Begriffsbestimmung ist bewusst sehr weit gefasst. Die EU will den Anwendungsbereich möglichst technologieneutral halten, um künftigen Entwicklungen gerecht zu werden. Der erwähnte Anhang I führt bspw. auf: Konzepte des maschinellen Lernens, mit beaufsichtigtem, unbeaufsichtigtem und bestärkendem Lernen unter Verwendung einer breiten Palette von Methoden, einschließlich des tiefen Lernens (Deep Learning).
Ein weit verbreitetes Problem im Umgang mit KI-Systemen ist die Erkennbarkeit KI-generierter Werke. Heutzutage lassen sich solche Werke nicht mehr einwandfrei von menschengemachten unterscheiden, was auch im Urheberrecht zu Problemen führt. So kann KI-Output auch eine Bearbeitung eines urheberrechtlich geschützten Werks sein, was rechtlich relevant wäre.
Der KI-VOE enthält sowohl Kennzeichnungspflichten für bestimmte KI-Systeme als auch solche für bestimmten Output. Insbesondere müssen gemäß Art. 52 Abs. 3 KI-VOE sog. Deepfakes offengelegt werden.
Unter Deepfakes versteht man Bild-, Ton- oder Videoinhalte erzeugt oder manipuliert, die wirklichen Personen, Gegenständen, Orten oder anderen Einrichtungen oder Ereignissen merklich ähneln und einer Person fälschlicherweise als echt oder wahrhaftig erscheinen würden.
Bekannte Beispiele sind Videos von berühmten Politikern oder Schauspielern, die aber tatsächlich nie in diesem Video vorkamen. Stattdessen hat eine beliebige Person mittels künstlicher Intelligenz das Aussehen oder auch die Stimme der Berühmtheit angenommen. Die Ergebnisse wirken teilweise täuschend echt.
Wer solche Inhalte erstellt, muss sie in Zukunft kennzeichnen. Dies gilt für die Tatsache, dass die Inhalte künstlich erzeugt oder manipuliert wurden. Zusätzlich soll, wenn möglich, der Name des Erstellers genannt werden. Offenlegung bedeutet nach dem KI-VOE, dass der Inhalt in einer Weise gekennzeichnet wird, die darüber informiert, dass der Inhalt nicht echt ist, und die für den Empfänger dieses Inhalts deutlich sichtbar ist. Nach der aktuellsten Fassung sollen auch betroffene Urheberrechte aufgedeckt werden.
Als weites Transparenzrisiko sieht die EU solche KI-Systeme, die für die Interaktion mit Menschen konzipiert wurden. Auch diese sollen gemäß Art. 52 Abs. 1 KI-VOE gekennzeichnet werden. Anlass dafür sind vor allem sog. Social Bots, welche auf sozialen Netzwerken bereits länger unterwegs sind. Sie ahmen menschliche Tätigkeiten nach, bspw. liken sie Beiträge oder schreiben Kommentare.
Solche KI-Systeme wurden vermehrt eingesetzt, um etwa Falschmeldungen zu verbreiten oder Menschen in eine Falle zu locken. Für die Plattformbetreiber ist es schwierig, solche Bots zu erkennen und herauszufiltern. Denn sie riskieren dabei stets, auch die Profile echter Menschen zu erwischen.
Laut dem KI-VOE soll nun das KI-System, der Anbieter selbst oder der Nutzer die natürliche Person, die einem KI-System ausgesetzt ist, rechtzeitig, klar und verständlich darüber informieren, dass sie es mit einem KI-System zu tun hat. Eine Ausnahme soll bestehen, wenn aufgrund der Umstände und des Kontexts der Nutzung offensichtlich ist, dass es sich um eine künstlicher Intelligenz handelt.
Die KI-Verordnung plant ebenfalls, KI-Systeme in bestimmte Kategorien einzuteilen. Die oberste Kategorie, sog. Hochrisikosysteme, schreibt dabei ganz besondere Anforderungen für solche Systeme vor. Diese Mindeststandards leiten sich aus den von über 350 Organisationen erprobten Ethik-Leitlinien der sog. „Hochrangige Expertengruppe für künstliche Intelligenz“ (HEG) ab. So sollen bspw. die Grundrechte als Fundament einer ethischen KI dienen.
Die rechtlichen Anforderungen für Hochrisiko-KI-Systeme stimmen auch weitestgehend mit anderen internationalen Empfehlungen und Grundsätzen überein. Dadurch möchte die EU sicherstellen, dass der KI-VOE keine Schwierigkeiten mit den internationalen Handelspartnern der EU bereitet.
Der Entwurf enthält zahlreiche Bestimmungen zu den Themen Daten, Transparenz und Bereitstellung von Informationen für die Nutzer, menschliche Aufsicht, Sicherheit etc. Erst, wenn diese Anforderungen erfüllt werden, können Hochrisiko-Systeme auf dem europäischen Markt zugelassen werden.
Auch wenn der Verordnungsentwurf Urhebern bspw. durch Kennzeichnungspflichten hilft, ist das vielen Stimmen nicht genug. Urheber sehen sich durch künstliche Intelligenz mehreren großen Gefahren ausgesetzt. Wie wir in unserem Blogartikel dazu festgehalten haben, sind KI-Erzeugnisse regelmäßig nicht urheberrechtlich geschützt. Denn dafür braucht man einen menschlichen Schöpfer. Dieses Erfordernis erfüllt eine KI gerade nicht, mag sie noch so autonom und fortgeschritten sein.
Dennoch kommt es häufiger vor, dass KI-Erzeugnisse Teile von urheberrechtlich geschützten Werken enthalten. Das können Bilder, Texte oder auch Audiodateien sein. Nutzer der KI-Systeme werden darüber nicht informiert. Sie verwenden die Inhalte weiter und verstoßen damit gegen urheberrechtliche Vorschriften – das müssen Sie beachten. Das ist der Grund, weshalb zahlreiche Stimmen hier noch viel mehr Transparenz fordern, nicht nur für spezielle KI-Erzeugnisse wie Deepfakes.
Immerhin stellt eine neue Abänderung nun fest, dass zu den Pflichten eines KI-Anbieters gehört, „unbeschadet der Rechtsvorschriften der Union oder der Mitgliedstaaten oder der Union zum Urheberrecht eine hinreichend detaillierte Zusammenfassung der Verwendung von urheberrechtlich geschützten Ausbildungsdaten dokumentieren und öffentlich zugänglich machen.“ Diese Vorschrift bezieht sich also auf das KI-Training, nicht auf die Erzeugnisse. Hier gibt es folglich noch Handlungsbedarf.
Künstliche Intelligenz ist bereits seit einiger Zeit ein Thema, das Unternehmen fast täglich mit neuen rechtlichen Herausforderungen konfrontiert. KI-Systeme und Chatbots wie ChatGPT oder Midjourney eröffnen zahlreiche technische Möglichkeiten. Doch kann die Nutzung von künstlicher Intelligenz auch Risiken darstellen, wie einen Verstoß gegen das Urheberrecht. Als Kanzlei für KI-Recht befasst sich SBS Legal mit diesen Themen, damit Sie immer auf dem neuesten Stand sind.
Sie brauchen eine Beratung im KI-Recht oder einen KI-Rechtsanwalt, etwa für die Einordnung des KI-Verordnungsentwurfs der EU? Dann sind Sie bei uns richtig.