Rechtsanwalt & Spezialist für Kryptorecht & KI-Recht, Zertifizierter Geldwäschebeauftragter (TÜV)
T (+49) 040 / 7344 086-0
Rechtsanwältin & Expertin für Kryptorecht
T (+49) 040 / 7344 086-0
| KI-Recht
Blog News
Wie weit darf künstliche Intelligenz im Gerichtssaal gehen? Was passiert, wenn Anwälte auf KI-generierte Inhalte vertrauen und diese sich als frei erfunden herausstellen? Ein aktueller Beschluss des Amtsgerichts Köln sorgt für Aufsehen, denn erstmals rügte ein deutsches Gericht die Verwendung sogenannter „KI-Halluzinationen“ in einem anwaltlichen Schriftsatz.
Ein aktueller Fall, der zentrale Fragen zum Zusammenspiel von Technologie, anwaltlicher Verantwortung und richterlicher Kontrolle aufwirft. Denn wo juristische Präzision zählt, können automatisiert erzeugte Falschzitate schwerwiegende Folgen haben und das nicht nur für den einzelnen Anwalt, sondern auch für das Vertrauen in die Rechtsstaatlichkeit. Was passiert ist und welche Auswirkungen das auf die Rechtsbranche hat, erfahren Sie in diesem Beitrag.
In einem familiengerichtlichen Verfahren zum Umgangsrecht reichte ein Fachanwalt für Familienrecht beim Amtsgericht Köln einen Schriftsatz ein, der mithilfe einer generativen KI erstellt worden war. Darin fanden sich zahlreiche angebliche Zitate und Fundstellen aus Rechtsprechung und Kommentarliteratur, die sich bei der gerichtlichen Prüfung als vollständig frei erfunden herausstellten.
So verwies der Anwalt unter anderem auf Kommentare und Aufsätze, die in der zitierten Form gar nicht existierten, etwa eine vermeintliche Randziffer 65 im jurisPK-BGB, die in Wirklichkeit nur bis Randziffer 36 reicht, oder ein angebliches Werk „Meyer-Götz in: Hauß/Gernhuber, Familienrecht, 6. Aufl. 2022“, das überhaupt nicht existiert. Auch angebliche Entscheidungen des OLG Frankfurt und diverse Fachaufsätze erwiesen sich als KI-generierte Fiktionen.
Das Gericht stellte fest, dass die Angaben offenbar durch künstliche Intelligenz erzeugt worden waren und es zu sogenannten „KI-Halluzinationen“ kam, also plausibel wirkenden, aber tatsächlich falschen Informationen.
Daraufhin fand das Amtsgericht Köln in seinem Beschluss klare Worte. Der Einsatz von KI-Tools sei grundsätzlich nicht verboten, entbinde Anwältinnen und Anwälte aber nicht von ihrer persönlichen Verantwortung für den Inhalt ihrer Schriftsätze. Wer Argumente, Zitate oder Quellen übernimmt, müsse sicherstellen, dass diese tatsächlich existieren und richtig wiedergegeben werden.
Das Risiko solcher Falschzitate liegt auf der Hand. Sie sind schlichtweg geeignet, Gerichte und Verfahrensbeteiligte zu täuschen und das Vertrauen in anwaltliche Arbeit zu untergraben. Das Gericht bezeichnete das Verhalten als unsorgfältig und berufsrechtswidrig.
Besonders hervor hob das Gericht, dass juristische Verantwortung nicht delegierbar sei. Anwälte dürfen digitale Hilfsmittel nutzen, müssen aber die daraus resultierenden Inhalte wie eigene Aussagen behandeln. Das Gericht erinnerte in diesem Zusammenhang an § 43a Abs. 3 BRAO, der eine Pflicht zur gewissenhaften und wahrheitsgemäßen Vertretung festlegt.
(3) Der Rechtsanwalt darf sich bei seiner Berufsausübung nicht unsachlich verhalten. Unsachlich ist insbesondere ein Verhalten, bei dem es sich um die bewußte Verbreitung von Unwahrheiten oder solche herabsetzenden Äußerungen handelt, zu denen andere Beteiligte oder der Verfahrensverlauf keinen Anlaß gegeben haben.
Das Amtsgericht Köln verhängte keine formalen prozessualen Sanktionen, sondern beließ es bei einem berufsrechtlichen Tadel. Der Grund: Die fehlerhaften Fundstellen und erfundenen Quellen hatten keinen Einfluss auf die gerichtliche Entscheidung in der Familiensache. Das Gericht stellte jedoch, wie bereits erwähnt, ausdrücklich klar, dass das Verhalten des Anwalts einen Verstoß gegen die anwaltliche Wahrheitspflicht nach § 43a Abs. 3 BRAO darstellt.
Zwar sei der Schriftsatz formal ordnungsgemäß eingereicht worden, doch die enthaltenen Falschzitate hätten die Funktionsfähigkeit des Rechtsverkehrs beeinträchtigen können.
Da es sich um einen erstmaligen und offensichtlich fahrlässigen Fehler handelte, verzichtete das Gericht auf weitergehende Maßnahmen. Es machte jedoch unmissverständlich deutlich, dass in künftigen Fällen strengere Konsequenzen drohen können, wenn durch fehlerhafte oder fingierte Angaben die Rechtsfindung tatsächlich beeinflusst oder die Gegenseite bewusst in die Irre geführt wird.
Die Entscheidung des Amtsgerichts Köln hat Signalwirkung weit über den Einzelfall hinaus. Sie macht deutlich, dass die Nutzung von Künstlicher Intelligenz in der juristischen Praxis zwar erlaubt, aber mit klaren Pflichten zur Kontrolle und Verantwortung verbunden ist.
Für Rechtsanwältinnen und Rechtsanwälte bedeutet das Urteil, dass sie nicht blind auf KI-generierte Inhalte vertrauen dürfen. Wer KI-Tools einsetzt, muss sämtliche Ausgaben – insbesondere Zitate, Fundstellen und Rechtsauffassungen eigenständig prüfen und verifizieren. Das gilt unabhängig davon, ob ein Chatbot, ein Sprachmodell oder eine spezialisierte Legal-Tech-Software verwendet wird.
Das Urteil verdeutlicht außerdem, dass anwaltliche Sorgfaltspflichten auch im digitalen Zeitalter unverändert gelten. Künstliche Intelligenz kann eine wertvolle Unterstützung bei Recherche und Textarbeit bieten, ersetzt aber keinesfalls das juristische Fachwissen, die Erfahrung und das Verantwortungsbewusstsein eines Menschen.
Für Kanzleien ergibt sich daraus ein klarer Handlungsauftrag:
Das Urteil markiert damit einen Wendepunkt. KI ist im juristischen Alltag angekommen, aber ihr Einsatz bleibt werkzeuggebunden, nicht verantwortungsersetzend. Anwältinnen und Anwälte tragen weiterhin die volle Haftung für jeden Satz, der ihren Namen trägt – auch wenn ihn eine Maschine formuliert hat.
Haben Sie in Ihrer Kanzlei oder Ihrem Unternehmen bereits erste Erfahrungen mit KI-Systemen gesammelt? Fragen Sie sich, wie Sie künstliche Intelligenz rechtssicher einsetzen können, ohne berufsrechtliche oder haftungsrechtliche Risiken einzugehen? Oder möchten Sie wissen, welche Pflichten bei der Nutzung von KI-generierten Inhalten gelten und wie Sie die Qualität juristischer Dokumente zuverlässig absichern können?
Unser Team im KI-Recht unterstützt Sie kompetent bei allen rechtlichen und technischen Fragen rund um den Einsatz künstlicher Intelligenz. Ob im Dienstleistungssektor, Finanzwesen oder Gesundheitsbereich – wir begleiten Unternehmen und Kanzleien bei der rechtskonformen Gestaltung ihrer KI-Prozesse. Wir helfen Ihnen, interne Richtlinien zu entwickeln, technische Schutzmaßnahmen umzusetzen und Ihre Abläufe im Lichte der EU-KI-Verordnung (KI-VO) rechtssicher aufzustellen.
Für weitere Rückfragen stehen wir Ihnen jederzeit gerne auch telefonisch zur Verfügung. Wünschen Sie die Rechtsberatung von dem erfahrenen Team aus Fachanwälten und Spezialisten von SBS LEGAL?