Rechtsanwalt & Spezialist für Kryptorecht & KI-Recht, Zertifizierter Geldwäschebeauftragter (TÜV)
T (+49) 040 / 7344 086-0
Rechtsanwältin & Expertin für Kryptorecht
T (+49) 040 / 7344 086-0
| KI-Recht
Blog News
Aufsätze, Kommentarstellen und angebliche Urteile, die in Wirklichkeit nie existiert haben – genau solche „Fundstellen“ landeten in einem Schriftsatz, den ein Anwalt beim Amtsgericht Köln eingereicht hatte. Der Text war erkennbar mithilfe Künstlicher Intelligenz erstellt und ungeprüft übernommen worden. Für das Gericht lag damit ein klarer Verstoß gegen die anwaltlichen Berufspflichten vor. Die Frage, die sich nun stellt: Reicht dies „nur“ für einen berufsrechtlichen Tadel oder bewegt sich ein Anwalt damit bereits im Bereich der Strafbarkeit?
Der Fall vor dem AG Köln begann zunächst unspektakulär. In einem familienrechtlichen Verfahren ging es um das Umgangsrecht, das Wechselmodell und Fragen des Kindeswohls. Bis hierhin ein Verfahren, wie viele andere. Doch mitten in der Begründung offenbarte das Gericht eine Besonderheit, die weit über den konkreten Fall hinausreicht. Der eingereichte Schriftsatz des anwaltlichen Vertreters enthielt eine ganze Reihe von Zitaten, Kommentierungen und Aufsätzen, die entweder gar nicht existierten oder inhaltlich vollkommen anders gelagert waren als behauptet.
So wurde etwa ein Autor dem Münchner Kommentar zum BGB zugeschrieben, obwohl er tatsächlich im juris-PraxisKommentar veröffentlicht. Eine angegebene Randziffer, auf die sich der Anwalt bezog, war in Wirklichkeit gar nicht vorhanden. Auch eine angebliche Monografie zum Thema Kindeswohl ließ sich trotz intensiver Suche nicht auffinden. In Fachzeitschriften tauchten die angegebenen Quellen ebenfalls nicht auf. Stattdessen fanden sich dort ganz andere Inhalte. Besonders auffällig war eine Fundstelle aus der FamRZ, die in Wahrheit keine familienrechtliche Thematik behandelte, sondern Entscheidungen des OLG Düsseldorf und des Kammergerichts zu erbrechtlichen Fragen enthielt.
Für das AG Köln war die Sache eindeutig: Der Schriftsatz enthielt „offenbar mittels Künstlicher Intelligenz generierte und frei erfundene“ Fundstellen. Das Gericht stellte klar, dass derartige Vorgehensweisen nicht nur die Rechtsfindung erschweren, sondern auch das Ansehen der Anwaltschaft und des Rechtsstaats erheblich beschädigen können. Der Vorfall markiert damit einen der ersten dokumentierten Fälle, in dem ein deutsches Gericht offen den Einsatz fehlerhafter KI-Texte in anwaltlichen Schriftsätzen rügte.
Das Amtsgericht Köln sparte nicht mit klaren Worten. Der eingereichte Schriftsatz sei unbrauchbar und irreführend gewesen. Auffällig war dabei nicht nur der Inhalt, sondern auch die Form. Statt eines kohärenten Fließtextes bestand das Dokument überwiegend aus Spiegelstrichen. Einem typischen Merkmal automatisch generierter Texte.
Der Kölner Anwalt, dessen Kanzlei die Gegenseite vertrat, nahm den Fall zum Anlass, auf LinkedIn für Diskussionen zu sorgen. Seine interne Test-KI kam zu dem Ergebnis, dass der Schriftsatz mit über 90 Prozent Wahrscheinlichkeit von einer generativen KI ohne Datenbankanbindung stammte. Die Fundstellen seien „zu 100 Prozent halluziniert“ worden.
Solche Fehlleistungen sind allerdings bei Weitem kein Einzelfall mehr. In den USA musste sich bereits ein Anwalt vor Gericht verantworten, weil er erfundene Urteile aus ChatGPT übernommen hatte. Auch Studien, etwa der Stanford-Universität, bestätigen die hohe Fehleranfälligkeit gängiger Modelle. Mittlerweile hat sogar die American Bar Association reagiert und verbindliche Leitlinien zur Nutzung von KI im Anwaltsberuf herausgegeben. Einschließlich einer ausdrücklichen Pflicht zur sorgfältigen Prüfung aller Inhalte.
Der Fall Köln zeigt, dass halluzinierende KI-Systeme längst nicht nur ein theoretisches Problem sind. Sie können Gerichtsverfahren unmittelbar beeinflussen und das Vertrauen in anwaltliche Arbeit untergraben. Wer sich blind auf solche Technologien verlässt, riskiert nicht weniger als seine eigene Glaubwürdigkeit.
Perspektivwechsel, denn Künstliche Intelligenz eröffnet der Rechtsbranche auch vielfältige Chancen. Schon heute wird sie genutzt, um Prozesse zu beschleunigen, Mandanten niedrigschwelligen Zugang zu Informationen zu verschaffen und komplexe Datenmengen auszuwerten. Für Kanzleien und Gerichte bedeutet das nicht nur eine Entlastung, sondern auch die Möglichkeit, sich stärker auf die inhaltlich wirklich anspruchsvollen Fragen zu konzentrieren. Entscheidend bleibt allerdings, dass die Inhalte der KI nie ungeprüft übernommen, sondern immer kritisch kontrolliert werden müssen.
Chancen von KI im juristischen Bereich:
Kann ein von einer KI erstellter Schriftsatz, der voller erfundener Zitate steckt, bereits als Berufsrechtsverstoß gelten? Mit dieser Frage musste sich nun das Amtsgericht Köln befassen.
Der Richter wies auf § 43a Abs. 3 BRAO hin. Diese Vorschrift verbietet unsachliches Verhalten und nennt ausdrücklich die „bewusste Verbreitung von Unwahrheiten“. Ob das hier zutraf, ist allerdings umstritten.
Die Diskussion dreht sich um zwei Kernfragen. Erstens, ob aus § 43a Abs. 3 BRAO tatsächlich eine umfassende Wahrheitspflicht für Anwälte folgt. Einige sehen darin eine Pflicht zur Korrektheit aller Tatsachenbehauptungen, andere wollen die Grenze erst bei groben Verstößen – etwa bei Beleidigungen – ziehen. Zweitens, was genau „bewusst“ bedeutet. Nach herrschender Auffassung reicht Fahrlässigkeit nicht aus. Gefordert wird direkter Vorsatz. Ein Anwalt, der unsicher ist und eine Quelle ungeprüft übernimmt, verstößt also nicht automatisch gegen das Berufsrecht.
Wie der Rechtsanwalt und KI-Experte Tom Braegelmann in der RDi betont, liegt die rechtliche Würdigung ohnehin beim Gericht („iura novit curia“). Die Wahrheitspflicht aus § 138 ZPO erfasst nur Tatsachen, nicht Rechtsauffassungen. Damit bleibt die Frage offen, wie falsche Fundstellen oder Literaturhinweise einzuordnen sind: Sie sind mehr als nur Meinungen, aber weniger als Tatsachenbehauptungen.
Der Fall zeigt, dass KI die Grenze zwischen Schlamperei und Vorsatz unscharf macht. Blindzitate und ungenaue Verweise gab es schon vor dem Einsatz von KI. Doch wer eine Maschine nutzt, die bekannt dafür ist, „halluzinierte“ Quellen zu liefern, begibt sich schneller in den Verdacht, bewusst Unwahrheiten in den Prozess einzuführen.
[…] (3) Der Rechtsanwalt darf sich bei seiner Berufsausübung nicht unsachlich verhalten. Unsachlich ist insbesondere ein Verhalten, bei dem es sich um die bewußte Verbreitung von Unwahrheiten oder solche herabsetzenden Äußerungen handelt, zu denen andere Beteiligte oder der Verfahrensverlauf keinen Anlaß gegeben haben. […]
Die Diskussion um den Fall aus Köln nahm auf LinkedIn eine überraschende Wendung. Manche Juristinnen und Juristen warfen die Frage auf, ob ein ungeprüft eingereichter KI-Schriftsatz sogar den Tatbestand des Prozessbetrugs (§ 263 StGB) erfüllen könnte. Ausreichend wäre bereits bedingter Vorsatz, also die Inkaufnahme, dass das Gericht durch falsche Quellen getäuscht wird.
Doch die überwiegende Ansicht lehnt einen solchen Betrugstatbestand ab. Zur Begründung wird eine Entscheidung des OLG Koblenz aus dem Jahr 2001 herangezogen. Dort hatte ein Anwalt wahrheitswidrig behauptet, seine Rechtsmeinung sei durch Gerichte bestätigt worden. Obwohl dies nachweislich falsch war, erkannte das Gericht keinen Prozessbetrug. Richterinnen und Richter prüfen die Rechtslage ohnehin selbst („iura novit curia“). Eine falsche Rechtsansicht oder ein erfundenes Zitat seien daher objektiv nicht geeignet, sie in die Irre zu führen. Selbst wenn der Anwalt subjektiv betrügerische Absichten gehabt hätte, fehle es an der Tatbestandsmäßigkeit. Ein sogenannter „umgekehrter Subsumtionsirrtum“.
Unabhängig von der strafrechtlichen Bewertung bleibt jedoch eines klar: Wer mit falschen Zitaten argumentiert, schadet der eigenen Sache massiv. Die eigene Glaubwürdigkeit vor Gericht ist schnell verspielt, wenn Fundstellen sich als Fiktion herausstellen. Dass es dabei nicht um Einzelfälle geht, zeigt die internationale Diskussion. Ein britischer Barrister arbeitet derzeit an einer Liste, die KI-Halluzinationen in Gerichtsdokumenten weltweit erfasst.
Vier Praxistipps für den verantwortungsvollen Umgang mit KI
Haben Sie Fragen zum rechtssicheren Einsatz von Künstlicher Intelligenz? Möchten Sie wissen, ob Ihre Prozesse den Anforderungen der KI-Verordnung entsprechen oder ob technische Schutzmaßnahmen ausreichend umgesetzt sind? Suchen Sie nach Orientierung, wie sich Chancen nutzen lassen, ohne rechtliche Risiken einzugehen?
Unser spezialisiertes Team im KI-Recht begleitet Unternehmen seit den ersten Schritten dieser Technologie. Wir kennen die rechtlichen Fallstricke ebenso wie die Potenziale und sorgen dafür, dass Ihre Projekte von Beginn an auf einem sicheren Fundament stehen. Ob im Dienstleistungssektor, im Finanzwesen oder im Gesundheitsbereich, wir prüfen Ihre Abläufe, entwickeln passgenaue Lösungen und stellen sicher, dass Ihre KI-Anwendungen im Einklang mit den aktuellen rechtlichen Vorgaben betrieben werden.
Für weitere Rückfragen stehen wir Ihnen jederzeit gerne auch telefonisch zur Verfügung. Wünschen Sie die Rechtsberatung von dem erfahrenen Team aus Fachanwälten und Spezialisten von SBS LEGAL?