Rechtsanwalt & Spezialist für Kryptorecht & KI-Recht, Zertifizierter Geldwäschebeauftragter (TÜV)
T (+49) 040 / 7344 086-0
Rechtsanwältin & Expertin für Kryptorecht und Markenrecht
T (+49) 040 / 7344 086-0
| KI-Recht
Blog News
KI-Chatbots beantworten Kundenfragen, empfehlen Produkte und steuern Kaufentscheidungen. Sicher eine deutliche Entlastung von Teams und eine spürbare Effizienzsteigerung. Tatsache ist aber auch, dass Unternehmen sich hier in einem rechtlich sensiblen Bereich bewegen. Denn wenn ein Chatbot falsche Angaben macht, stellt sich schnell die Frage: Liegt die Haftung für Fehler der KI-Chatbots bei den Unternehmen?
Der aktuelle Fall vor dem OLG Hamm zeigt, wie groß die rechtlichen Risiken beim Einsatz automatisierter Kundenkommunikation inzwischen sind. Im Raum steht die Zurechnung von Falschangaben eines KI-Systems und damit eine zentrale Frage für alle Unternehmen, die Chatbots im Vertrieb, Support oder Online-Shop einsetzen.
Ausgangspunkt des Verfahrens war ein KI-Chatbot auf der Webseite der Aesthetify GmbH aus Recklinghausen. Das Unternehmen bietet medizinische Dienstleistungen im Bereich der ästhetischen Medizin an und wird von zwei Medizinern betrieben, die öffentlich unter den Namen „Dr. Rick“ und „Dr. Nick“ auftreten.
Über den Chatbot konnten Interessierte Termine buchen und Fragen zu Behandlungen in Echtzeit stellen. Auf konkrete Nutzeranfragen gab das System jedoch Facharztbezeichnungen aus, die so im deutschen ärztlichen Berufsrecht nicht existieren. Genannt wurden unter anderem Titel wie „Facharzt für plastische und ästhetische Chirurgie“, „Facharzt für ästhetische Medizin“ oder „Facharzt für ästhetische Behandlungen“. Solche Angaben konnten bei potenziellen Patientinnen und Patienten den Eindruck erwecken, die behandelnden Ärzte verfügten über besondere anerkannte Facharztqualifikationen.
Die Verbraucherzentrale Nordrhein-Westfalen sah darin eine irreführende geschäftliche Kommunikation und mahnte das Unternehmen ab. Sie verlangte unter anderem die Abgabe einer strafbewehrten Unterlassungserklärung. Zwar wurde der Chatbot anschließend deaktiviert, die geforderte Erklärung gab das Unternehmen jedoch nicht ab. Damit musste sich das Gericht mit der Frage beschäftigen, ob Falschangaben eines KI-Chatbots dem Unternehmen rechtlich zugerechnet werden können.
Wichtige Punkte zum Sachverhalt
Eine KI-Halluzination liegt vor, wenn ein KI-System eine Antwort erzeugt, die überzeugend klingt, aber sachlich falsch ist. Besonders bei Chatbots und großen Sprachmodellen kann das passieren, weil sie Sprache nach Wahrscheinlichkeiten erzeugen und nicht automatisch prüfen, ob jede Aussage tatsächlich stimmt.
Gefährlich ist dabei die Form der Antwort. Halluzinierte Inhalte scheinen oft präzise, logisch und professionell. Die KI nennt scheinbar passende Begriffe, Quellen, Daten oder Rechtsnormen, obwohl diese nicht existieren oder falsch zugeordnet sind. Genau deshalb können Nutzer solche Angaben leicht für zuverlässig halten.
Dazu folgende Beispiele:
Fingierte Quellen und Links
Eine KI erstellt einen Bericht und verweist auf angebliche Studien, Autorinnen oder Internetquellen. Die Angaben klingen wissenschaftlich, die zitierten Arbeiten oder Links existieren aber nicht. Besonders im wissenschaftlichen, journalistischen oder juristischen Kontext kann das erhebliche Folgen haben.
Falsche historische Daten
Ein Chatbot nennt ein konkretes Jahr für ein historisches Ereignis, verwechselt aber die tatsächliche Chronologie. Die Antwort wirkt glaubwürdig, weil sie mit Details formuliert ist, führt aber zu einer falschen Einordnung.
Nicht existierende Gesetze oder Paragrafen
Ein juristischer Chatbot verweist auf einen Paragrafen, der im Gesetz nicht vorhanden ist, und versieht ihn sogar mit einem plausibel klingenden Wortlaut. Solche Halluzinationen sind besonders riskant, weil sie zu falschen Rechtsentscheidungen oder irreführenden Auskünften führen können.
Falsche biografische Angaben
Eine KI gibt zu einer Person falsche Informationen über Geburtsort, Ausbildung, berufliche Stationen oder Veröffentlichungen aus. Solche Angaben können Persönlichkeitsrechte berühren und reputationsschädigend wirken.
Unternehmen sollten KI-Ausgaben deshalb nie ungeprüft in Kundenkommunikation, Werbung, Rechtstexte oder medizinische Informationen übernehmen.
Die rechtliche Bewertung knüpft an das Irreführungsverbot des § 5 UWG an. Danach handelt ein Unternehmen unlauter, wenn es eine irreführende geschäftliche Handlung vornimmt, die geeignet ist, Verbraucher oder andere Marktteilnehmer zu einer Entscheidung zu veranlassen, die sie sonst nicht getroffen hätten. Besonders relevant ist § 5 Abs. 2 Nr. 3 UWG. Danach kann eine geschäftliche Handlung irreführend sein, wenn sie unwahre oder täuschungsgeeignete Angaben über die Person, Befähigung, Zulassung, den Status oder besondere Qualifikationen eines Unternehmers enthält.
Das OLG Hamm ordnete die Antworten des Chatbots genau in diesen Bereich ein. Die Angaben zu angeblichen Facharztbezeichnungen betrafen die Qualifikation der hinter dem Unternehmen stehenden Ärzte und waren geeignet, potenzielle Patientinnen und Patienten bei ihrer Entscheidung zu beeinflussen. Wesentlich war dabei, dass die Aussagen nicht als fremde Äußerungen eines unabhängigen Dritten behandelt wurden. Der Chatbot war auf der Webseite des Unternehmens eingebunden und diente der geschäftlichen Kommunikation mit Kunden.
Nach Auffassung des OLG Hamm stellen die Antworten eines auf der Unternehmenswebsite eingesetzten KI-Chatbots jedenfalls dann eigene geschäftliche Handlungen des Unternehmens dar, wenn der Chatbot der Kunden- bzw. Patientenkommunikation dient und Fragen zu den angebotenen Leistungen beantwortet. Das Unternehmen kann sich nicht allein damit entlasten, dass die fehlerhafte Aussage automatisiert oder durch eine KI-Halluzination erzeugt wurde. Es kommt nicht darauf an, ob die falschen Angaben bewusst veranlasst wurden oder durch eine typische KI-Halluzination entstanden sind. Auch der Einwand, der Chatbot sei mit korrekten Daten versehen worden, entlastet das Unternehmen nicht vollständig. Wer ein KI-System in die eigene Kundenkommunikation integriert, trägt das Risiko dafür, dass dieses System keine irreführenden Angaben macht.
Das OLG Hamm gab der Verbraucherzentrale NRW Recht und sprach einen Unterlassungsanspruch gegen die Aesthetify GmbH aus (OLG Hamm, Urteil vom 12.05.2026 – 4 UKl 3/25). Das Unternehmen muss künftig verhindern, dass sein Chatbot irreführende Facharztbezeichnungen oder vergleichbare Falschangaben ausgibt. Da die Zurechnung von KI-Aussagen im Wettbewerbsrecht bislang nicht höchstrichterlich geklärt ist, wurde die Revision zum Bundesgerichtshof zugelassen. Das Urteil ist daher noch nicht rechtskräftig, hat aber bereits jetzt erhebliche Signalwirkung.
Für Unternehmen ist die Entscheidung besonders relevant, weil sie deutlich macht, das KI-Kommunikation keine haftungsfreie Zone ist. Wer einen Chatbot auf der eigenen Webseite, im Online-Shop oder in einer App einsetzt, nutzt ihn als Teil der geschäftlichen Kommunikation. Falsche oder erfundene Angaben können wie eigene Unternehmensangaben behandelt werden.
Besonders sensibel sind Branchen, in denen Qualifikationen, Zulassungen, Preise, Gesundheitsangaben, Finanzinformationen oder rechtliche Einschätzungen eine wichtige Rolle spielen. Schon kleine Halluzinationen können dort Verbraucher täuschen und Wettbewerbsverstöße auslösen. Unternehmen sollten KI-Chatbots deshalb nicht nur technisch testen, sondern rechtlich und organisatorisch kontrollieren.
Praktische Tipps für Unternehmen
Nutzen Sie bereits KI-Chatbots auf Ihrer Webseite, im Online-Shop, im Kundenservice oder im Vertrieb? Möchten Sie wissen, ob Ihr Chatbot falsche Angaben zu Leistungen, Preisen, Qualifikationen oder rechtlichen Fragen machen könnte? Oder benötigen Sie Unterstützung bei der rechtssicheren Gestaltung von KI-Kommunikation, Transparenzpflichten, Datenschutz, Haftung und vertraglicher Absicherung?
Als Kanzlei für KI-Recht sind wir von SBS LEGAL Ihr Ansprechpartner bei der sicheren und praxisnahen Nutzung Künstlicher Intelligenz. Wir prüfen bestehende und geplante KI-Systeme auf rechtliche Risiken, unterstützen bei der Einordnung nach der KI-VO, entwickeln Compliance- und Governance-Strukturen und beraten zu Datenschutz, Transparenz, Haftung und vertraglicher Absicherung. Gerade beim Einsatz von KI-Chatbots helfen wir dabei, klare Prozesse, Kontrollmechanismen und rechtssichere Kommunikationsstandards zu schaffen, damit Innovation nicht zum Haftungsrisiko wird.
Für Rückfragen stehen wir Ihnen jederzeit gerne auch telefonisch zur Verfügung. Wünschen Sie die Rechtsberatung durch das erfahrene Team aus Fachanwälten und Spezialisten von SBS LEGAL?