Wenn der Chatbot Unsinn erzählt: Warum Ihr Unternehmen dafür haftet

Der Fall: erfundene Qualifikationen, echte Abmahnung

Eine Klinik für ästhetische Chirurgie ließ auf ihrer Website einen KI-Chatbot Kundenfragen beantworten. Auf die Frage nach den Qualifikationen der Geschäftsführer erfand der Bot Facharztbezeichnungen, die es in der ärztlichen Weiterbildungsordnung gar nicht gibt. Eine Verbraucherzentrale bemerkte das, mahnte ab und klagte auf Unterlassung – mit Erfolg.

Interessant ist die Begründung. Das Unternehmen argumentierte, die Antworten seien ein technisches Versehen: Die Trainingsdaten seien korrekt gewesen, und bei einer KI lasse sich nun einmal nicht vorhersagen, was am Ende herauskommt. Dieses „Black-Box"-Argument hat das Gericht ausdrücklich verworfen. Wer den Bot einsetzt, bestimmt, ob und wie er mit Kunden spricht – seine Antworten sind deshalb geschäftliche Aussagen des Unternehmens selbst. Entscheidend war für die Richter auch ein praktischer Punkt: Nach der Beanstandung ließ sich der Bot problemlos so umprogrammieren, dass die falschen Angaben verschwanden. Was sich nachträglich korrigieren lässt, hätte sich auch vorher verhindern lassen.

Das Urteil ist noch nicht rechtskräftig, die Revision zum Bundesgerichtshof wurde zugelassen. An der Richtung ändert das für die Praxis wenig: Sie sollten heute davon ausgehen, dass Ihnen die Aussagen Ihres Chatbots zugerechnet werden.

Warum Chatbot-Haftung fast jede Branche betrifft

Der Fall spielte in der Schönheitschirurgie, das Prinzip gilt aber überall. Kritisch wird es im Wettbewerbsrecht immer dort, wo der Bot Aussagen trifft, die ein Kunde für verbindlich halten darf:

• Qualifikationen und Zertifikate – Meistertitel, Zulassungen, Prüfsiegel, Mitgliedschaften
• Produkteigenschaften – Materialien, Herkunft, Nachhaltigkeitsaussagen, technische Werte
• Preise, Rabatte, Lieferzeiten – vom Bot zugesagte Konditionen, die so nicht gelten
• Garantien und Widerrufsrechte – Zusagen, die Ihre AGB nicht hergeben

Dazu kommt ein zweites Risiko: Ein Chatbot, der Zusagen macht, kann je nach Ausgestaltung auch vertraglich binden. Der Streit dreht sich dann nicht um Wettbewerbsrecht, sondern um einen Kunden, der auf einen zugesagten Preis besteht.

Abgemahnt wird übrigens selten aus heiterem Himmel. Wettbewerber, Verbände und Verbraucherzentralen prüfen KI-gestützte Kundenkommunikation inzwischen gezielt – ein Chatdialog ist schnell dokumentiert und als Screenshot gesichert.

Was Sie jetzt prüfen sollten

Vier Punkte, die sich ohne großen Aufwand klären lassen:

• Themen begrenzen: Legen Sie fest, worüber der Bot spricht – und worüber nicht. Qualifikationen, Preiszusagen, Rechtsfragen und Gesundheitsaussagen gehören in der Regel in die Sperrliste, mit Weiterleitung an einen Mitarbeiter.
• Vor dem Start testen: Fragen Sie den Bot durch wie ein kritischer Kunde, gerade zu den heiklen Themen. Das Ergebnis dokumentieren Sie. Diese Testprotokolle sind später Ihr Nachweis, dass Sie sorgfältig vorgegangen sind.
• Gespräche protokollieren und stichprobenartig auswerten: Ohne Protokoll wissen Sie nicht, was Ihr Bot Kunden erzählt – und können im Streitfall auch nichts belegen. Achten Sie dabei auf saubere Datenschutz-Grundlagen: Speicherdauer, Hinweis an den Nutzer, Auftragsverarbeitungsvertrag mit dem Anbieter.
• Den Anbietervertrag ansehen: Viele Standardverträge schließen die Haftung des Anbieters weitgehend aus – das Risiko bleibt vollständig bei Ihnen. Verhandelbar sind meist Reaktionszeiten bei Fehlern, Änderungsrechte am System und eine Freistellung für bestimmte Fälle.

Ein Hinweis wie „Antworten können Fehler enthalten" ist sinnvoll, ersetzt diese Maßnahmen aber nicht. Als alleinige Absicherung trägt ein solcher Disclaimer nicht.

Wenn die Abmahnung bereits im Haus ist

Dann zählt Tempo – die gesetzten Fristen sind meist kurz. Zwei Fehler sind teuer: Erstens, die Sache aussitzen; das führt schnell zur einstweiligen Verfügung. Zweitens, die beigefügte Unterlassungserklärung ungeprüft unterschreiben. Diese Erklärungen sind regelmäßig weiter formuliert als der Vorwurf reicht, und sie gelten praktisch unbefristet. Jeder Rückfall kostet dann eine Vertragsstrafe. Sinnvoll ist fast immer eine eigene, enger gefasste Erklärung – und parallel die sofortige technische Abstellung des Fehlers, denn ohne Korrektur bleibt die Wiederholungsgefahr bestehen.

Unser Rat

Nehmen Sie sich eine Stunde und klären Sie drei Fragen: Welche Bots laufen in Ihrem Unternehmen? Was dürfen sie sagen? Und wer merkt es, wenn sie etwas Falsches sagen? Aus den Antworten ergibt sich der Handlungsbedarf meist von selbst.

Wir unterstützen Sie dabei – von der Prüfung Ihrer Chatbot-Kommunikation über Vorgaben und Anbieterverträge bis zur Verteidigung gegen eine Abmahnung. Sprechen Sie uns an, bevor es eine wird.