Der Chatbot, der eine Airline verpflichtete: Air Canadas teurer Irrtum

Der Chatbot, der eine Airline verpflichtete, bietet am 11. November 2022 auf der Website von Air Canada eine scheinbar einfache Lösung für eine Reise im Trauerfall. Jake Moffatts Großmutter ist gestorben. Für die Reise von Vancouver nach Toronto geht es nun auch um eine praktische Frage: Gibt es einen günstigeren Tarif für diesen Anlass? Der digitale Assistent erklärt, eine Ermäßigung könne nachträglich beantragt werden. Moffatt bucht. Doch als die versprochene Vergünstigung eingefordert wird, will die Fluggesellschaft davon nichts wissen.[1]^[1]

Aus dieser Auskunft entsteht ein Rechtsstreit, dessen Bedeutung weit über den Ticketpreis hinausreicht. Im Mittelpunkt steht nicht die Frage, ob Software Fehler machen kann. Sondern wer dafür einstehen muss, wenn Menschen auf Informationen vertrauen, die ein Unternehmen auf seiner eigenen Website bereitstellt.

1. Eine hilfreiche Antwort – mit einem entscheidenden Fehler

Trauerfalltarife sollen Reisen unter außergewöhnlichen Umständen erleichtern. Welche Voraussetzungen gelten, bestimmt jedoch die jeweilige Fluggesellschaft. Genau darüber sucht Moffatt auf der Air-Canada-Website Auskunft.^[2]

Der Chatbot beschreibt einen vermeintlich unkomplizierten Weg: Wer sofort reisen müsse oder bereits gereist sei, könne innerhalb von 90 Tagen nach Ausstellung des Tickets eine nachträgliche Ermäßigung beantragen. Dafür solle ein entsprechendes Erstattungsformular ausgefüllt werden.[1]

Das klingt nicht nach einer unverbindlichen Vermutung. Die Antwort enthält eine Frist, einen Anlass und einen konkreten nächsten Schritt. Sie beschreibt ein Verfahren, nach dem sich eine Buchungsentscheidung ausrichten lässt.^[3]

Der Haken: Air Canadas tatsächliche Regelung sah diese rückwirkende Anwendung des Trauerfalltarifs nicht vor. Der Assistent erklärte also nicht bloß etwas ungeschickt. Er stellte eine Möglichkeit in Aussicht, die nach den veröffentlichten Bedingungen gerade nicht bestand. Die BBC griff den Fall deshalb auch als Warnsignal für Reisende auf, die sich auf automatisierte Serviceauskünfte verlassen.[2]

2. Zwei Auskünfte, dieselbe Website

Besonders bemerkenswert ist ein Detail: Die Chatbot-Antwort enthielt einen Link zu einer Air-Canada-Seite über Trauerfallreisen. Dort stand die abweichende, tatsächlich geltende Regelung. Richtige und falsche Information waren somit über dieselbe Unternehmenswebsite zugänglich.[3]^[4]

Für Air Canada wurde dieser Link später zu einem Argument. Moffatt hätte die verlinkte Seite prüfen und dort erkennen können, dass eine nachträgliche Ermäßigung ausgeschlossen war.

Doch damit verschob sich die Streitfrage. Müssen Kundinnen und Kunden jede konkrete Auskunft eines digitalen Assistenten innerhalb derselben Website noch einmal gegenprüfen? Und falls zwei Unternehmensangaben einander widersprechen: Woran sollen sie erkennen, welche verlässlich ist?

Das Civil Resolution Tribunal von British Columbia stellte genau diese Überlegung an. Air Canada habe nicht erklärt, weshalb Moffatt wissen musste, dass ein Teil ihrer Website vertrauenswürdig sei und ein anderer nicht. Ebenso wenig sei ersichtlich, warum die konkrete Chatbot-Auskunft zusätzlich hätte überprüft werden müssen.[3]

Der Link auf die korrekte Regelung beseitigte den Fehler deshalb nicht. Für die Entscheidung war vielmehr maßgeblich, dass Moffatt auf die falsche Information vertraut und danach gehandelt hatte.

3. Die Ermäßigung, die es nachträglich nicht geben sollte

Moffatt kaufte die Tickets im Vertrauen auf den beschriebenen Ablauf und beantragte anschließend die Erstattung eines Teils der Kosten. Nun verwies Air Canada auf ihre tatsächlichen Bedingungen: Der Trauerfalltarif könne nicht nach Abschluss der Reise rückwirkend angewendet werden.[3]

Damit wurde aus einer Serviceauskunft ein finanzieller Konflikt. Der digitale Helfer hatte einen Weg gewiesen, den die Fluggesellschaft anschließend versperrte.

Im weiteren Austausch räumte Air Canada ein, dass der Chatbot irreführende Informationen geliefert hatte. Daraus folgte jedoch keine Einigung über den verlangten Ausgleich. Moffatt brachte den Fall schließlich vor das Civil Resolution Tribunal, das in British Columbia unter anderem kleinere zivilrechtliche Streitigkeiten entscheidet.[3]

Der Ablauf ist wichtig: Es ging nicht um eine frei erfundene Kundenbehauptung über ein verschwundenes Gespräch. Im Verfahren lag ein Screenshot der Chatbot-Antwort vor. Damit ließ sich nachvollziehen, welche konkrete Auskunft Moffatt erhalten hatte.[3]

Der Beleg machte aus dem allgemeinen Vorwurf, falsch beraten worden zu sein, eine überprüfbare Aussage mit einer klar benannten Frist und einem angeblichen Erstattungsverfahren.

4. Kein eigenständiger Akteur neben der Airline

Am 14. Februar 2024 erging die Entscheidung in Moffatt v. Air Canada, 2024 BCCRT 149. Entscheider Christopher C. Rivers wies die Vorstellung zurück, die Fluggesellschaft könne sich von den Angaben ihres Chatbots lösen.[3]

Dabei ist eine juristische Feinheit entscheidend. Häufig wird der Fall so zusammengefasst, als habe Air Canada ihren Assistenten ausdrücklich zu einer eigenständigen Rechtsperson erklärt. Präziser ist: Das Tribunal beschrieb die Argumentation der Airline als eine Position, die im Ergebnis auf eine solche Trennung hinauslaufe.

Seine Antwort war eindeutig: Der Chatbot gehörte zur Website von Air Canada. Das Unternehmen war für die dort bereitgestellten Informationen verantwortlich – unabhängig davon, ob sie auf einer statischen Seite oder durch einen interaktiven Assistenten vermittelt wurden.[3]

Die Entscheidung stützte sich auf fahrlässige Falschauskunft, im kanadischen Recht als negligent misrepresentation bezeichnet. Das Tribunal sah eine Sorgfaltspflicht gegenüber Moffatt, eine unzutreffende Information, berechtigtes Vertrauen darauf und einen daraus entstandenen Schaden.

Nicht die Software musste zahlen. Verantwortlich blieb die Fluggesellschaft, die diesen Kommunikationskanal angeboten hatte.

5. Ein überschaubarer Betrag, eine größere Signalwirkung

Das Tribunal sprach Moffatt 650,88 kanadische Dollar Schadensersatz zu. Zusammen mit Zinsen und Verfahrenskosten belief sich die zugesprochene Summe auf 812,02 kanadische Dollar.[3]

Für eine internationale Airline ist das kein außergewöhnlich hoher Betrag. Bemerkenswert war vielmehr, woran die Abwehr der Forderung scheiterte: Eine falsche Information wurde nicht dadurch unverbindlich, dass sie automatisiert ausgegeben worden war.

Trotzdem verdient die Geschichte eine nüchterne Einordnung. Das Tribunal führte keinen allgemeinen rückwirkenden Trauerfallrabatt ein. Ebenso wenig entschied es, dass jede beliebige Chatbot-Aussage überall automatisch Vertragsbestandteil wird. Es beurteilte einen konkreten Sachverhalt nach dem anwendbaren Recht.

Auch über die technische Ursache sollte nicht spekuliert werden. Die Entscheidung liefert keine ausreichende Grundlage, um den Fehler einem bestimmten Sprachmodell, einer Trainingsmethode oder einer Systemarchitektur zuzuschreiben. Öffentlich belegt ist die falsche Ausgabe – nicht jeder technische Schritt, der zu ihr führte.[3]

Was bedeutet das für Unternehmen?

Aus unserer Analyse bei der AI International Group folgt vor allem: Ein digitaler Assistent ist aus Kundensicht kein abgetrenntes Experiment. Wer ihn als Servicekanal anbietet, muss seine Antworten in die Qualitätssicherung der eigenen Kommunikation einbeziehen.[4]

Verbindliche Regeln brauchen kontrollierte Informationsgrundlagen. Bei Preisen, Erstattungen, Fristen und Anspruchsvoraussetzungen sollte ein System auf aktuelle, freigegebene Inhalte zugreifen. Es darf Informationslücken nicht mit plausibel klingenden Verfahren füllen.

Widersprüche müssen vor der Veröffentlichung auffallen. Es reicht nicht, wenn die richtige Bedingung irgendwo auf der Website steht. Tests sollten prüfen, ob der Assistent dieselbe Regel auch bei unterschiedlichen Fragen korrekt wiedergibt.

Unsicherheit braucht einen sicheren Ausweg. Wenn Voraussetzungen unklar sind, ist die Weiterleitung an geschulte Beschäftigte sinnvoller als eine konkrete, aber unbelegte Zusage.

Fehler müssen nachvollziehbar bleiben. Dokumentierte Inhaltsstände und datenschutzgerecht geführte Gesprächsprotokolle können helfen, Beschwerden aufzuklären und wiederkehrende Schwachstellen zu beheben.

Das sind organisatorische Empfehlungen, keine zusätzlichen gerichtlichen Vorgaben aus diesem Verfahren. Die zentrale Lehre lautet: Automatisierung verändert die Art der Auskunft, nicht automatisch die Verantwortung dafür.[4]

Fazit

Am Anfang steht eine Reise nach einem Todesfall. Am Ende steht eine Entscheidung darüber, ob ein Unternehmen für die falsche Auskunft seines eigenen digitalen Servicekanals einstehen muss.

Moffatts Fall zeigt, wie folgenreich ein scheinbar hilfreicher Satz werden kann. Der Chatbot erfand keine fantastische Geschichte, sondern eine alltagstaugliche Rabattregel. Gerade deshalb war sie glaubwürdig. Air Canada musste für den daraus entstandenen Schaden aufkommen – nicht, weil die Maschine eine eigene Autorität besaß, sondern weil sie auf der Website der Airline Auskunft gab.[3]

Häufige Fragen

Musste Air Canada den erfundenen Rabatt dauerhaft anbieten?

Nein. Zugesprochen wurde Schadensersatz im konkreten Fall. Die Entscheidung verpflichtete die Fluggesellschaft nicht, ihre allgemeinen Trauerfallbedingungen dauerhaft um eine rückwirkende Ermäßigung zu erweitern.[3]

War der Chatbot selbst rechtlich verantwortlich?

Nein. Das Tribunal behandelte ihn als Bestandteil der Unternehmenswebsite. Die Verantwortung für die bereitgestellte Information lag bei Air Canada.[3]

Gilt diese Entscheidung automatisch auch in Deutschland?

Nein. Sie stammt aus British Columbia und entscheidet keinen deutschen Rechtsfall. Welche Ansprüche hier bestehen könnten, hängt vom jeweiligen Sachverhalt und dem anwendbaren Recht ab. Als praktisches Beispiel für die Risiken fehlerhafter Serviceautomatisierung ist der Fall dennoch relevant.[4]

Quellen

[1] CBC News: Air Canada found liable for chatbot's bad advice.

[2] BBC: Air Canada chatbot misinformation: what travellers should know.

[3] Civil Resolution Tribunal: Moffatt v. Air Canada, 2024 BCCRT 149, Entscheidung vom 14. Februar 2024.

[4] AI International Group: Eigene Analyse für diesen Beitrag; Einordnung und Handlungsempfehlungen, keine zusätzliche Tatsachenquelle zum Verfahren.