Air Canada w sądzie przekonywała, że jej własny chatbot to odrębny byt prawny, odpowiedzialny sam za siebie. Sędzia się nie zgodził. Firma zapłaciła 812 dolarów i koszty sądowe za radę, której nigdy nie powinna była dać.

W lutym 2024 roku chatbot linii Air Canada obiecał klientowi zniżkę pogrzebową, której firma nigdy nie oferowała w ten sposób. Klient kupił bilety, uwierzył botowi, i poszedł z tym do sądu.

Air Canada broniła się argumentem, że chatbot jest odrębnym bytem prawnym, odpowiedzialnym za własne słowa. Sąd uznał to za jeden z ciekawszych sposobów przyznania się do winy, jakie widział, i kazał firmie zapłacić. To pierwsze zdanie tego artykułu, ale mogłoby być też ostatnie: kto odpowiada za błąd AI, zawsze odpowiada firma, która go wdrożyła, nie program.

"To AI się pomyliło" brzmi jak wytłumaczenie. Prawnie brzmi jak przyznanie się, że nikt nie sprawdzał, co ten system mówi klientom, zanim zaczął to robić na masową skalę.

Dlaczego "to AI się pomyliło" nie jest obroną

Polskie prawo rozróżnia dwa tory odpowiedzialności, oba spisane, zanim ktokolwiek słyszał o czacie AI. Odpowiedzialność deliktowa (art. 415 kodeksu cywilnego) działa, kiedy AI wyrządzi szkodę osobie trzeciej, na przykład wprowadzając klienta w błąd, który kosztuje go realne pieniądze. Odpowiedzialność kontraktowa (art. 471 kc) działa, kiedy AI jest częścią usługi, którą firma obiecała wykonać porządnie, a wykonała wadliwie.

Żaden z tych przepisów nie ma paragrafu "chyba że winny jest algorytm". Prawo pyta o należytą staranność: czy firma skonfigurowała system rozsądnie, nadzorowała go i reagowała na sygnały, że coś jest nie tak. Nie pyta, czy program miał dobre intencje, bo program nie ma żadnych.

Sprawa Moffatt v. Air Canada, opisana szczegółowo przez American Bar Association, kończy się kwotą 812,02 dolara i kosztami sądowymi. Niewiele, ale wystarczająco, żeby stać się case study cytowanym w połowie artykułów prawniczych o AI napisanych od tamtej pory, włącznie z tym.

Polskich precedensów jeszcze nie ma tylu, ile ma ich Kanada, ale zasada jest ta sama po obu stronach oceanu: firma odpowiada za to, co jej system mówi klientowi, niezależnie od tego, czy zdanie napisał prawnik, stażysta, czy model językowy o dwuipółsekundowym czasie reakcji.

AI jako produkt: unijne zasady, które zmieniają wszystko od grudnia 2026

Matheus Bertelli / Pexels

Od 9 grudnia 2026 roku w całej Unii zaczyna obowiązywać znowelizowana dyrektywa o odpowiedzialności za produkty, która po raz pierwszy wprost traktuje oprogramowanie, w tym systemy AI, jako produkt. Ten sam status prawny co toster, który się pali, albo krzesło, które się składa, kiedy ktoś na nim usiądzie.

To zmienia najważniejszą rzecz w takich sporach: kto musi udowodnić, że system był wadliwy. Do tej pory to klient musiał wykazać winę firmy. Teraz, jeśli system jest technicznie zbyt skomplikowany, żeby zwykły klient mógł to udowodnić, albo firma odmówi ujawnienia dokumentacji na żądanie sądu, domniemywa się, że produkt był wadliwy. Firma musi udowodnić, że jednak nie była.

Naruszenie wymogów unijnego AI Act działa jak automatyczny czerwony karton: samo w sobie uruchamia domniemanie błędu. Od 2 sierpnia 2026 roku dochodzi do tego obowiązek informowania klienta, że rozmawia z maszyną, pod karą do 15 milionów euro albo 3% globalnego przychodu, w zależności od tego, która kwota boli bardziej.

Firma, która do tej pory traktowała chatbota jak automat do kawy w kuchni, musi teraz traktować go jak produkt, za którego wadę odpowiada dokładnie tak samo, jakby sprzedała klientowi wybuchającą suszarkę do włosów.

Łańcuch odpowiedzialności: kto konkretnie płaci

Yan Krukau / Pexels

Odpowiedzialność rozkłada się na trzy ogniwa, i każde z nich ma inny adres do pozwu. Dostawca modelu (OpenAI, Anthropic, Google) odpowiada za to, czy sam model działa zgodnie z tym, co obiecuje w dokumentacji technicznej. Integrator, czyli firma albo osoba, która ten model podłączyła do Twojej strony, odpowiada za sposób wdrożenia. Firma, która z tego korzysta, czyli najczęściej Ty, odpowiada za to, jak system zastosowano, jakie dane mu podano, i czy człowiek miał realną kontrolę nad tym, co system mówi klientom.

W praktyce to trzecie ogniwo płaci najczęściej, bo to ono podpisało umowę z klientem, nie dostawca modelu gdzieś w Kalifornii, który nigdy nie widział Twojej strony i nie wie, że istniejesz.

Winienie dostawcy modelu za błąd własnego wdrożenia przypomina winienie producenta noża za to, że ktoś źle pokroił chleb we własnej kuchni. Nóż zrobił dokładnie to, do czego został zaprojektowany. Reszta to kwestia instrukcji, które ktoś pominął.

Chatbot na stronę firmową wygląda jak prosty projekt na jedno popołudnie, dopóki nie zapytasz, kto odpowiada za zdanie, które ten chatbot powie klientowi o północy, kiedy nikt z zespołu nie patrzy na ekran.

Co to oznacza w praktyce dla małej firmy

Trzy rzeczy warto zrobić, zanim ktokolwiek zapyta o to w sądzie. Po pierwsze, zachowaj logi wszystkich rozmów, nie tylko tych, które wyglądają dobrze. Po drugie, ustal, które odpowiedzi chatbot może dać sam, a które musi przekazać człowiekowi, zanim staną się obietnicą. Po trzecie, testuj system regularnie pytaniami, które klienci faktycznie zadają, nie tylko tymi, które ładnie brzmią w prezentacji dla zarządu.

Agent AI do obsługi klienta, który samodzielnie ustala warunki zwrotu pieniędzy, cenę albo termin dostawy, to dokładnie ten typ ryzyka, o którym mówi cała ta dyrektywa. Agent, który odpowiada na pytanie o godziny otwarcia, praktycznie nie.

Rok temu doradzałbym klientom, żeby po prostu "dobrze przetestowali bota" i tyle. Dziś wiem, że "dobrze przetestowali" musi się dać pokazać sędziemu, najlepiej w formie logów z datami, nie wspomnień pracownika sprzed pół roku.

Polisa OC firmy w większości przypadków nie wspomina słowem o sztucznej inteligencji, bo została napisana, zanim ktokolwiek w firmie ubezpieczeniowej pomyślał, że będzie tego potrzebować. Warto zapytać agenta ubezpieczeniowego wprost, zanim zapyta o to prawnik po drugiej stronie sporu.

Kiedy ryzyko jest małe, a kiedy naprawdę duże

Nie każdy chatbot to bomba zegarowa. Bot, który podaje adres sklepu i godziny otwarcia, myli się najwyżej w sposób, który klient sam zweryfikuje jednym telefonem. Ryzyko rośnie dokładnie w momencie, kiedy system zaczyna mówić klientowi rzeczy, na których ten klient może się oprzeć finansowo: ceny, terminy, warunki zwrotu, dostępność produktu.

Prawo wokół AI ma tę wspólną cechę z prawem podatkowym: zmienia się szybciej, niż większość firm zdąża przeczytać poprzednią wersję. Nie oznacza to jednak, że trzeba czekać z wdrożeniem, aż wszystko się ustabilizuje, bo to nie nastąpi nigdy.

Największym ryzykiem nie jest sam błąd AI. Jest nim właściciel firmy, który dowiaduje się o obietnicy złożonej przez własnego chatbota dopiero z pozwu, a nie z raportu, który mógł przeczytać miesiąc wcześniej.