Turek grający w szachy oszukał Napoleona, a Twój dostawca AI liczy na to, że Ty nie sprawdzisz nawet tyle, co on

W 1770 roku w Wiedniu Turek grał w szachy i wygrywał z Napoleonem oraz Benjaminem Franklinem. Był to drewniany manekin w turbanie, siedzący przy szachownicy, a cała Europa przez blisko 84 lata zastanawiała się, jak maszyna może myśleć. Nie mogła. W środku, w skrzyni pod szachownicą, siedział ukryty mistrz szachowy, zgięty w pół, i ruszał figurami za sznurki.

AI-washing to ten sam numer, tylko skrzynia jest teraz w chmurze. Firma pokazuje efekt i mówi „to AI”. W środku, zamiast sznurków, jest excel, makro sprzed 5 lat albo, jak się zaraz okaże, cały zespół ludzi w innym kraju (owinięte w slajd numer 3, czcionką na tyle dużą, żeby nikt nie zdążył zapytać, co jest pod spodem).

Różnica jest jedna. Turkowi nikt nie kazał podpisywać oświadczenia dla inwestorów, że w środku nie ma człowieka. Twojemu dostawcy AI czasem każe to zrobić umowa, a czasem, jak zobaczysz niżej, robi to za niego amerykańska komisja papierów wartościowych.

Skrzynia pod szachownicą ma dziś adres w Manili

Gabriel Schincariol Cavalcante / Pexels

W styczniu 2025 amerykańska SEC ukarała spółkę Presto Automation za system Presto Voice, który miał samodzielnie przyjmować zamówienia w okienkach drive-thru. Według dokumentów SEC większość zamówień kończyli ludzie pracujący zdalnie za granicą, a spółka chwaliła się wskaźnikiem „automatycznego domknięcia zamówienia”, licząc w nim tylko brak ingerencji pracownika restauracji. Człowiek w słuchawkach 8 000 kilometrów dalej się nie liczył, bo nie stał akurat przy tym samym okienku.

W podobnej sprawie założyciel aplikacji zakupowej Nate reklamował ją jako system, który działa „jak magia”, dzięki sztucznej inteligencji i sieciom neuronowym. Transakcje wpisywali ręcznie pracownicy na kontraktach za granicą, czyli magia miała formę umowy zlecenia. Od marca 2024 roku SEC prowadziła już 6 podobnych spraw, na łączną kwotę ponad 44 milionów dolarów domniemanych oszustw, zgodnie z zestawieniem kancelarii zajmujących się tymi sprawami. Turek przynajmniej nie kłamał w prospekcie emisyjnym, bo prospektów emisyjnych jeszcze nie wymyślono.

Klienci w końcu zaglądają pod szachownicę

MART PRODUCTION / Pexels

Raport TrustRadius z 2026 roku, na próbie 1 862 kupujących oprogramowanie i 444 dostawców, podaje, że 94% kupujących B2B samodzielnie sprawdza wyniki badań opartych na AI, zanim w nie uwierzy. 63% używa AI do researchu dostawców, ale 47% ufa treściom znalezionym w sieci mniej niż rok temu. Kupujący więc korzystają z AI i jednocześnie nie wierzą ani jemu, ani sobie, co jest całkiem zdrową postawą, biorąc pod uwagę powyższe.

To nie jest już pytanie zadawane po cichu na koniec rozmowy handlowej. To pierwsze pytanie na wejściu: ile z tego, co pokazujecie na demo, robi model, a ile robi Kowalski z działu wsparcia, który akurat wtedy pracował. Klient, który raz trafił na skrzynię z człowiekiem w środku, przy następnym dostawcy pyta od razu, zanim zapłaci. Slajd z napisem „AI” przestał robić robotę, jaką robił jeszcze 2 lata temu, czyli żadną poza samym napisem.

Trzy pytania, zanim podpiszesz cokolwiek z napisem AI

Pavel Danilyuk / Pexels

1. Co się dzieje, kiedy model nie wie, co odpowiedzieć. Jeśli odpowiedź brzmi „przechodzi do człowieka”, to jest normalne i uczciwe. Jeśli odpowiedź brzmi wymijająco, to znaczy, że tym człowiekiem jest cała reszta procesu.

2. Jaki procent zadań kończy się bez żadnej ingerencji ludzkiej, nie tylko bez ingerencji Twojego zespołu. To dokładnie ta różnica, na której złapano Presto: liczyli ingerencję restauracji, nie liczyli ingerencji swoich ludzi za granicą.

3. Czy mogę zobaczyć proces na żywo, nie tylko wynik. Turek grał w szachy przy publiczności, która widziała tylko ruchy figur, nigdy wnętrza skrzyni (wgląd do środka nie był w cenie biletu). Dostawca, który pokazuje wyłącznie ładny raport na koniec, a nigdy panel po drodze, robi dokładnie ten sam pokaz.

Jeśli w odpowiedzi na te trzy pytania usłyszysz ciszę dłuższą niż na ostatniej wigilii, kiedy ktoś zapytał wujka o pracę, masz odpowiedź.

Kiedy etykieta AI jest uczciwa, a kiedy tylko ładna

Nie każde wsparcie człowieka w tle to oszustwo. Agent AI zbudowany w n8n może w 90% zadań działać sam, a w 10% eskalować do człowieka, i to jest dokładnie tak, jak powinno działać dobre wdrożenie. Różnica leży w tym, czy firma to mówi, czy to ukrywa. Sam kiedyś w ofercie napisałem „automatyzacja bez udziału człowieka”, mając na myśli konkretny jeden etap procesu. Klient zrozumiał to jako całą firmę, i miał więcej racji niż ja, bo tak właśnie czyta się takie zdania.

Uczciwe zdanie brzmi: „AI obsługuje większość zapytań, trudniejsze trafiają do zespołu”. Nieuczciwe zdanie brzmi: „w pełni autonomiczny system”, kiedy w rzeczywistości ten sam zespół siedzi po drugiej stronie ekranu przez cały dzień, tyle że teraz z dopiskiem AI w mailowym podpisie. My w Friendly AI wolimy mówić wprost, ile automatyzacji jest w danym wdrożeniu, nawet jeśli odpowiedź brzmi „mniej, niż byście chcieli, na start”. Klient, który usłyszy szczerą liczbę, zostaje. Klient, który usłyszy „pełna automatyzacja” i sam to sprawdzi, już nie wraca, i ma rację.