Niektóre banki w Polsce zbudowały sobie własną, gorszą wersję ChatGPT. Robią to specjalnie, bo lepsza wersja pamięta więcej, niż powinna

Bank, który może sobie pozwolić na najlepsze technologie na rynku, często wybiera gorszą wersję sztucznej inteligencji. Robi to specjalnie.

Część banków i instytucji finansowych w Polsce zakazuje pracownikom korzystania z publicznych modeli AI, takich jak ChatGPT, i buduje sobie własne, wewnętrzne, zazwyczaj wolniejsze i mniej zdolne wersje. To nie jest ostrożność dla zasady. To decyzja, w której lepszy produkt przegrywa z produktem, nad którym bank ma pełną kontrolę.

Publiczny model AI pamięta więcej, niż powinien, i oddaje te wspomnienia firmie, która go zbudowała, nie bankowi, który go używał. Dla banku to tak, jakby zatrudnić księgowego, który po każdym spotkaniu robi kopię wszystkich dokumentów klienta i zabiera je do domu, bo "mogą się przydać".

Banki trzymają dane klientów za grubymi drzwiami skarbca, kodami dostępu i kamerami na każdym kroku. Potem pracownik otwiera przeglądarkę i wkleja numer PESEL do okienka czatu, które nie pyta nawet o hasło.

Fotokopiarka w bibliotece

Andrea Piacquadio / Pexels

Wpisanie danych klienta do publicznego modelu AI działa jak skopiowanie poufnych dokumentów na kserokopiarce w bibliotece, bo kolejka do biurowej jest akurat za długa. Szybciej, wygodniej i prawdopodobnie nikt się nie zorientuje. Tyle że teraz gdzieś istnieje kopia, nad którą nie masz żadnej kontroli, na urządzeniu, którego nie znasz, obsługiwanym przez kogoś, kogo nigdy nie poznasz.

Model AI, z którym rozmawiasz za darmo albo za 20 dolarów miesięcznie, nie jest prywatnym asystentem zamkniętym w szafie. Jest usługą, która dane z rozmowy przetwarza na serwerach firmy, która go zbudowała, czasem je zapisuje, czasem uczy się na nich kolejnej wersji modelu. Dane nie wyparowują po zamknięciu okna czatu, nawet jeśli interfejs wygląda tak samo jednorazowo jak notatka na serwetce. Model, który wydaje się słuchać uważnie i zapominać natychmiast, w rzeczywistości ma pamięć lepszą niż najbardziej złośliwa koleżanka z działu kadr, tylko bez przerwy na kawę i bez poczucia humoru.

Pracownik banku, który wkleja fragment umowy kredytowej do publicznego czatu, żeby ją "tylko podsumować", robi dokładnie to samo, co kolega z kserokopiarką w bibliotece: korzysta z cudzego urządzenia, w cudzej sieci, zarządzanego przez kogoś, kto nie podpisał z bankiem żadnej umowy o zachowaniu tajemnicy bankowej.

Dlaczego to nie jest przesadna ostrożność

ThisIsEngineering / Pexels

Już w kwietniu 2023 roku inżynierowie Samsunga wkleili fragment własnego kodu źródłowego do ChatGPT, żeby przyspieszyć sobie pracę. Kod wyciekł na serwery OpenAI, a firma dwa tygodnie później zakazała pracownikom używania generatywnej AI na firmowych urządzeniach i w firmowej sieci, jak podał Business Insider. To już ponad trzy lata temu, a wciąż jeden z najczęściej przywoływanych przykładów, dlaczego firmy w ogóle zaczęły się tym tematem interesować.

W tym samym roku JPMorgan, Citigroup i Goldman Sachs ograniczyły pracownikom dostęp do ChatGPT, a Bank of America dodał go do listy zakazanych aplikacji, razem z WhatsAppem. Powód we wszystkich przypadkach był ten sam: obawa, że poufne informacje finansowe trafią w ręce firmy, która nie podlega tym samym regulacjom co bank.

Żaden z tych banków nie powiedział "nie wierzymy, że AI działa". Powiedziały "nie wierzymy, że nasze dane zostaną tam, gdzie je wysłaliśmy", co jest zupełnie innym zdaniem, nawet jeśli w nagłówku prasowym brzmi podobnie.

OpenAI dostało kod źródłowy Samsunga za darmo. Samsung dostał zakaz dla własnych pracowników. Trudno to nazwać uczciwą wymianą.

Polskie banki budują droższe, gorsze kopie, i to jest sedno

BNP Paribas Bank Polska zakazał pracownikom korzystania z otwartych narzędzi AI ze względów bezpieczeństwa i zbudował sobie własne środowisko generatywnej AI o nazwie Chat PTG. Działa wyłącznie w wewnętrznej infrastrukturze banku, nie wysyła niczego na zewnątrz i pozwala swobodnie korzystać z dokumentów wewnętrznych.

Chat PTG najprawdopodobniej nie jest tak zdolny jak najnowszy model OpenAI czy Anthropic. Bank zapewne to wie. Zbudował go mimo to, bo różnica w jakości odpowiedzi jest łatwiejsza do zaakceptowania niż różnica w tym, gdzie fizycznie leżą dane klientów. Bank ma działy ryzyka, zgodności i bezpieczeństwa, trzy piętra prawników i jeden dział IT, który i tak musi to wszystko wdrożyć do piątku.

To trochę jak zamienić Ferrari na rower służbowy, bo roweru nie da się wyjechać z parkingu bez karty dostępu, a Ferrari jakoś zawsze znajdzie sposób.

PKO Bank Polski poszedł podobną drogą, publikując własny, wyspecjalizowany model językowy, zamiast kierować pracowników do publicznych narzędzi. Sektor bankowy, zamiast czekać, aż ktoś z zewnątrz zrobi to bezpiecznie, robi to drożej, ale u siebie. Szerzej o tym, jak firmy w ogóle próbują ogarnąć chaos wielu narzędzi AI naraz, pisałem w osobnym tekście.

Skala problemu dzisiaj

Badanie opublikowane przez DeepL, firmę sprzedającą własne narzędzia AI, a więc z oczywistym interesem w tym, żeby wynik brzmiał niepokojąco, pokazało, że 65% brytyjskich pracowników sektora finansowego przyznaje się do korzystania z nieoficjalnych narzędzi AI w pracy, w tym w kontaktach z klientami. Wielkości próby firma nie podała, więc traktuję tę liczbę jako sygnał skali, nie jako dowód naukowy.

W Polsce, we wszystkich branżach, nie tylko w bankowości, skala wygląda podobnie: ponad jedna trzecia pracowników obejdzie firmowy zakaz, jeśli uniemożliwi im korzystanie z ulubionego narzędzia. Robią to zwykle bez złych intencji, tak samo bezmyślnie, jak zostawia się otwarte okno na parterze, bo klimatyzacja nie działa, a przecież nikt nie wlazłby akurat tędy. Pisałem o tym szerzej, razem z pełnymi danymi, w tekście o tym, jak wykryć shadow AI w firmie.

Różnica jest taka, że pracownik sklepu internetowego, który obejdzie zakaz, ryzykuje źle podsumowany opis produktu. Pracownik banku, który obejdzie zakaz, ryzykuje numer rachunku klienta pływający gdzieś w cudzej bazie danych treningowych.

Kiedy zakaz jest tylko teatrem bezpieczeństwa

Sam zakaz w regulaminie pracy nic nie daje, jeśli pracownik może i tak otworzyć ChatGPT na prywatnym telefonie podczas przerwy na kawę i wkleić tam fragment maila od klienta. Zakaz bez blokady sieciowej, bez monitoringu danych i bez alternatywy, która jest wygodna, działa tak samo jak znak "zakaz wjazdu" postawiony bez szlabanu. Kierowca przeczyta znak, pomyśli "no dobrze", i wjedzie, bo fizycznie nic mu w tym nie przeszkadza.

Rok temu myślałem, że najważniejszym elementem polityki AI w firmie jest sam dokument, spisany i podpisany przez wszystkich. Teraz wiem, że dokument bez technicznej kontroli jest tylko dowodem w sądzie, że firma wiedziała o problemie, zanim doszło do wycieku.

Zakaz publicznych modeli AI w banku ma sens tylko wtedy, kiedy idzie w parze z bezpieczną alternatywą, którą pracownicy faktycznie chcą używać, i z techniczną kontrolą tego, co się dzieje, kiedy ktoś i tak spróbuje obejść zasady. Bez tego to nie polityka bezpieczeństwa. To tylko mail, którego nikt nie przeczytał do końca. O tym, jak w ogóle zbudować sensowną politykę AI, zamiast samego zakazu, pisałem w osobnym tekście.