Postawiłeś własny serwer AI, żeby dane nie wyszły z firmy. Płacisz teraz 5000 zł miesięcznie, żeby zaoszczędzić 200.

Chmura AI jest prywatna na mocy regulaminu. Lokalne AI jest prywatne na mocy fizyki. Regulamin może zmienić nowy właściciel, wyrok sądu albo aktualizacja, której nikt nie przeczytał. Serwer w Twojej firmie może zmienić tylko ktoś, kto wejdzie do środka.

Na tym polega cała obietnica lokalnego AI: model działa na Twoim komputerze albo serwerze, a dane nigdy nie wychodzą poza budynek. Brzmi jak spokój ducha za rozsądne pieniądze. Czasem jest. Czasem to serwer, który kosztuje więcej niż problem, który miał rozwiązać.

W tym tekście tłumaczę, czym naprawdę jest lokalne AI, kiedy się opłaca, ile kosztuje z ukrytymi rzeczami włącznie, i dlaczego większość małych firm tego nie potrzebuje. Powiem też wprost, kiedy odradzam to klientom, bo to zwykle najbardziej przydatna część rozmowy.

Czym jest lokalne AI i skąd ta popularność

Dan Nelson / Pexels

Lokalne AI to model językowy, który działa na Twoim sprzęcie, a nie na serwerach OpenAI czy Google. Zamiast wysyłać pytanie do chmury, wysyłasz je do komputera stojącego 3 metry od Ciebie.

Najprostsza droga do tego nazywa się Ollama. To darmowy program, który pobiera gotowy model i uruchamia go jedną komendą na Windowsie, Macu albo Linuksie. Nie potrzebujesz chmury, konta ani karty. Potrzebujesz tylko sprzętu, który to uciągnie, i tu zaczynają się schody.

Powód, dla którego temat wystrzelił, jest jeden i bardzo poważny. W 2025 roku 44% firm wskazało prywatność i bezpieczeństwo danych jako główną przeszkodę we wdrażaniu AI. Nie cenę, nie brak pomysłów. Strach, że dane wyjdą tam, skąd nie wrócą.

Dochodzi do tego wygoda oszczędzania na papierze. Model open source jak Llama czy Mistral nie ma abonamentu. Ściągasz go raz i używasz do woli, bez licznika bijącego przy każdym pytaniu. To kusząca wizja, dopóki nie policzysz prądu i człowieka, który to wszystko utrzyma.

Warto rozdzielić dwie rzeczy, które ludziom się zlewają. Wyłączenie uczenia w ustawieniach ChatGPT to nadal chmura. Lokalne AI to sytuacja, w której nawet gdyby dostawca bardzo chciał, nie ma czego podejrzeć, bo dane nigdy do niego nie dotarły.

Ile realnie kosztuje własny model w firmie

panumas nikhomkhai / Pexels

Sam program jest darmowy. Płacisz za sprzęt, prąd i człowieka, a ta trzecia rzecz zjada budżet w ciszy. Ollama i modele open source nie kosztują nic. Reszta układanki kosztuje sporo.

Zacznij od karty graficznej, bo to ona liczy. Budżetowa RTX 5060 Ti 16GB to okolice 2000 zł i uciągnie mniejsze modele. RTX 4090 z 24GB pamięci to złoty środek między możliwościami a ceną. Profesjonalne karty jak A6000 czy używane H100 to już wydatek rzędu kilkunastu do kilkudziesięciu tysięcy złotych za sztukę. Za jedną.

Do tego prąd, bo taka karta pod obciążeniem grzeje się jak mały kaloryfer i tak samo się liczy na rachunku. A potem najdroższa rzecz, o której sprzedawcy sprzętu milczą: człowiek. Wdrożenie, aktualizacje, monitorowanie i łatanie takiego systemu to realnie 12 do 25 tysięcy złotych miesięcznie w czasie kogoś, kto się na tym zna. Serwer nie bierze urlopu, ale osoba, która go pilnuje, już tak.

Jest jednak druga strona i trzeba być uczciwym. Przy naprawdę dużych ilościach pytań lokalne AI potrafi być dramatycznie tańsze. Pewna firma fintech zbiła miesięczne koszty AI z 47 tysięcy dolarów do 8 tysięcy, przenosząc powtarzalne zadania na własny model. To 83% w dół i dokładnie ten scenariusz, w którym własny serwer ma sens.

Granica opłacalności jest zaskakująco wysoka. Lokalne AI zaczyna wygrywać z chmurą mniej więcej powyżej 100 milionów tokenów miesięcznie, czyli powyżej mniej więcej 75 milionów słów przerabianych co miesiąc. Poniżej tego progu utrzymanie własnego serwera kosztuje więcej niż płacenie za każde pytanie z osobna. Więcej o samych stawkach jest w tekście o tym, ile kosztuje AI w firmie.

Kiedy lokalne AI naprawdę ma sens

Lokalne AI wygrywa w dwóch sytuacjach: gdy dane nie mogą wyjść z firmy z mocy prawa albo gdy przerabiasz ich naprawdę dużo. Wszystko inne to zwykle chciejstwo podparte słowem "prywatność".

Pierwszy przypadek to dane, których po prostu nie wolno wypuścić. Przychodnia z dokumentacją medyczną, kancelaria z aktami spraw, firma przetwarzająca dane osobowe na dużą skalę. Tu chmura oznacza umowy powierzenia, transfery między krajami i prawnika, który się przy tym poci. Lokalny model wycina cały ten problem u źródła, bo dane nie ruszają się z miejsca. RODO robi się prostsze, kiedy nie ma czego przesyłać.

Drugi przypadek to skala. Jeśli przepuszczasz przez AI miliony dokumentów miesięcznie, każdy grosz od zapytania się sumuje, aż własny sprzęt zaczyna się zwracać. To jednak problem, który ma może kilka procent firm, i zwykle wiedzą o tym bez artykułu.

Jest jeszcze trzeci, cichszy powód: praca offline. Model lokalny działa bez internetu, w miejscu, gdzie zasięg jest teoretyczny, a łącze pada w najgorszym momencie. Dla większości biur to ciekawostka. Dla kogoś w terenie bywa różnicą między narzędziem, które działa, a ikoną, która się kręci.

Zwróć uwagę, czego nie ma na tej liście. Nie ma "chcemy być nowocześni" ani "brzmi poważniej niż ChatGPT". To są prawdziwe powody, dla których ludzie stawiają serwery, i najgorsze powody, żeby to robić.

Czy mała firma tego potrzebuje (prawie zawsze nie)

Christina Morillo / Pexels

Jeśli masz firmę na 5, 10 czy 20 osób, prawie na pewno nie potrzebujesz własnego modelu. Powiem to jako ktoś, kto wdraża AI, a nie sprzedaje serwery: dla większości klientów odradzam to bez wahania.

Ta sama prywatność, o którą Ci chodzi, jest dostępna dużo taniej. Wersje biznesowe ChatGPT i Claude oraz dostęp przez API z umową powierzenia przetwarzania danych dają Ci zapis, że Twoje dane nie idą na trening modelu. Dla zdecydowanej większości małych firm to wystarczający poziom ochrony, a kosztuje ułamek serwera w szafie.

Policzmy to na chłopski rozum. Własny serwer plus osoba, która go pilnuje, to realnie kilka tysięcy złotych miesięcznie. Firmowy plan AI dla całego zespołu to kilkaset. Stawiasz więc serwer za kilka tysięcy, żeby uniknąć wysyłania danych, których i tak nie musiałbyś wysyłać, gdybyś kliknął jedną opcję w ustawieniach. To ochrona przed zagrożeniem, które sam sobie dokładasz razem ze sprzętem.

Jest też haczyk, który kończy niejedną przygodę z lokalnym AI. Model źle skonfigurowany, wystawiony na sieć bez hasła, jest dostępny dla każdego, kto go znajdzie. Postawiłeś serwer dla bezpieczeństwa i zostawiłeś otwarte drzwi z tabliczką "prywatne". Prywatność architektury nie pomaga, kiedy sam wpuszczasz gości.

Jeśli naprawdę zależy Ci na prywatności bez serwerowni, zacznij od podstaw. Ustaw firmowe zasady, wybierz plan z umową o przetwarzaniu danych i nie wklejaj wrażliwych rzeczy tam, gdzie nie trzeba. Jak to poukładać w codziennej pracy, opisałem w tekście o prywatności w ChatGPT.

Od czego zacząć, jeśli chcesz to przetestować

Zanim kupisz sprzęt, przetestuj lokalne AI na tym, co już masz. Nie potrzebujesz serwerowni, żeby sprawdzić, czy to w ogóle ma dla Ciebie sens.

Zainstaluj Ollamę na swoim laptopie i pobierz mały model, na przykład 8-miliardowy. Zadaj mu 10 realnych pytań z Twojej pracy i zobacz, czy odpowiedzi się nadają. Zwykle wynik jest pouczający: mały model odpowiada przyzwoicie na proste rzeczy i wyraźnie odstaje od ChatGPT przy trudniejszych. To dobra lekcja, zanim wydasz na kartę graficzną cenę używanego auta.

Jeśli test wypada dobrze i naprawdę masz powód z tej listy powyżej, następnym krokiem jest rozmowa z kimś, kto to postawi i utrzyma, a nie zakup sprzętu w promocji. Serwer to nie mebel, który kupujesz raz. To zwierzę, które trzeba karmić aktualizacjami. Podobnie jak przy większych automatyzacjach z agentami AI, najdroższa część zaczyna się po instalacji, nie przed.

A jeśli test wypada średnio i nie masz twardego powodu prawnego, masz właśnie najlepszą możliwą odpowiedź. Zostań przy chmurze z porządnymi ustawieniami prywatności, wydaj zaoszczędzone pieniądze na coś, co faktycznie ruszy Twój biznes, i wróć do tematu, kiedy urośniesz na tyle, że serwer sam zacznie się opłacać.