Wklejanie umów, danych kontrahentów i treści e-maili do ChatGPT to codzienność w wielu polskich firmach. Problem w tym, że 54% pracowników robi to bez wiedzy pracodawcy — wpisując firmowe dane do zewnętrznego serwisu, bez umowy powierzenia i często bez świadomości, gdzie te dane lądują. Ollama zmienia ten rachunek: model AI działa wtedy bezpośrednio na Twoim komputerze lub serwerze, a żaden prompt nie opuszcza sieci firmowej.
Nie przekonujemy tu, że chmura jest zła. ChatGPT, Claude i Gemini to bardzo dobre narzędzia — i w wielu scenariuszach zostają właściwym wyborem. Ale są sytuacje, w których lokalne modele AI są po prostu mądrzejszym rozwiązaniem dla małej i średniej firmy. Ten wpis pomaga ocenić, czy Twoja firma należy do tej grupy.
Dlaczego firmowe dane w ChatGPT to problem — ryzyko prawne i finansowe
Liczba pracowników korzystających z publicznych narzędzi AI bez wiedzy pracodawcy jest na tyle powszechna, że dostała własną nazwę — Shadow AI. Według danych Prezesa UODO za 2026 rok, 54% pracowników używających narzędzi AI nie informuje o tym swoich pracodawców. W praktyce oznacza to wklejanie treści e-maili do klientów, fragmentów umów, danych kontrahentów czy procedur wewnętrznych do publicznych modeli.
Skąd problem prawny? RODO nakłada na administratora danych obowiązek zawarcia umowy powierzenia przetwarzania (art. 28 RODO) z każdym podmiotem, któremu firma przekazuje dane osobowe. Gdy pracownik bez wiedzy firmy wkleja dane do zewnętrznego narzędzia AI, ta umowa nie istnieje — a administrator (czyli firma) nie może wywiązać się z zasady rozliczalności: nie wie, co dokładnie zostało wysłane i jak jest przetwarzane.
Europejska Rada Ochrony Danych przyjęła w grudniu 2024 roku opinię 28/2024, w której wprost wskazuje: jeśli model AI był trenowany lub zasilany danymi przetworzonymi niezgodnie z prawem, wpływa to na legalność późniejszego wdrożenia i korzystania z tego modelu. Polska specyfika jest równie niepokojąca: polskie organizacje rzadko przeprowadzają ocenę skutków dla ochrony danych (DPIA, wymagana przez art. 35 RODO) przed wdrożeniem systemów AI — a UODO na swoich listach pytań inicjalnych dotyczących RODO i AI wskazuje DPIA jako jeden z pierwszych obowiązków do weryfikacji. Od 2 sierpnia 2026 roku obowiązują też przepisy AI Act dotyczące przejrzystości — firmy używające AI w obszarach wysokiego ryzyka muszą spełniać dodatkowe wymogi.
Ryzyko finansowe jest konkretne: naruszenie zasady rozliczalności z art. 5 ust. 2 RODO może skutkować administracyjną karą finansową do 20 milionów euro lub 4% rocznego globalnego obrotu. W polskich realiach UODO nakłada kary proporcjonalne do skali naruszenia, ale regularnie wszczyna postępowania na podstawie skarg i kontroli. Poza karami finansowymi jest ryzyko reputacyjne: klienci w branżach takich jak prawo, medycyna czy doradztwo finansowe coraz częściej pytają wprost, czy ich dane trafiają do zewnętrznych systemów AI.
Praktyczny krok niezależny od wyboru narzędzi: sprawdź, czy Twoja firma ma politykę korzystania z AI. Powinna określać co najmniej: które narzędzia są dozwolone, jakie kategorie danych mogą być w nich wprowadzane oraz z jakim dostawcą masz podpisaną umowę powierzenia (art. 28 RODO).
Ostrzeżenie: Lokalne AI nie zwalnia firmy z obowiązków RODO — jeśli model przetwarza dane osobowe klientów lub pracowników, nadal musisz mieć politykę przetwarzania i ocenić potrzebę DPIA. Lokalne przetwarzanie eliminuje jednak ryzyko niekontrolowanego transferu danych do zewnętrznego operatora i upraszcza rozliczalność.
Czym jest Ollama — w trzech zdaniach dla właściciela firmy
Ollama to bezpłatne oprogramowanie na licencji MIT (otwarta, wolna licencja), które pobiera otwarty model AI na Twój komputer i uruchamia go lokalnie. Działa jak aplikacja: instalujesz raz, piszesz polecenie, model startuje. Żadne pytanie, żaden fragment dokumentu ani żadne dane nie opuszczają Twojego urządzenia. Platforma obsługuje ponad 9 milionów deweloperów na świecie, a zaufały jej firmy takie jak Apple, Microsoft, Meta, Netflix czy NVIDIA.
Praktyczna analogia: tak jak Word przetwarza Twój dokument lokalnie zamiast wysyłać go do Microsoftu przy każdej wpisanej literce, Ollama przetwarza Twoje zapytania lokalnie zamiast wysyłać je do OpenAI czy Anthropic. Różnica: Ollama jest bezpłatna i działa z dziesiątkami różnych modeli.
Dostępna jest na systemach Windows, macOS i Linux. Instalacja według twórców zajmuje „mniej niż dwie minuty”. W połączeniu z bezpłatnym interfejsem graficznym — takim jak Open WebUI — daje użytkownikowi ekran identyczny z ChatGPT, tyle że wszystko dzieje się na Twoim sprzęcie.
Kiedy lokalne AI ma sens — realne scenariusze dla MŚP
Lokalne modele AI nie są dla każdego. Sprawdzają się wtedy, gdy przynajmniej jeden z poniższych warunków jest spełniony.
1. Regularnie pracujesz z danymi wrażliwymi
Biuro rachunkowe, kancelaria prawna, gabinet lekarski, firma HR, agencja ubezpieczeniowa — jeśli codziennie przetwarzasz dane osobowe klientów, wyniki finansowe, dokumenty kadrowe lub dane zdrowotne, każde ich przekazanie do zewnętrznego modelu AI wymaga umowy powierzenia z operatorem. Bez niej narażasz firmę na kontrolę UODO i potencjalną odpowiedzialność za naruszenie RODO.
Lokalny model eliminuje ten problem: dane nigdy nie wychodzą z infrastruktury. Możesz wgrać dokument z danymi klientów do modelu i poprosić go o streszczenie — bez obaw o transfer do zewnętrznego serwera.
2. Masz duży, regularny wolumen zapytań
Typowy scenariusz: firma przetwarza kilkaset dokumentów miesięcznie — streszczenia umów, wstępna analiza faktur, robocze wersje pism, tłumaczenia korespondencji z zagranicznymi kontrahentami. W chmurze każde zapytanie generuje koszt w przeliczeniu na przetworzone tokeny — w zależności od modelu i liczby znaków może to być kilka do kilkudziesięciu groszy za jedno dłuższe zapytanie. Przy lokalnym modelu opłata za każde kolejne zapytanie wynosi zero — poza prądem i amortyzacją sprzętu, który i tak już masz.
AI do wewnętrznej dokumentacji i procedur to właśnie taki przypadek użycia — więcej o tym, jak małe firmy porządkują wiedzę firmową za pomocą AI, pisaliśmy w poście o dokumentacji wewnętrznej dla MŚP.
3. Nie chcesz zależeć od zewnętrznych serwisów
Awarie i przerwy techniczne należą do natury usług chmurowych. Jeśli Twoje procesy w dużym stopniu polegają na AI — streszczenia, redakcja, analiza — lokalny model działa niezależnie od statusu zewnętrznych platform. Działa też w trybie offline: laptopy pracowników w terenie, wyjazdy, lokalizacje z niestabilnym internetem.
4. Shadow AI już jest w Twojej firmie
Jeśli 54% pracowników używa AI bez wiedzy pracodawcy, statystycznie prawdopodobne jest, że problem dotyczy też Twojego zespołu. Udostępnienie lokalnego modelu z usankcjonowaną polityką użycia (co można wklejać, czego nie można) jest sposobem na przejęcie kontroli — zamiast walczyć z narzędziami, których i tak używają. Firmy, które pierwszy raz wdrażają AI w sposób kontrolowany, często doceniają, że lokalny model daje im możliwość testowania bez ryzyka ujawnienia danych firmowych. To dobry punkt wyjścia do późniejszego rozszerzania wdrożenia — zarówno lokalnie, jak i w chmurze.
Kiedy lepiej zostać przy chmurze — szczera odpowiedź
Lokalne AI ma swoje twarde ograniczenia. Uczciwa ocena wymaga powiedzenia tego wprost.
Jakość dla złożonych zadań: model 8B (8 miliardów parametrów) działający lokalnie nie dorówna jakością dużym modelom chmurowym — GPT-4o, Claude 3.5 Sonnet, Gemini 1.5 Pro — które mają dziesiątki miliardów parametrów i dostęp do wielokrotnie większych zbiorów treningowych. Dla streszczenia krótkiego e-maila różnica jest niezauważalna. Przy skomplikowanej analizie prawnej, wielostronicowym raporcie zarządczym czy wymagającym tekście marketingowym duże modele chmurowe wygrywają.
Język polski: duże modele chmurowe mają lepszą obsługę polskich niuansów językowych niż mniejsze lokalne warianty. To ważne dla firm, których praca wiąże się z precyzją językową — tłumaczenia specjalistyczne, redakcja dokumentów prawnych, treści marketingowe.
Koszty wdrożenia i utrzymania: instalacja Ollamy na jednym komputerze jest prosta. Konfiguracja dla całego zespołu, serwer firmowy, aktualizacje modeli, polityka dostępu — to już praca administracyjna, której chmura nie wymaga. Jeśli nie masz osoby odpowiedzialnej za IT, skalowanie lokalne może być bardziej wymagające, niż się wydaje. Warto to skalkulować uczciwie: czas pracownika spędzonego na konfiguracji i utrzymaniu też ma swoją cenę.
Modele wielomodalne i integracje: duże chmurowe modele obsługują analizę obrazów, audio i dokumentów PDF w sposób, który lokalne warianty dopiero nadrabiają. Jeśli potrzebujesz AI do analizy zdjęć produktów, rozpoznawania treści skanów, czy automatycznego transkrybowania spotkań z wieloma uczestnikami — chmura wygrywa zarówno funkcjonalnością, jak i łatwością integracji z popularnymi narzędziami biurowymi (Google Workspace, Microsoft 365).
Dostępność i wsparcie: usługi chmurowe mają dokumentację, wsparcie techniczne i rozbudowane ekosystemy wtyczek. Lokalne modele open source mają społeczność — aktywną i pomocną, ale nieoficjalną. Dla firmy bez wewnętrznych kompetencji technicznych to ważna różnica.
Jeśli decydujesz się zostać przy modelach chmurowych, warto wdrożyć warstwę pośrednią kontrolującą koszty i ograniczającą to, jakie dane trafiają do zewnętrznych modeli — pisaliśmy o tym przy okazji Cloudflare AI Gateway dla MŚP.
Jak uruchomić Ollama i wybrać model — przewodnik krok po kroku
Ollama jest zaprojektowana z myślą o osobach bez doświadczenia programistycznego.
Krok 1: Pobierz i zainstaluj
Wejdź na ollama.com i pobierz instalator dla swojego systemu. Instalacja przebiega jak każda inna aplikacja: uruchamiasz plik, klikasz dalej, gotowe.
Krok 2: Wybierz i pobierz model
Otwórz terminal (cmd lub PowerShell na Windows, Terminal na Macu) i wpisz jedno polecenie:
ollama run llama3.2Ollama pobierze model automatycznie — wersja 3B zajmuje ok. 2 GB. Przy pierwszym uruchomieniu poczekaj kilka minut na pobranie.
Krok 3: Zacznij rozmawiać
Po pobraniu model jest gotowy natychmiast. Piszesz pytanie w tej samej linii terminala, dostajesz odpowiedź — identycznie jak w ChatGPT, tylko wszystko dzieje się lokalnie.
Krok 4: Dodaj interfejs graficzny (opcjonalnie)
Praca w terminalu może odstraszać pracowników. Bezpłatna aplikacja Open WebUI daje interfejs w przeglądarce, niemal identyczny z ChatGPT: historia rozmów, możliwość wgrania pliku tekstowego, przełączanie między modelami. Instalacja przez Docker — to jednorazowa konfiguracja, po której każdy pracownik otwiera przeglądarkę i pracuje bez komendy w terminalu.
Dla firmowych wdrożeń warto też rozważyć uruchomienie Ollamy na dedykowanym mini-serwerze (koszt od ok. 1000–3000 zł za urządzenie z odpowiednią ilością RAM), do którego pracownicy łączą się przez sieć lokalną lub VPN. W ten sposób jeden model obsługuje cały zespół, a aktualizacji dokonujesz raz, nie na każdym komputerze osobno.
Ostrzeżenie: Jeśli uruchamiasz Ollama na serwerze firmowym i udostępniasz dostęp pracownikom przez sieć lokalną, API musi być chronione — VPN lub hasłem. Bez zabezpieczenia każdy w tej samej sieci może wysyłać zapytania do modelu.
Które modele wybrać — praktyczny przewodnik
Ollama udostępnia ponad 100 modeli w katalogu. Dla firmy bez specjalistycznych potrzeb zalecamy trzy ścieżki w zależności od dostępnego sprzętu.
Laptop lub komputer biurowy z 8–16 GB RAM:
Najlepszy start to Llama 3.2 (wariant 3B) — najlżejszy model rodziny Llama 3 od Meta, z 81,4 miliona pobrań na Ollamie. Poradzi sobie z codziennymi zadaniami: streszczenia, redakcja e-maili, proste tłumaczenia, wstępna analiza tekstu. Wymaga ok. 2 GB pamięci RAM przy 4-bitowej kwantyzacji — mieści się na każdym współczesnym laptopie służbowym.
Mocniejszy komputer firmowy lub dedykowany serwer (16–32 GB RAM):
Llama 3.1 (wariant 8B) to najczęściej pobierany model na Ollamie — 118,9 miliona pobrań. Radzi sobie z bardziej wymagającymi zadaniami: analiza dłuższych dokumentów, wstępne wersje umów, synteza danych z wielu źródeł. Wymaga ok. 6–8 GB RAM przy kwantyzacji 4-bitowej. To rozsądny kompromis między jakością a wymaganiami sprzętowymi.
Jeśli potrzebujesz modelu z dobrą obsługą języka polskiego lub długich dokumentów:
Qwen 2.5 od Alibaba Cloud (38,5 miliona pobrań) obsługuje kontekst do 128 tysięcy tokenów — wystarczający na wgranie całej dłuższej umowy w jednym zapytaniu. Dostępny w rozmiarach od 0,5B do 72B parametrów; wariant 7B jest rozsądnym wyborem do zadań biurowych.
Zasada dotycząca sprzętu: przy 4-bitowej kwantyzacji model potrzebuje ok. 0,5 GB pamięci RAM na każdy miliard parametrów, plus kilka GB na kontekst rozmowy. Oznacza to, że model 8B — przy kwantyzacji — potrzebuje ok. 8 GB RAM. 16 GB RAM pozwala na komfortową równoległą pracę: model i inne otwarte aplikacje nie będą się nawzajem blokować.
Koszty sprzętowe? Jeśli masz nowszy komputer biurowy, prawdopodobnie sprzęt jest już wystarczający. Dedykowany serwer z kartą graficzną pozwala uruchamiać większe modele lub obsługiwać wielu użytkowników jednocześnie, ale do codziennych zadań jednej czy kilku osób CPU z odpowiednią ilością RAM wystarczy.
Podsumowanie
Lokalne modele AI to konkretna alternatywa dla chmury — nie dlatego, że chmura jest zła, ale dlatego, że dla określonych zadań i branż lokalny model jest prostszy, tańszy i bezpieczniejszy pod kątem RODO.
- Lokalne AI ma sens, gdy: regularnie przetwarzasz wrażliwe dane klientów, masz duży wolumen zadań AI miesięcznie, chcesz niezależności od zewnętrznych serwisów lub chcesz przejąć kontrolę nad Shadow AI w firmie.
- Chmura wygrywa, gdy: potrzebujesz najwyższej jakości językowej, zadania są nieregularne lub masz ograniczone zasoby administracyjne na konfigurację środowiska.
- Sprzętowo: wystarczy 8–16 GB RAM dla modeli 7B–8B — to parametry większości współczesnych komputerów służbowych.
- Prawnie: lokalne AI upraszcza rozliczalność RODO, ale nie zwalnia firmy z obowiązków — polityka korzystania z AI i ewentualny DPIA są potrzebne niezależnie od wyboru narzędzia.
- Koszt wdrożenia Ollamy: zero — licencja MIT, bezpłatne modele, bez opłat za tokeny.
Wskazówka: zanim zdecydujesz o wdrożeniu Ollamy, sprawdź najpierw, co Twój zespół już używa. Jeśli pracownicy korzystają z ChatGPT bez wiedzy firmy, pierwszym krokiem nie jest instalacja oprogramowania, ale audyt — co dokładnie wklejają i czy Twoja firma ma politykę korzystania z zewnętrznych narzędzi AI. Jeśli chcesz wiedzieć, jak Monaltro podchodzi do wdrożeń AI w firmach MŚP — odezwij się.