Shadow AI w firmie: czy wiecie, co Wasi pracownicy wklejają do ChatGPT?
Pracownicy używają ChatGPT do pracy, bo jest szybki i wygodny. Firmowe umowy i dane klientów trafiają na serwery za granicą. Shadow AI to realne ryzyko RODO, którego zakaz sam nie zatrzyma.
Shadow AI to narzędzia AI, z których pracownicy korzystają bez wiedzy i zgody firmy: ChatGPT, Gemini, Claude na prywatnym koncie, dowolny czatbot otwarty w przeglądarce. Jeśli Wasza firma nie wdrożyła jeszcze własnego środowiska AI, z dużym prawdopodobieństwem shadow AI już w niej działa. I nie chodzi wyłącznie o produktywność: każda umowa z klientem, każdy mail z danymi kontrahenta, każde zestawienie wklejone do zewnętrznego narzędzia to konkretne naruszenie RODO, za które firma odpowiada niezależnie od tego, czy szef o tym wiedział.
Czym jest shadow AI i dlaczego dotyka prawie każdą firmę?
Pojęcie shadow AI wywodzi się z wcześniejszego "shadow IT": sytuacji, gdy pracownicy instalują i używają oprogramowania poza oficjalnym katalogiem narzędzi. Kiedyś były to prywatne pendrive'y i Dropbox zamiast firmowego dysku. Teraz to głównie zewnętrzne modele językowe dostępne w przeglądarce, bez instalacji, bez logowania przez firmowe konto.
Mechanizm zawsze jest ten sam. Pracownik ma zadanie do wykonania. Wie, że AI skróci mu je z godziny do dziesięciu minut. Firmowe narzędzie AI: nie ma. Zakaz: może gdzieś jest, ale nikt go nie egzekwuje. Więc otwiera chatgpt.com na prywatnym koncie i robi robotę.
Shadow AI pojawia się najszybciej tam, gdzie praca polega na redagowaniu tekstów, odpowiadaniu na zapytania i analizowaniu dokumentów. Konkretnie:
- obsługa klienta: odpowiedzi na reklamacje, streszczenia historii kontaktu, tłumaczenia korespondencji zagranicznej
- sprzedaż: przygotowanie ofert, analiza umów od klientów, pisanie propozycji handlowych
- HR i administracja: redagowanie dokumentów pracowniczych, umów, regulaminów wewnętrznych
- księgowość i finanse: interpretacja przepisów podatkowych, streszczenia zestawień, pytania o VAT i ZUS
Każda z tych grup ma w rękach dane chronione przez RODO. I każda może, zupełnie nieświadomie, wysyłać je za granicę przy każdym użyciu zewnętrznego czatbota.
Co się dzieje, gdy pracownik wkleja umowę klienta do ChatGPT?
To nie jest abstrakcja. U jednego z klientów redAi, firmy usługowej z kilkunastoma pracownikami, koordynatorka projektu regularnie "konsultowała" z ChatGPT treść umów z kontrahentami. Chciała sprawdzić, czy zapisy o karach umownych są dla firmy korzystne albo czy coś w umowie powinno ją niepokoić. Działała z dobrymi intencjami. Wklejała całą umowę: imię i nazwisko właściciela firmy kontrahenta, jego NIP, adres, kwoty transakcji, daty, numery rachunków bankowych.
Co to oznacza z punktu widzenia prawa? Kilka rzeczy jednocześnie.
- Przekazanie danych osobowych do państwa trzeciego. Serwery OpenAI są poza Unią Europejską. Bez umowy powierzenia przetwarzania danych i bez odpowiedniej podstawy prawnej transfer danych do nich narusza rozdział V RODO, konkretnie art. 46 i 49.
- Brak umowy powierzenia. Firma faktycznie powierzyła dane OpenAI, ale nie zawarła z nim wymaganej umowy. Pracownik działał poza jakąkolwiek procedurą ochrony danych osobowych.
- Niewidoczność w rejestrze czynności przetwarzania. Nikt w firmie nie wiedział, że ta czynność w ogóle ma miejsce. Nie ma wpisu w rejestrze, nie ma oceny skutków dla ochrony danych.
- Ryzyko dla kontrahenta. Klient przekazał firmie swoje dane na potrzeby zawarcia umowy. Nie miał wiedzy ani zgody na to, żeby trafiły do zewnętrznego systemu AI.
Firma odpowiada za to naruszenie, nawet jeśli koordynatorka działała z własnej inicjatywy, bez wiedzy przełożonego. Urząd Ochrony Danych Osobowych nie pyta, czy szef wiedział. Pyta, czy firma miała procedury, które to uniemożliwiały, i czy potrafiła je udokumentować.
Warto przy okazji zauważyć, że umowy z klientami to tylko jeden dokument. Analogiczne sytuacje zdarzają się przy zestawieniach płac wklejanych do AI w celu interpretacji przepisów, przy mailach od trudnych klientów z pełną historią transakcji, przy raportach z systemu CRM zawierających bazy danych z setkami rekordów.
Dlaczego zakaz korzystania z AI w pracy nie zatrzymuje shadow AI?
Pewnie część z Was już wydała takie zarządzenie albo poważnie o tym myśli. Zakaz ma sens na papierze. W praktyce nie działa, i to z kilku powodów, które są całkowicie przewidywalne.
Powód pierwszy jest najprostszy: nikt nie pilnuje telefonu. Pracownik, który nie może użyć ChatGPT na firmowym laptopie, otworzy go na własnym smartfonie. Firma nie ma żadnej wiedzy, że to się dzieje. Zero logów, zero kontroli. Pełne ryzyko RODO, tylko bez możliwości zarządzenia nim.
Powód drugi: zakaz bez alternatywy tworzy frustrację, nie bezpieczeństwo. Pracownik, który wie, że AI skraca jego pracę o godzinę dziennie, nie zrezygnuje z tego dlatego, że przyszło zarządzenie od zarządu. Zacznie używać AI ukradkiem. I właśnie przestanie zgłaszać Wam problemy, bo sam jest po złej stronie zakazu. To gorsza sytuacja niż była przedtem.
Powód trzeci jest organizacyjny. Skuteczna blokada na poziomie sieci firmowej wymaga narzędzi do monitorowania ruchu internetowego, ich wdrożenie jest kosztowne i rodzi własne problemy prawne z pracownikami. A każdy VPN taką blokadę obchodzi w pół minuty.
Zakaz adresuje objaw: pracownik korzysta z zewnętrznego AI. Ale nie usuwa przyczyny: pracownik potrzebuje AI do pracy i nie ma bezpiecznej wersji w firmie. Gdy firma tę przyczynę usunie, shadow AI po prostu przestaje mieć rację bytu.
Jak własny serwer AI rozwiązuje problem od podstaw?
Własny serwer AI to coś innego niż firmowa subskrypcja ChatGPT dla całego zespołu. Różnica jest fundamentalna: dane nigdy nie opuszczają infrastruktury firmy.
Jak to działa w praktyce? Firma dostaje środowisko, w którym pracownicy mogą rozmawiać z modelem językowym, wklejać dokumenty i otrzymywać odpowiedzi, ale cały ruch odbywa się na serwerach, nad którymi firma ma pełną kontrolę. Żaden dokument wklejony do firmowego czatu nie trafia do OpenAI, Google ani żadnego zewnętrznego dostawcy. Model przetwarza dane lokalnie, wynik wraca do pracownika. Poza infrastrukturą firmy: nic.
Co to zmienia w kontekście RODO?
- Nie ma przekazania danych do państwa trzeciego. Dane zostają w UE, na serwerze zarządzanym przez polskiego dostawcę. Znika problem art. 46 RODO całkowicie.
- Firma może zawrzeć umowę powierzenia z dostawcą serwera. Wie dokładnie, gdzie i jak dane są przetwarzane. Może to wpisać do rejestru czynności przetwarzania i pokazać przy kontroli.
- Logi i możliwość audytu. Firma wie, kto, kiedy i do czego używał narzędzia AI. Jeśli UODO zapyta, macie konkretną odpowiedź popartą zapisami.
- Polityka dostępu między działami. Dział HR pracuje w swoim środowisku, dział sprzedaży w swoim. Dane pracownicze nie mieszają się z danymi klientów.
Przy okazji znika motywacja do szukania zewnętrznych narzędzi. Pracownik ma w firmowym środowisku narzędzie AI, które jest szybkie, działa na prawdziwych dokumentach firmy i nikt go za to nie karze. Nie ma powodu, żeby sięgał po ChatGPT na prywatnym telefonie. Shadow AI przestaje być opłacalne.
Typowo wygląda to tak, że po wdrożeniu własnego serwera AI zatrudnieni sami zaczynają zgłaszać, do jakich procesów AI mogłoby jeszcze pomóc, zamiast robić to ukradkiem. To zupełnie inny klimat rozmowy o AI w firmie.
Które dokumenty w Waszej firmie są najbardziej narażone?
Shadow AI nie atakuje równomiernie wszystkich procesów. Są miejsca, gdzie ryzyko jest wyraźnie wyższe, bo tam pracownicy mają największą pokusę użycia zewnętrznego narzędzia i jednocześnie operują danymi szczególnie wrażliwymi.
- Umowy z klientami i kontrahentami: przejrzenie, streszczenie, sprawdzenie zapisów o odpowiedzialności i karach. Klasyczny scenariusz z pierwszej części artykułu.
- Korespondencja reklamacyjna: pracownik wkleja maila klienta z całą historią transakcji, żeby AI pomogło napisać odpowiedź. W mailu są dane osobowe, numery zamówień, szczegóły sporu.
- Zestawienia płac i wynagrodzeń: pytania do AI o interpretację przepisów, często z wklejonym arkuszem zawierającym imiona, kwoty i numery PESEL.
- Raporty eksportowane z CRM i ERP: pliki zawierające bazy klientów, historię zakupów, zaległości płatnicze, dane kontaktowe.
- Dane z branż szczególnych: opieka zdrowotna, edukacja, usługi socjalne, kancelarie prawne i notarialne. Tutaj RODO stosuje wyższe standardy ochrony, a potencjalna kara jest odpowiednio wyższa.
Pracownicy rzadko zdają sobie sprawę, że wklejają coś wrażliwego. Po prostu kopiują "ten kawałek tekstu potrzebny do pytania". I ten kawałek ma w sobie PESEL, numer konta, adres klienta. Nie z intencją naruszenia, z przyzwyczajenia do szybkiej pracy.
Od czego zacząć, gdy shadow AI już działa w Waszym zespole?
Zanim będziecie reagować, warto ocenić skalę zjawiska. Nie chodzi o polowanie na pracowników. Chodzi o zrozumienie, gdzie jest rzeczywiste ryzyko, zanim trafi do Was pismo z UODO.
Kilka kroków, które mają sens jako punkt startowy:
- Rozmowa z kierownikami działów. Zapytajcie wprost, czy ich zespoły korzystają z zewnętrznych narzędzi AI. Bez konsekwencji, anonimowo, żeby wiedzieć. Odpowiedź zaskoczy Was bardziej, niż myślicie.
- Przegląd regulaminu pracy i polityki IT. Czy dokumenty w ogóle wspominają o narzędziach AI? Jeśli nie, pracownicy działają w szarej strefie, a firma nie ma podstawy do obrony przy ewentualnej kontroli.
- Sprawdzenie rejestru czynności przetwarzania. Gdzie w firmie przetwarzane są dane osobowe klientów, kontrahentów i pracowników? To te miejsca są najbardziej narażone na shadow AI.
- Decyzja o własnym środowisku AI. Gdy wiecie, gdzie leży ryzyko, macie też punkt wyjścia do rozmowy z dostawcą. Nie musicie od razu wdrażać AI wszędzie: zacznijcie od jednego działu z największą pokusą korzystania z shadow AI i największym kontaktem z danymi osobowymi.
Jedno zdanie dla tych, którzy myślą, że ich firma jest za mała, żeby się tym przejmować: UODO nie patrzy na wielkość firmy, patrzy na to, czy doszło do naruszenia i czy firma miała wdrożone procedury. Mała firma z bazą klientów ma te same obowiązki co duże przedsiębiorstwo.
Kontrola bez blokowania, dane nigdy nie opuszczają firmy. Tak wygląda dobrze skonfigurowane środowisko AI na własnym serwerze. Pracownicy zyskują narzędzie, z którego chcą korzystać. Firma zyskuje pewność, że wie, co z danymi dzieje się w każdej chwili, i ma to udokumentowane na wypadek pytań z zewnątrz. Czy chcecie sprawdzić, jak to wyglądałoby konkretnie u Was? Zarezerwujcie 15 minut rozmowy lub zajrzyjcie na realne wdrożenia, żeby zobaczyć, jak inne polskie firmy podeszły do tego tematu.
Najczęstsze pytania
Czym jest shadow AI w firmie?
Shadow AI to sytuacja, gdy pracownicy samodzielnie korzystają z narzędzi AI, takich jak ChatGPT czy Gemini, do pracy bez wiedzy i zgody firmy. Nikt ich nie zarejestrował, nikt nie zatwierdził, ale siedzą głęboko w codziennej pracy całych działów.
Czy korzystanie z ChatGPT przez pracownika narusza RODO?
Tak, jeśli pracownik wkleja do ChatGPT dane osobowe: imiona klientów, numery umów, adresy, kwoty transakcji. Dane te trafiają na serwery OpenAI poza UE, co bez umowy powierzenia przetwarzania danych i odpowiedniej podstawy prawnej jest naruszeniem RODO, za które odpowiada firma, nie pracownik.
Czy zakaz używania ChatGPT w pracy wystarczy, żeby chronić firmę?
Nie wystarczy. Pracownicy używają ChatGPT na prywatnym telefonie albo własnym koncie, firma nic o tym nie wie i nie ma żadnych logów. Jedyna trwała odpowiedź to dać pracownikom bezpieczne narzędzie AI w firmowym środowisku, żeby nie mieli powodu szukać zewnętrznych.
Jak własny serwer AI chroni przed shadow AI i naruszeniami RODO?
Gdy firma działa na własnym serwerze AI, żaden dokument nie trafia do OpenAI ani żadnego zewnętrznego dostawcy. Dane przetwarzane są lokalnie, firma wie kto i kiedy z czego korzysta, a pracownicy mają narzędzie, z którego chcą korzystać, bez konieczności sięgania po prywatne konta.
Co grozi firmie za naruszenie RODO przez shadow AI?
Firma odpowiada za naruszenie RODO nawet wtedy, gdy to pracownik działał bez wiedzy przełożonego. Urząd Ochrony Danych Osobowych może wszcząć postępowanie i nałożyć karę administracyjną, a poszkodowany kontrahent lub klient może dochodzić odszkodowania na drodze cywilnej.
Napiszcie jednym zdaniem, co chcecie połączyć z AI
Program, skrzynka, dokumenty albo proces, który zabiera zespołowi czas. Odpiszemy, co da się zrobić u Was i od czego zacząć.
Opracowanie: zespół redAi z wykorzystaniem narzędzi AI.
Chcecie sprawdzić, jak AI rozwiąże to u Was?
15 minut rozmowy o tym, na czym pracujecie i gdzie robota grzęźnie. Na koniec wiecie, co da się zrobić.
- Bezpłatna prezentacjaAI na Waszych zadaniach, nie na slajdach.
- Dostęp tego samego dniaZespół od razu pracuje we własnym portalu.
- Do 2 tygodni testówPłacicie dopiero po decyzji.


