Rozporządzenie (UE) 2016/679 (RODO)

RODO przy AI w firmie: kto jest administratorem, co musi być w umowie powierzenia

RODO nie wspomina o sztucznej inteligencji ani razu, a mimo to jest przepisem, który najczęściej rozstrzyga, czy wdrożenie AI w firmie jest legalne. Każde wklejenie danych klienta do asystenta to przetwarzanie danych osobowych. Poniżej przepisy, które przy AI mają znaczenie, w pełnym brzmieniu i z komentarzem.

Spełniamy Obowiązuje od 25.05.2018 11 min czytania Stan prawny sprawdzony 12.11.2026

W skrócie

  • Przy AI w firmie to Wy jesteście administratorem, a dostawca narzędzia podmiotem przetwarzającym. Odpowiedzialność za cel i podstawę przetwarzania zostaje u Was.
  • Art. 28 ust. 3 wylicza osiem punktów obowiązkowych w umowie powierzenia. Umowa bez nich nie spełnia RODO.
  • Użycie Waszych danych do trenowania modeli wykracza poza „udokumentowane polecenie administratora” z art. 28 ust. 3 lit. a.
  • Art. 22: człowiek ma prawo nie podlegać decyzji podjętej wyłącznie przez maszynę, jeśli wywołuje skutki prawne albo podobnie istotnie na niego wpływa.
  • Kary do 20 mln EUR albo 4% światowego obrotu za naruszenie zasad z art. 5; do 10 mln EUR albo 2% za obowiązki z art. 25 do 39.

Jak to spełniamy

Umowa powierzenia z pełną listą z art. 28 ust. 3, serwer w Waszej firmie, dane bez trenowania modeli, decyzje o ludziach po stronie człowieka.

Kto jest administratorem, a kto podmiotem przetwarzającym

Od tego zaczyna się każda analiza. Obowiązki z RODO zależą od roli, a rolę wyznaczają definicje z art. 4:

7) „administrator” oznacza osobę fizyczną lub prawną, organ publiczny, jednostkę lub inny podmiot, który samodzielnie lub wspólnie z innymi ustala cele i sposoby przetwarzania danych osobowych; jeżeli cele i sposoby takiego przetwarzania są określone w prawie Unii lub w prawie państwa członkowskiego, to również w prawie Unii lub w prawie państwa członkowskiego może zostać wyznaczony administrator lub mogą zostać określone konkretne kryteria jego wyznaczania;

RODO, art. 4 pkt 7

8) „podmiot przetwarzający” oznacza osobę fizyczną lub prawną, organ publiczny, jednostkę lub inny podmiot, który przetwarza dane osobowe w imieniu administratora;

RODO, art. 4 pkt 8
SytuacjaAdministratorPodmiot przetwarzający
Pracownik używa asystenta AI do odpowiedzi na reklamacje klientówWasza firmadostawca asystenta
Asystent streszcza akta sprawy w urzędzieurząddostawca asystenta
Dostawca używa danych klientów do własnych celów, na przykład do trenowania modeludostawca staje się w tym zakresie administratorem i potrzebuje własnej podstawy prawnej

Ostatni wiersz to sedno sporów o narzędzia AI. Dostawca, który przetwarza dane tylko na Wasze polecenie, jest podmiotem przetwarzającym. Dostawca, który sam decyduje, że użyje ich do trenowania, ustala własny cel, a to już rola administratora.

Umowa powierzenia: art. 28 w pełnym brzmieniu

Art. 28 to najważniejszy przepis przy zakupie narzędzia AI. Ust. 1 nakłada obowiązek na Was: macie wybrać dostawcę, który daje wystarczające gwarancje.

1. Jeżeli przetwarzanie ma być dokonywane w imieniu administratora, korzysta on wyłącznie z usług takich podmiotów przetwarzających, które zapewniają wystarczające gwarancje wdrożenia odpowiednich środków technicznych i organizacyjnych, by przetwarzanie spełniało wymogi niniejszego rozporządzenia i chroniło prawa osób, których dane dotyczą.

2. Podmiot przetwarzający nie korzysta z usług innego podmiotu przetwarzającego bez uprzedniej szczegółowej lub ogólnej pisemnej zgody administratora. W przypadku ogólnej pisemnej zgody podmiot przetwarzający informuje administratora o wszelkich zamierzonych zmianach dotyczących dodania lub zastąpienia innych podmiotów przetwarzających, dając tym samym administratorowi możliwość wyrażenia sprzeciwu wobec takich zmian.

3. Przetwarzanie przez podmiot przetwarzający odbywa się na podstawie umowy lub innego instrumentu prawnego, które podlegają prawu Unii lub prawu państwa członkowskiego i wiążą podmiot przetwarzający i administratora, określają przedmiot i czas trwania przetwarzania, charakter i cel przetwarzania, rodzaj danych osobowych oraz kategorie osób, których dane dotyczą, obowiązki i prawa administratora. Ta umowa lub inny instrument prawny stanowią w szczególności, że podmiot przetwarzający:

a) przetwarza dane osobowe wyłącznie na udokumentowane polecenie administratora – co dotyczy też przekazywania danych osobowych do państwa trzeciego lub organizacji międzynarodowej – chyba że obowiązek taki nakłada na niego prawo Unii lub prawo państwa członkowskiego, któremu podlega podmiot przetwarzający; w takim przypadku przed rozpoczęciem przetwarzania podmiot przetwarzający informuje administratora o tym obowiązku prawnym, o ile prawo to nie zabrania udzielania takiej informacji z uwagi na ważny interes publiczny;

b) zapewnia, by osoby upoważnione do przetwarzania danych osobowych zobowiązały się do zachowania tajemnicy lub by podlegały odpowiedniemu ustawowemu obowiązkowi zachowania tajemnicy;

c) podejmuje wszelkie środki wymagane na mocy art. 32;

d) przestrzega warunków korzystania z usług innego podmiotu przetwarzającego, o których mowa w ust. 2 i 4;

e) biorąc pod uwagę charakter przetwarzania, w miarę możliwości pomaga administratorowi poprzez odpowiednie środki techniczne i organizacyjne wywiązać się z obowiązku odpowiadania na żądania osoby, której dane dotyczą, w zakresie wykonywania jej praw określonych w rozdziale III;

f) uwzględniając charakter przetwarzania oraz dostępne mu informacje, pomaga administratorowi wywiązać się z obowiązków określonych w art. 32–36;

g) po zakończeniu świadczenia usług związanych z przetwarzaniem zależnie od decyzji administratora usuwa lub zwraca mu wszelkie dane osobowe oraz usuwa wszelkie ich istniejące kopie, chyba że prawo Unii lub prawo państwa członkowskiego nakazują przechowywanie danych osobowych;

h) udostępnia administratorowi wszelkie informacje niezbędne do wykazania spełnienia obowiązków określonych w niniejszym artykule oraz umożliwia administratorowi lub audytorowi upoważnionemu przez administratora przeprowadzanie audytów, w tym inspekcji, i przyczynia się do nich.

W związku z obowiązkiem określonym w akapicie pierwszym lit. h) podmiot przetwarzający niezwłocznie informuje administratora, jeżeli jego zdaniem wydane mu polecenie stanowi naruszenie niniejszego rozporządzenia lub innych przepisów Unii lub państwa członkowskiego o ochronie danych.

RODO, art. 28 ust. 1 do 3

Co każdy punkt znaczy przy AI

PunktPytanie do dostawcy AI
lit. a, polecenie administratoraCzy dane służą wyłącznie do wykonania Waszego zadania? Czy nie trenują modeli i nie idą do analiz dostawcy? Gdzie fizycznie są przetwarzane i czy wychodzą poza EOG?
lit. b, tajemnicaKto po stronie dostawcy ma dostęp do treści rozmów z asystentem?
lit. c, art. 32Jak zabezpieczone są dane, historia rozmów i pliki: szyfrowanie, dostęp, kopie?
lit. d i ust. 2, dalsze podmiotyJakich podwykonawców używa dostawca (hosting, model AI) i jak Was poinformuje o zmianie?
lit. e, prawa osóbCzy da się znaleźć i usunąć dane konkretnej osoby, także z historii rozmów?
lit. f, art. 32 do 36Czy dostawca pomoże przy ocenie skutków i przy zgłoszeniu naruszenia?
lit. g, koniec umowyCo dzieje się z danymi, historią rozmów i kopiami po zakończeniu umowy?
lit. h, audytCzy możecie sprawdzić dostawcę albo dostać od niego dokumenty potwierdzające zgodność?

Regulamin to nie umowa powierzenia. Konto w publicznym czacie AI założone przez pracownika zwykle nie daje Wam żadnej z tych gwarancji. Jeśli pracownicy wklejają tam dane klientów, firma jako administrator nie ma podstawy z art. 28.

Zasady z art. 5, które AI łatwo narusza

1. Dane osobowe muszą być:

[…]

b) zbierane w konkretnych, wyraźnych i prawnie uzasadnionych celach i nieprzetwarzane dalej w sposób niezgodny z tymi celami; dalsze przetwarzanie do celów archiwalnych w interesie publicznym, do celów badań naukowych lub historycznych lub do celów statystycznych nie jest uznawane w myśl art. 89 ust. 1 za niezgodne z pierwotnymi celami („ograniczenie celu”);

c) adekwatne, stosowne oraz ograniczone do tego, co niezbędne do celów, w których są przetwarzane („minimalizacja danych”);

[…]

f) przetwarzane w sposób zapewniający odpowiednie bezpieczeństwo danych osobowych, w tym ochronę przed niedozwolonym lub niezgodnym z prawem przetwarzaniem oraz przypadkową utratą, zniszczeniem lub uszkodzeniem, za pomocą odpowiednich środków technicznych lub organizacyjnych („integralność i poufność”).

2. Administrator jest odpowiedzialny za przestrzeganie przepisów ust. 1 i musi być w stanie wykazać ich przestrzeganie („rozliczalność”).

RODO, art. 5 ust. 1 (wstęp, lit. b, c i f) oraz ust. 2
  • Ograniczenie celu. Dane zebrane do obsługi zamówienia nie mogą bez analizy trafić do narzędzia, które buduje profile klientów pod marketing.
  • Minimalizacja. Do streszczenia reklamacji asystent nie potrzebuje numeru PESEL ani pełnego adresu. Najlepiej, gdy narzędzie dostaje tylko to, co jest potrzebne do zadania.
  • Rozliczalność. Nie wystarczy przestrzegać zasad, trzeba umieć to pokazać. Przy AI oznacza to spis narzędzi, wiedzę o tym, jakie dane do nich trafiają, i dokumenty od dostawcy.

Narzędzia AI, które przetwarzają dane osobowe, powinny też trafić do rejestru czynności przetwarzania z art. 30 RODO. Jak połączyć go z rejestrem systemów AI, opisujemy w analizie rejestru systemów AI.

Decyzje podejmowane przez maszynę: art. 22

1. Osoba, której dane dotyczą, ma prawo do tego, by nie podlegać decyzji, która opiera się wyłącznie na zautomatyzowanym przetwarzaniu, w tym profilowaniu, i wywołuje wobec tej osoby skutki prawne lub w podobny sposób istotnie na nią wpływa.

RODO, art. 22 ust. 1

Trzy warunki muszą wystąpić razem: decyzja, oparta wyłącznie na przetwarzaniu automatycznym, ze skutkami prawnymi albo podobnie istotnymi. Odmowa kredytu, odrzucenie kandydata do pracy albo przyznanie świadczenia przez system bez udziału człowieka spełniają je wszystkie.

Dalsze ustępy art. 22 dopuszczają taką decyzję tylko w wąskich przypadkach (umowa, przepis prawa, wyraźna zgoda) i wymagają wtedy zabezpieczeń, w tym prawa do interwencji człowieka i zakwestionowania decyzji.

Udział człowieka musi być prawdziwy. Pracownik, który zatwierdza wynik systemu bez czytania, nie zmienia tego, że decyzja opiera się wyłącznie na przetwarzaniu automatycznym. Liczy się to, czy człowiek ma wiedzę, czas i uprawnienia, żeby zdecydować inaczej.

Te same obszary (zatrudnienie, kredyt, świadczenia) są w AI Act systemami wysokiego ryzyka. Szczegóły w analizie systemów wysokiego ryzyka.

Ochrona danych w projekcie: art. 25

1. Uwzględniając stan wiedzy technicznej, koszt wdrażania oraz charakter, zakres, kontekst i cele przetwarzania oraz ryzyko naruszenia praw lub wolności osób fizycznych o różnym prawdopodobieństwie wystąpienia i wadze wynikające z przetwarzania, administrator – zarówno przy określaniu sposobów przetwarzania, jak i w czasie samego przetwarzania –wdraża [sic] odpowiednie środki techniczne i organizacyjne, takie jak pseudonimizacja, zaprojektowane w celu skutecznej realizacji zasad ochrony danych, takich jak minimalizacja danych, oraz w celu nadania przetwarzaniu niezbędnych zabezpieczeń, tak by spełnić wymogi niniejszego rozporządzenia oraz chronić prawa osób, których dane dotyczą.

RODO, art. 25 ust. 1

Obowiązek ciąży na administratorze już „przy określaniu sposobów przetwarzania”, czyli przy wyborze narzędzia, a nie dopiero po wdrożeniu. Przy AI w praktyce oznacza to pytania na starcie: gdzie działa system, kto ma dostęp do rozmów, jak długo przechowywana jest historia, czy da się ograniczyć dane, które trafiają do modelu.

Bezpieczeństwo przetwarzania: art. 32

1. Uwzględniając stan wiedzy technicznej, koszt wdrażania oraz charakter, zakres, kontekst i cele przetwarzania oraz ryzyko naruszenia praw lub wolności osób fizycznych o różnym prawdopodobieństwie wystąpienia i wadze, administrator i podmiot przetwarzający wdrażają odpowiednie środki techniczne i organizacyjne, aby zapewnić stopień bezpieczeństwa odpowiadający temu ryzyku, w tym między innymi w stosownym przypadku:

a) pseudonimizację i szyfrowanie danych osobowych;

b) zdolność do ciągłego zapewnienia poufności, integralności, dostępności i odporności systemów i usług przetwarzania;

c) zdolność do szybkiego przywrócenia dostępności danych osobowych i dostępu do nich w razie incydentu fizycznego lub technicznego;

d) regularne testowanie, mierzenie i ocenianie skuteczności środków technicznych i organizacyjnych mających zapewnić bezpieczeństwo przetwarzania.

RODO, art. 32 ust. 1

Ten obowiązek dotyczy obu stron: administratora i podmiotu przetwarzającego. Przy AI szczególnie ważna jest lit. c. Jeśli asystent stał się częścią codziennej pracy, jego awaria albo utrata historii to też incydent, na który trzeba mieć plan i kopie.

Ocena skutków: art. 35

1. Jeżeli dany rodzaj przetwarzania – w szczególności z użyciem nowych technologii – ze względu na swój charakter, zakres, kontekst i cele z dużym prawdopodobieństwem może powodować wysokie ryzyko naruszenia praw lub wolności osób fizycznych, administrator przed rozpoczęciem przetwarzania dokonuje oceny skutków planowanych operacji przetwarzania dla ochrony danych osobowych. Dla podobnych operacji przetwarzania danych wiążących się z podobnym wysokim ryzykiem można przeprowadzić pojedynczą ocenę.

RODO, art. 35 ust. 1

Przepis wprost wymienia „nowe technologie”, ale sam fakt użycia AI nie oznacza obowiązku oceny. Decyduje ryzyko. Ocena będzie zwykle potrzebna, gdy AI ocenia albo profiluje ludzi, przetwarza dane szczególnych kategorii (na przykład o zdrowiu) na dużą skalę albo monitoruje pracowników. Pomocny jest wykaz rodzajów operacji wymagających oceny skutków, który opublikował Prezes UODO.

Zdanie drugie jest praktyczne: jeśli kilka działów używa tego samego asystenta w podobny sposób, wystarczy jedna ocena. Przy systemach wysokiego ryzyka AI Act w art. 26 ust. 9 każe wykorzystać do tej oceny informacje, które daje dostawca systemu.

Kary

4. Naruszenia przepisów dotyczących następujących kwesti [sic] podlegają zgodnie z ust. 2 administracyjnej karze pieniężnej w wysokości do 10 000 000 EUR, a w przypadku przedsiębiorstwa – w wysokości do 2 % jego całkowitego rocznego światowego obrotu z poprzedniego roku obrotowego, przy czym zastosowanie ma kwota wyższa:

a) obowiązków administratora i podmiotu przetwarzającego, o których mowa w art. 8, 11, 25 –39 oraz 42 i 43;

RODO, art. 83 ust. 4 (wstęp i lit. a)

5. Naruszenia przepisów dotyczących następujących kwestii podlegają zgodnie z ust. 2 administracyjnej karze pieniężnej w wysokości do 20 000 000 EUR, a w przypadku przedsiębiorstwa – w wysokości do 4 % jego całkowitego rocznego światowego obrotu z poprzedniego roku obrotowego, przy czym zastosowanie ma kwota wyższa:

a) podstawowych zasad przetwarzania, w tym warunków zgody, o których to zasadach i warunkach mowa w art. 5, 6, 7 oraz 9;

b) praw osób, których dane dotyczą, o których mowa w art. 12–22;

RODO, art. 83 ust. 5 (wstęp, lit. a i b)

Wyższy próg obejmuje art. 5 (zasady) i art. 22 (decyzje automatyczne). Niższy obejmuje art. 25, 28, 32 i 35, czyli wszystko, o czym piszemy wyżej. W przeciwieństwie do AI Act tu nie ma osobnego, łagodniejszego progu dla MŚP.

Jak to spełniamy w redAi

  • Umowa powierzenia w standardzie. Podpisujemy ją przy każdym wdrożeniu i zawiera wszystkie punkty z art. 28 ust. 3, od lit. a do h.
  • Serwer w Waszej firmie. Portal działa jako prywatna instancja w Waszej infrastrukturze, a dostęp do niej mają Wasi ludzie według ról.
  • Wasze dane nie trenują modeli. Przetwarzamy je wyłącznie do wykonania Waszych zadań.
  • Decyzje o ludziach zostają u człowieka. Narzędzia przygotowują, streszczają i sprawdzają, a decyzję podejmuje pracownik.
  • Kopie i dostęp. Szyfrowane kopie i dostęp według ról to odpowiedź na art. 32 ust. 1 lit. a do c.

Co zrobić po Waszej stronie

  1. Sprawdźcie, z jakich narzędzi AI korzystają pracownicy i czy z każdym dostawcą macie umowę powierzenia.
  2. Ustalcie zasady: jakie dane wolno wprowadzać do AI, a jakich nie (na przykład dane o zdrowiu, PESEL).
  3. Dopiszcie narzędzia AI do rejestru czynności przetwarzania.
  4. Przy każdym zastosowaniu, które ocenia ludzi, sprawdźcie art. 22 i potrzebę oceny skutków z art. 35.
  5. Włączcie inspektora ochrony danych w wybór narzędzi, a nie dopiero po wdrożeniu.

Najczęstsze pytania

Czy przy korzystaniu z AI trzeba podpisać umowę powierzenia?

Tak, jeśli do narzędzia trafiają dane osobowe, a dostawca przetwarza je w Waszym imieniu. Umowa musi zawierać elementy z art. 28 ust. 3 RODO, od lit. a do h.

Kto jest administratorem danych przy asystencie AI w firmie?

Firma, która decyduje, w jakim celu i jak używa asystenta. Dostawca jest podmiotem przetwarzającym, dopóki przetwarza dane wyłącznie na jej polecenie.

Czy pracownik może wklejać dane klientów do publicznego czatu AI?

Zwykle nie, bo firma nie ma wtedy z dostawcą umowy powierzenia ani kontroli nad tym, co dzieje się z danymi. To ryzyko naruszenia art. 28 i zasady integralności i poufności z art. 5.

Czy AI może podejmować decyzje o ludziach?

Decyzja oparta wyłącznie na przetwarzaniu automatycznym, która wywołuje skutki prawne albo podobnie istotnie wpływa na człowieka, jest dopuszczalna tylko w wąskich przypadkach z art. 22 RODO i wymaga zabezpieczeń, w tym prawa do interwencji człowieka.

Czy wdrożenie AI wymaga oceny skutków dla ochrony danych?

Nie zawsze. Ocena z art. 35 jest obowiązkowa, gdy przetwarzanie może powodować wysokie ryzyko dla osób, na przykład przy ocenie albo profilowaniu ludzi czy danych o zdrowiu na dużą skalę.

Jakie kary grożą za naruszenie RODO przy AI?

Do 20 mln EUR albo 4% całkowitego rocznego światowego obrotu za naruszenie zasad z art. 5 i praw osób, do 10 mln EUR albo 2% za obowiązki z art. 25 do 39, w tym umowę powierzenia i bezpieczeństwo. Stosuje się kwotę wyższą.

Źródła

Cytaty pochodzą z polskich wersji językowych aktów prawnych opublikowanych w Dzienniku Urzędowym UE i w Dzienniku Ustaw. Ta strona opisuje, jak rozumiemy przepisy i jak je spełniamy we wdrożeniach redAi. Nie zastępuje porady prawnej w Waszej konkretnej sprawie.

Opracowanie: zespół redAi z wykorzystaniem narzędzi AI. Cytaty przepisów sprawdzone z tekstami źródłowymi.

Pozostałe przepisy

← Wszystkie przepisy na jednej stronie

Potrzebujecie dokumentów do audytu albo przetargu?

Rejestr systemów AI, ocena ryzyka, polityka przejrzystości, materiał szkoleniowy i wzór umowy powierzenia. Prześlemy komplet.

Umówcie rozmowę