AI a odpowiedzialność pracodawcy

Niezależnie od tego, jak autonomiczny jest system AI, pełną odpowiedzialność prawną za jego działania ponosi pracodawca lub przedsiębiorca, który go wdrożył — algorytm nie ma podmiotowości prawnej i nie może być stroną żadnego postępowania.

Podstawowa zasada

W związku z brakiem podmiotowości prawnej sztucznej inteligencji, pełną odpowiedzialność za naruszenia dokonane przez AI ponosi osoba lub podmiot, który zarządza takim systemem, niezależnie od tego, na ile autonomiczny jest algorytm. Odpowiedzialność za działanie AI obejmuje cały cykl życia systemu — od projektowania, przez wdrożenie, aż po wykorzystanie w konkretnych procesach decyzyjnych.

Rodzaje odpowiedzialności, na które narażony jest pracodawca

• odpowiedzialność wobec pracowników — na podstawie Kodeksu pracy, np. za dyskryminację algorytmiczną, naruszenie prywatności przy monitoringu, szkodę wyrządzoną błędną decyzją wspieraną przez AI,
• odpowiedzialność wobec klientów i kontrahentów — jeśli system AI wygeneruje błędną rekomendację lub nieprawdziwą informację i w efekcie wprowadzi kogoś w błąd, odpowiedzialność za to poniesie przedsiębiorca,
• odpowiedzialność administracyjna wynikająca z AI Act — w przypadku niezgodności systemu wysokiego ryzyka z wymogami dotyczącymi analizy ryzyka, nadzoru ludzkiego, dokumentacji i transparentności,
• odpowiedzialność wynikająca z RODO — w przypadku nieprawidłowego przetwarzania danych osobowych przez systemy AI, w tym niezgodnego z prawem profilowania.

Obowiązek zapewnienia nadzoru ludzkiego

Jeśli przedsiębiorca korzysta z AI zakwalifikowanej jako system wysokiego ryzyka, jest zobowiązany do zapewnienia nadzoru człowieka nad funkcjonowaniem systemu, prowadzenia dokumentacji i rejestrów działania AI, przeprowadzenia oceny zgodności i wdrożenia systemów zarządzania ryzykiem, a także do zapewnienia przejrzystości działania algorytmu.

Naprawienie szkody wyrządzonej przez wykorzystanie AI w miejscu pracy

Zgodnie z Kodeksem pracy, jeśli niewłaściwe wykorzystywanie sztucznej inteligencji w miejscu pracy prowadzi do szkody, to pracodawca jest zobowiązany do jej naprawienia — niezależnie od tego, czy błąd wynikał z działania systemu, czy z nieprawidłowego korzystania z niego przez pracownika.

Praktyczne implikacje dla firm porównujących koszt “pracownika białkowego” i “krzemowego”

Koszt wdrożenia AI powinien uwzględniać nie tylko licencje i infrastrukturę, ale też koszt zgodności prawnej (compliance) — analizę ryzyka, dokumentację, nadzór ludzki i potencjalną odpowiedzialność za błędy systemu. To znacząco zmienia kalkulację “taniej automatyzacji” w porównaniu do zatrudnienia pracownika, zwłaszcza w obszarach klasyfikowanych jako wysokiego ryzyka.

Najczęstsze błędy pracodawców

Częstym błędem jest przekonanie, że odpowiedzialność za błąd systemu AI można przenieść na dostawcę technologii poprzez umowę licencyjną — w relacji z pracownikami, klientami i organami administracji to pracodawca pozostaje pierwszym i podstawowym podmiotem odpowiedzialnym, niezależnie od wewnętrznych ustaleń z dostawcą.