Rozwiązania AI w firmie – kto odpowiada z błędy związane ze sztuczną inteligencją?

Co jednak, gdy błędy AI w firmie doprowadzą do powstania szkody? Kto odpowiada za błędy związane z AI – przedsiębiorca, pracownik czy dostawca oprogramowania? Należy pamiętać, że choć sztuczna inteligencja może wykonywać coraz bardziej złożone zadania, sama nie ponosi odpowiedzialności prawnej, bowiem konsekwencje jej nieprawidłowego działania mogą natomiast obciążać różne podmioty.

O tym, kto odpowiada za błędy AI w firmie, przeczytasz w poniższym artykule!

AI w firmie – gdzie przedsiębiorcy wykorzystują sztuczną inteligencję?

Sztuczna inteligencja znajduje zastosowanie w coraz większej liczbie obszarów działalności gospodarczej. Z rozwiązań AI korzystają nie tylko duże przedsiębiorstwa dysponujące rozbudowanymi działami IT, ale również mikroprzedsiębiorcy i małe firmy. Narzędzia te pozwalają automatyzować codzienne czynności, analizować informacje i wspierać podejmowanie decyzji biznesowych.

Rozwiązania AI są wykorzystywane m.in. w:

• obsłudze klientów – chatboty odpowiadają na pytania, udzielają informacji o produktach i usługach oraz wspierają proces sprzedaży;
• marketingu i reklamie – sztuczna inteligencja pomaga tworzyć treści reklamowe, grafiki, opisy produktów, materiały do mediów społecznościowych oraz personalizować komunikację z odbiorcami;
• rekrutacji i zarządzaniu pracownikami – systemy analizują dokumenty aplikacyjne, wspierają selekcję kandydatów i ocenę efektywności pracowników;
• finansach i księgowości – algorytmy analizują dokumenty, wspierają przygotowywanie raportów oraz identyfikują nieprawidłowości w danych;
• analizie danych i zarządzaniu przedsiębiorstwem – systemy przygotowują prognozy, rekomendują działania i wspierają podejmowanie decyzji biznesowych.

Wraz z częstotliwością wykorzystywania sztucznej inteligencji pojawia się jednak pytanie o odpowiedzialność za skutki jej działania. Im większy wpływ systemu AI na funkcjonowanie przedsiębiorstwa, tym istotniejsze stają się zasady jego wykorzystania i nadzoru.

Więcej na temat: Marketing AI w praktyce dla małych firm – jak wykorzystywać narzędzia AI i zachować zgodność prawną

Marketing AI w praktyce dla małych firm – jak wykorzystywać narzędzia AI i zachować zgodność prawną

Błędy AI w firmie – jakie szkody może spowodować sztuczna inteligencja?

Systemy sztucznej inteligencji nie zawsze działają prawidłowo. Mogą generować nieprawdziwe informacje, błędnie interpretować dane, formułować niewłaściwe rekomendacje lub podejmować decyzje na podstawie niekompletnych informacji. W konsekwencji błędy AI w firmie mogą prowadzić do strat finansowych, naruszenia praw klientów, pracowników i kontrahentów, a nawet powstania szkód na osobie.

Zakres potencjalnych konsekwencji zależy przede wszystkim od sposobu wykorzystania sztucznej inteligencji oraz charakteru popełnionego błędu.

Warto jednak pamiętać, że nie każdy błąd sztucznej inteligencji automatycznie prowadzi do powstania odpowiedzialności odszkodowawczej. Kluczowe znaczenie ma ustalenie przyczyny szkody, okoliczności jej powstania oraz właściwej podstawy prawnej. W zależności od konkretnej sytuacji odpowiedzialność za nieprawidłowe działanie AI może obciążać przedsiębiorcę, pracownika, producenta lub dostawcę technologii.

Kto odpowiada za błędy związane z AI – przedsiębiorca, pracownik czy producent?

Sztuczna inteligencja nie posiada podmiotowości prawnej, co oznacza, że sam system AI nie może ponosić odpowiedzialności cywilnej ani zostać zobowiązany do naprawienia szkody. Nie oznacza to jednak, że szkody powstałe wskutek jej nieprawidłowego działania pozostają bez konsekwencji prawnych. Odpowiedzialność za błędy AI może spoczywać na przedsiębiorcy (pracodawcy), pracowniku, producencie lub dostawcy technologii. Ustalenie podmiotu odpowiedzialnego zależy przede wszystkim od przyczyny powstania szkody, sposobu wykorzystania systemu oraz podstawy prawnej dochodzonego roszczenia.

I. ODPOWIEDZIALNOŚĆ PRZEDSIĘBIORCY (PRACODAWCY) ZA BŁĘDY AI

Przedsiębiorca wykorzystujący sztuczną inteligencję w działalności gospodarczej jest zobowiązany do zachowania należytej staranności przy jej wdrażaniu i wykorzystywaniu. Sam fakt, że korzysta z narzędzia dostarczonego przez zewnętrzny podmiot, nie zwalnia go automatycznie z odpowiedzialności za skutki jego działania.

Odpowiedzialność przedsiębiorcy może powstać w szczególności w przypadku:

• niewłaściwego wdrożenia lub konfiguracji systemu AI,
• braku odpowiedniego nadzoru nad jego działaniem,
• wykorzystywania niezweryfikowanych informacji wygenerowanych przez AI,
• naruszenia obowiązków umownych wobec klientów lub kontrahentów,
• niezgodnego z prawem przetwarzania danych osobowych lub informacji poufnych.

Przykładowo przedsiębiorca wykorzystuje chatbota AI do obsługi klientów. System przekazuje nieprawdziwe informacje dotyczące warunków sprzedaży, a klient ponosi z tego powodu szkodę. W takiej sytuacji przedsiębiorca nie może wyłączyć swojej odpowiedzialności wyłącznie poprzez wskazanie, że błędną informację wygenerowała sztuczna inteligencja.

Podstawę odpowiedzialności mogą stanowić w szczególności przepisy Kodeksu cywilnego, w tym

• art. 415 Kodeksu cywilnego dotyczący odpowiedzialności deliktowej, zgodnie z którym  Kto z winy swej wyrządził drugiemu szkodę, obowiązany jest do jej naprawienia.

• art. 471 Kodeksu cywilnego regulujący odpowiedzialność za niewykonanie lub nienależyte wykonanie zobowiązania, zgodnie z którym  Dłużnik obowiązany jest do naprawienia szkody wynikłej z niewykonania lub nienależytego wykonania zobowiązania, chyba że niewykonanie lub nienależyte wykonanie jest następstwem okoliczności, za które dłużnik odpowiedzialności nie ponosi.

II. ODPOWIEDZIALNOŚĆ PRACOWNIKA ZA BŁĘDNE WYKORZYSTANIE AI

Wykorzystywanie sztucznej inteligencji podczas wykonywania obowiązków służbowych nie zwalnia pracownika z odpowiedzialności za podejmowane działania. Pracownik powinien korzystać z narzędzi AI zgodnie z obowiązującymi przepisami, poleceniami pracodawcy oraz wewnętrznymi zasadami organizacji pracy.

Należy pamiętać, że zgodnie z art. 100 Kodeksu pracy pracownik jest zobowiązany m.in. do sumiennego i starannego wykonywania pracy, stosowania się do zgodnych z prawem poleceń przełożonych, dbania o dobro zakładu pracy oraz zachowania w tajemnicy informacji, których ujawnienie mogłoby narazić pracodawcę na szkodę.

W praktyce do podstawowych obowiązków pracownika korzystającego z AI mogą należeć:

• przestrzeganie zasad korzystania z AI – wykorzystywanie narzędzi dopuszczonych przez pracodawcę oraz stosowanie obowiązujących procedur i instrukcji;
• weryfikowanie treści generowanych przez AI – sprawdzanie poprawności informacji, analiz i dokumentów przed ich wykorzystaniem lub przekazaniem innym osobom, stosownie do charakteru wykonywanych obowiązków;
• ochrona danych osobowych i informacji poufnych – nieprzekazywanie do narzędzi AI danych klientów, dokumentów wewnętrznych ani informacji stanowiących tajemnicę przedsiębiorstwa z naruszeniem obowiązujących zasad;
• przestrzeganie praw osób trzecich – zwracanie uwagi na ryzyko naruszenia praw autorskich, dóbr osobistych lub innych praw przy wykorzystywaniu materiałów wygenerowanych przez AI.
• zgłaszanie nieprawidłowości – informowanie przełożonych o wykrytych błędach, zagrożeniach lub incydentach związanych z wykorzystaniem AI, zgodnie z przyjętymi procedurami.

Naruszenie obowiązków pracowniczych związanych z korzystaniem ze sztucznej inteligencji może prowadzić do konsekwencji przewidzianych w prawie pracy, w tym odpowiedzialności materialnej, jeżeli wskutek zawinionego działania lub zaniechania pracownika pracodawca poniesie szkodę.

Zakres odpowiedzialności materialnej pracownika zależy przede wszystkim od rodzaju winy:

• wina nieumyślna – zgodnie z przepisem art. 119 Kodeksu pracy odszkodowanie nie może przekroczyć wysokości trzymiesięcznego wynagrodzenia pracownika przysługującego mu w dniu wyrządzenia szkody;
• wina umyślna – zgodnie z przepisem art. 122 Kodeksu pracy pracownik jest zobowiązany do naprawienia szkody w pełnej wysokości.

Przykładowo pracownik wykorzystuje narzędzie AI do wyszukiwania informacji i analizy dokumentów na potrzeby przygotowania raportu dla klienta. Jednakże narzędzie AI generuje nieprawdziwe dane lub wskazuje informacje, które w rzeczywistości nie znajdują się w analizowanych materiałach. Pracownik nie weryfikuje ich poprawności i przekazuje raport klientowi, który na jego podstawie podejmuje decyzję skutkującą stratą finansową.

Kto w takiej sytuacji ponosi odpowiedzialność? Zgodnie z przepisem art. 120 Kodeksu pracy

• W razie wyrządzenia przez pracownika przy wykonywaniu przez niego obowiązków pracowniczych szkody osobie trzeciej, zobowiązany do naprawienia szkody jest wyłącznie pracodawca [por. §1];
• Wobec pracodawcy, który naprawił szkodę wyrządzoną osobie trzeciej, pracownik ponosi odpowiedzialność przewidzianą w przepisach niniejszego rozdziału [por. §2].

Oznacza to, że w przedstawionym przykładzie odpowiedzialność za szkodę wyrządzoną klientowi co do zasady ponosi pracodawca, mimo że błędny raport został przygotowany przez pracownika z wykorzystaniem sztucznej inteligencji. Nie oznacza to jednak, że pracownik jest całkowicie zwolniony z odpowiedzialności. Jeżeli pracodawca naprawi szkodę wyrządzoną klientowi, może następnie dochodzić od pracownika zwrotu wypłaconego odszkodowania, o ile spełnione zostały przesłanki odpowiedzialności materialnej określone w Kodeksie pracy. Zakres tej odpowiedzialności zależy m.in. od tego, czy pracownik wyrządził szkodę umyślnie, czy nieumyślnie.

III. ODPOWIEDZIALNOŚĆ PRODUCENTA I DOSTAWCY SYSTEMU AI

Nie wszystkie błędy sztucznej inteligencji wynikają z niewłaściwego sposobu korzystania z technologii. Przyczyną szkody może być również wada samego oprogramowania, nieprawidłowo zaprojektowany algorytm lub wadliwa aktualizacja systemu – w takich sytuacjach odpowiedzialność może ponosić producent lub dostawca rozwiązania AI.

Odrębną podstawę odpowiedzialności stanowią przepisy dotyczące produktów niebezpiecznych, bowiem ich znaczenie wzrośnie w związku z Dyrektywa Parlamentu Europejskiego i Rady (UE) 2024/2853 z dnia 23 października 2024 r. w sprawie odpowiedzialności za produkty wadliwe i uchylenia dyrektywy Rady 85/374/EWG. która obejmuje pojęciem produktu również oprogramowanie, w tym systemy sztucznej inteligencji.

Odpowiedzialność za błędy AI od 9 grudnia 2026 r. – co zmienią nowe przepisy?

Od 9 grudnia 2026 r. mają zacząć obowiązywać nowe zasady odpowiedzialności za produkty niebezpieczne, obejmujące również oprogramowanie i systemy sztucznej inteligencji. Zmiany wynikają z dyrektywy Parlamentu Europejskiego i Rady (UE) 2024/2853, którą państwa członkowskie zostały zobowiązane wdrożyć do krajowych porządków prawnych do tej daty. W Polsce przygotowano w tym celu projekt zmian Kodeksu cywilnego oraz Kodeksu postępowania cywilnego, oznaczony numerem UC163.

Nowe przepisy mają istotne znaczenie dla przedsiębiorców korzystających z technologii AI, a także dla producentów i dostawców oprogramowania. Rozszerzają bowiem zasady odpowiedzialności za produkty niebezpieczne na rozwiązania cyfrowe, które dotychczas nie były wprost uwzględnione w definicji produktu.

Odpowiedzialność producenta AI – czy oprogramowanie może być produktem niebezpiecznym?

Jedną z najważniejszych zmian przewidzianych w dyrektywie (UE) 2024/2853 jest objęcie pojęciem produktu również oprogramowania, w tym systemów wykorzystujących sztuczną inteligencję. Oznacza to, że producent będzie mógł ponosić odpowiedzialność za szkody wyrządzone przez niebezpieczne właściwości systemu AI, także wtedy, gdy oprogramowanie nie stanowi fizycznego elementu urządzenia. Dotychczasowe przepisy dotyczące odpowiedzialności za produkt niebezpieczny były tworzone przede wszystkim z myślą o tradycyjnych produktach materialnych. Tymczasem funkcjonowanie nowoczesnych urządzeń i procesów produkcyjnych coraz częściej zależy od algorytmów, oprogramowania oraz jego aktualizacji.

Błędy AI po aktualizacji oprogramowania – kto ponosi odpowiedzialność?

Nowe zasady odpowiedzialności producenta AI mają obejmować również określone przypadki, w których niebezpieczne właściwości oprogramowania pojawią się już po wprowadzeniu produktu na rynek. Dotyczy to w szczególności sytuacji, gdy producent nadal sprawuje kontrolę nad systemem, jego aktualizacjami lub modernizacjami.

Przykładowo przedsiębiorstwo wykorzystuje urządzenie sterowane przez AI. Początkowo działa ono prawidłowo, jednak po aktualizacji oprogramowania zaczyna funkcjonować w sposób niebezpieczny i powoduje obrażenia pracownika.

W takim przypadku producent nie zawsze będzie mógł zwolnić się z odpowiedzialności, powołując się na fakt, że urządzenie było bezpieczne w momencie sprzedaży. Istotne znaczenie będzie miało m.in. to, czy aktualizacja pozostawała pod jego kontrolą oraz czy doprowadziła do powstania niebezpiecznych właściwości produktu. Dyrektywa (UE) 2024/2853 przewiduje również rozwiązania, które mają ułatwić poszkodowanym dochodzenie roszczeń odszkodowawczych związanych z produktami niebezpiecznymi, w tym systemami AI.

Do najważniejszych należą:

• ułatwienia w dostępie do dowodów – możliwość zobowiązania strony przez sąd do ujawnienia określonych dowodów istotnych dla rozstrzygnięcia sprawy.
• domniemania dotyczące wadliwości produktu lub związku przyczynowego – stosowane po spełnieniu określonych przesłanek, w szczególności gdy wykazanie tych okoliczności jest nadmiernie utrudnione ze względu na złożoność techniczną produktu.
• uwzględnienie specyfiki oprogramowania i AI – możliwość oceny bezpieczeństwa produktu z uwzględnieniem jego aktualizacji oraz innych czynników wpływających na działanie systemu.

Co istotne, nowe zasady mają zastosowanie do produktów wprowadzonych do obrotu lub oddanych do użytku od dnia 9 grudnia 2026 r. W odniesieniu do produktów wprowadzonych wcześniej zastosowanie znajdą dotychczasowe przepisy.

Nie każdy błąd AI będzie jednak podstawą do dochodzenia odszkodowania od producenta na podstawie nowych regulacji. Przepisy dotyczące odpowiedzialności za produkty niebezpieczne nie obejmują m.in. samej straty finansowej wynikającej z błędnej rekomendacji biznesowej ani szkód w mieniu wykorzystywanym wyłącznie do działalności gospodarczej. W takich przypadkach możliwość dochodzenia roszczeń należy oceniać na podstawie innych przepisów, np. dotyczących odpowiedzialności kontraktowej.

Jak ograniczyć ryzyko odpowiedzialności za błędy AI w firmie?

Korzystanie ze sztucznej inteligencji w firmie wiąże się z ryzykiem popełnienia błędów, które mogą prowadzić do strat finansowych lub odpowiedzialności prawnej. Dlatego przedsiębiorca powinien zadbać o kilka podstawowych zasad bezpiecznego wykorzystywania AI.

Aby ograniczyć ryzyko odpowiedzialności za błędy AI w firmie, warto:

• ustalić zasady korzystania z AI – określić, z jakich narzędzi mogą korzystać pracownicy i do jakich zadań mogą je wykorzystywać.
• sprawdzać informacje generowane przez AI – weryfikować dane, analizy i dokumenty przed ich wykorzystaniem lub przekazaniem klientom.
• chronić dane osobowe i informacje poufne – nie wprowadzać do narzędzi AI danych klientów, dokumentów firmowych ani tajemnic przedsiębiorstwa bez odpowiedniej podstawy i zabezpieczeń.
• szkolić pracowników – wyjaśnić, jak prawidłowo korzystać z AI, jakie błędy może popełniać system i kiedy konieczna jest kontrola człowieka.
• sprawdzać warunki korzystania z narzędzi AI – zwracać uwagę na zasady przetwarzania danych, odpowiedzialność dostawcy i możliwość wykorzystywania przesyłanych treści.
• reagować na błędy AI – zgłaszać nieprawidłowości i ustalać, kto odpowiada za ich weryfikację oraz usunięcie.

Przestrzeganie tych zasad nie zwalnia przedsiębiorcy z odpowiedzialności za błędy AI, ale może zmniejszyć ryzyko powstania szkody i ułatwić wykazanie, że firma dochowała należytej staranności przy korzystaniu ze sztucznej inteligencji.

Podsumowanie

Odpowiedzialność za błędy sztucznej inteligencji zależy od tego, kto i w jaki sposób wykorzystuje AI oraz co doprowadziło do powstania szkody. Przedsiębiorca może odpowiadać za niewłaściwe wdrożenie lub brak nadzoru nad systemem, pracownik za zawinione naruszenie obowiązków służbowych, a producent lub dostawca za nieprawidłowe działanie technologii na zasadach przewidzianych w odpowiednich przepisach. Istotne znaczenie mają również nowe regulacje unijne dotyczące odpowiedzialności za produkty niebezpieczne, które od dnia 9 grudnia 2026 r. mają obejmować także oprogramowanie i systemy AI. Nie oznacza to jednak, że każdy błąd sztucznej inteligencji będzie automatycznie podstawą do uzyskania odszkodowania. Dla przedsiębiorców najważniejsze jest zatem nie tylko wdrożenie AI, ale również zapewnienie odpowiednich zasad jego wykorzystywania. Weryfikacja informacji, ochrona danych oraz nadzór nad działaniem systemów mogą ograniczyć ryzyko szkód i związanej z nimi odpowiedzialności prawnej.