Zakazane praktyki w zakresie sztucznej inteligencji – wytyczne Komisji Europejskiej dotyczące AI

×

Rozporządzenie AI ACT

Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji) (Tekst mający znaczenie dla EOG), czyli AI ACT ma na celu poprawę funkcjonowania rynku wewnętrznego poprzez ustanowienie jednolitych ram prawnych dla systemów AI.

Zakres rozporządzenia AI ACT głównie obejmuje:

• rozwój systemów AI,
• wprowadzanie systemów AI do obrotu,
• oddawanie systemów AI do użytku,
• wykorzystywanie systemów AI w Unii,
• promowanie AI zorientowanej na człowieka i godnej zaufania,
• zapewnienie wysokiego poziomu ochrony:
  • zdrowia,
  • bezpieczeństwa,
  • praw podstawowych (zgodnie z Kartą praw podstawowych UE),
  • demokracji i praworządności,
  • ochrony środowiska,
  • ochrony przed szkodliwymi skutkami AI,
  • promowanie rozwoju i wdrażania AI,
  • swobodny przepływ AI w UE.

Więcej na temat AI ACT przeczytasz tutaj.

Zakazane praktyki w zakresie sztucznej inteligencji

Zakazane praktyki w zakresie AI uregulowane są w rozdziale II, w szczególności w artykule 5 rozporządzenia AI ACT.

Zakazane są praktyki AI obejmujące:

• manipulację i techniki podprogowe, które ograniczają świadome decyzje i mogą wyrządzać szkodę;
• wykorzystanie słabości osób ze względu na wiek, niepełnosprawność lub trudną sytuację społeczną, jeśli prowadzi to do istotnych negatywnych konsekwencji;
• scoring społeczny, który skutkuje niesprawiedliwym traktowaniem w niepowiązanych kontekstach lub w sposób nieproporcjonalny do zachowania;
• profilowanie kryminalne, jeśli opiera się wyłącznie na cechach osobistych, bez obiektywnych dowodów;
• masowe zbieranie wizerunków twarzy z Internetu lub nagrań cctv do baz rozpoznawania twarzy;
• analizę emocji w pracy i edukacji, chyba że dotyczy to kwestii medycznych lub bezpieczeństwa;
• biometryczne kategoryzowanie osób na podstawie rasy, poglądów politycznych, religii, orientacji seksualnej itp.;
• zdalną identyfikację biometryczną w przestrzeni publicznej do celów ścigania przestępstw, z wyjątkami dotyczącymi poszukiwań ofiar, zapobiegania zagrożeniom i ścigania poważnych przestępstw.

Powyższe zakazane praktyki oraz przepisy ogólne rozporządzenia AI ACT należy stosować już od 2 lutego 2025 roku.

Należy jednak pamiętać, że rozporządzenie przewiduje wyjątek od ogólnych zakazów dotyczących wykorzystywania systemów zdalnej identyfikacji biometrycznej w czasie rzeczywistym. Co do zasady takie systemy są zabronione, jednak w wyjątkowych przypadkach, które zazwyczaj są związane z ściganiem przestępstw, mogą być używane, ale tylko pod pewnymi warunkami, tj.:

• Systemy mogą być stosowane wyłącznie w celu potwierdzenia tożsamości konkretnej osoby, która jest poszukiwana w ramach działań ścigania przestępstw. Jednakże przed użyciem systemu muszą zostać uwzględnione dwie kluczowe kwestie w postaci określenia charakteru sytuacji oraz konsekwencji dla praw i wolności osób.
• Zabezpieczenia i proporcjonalność: korzystanie z systemu musi być zgodne z prawem krajowym i przestrzegać zasad proporcjonalności. Oznacza to, że powinny być wprowadzone ograniczenia dotyczące czasu, miejsca i osób objętych użyciem systemu. Ponadto przed użyciem systemu musi zostać przeprowadzona ocena skutków dla praw podstawowych.
• Wykorzystanie takich systemów wymaga uprzedniego zezwolenia od organu wymiaru sprawiedliwości lub niezależnego organu administracyjnego. W uzasadnionych przypadkach, w sytuacjach pilnych, można rozpocząć użycie systemu bez zezwolenia, ale wymaga to złożenia wniosku o zezwolenie w ciągu 24 godzin.
• Po każdym użyciu systemu należy powiadomić odpowiednie organy nadzoru rynku i ochrony danych osobowych, zgodnie z przepisami krajowymi. Powiadomienie nie może zawierać wrażliwych danych operacyjnych.

Wytyczne Komisji Europejskiej w sprawie AI ACT

Komisja Europejska opublikowała w dniu 4 lutego 2025 r. wytyczne dotyczące zakazanych praktyk w zakresie sztucznej inteligencji zgodnie z definicją zawartą w akcie w sprawie sztucznej inteligencji. Wytyczne mają na celu zapewnienie jednolitego i skutecznego wdrażania przepisów dotyczących sztucznej inteligencji na terenie UE. Jednakże należy podkreślić, że wytyczne nie mają one mocy wiążącej, albowiem ostateczna wykładnia prawa należy do Trybunału Sprawiedliwości Unii Europejskiej (TSUE).

Dokumenty publikujące wytyczne znajdziesz tutaj.

Kary za naruszenie zakazu stosowania praktyk

Warto również zauważyć, że Komisja Europejska przewiduje za naruszenie zakazów następujące sankcje:

• grzywna dla dostawców i użytkowników AI:
  • do 35 000 000 EUR, albo
  • jeśli sprawcą jest firma, do 7% jej całkowitego rocznego obrotu na całym świecie za poprzedni rok finansowy (w zależności od tego, która kwota jest wyższa);
• kary administracyjne dla publicznych organów i instytucji – każde państwo członkowskie powinno określić, czy i w jakim zakresie administracyjne kary mogą być nałożone na publiczne organy i instytucje działające jako dostawcy i użytkownicy systemów AI;
• grzywna administracyjna dla instytucji, organów i agencji UE – do 1 500 000 EUR w przypadku naruszenia zakazów przez instytucje, organy i agencje UE.

Podsumowanie

Rozporządzenie AI ACT i wytyczne Komisji Europejskiej AI regulują i wyjaśniają kwestie dotyczące wprowadzenia restrykcji na stosowanie systemów AI, które mogą stanowić poważne zagrożenie dla praw podstawowych, wolności obywatelskich i wartości UE. Komisja Europejska zaakceptowała projekt wytycznych, jednak ich formalne przyjęcie wciąż jest w toku.

W Polsce aktualnie opracowywany jest rządowy projekt ustawy dotyczącej systemów sztucznej inteligencji (nr UC71), który znajduje się obecnie w fazie konsultacji. Z procesem legislacyjnym zapoznasz się tutaj.