Kancelaria Radców Prawnych Górski&Szetela

Podpisana przez Prezydenta ustawa o systemach AI określa w szczególności:

• organizację i sposób sprawowania nadzoru nad rynkiem systemów sztucznej inteligencji oraz modelami sztucznej inteligencji ogólnego przeznaczenia,
• zasady postępowania w sprawie naruszenia AI Act,
• warunki i tryb akredytacji oraz notyfikacji jednostek oceniających zgodność,
• działania wspierające rozwój systemów sztucznej inteligencji,
• zasady nakładania administracyjnych kar pieniężnych za naruszenie AI Act.

Na podstawie tej ustawy zostanie utworzona Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (KRiBSI), która będzie sprawowała nadzór nad rynkiem systemów sztucznej inteligencji.

Kogo dotyczy AI Act?

• Podmiotów stosujących systemy AI, jeżeli mają siedzibę lub znajdują się w Unii Europejskiej
• Dostawców systemów AI wprowadzających je do obrotu lub oddających do użytku w Unii, a także dostawców wprowadzających do obrotu w Unii modele AI ogólnego przeznaczenia, niezależnie od miejsca ich siedziby.
• Dostawców i podmiotów stosujących systemy AI spoza Unii, jeżeli wyniki działania tych systemów są wykorzystywane w Unii.
• Importerów i dystrybutorów systemów AI.
• Producentów produktów, którzy wprowadzają system AI do obrotu lub oddają go do użytku wraz ze swoim produktem, pod własną nazwą lub znakiem towarowym.
• Upoważnionych przedstawicieli dostawców niemających siedziby w Unii.
• Osób znajdujących się w Unii, na które system AI wywiera wpływ.

W praktyce AI Act ma zatem zastosowanie nie tylko do podmiotów z Unii Europejskiej, lecz także do niektórych podmiotów spoza UE, jeżeli ich systemy AI lub wyniki ich działania są związane z rynkiem unijnym.

Ustawa o systemach sztucznej inteligencji wyłącza natomiast stosowanie ustawy w przypadku osób fizycznych, jeżeli stosują one systemy AI wyłącznie dla celów osobistych i niepozostających w związku z wykonywaną działalnością gospodarczą.

Obowiązki przedsiębiorców stosujących systemy AI obejmują:

• zapewnienie odpowiedniego poziomu kompetencji w zakresie AI wśród personelu i innych osób obsługujących lub wykorzystujących systemy AI;
• przestrzeganie zakazu stosowania niedozwolonych praktyk w zakresie AI;
• w przypadku systemów AI wysokiego ryzyka:
   - stosowanie odpowiednich środków technicznych i organizacyjnych, aby system był używany zgodnie z instrukcją obsługi;
  - zapewnienie nadzoru człowieka sprawowanego przez osoby posiadające odpowiednie kompetencje, przeszkolenie, uprawnienia i wsparcie;
  - przechowywanie automatycznie generowanych przez system rejestrów zdarzeń;
  - poinformowanie pracowników oraz ich przedstawicieli o wykorzystywaniu wobec nich systemu AI wysokiego ryzyka;
• informowanie osób fizycznych o stosowaniu wobec nich:
  - systemów rozpoznawania emocji;
  - systemów kategoryzacji biometrycznej;
  - oraz o przetwarzaniu ich danych osobowych;
• oznaczanie wygenerowanych lub zmanipulowanych przez AI treści typu deepfake, w tym obrazów, nagrań audio i wideo;
• informowanie, że tekst publikowany w celu informowania społeczeństwa o sprawach leżących w interesie publicznym został wygenerowany lub zmanipulowany przez system AI.

Natomiast przedsiębiorcy z branży IT, którzy tworzą oprogramowanie z użyciem AI posiadają dodatkowe obowiązki wynikające z AI ACT, o czym już niebawem w kolejnych naszych artykułach.

Jakie kary za naruszanie AI Act mogą zostać nałożone na przedsiębiorców?

• naruszenie zakazu stosowania praktyk AI – kara pieniężna w wysokości do 35 000 000 EUR lub - jeżeli sprawcą naruszenia jest przedsiębiorstwo - w wysokości do 7 % jego całkowitego rocznego światowego obrotu z poprzedniego roku obrotowego, w zależności od tego, która z tych kwot jest wyższa,
• naruszenia obowiązków dostawców, importerów, dystrybutorów, podmiotów stosujących oraz obowiązków w zakresie przejrzystości - kara pieniężna w wysokości do 15 000 000 EUR lub - jeżeli sprawcą naruszenia jest przedsiębiorstwo - w wysokości do 3 % jego całkowitego rocznego światowego obrotu z poprzedniego roku obrotowego, w zależności od tego, która z tych kwot jest wyższa,
•  dostarczanie nieprawidłowych, niekompletnych lub wprowadzających w błąd informacji jednostkom notyfikowanym lub właściwym organom krajowym w odpowiedzi na ich wniosek - kara pieniężna w wysokości do 7 500 000 EUR lub - jeżeli sprawcą naruszenia jest przedsiębiorstwo - w wysokości do 1 % jego całkowitego rocznego światowego obrotu z poprzedniego roku obrotowego, w zależności od tego, która z tych kwot jest wyższa.

Do nakładania powyższych kar pieniężnych uprawniona jest nowo utworzona Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji w drodze decyzji.

Ustawa o systemach sztucznej inteligencji zacznie obowiązywać po upływie 14 dni od dnia ogłoszenia ustawy w Dzienniku Ustaw, natomiast przepisy dotyczące sprawowania kontroli przez organ uprawniony oraz przepisy dotyczące stosowania administracyjnych kar pieniężnych zaczną obowiązywać po upływie 3 miesięcy od dnia ogłoszenia ustawy w Dzienniku Ustaw.

Jeżeli mają Państwo pytania dotyczące wdrożenia regulacji w zakresie systemów AI zapraszamy Państwa do kontaktu z naszą Kancelarią.