Organizacje branżowe zgłosiły uwagi do nowej wersji projektu ustawy o systemach AI

Organizacje branżowe zgłosiły uwagi do nowej wersji projektu ustawy o systemach sztucznej inteligencji. Ustawa ma wdrożyć do polskiego porządku prawnego przepisy Aktu o AI.

To już drugi raz, gdy organizacje mogły zgłaszać uwagi do projektu ustawy. Jak czytamy na stronie internetowej Ministerstwa Cyfryzacji, po pierwszej turze konsultacji społecznych jesienią ub.r. wzięto pod uwagę dwa tys. uwag, opinii i propozycji.

Przypomnijmy, że od początku według założeń projektu, organem nadzoru rynku, który będzie mógł przeprowadzać kontrole przedsiębiorstw i wszczynać wobec nich postępowania, jest Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji. Według najnowszej wersji projektu, w komisji zasiadać będą przedstawiciele jedynie siedmiu jednostek, a nie jak wcześniej proponowano – kilkunastu. Mowa tu o przedstawicielach prezesów Urzędu Ochrony Konkurencji i Konsumentów, Komisji Nadzoru Finansowego, Rzecznika Praw Dziecka, Krajowej Rady Radiofonii i Telewizji, Urzędu Komunikacji Elektronicznej, Państwowej Inspekcji Pracy, Urzędu Rejestracji Produktów Leczniczych, Wyrobów Medycznych i Produktów Biobójczych.

W kwestii składu Komisji zastrzeżenia ma Karol Kościński, dyrektor generalny Stowarzyszenia Autorów ZAiKS. – Po pierwszej fazie konsultacji projekt nadal nie spełnia podstawowego dla nas warunku, jakim jest uwzględnienie Ministerstwa Kultury w składzie Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, a także organizacji reprezentujących twórców w Społecznej Radzie ds. Sztucznej Inteligencji. W naszym stanowisku skierowanym do Ministerstwa Cyfryzacji zdecydowanie podkreślamy, że tylko uczciwe włączenie twórców w dialog o AI gwarantuje realizację przepisów Aktu o AI – ocenia Karol Kościński.

Mniej krytycznie do obecnego projektu ustawy podchodzi Fundacja Panoptykon. Według Mateusza Wrotnego, prawnika z tej organizacji, projekt ustawy o systemach sztucznej inteligencji poszedł w dobrą stronę. Według eksperta po pierwszych konsultacjach społecznych uwzględniono kilka ważnych postulatów, jak m.in. niewłączanie przedstawiciela Ministra Koordynatora Służb Specjalnych do Komisji Rozwoju AI. Zdaniem Wrotnego ważnym krokiem jest także umożliwienie składania skarg na stosowanie systemów sztucznej inteligencji, ale przydałby się tu jednak bardziej przejrzysty sposób rozstrzygania skargi.

- W art. 50 w bieżącej wersji projektu ustawy mowa jest, iż skarżący powinien podać nazwę systemu, co do którego ma zastrzeżenia - mówi Mateusz Wrotny. - W naszej ocenie to wyśrubowany wymóg: skarżący powinien mieć co najwyżej obowiązek opisania, jakiego rodzaju problemy kreuje dany system. Wątpliwości budzi również procedura rozpatrywania skargi: według przepisów może być ona rozpatrywana zarówno przez przewodniczącego Komisji Rozwoju AI, jak i przez samą Komisję, co w naszym odczuciu otwiera furtkę do osłabienia funkcjonalności tego mechanizmu. Postulujemy także, by wprowadzić obowiązek sporządzenia uzasadnienia, jeśli któryś z dwóch podmiotów – Komisja Rozwoju AI lub jej przewodniczący – zdecyduje, że nie ma przesłanek do wszczęcia postępowania w sprawie naruszeń unijnego aktu o sztucznej inteligencji – zaznacza Wrotny.

Zastrzeżenia Fundacji Panoptykon budzi również obecna treść art. 21. Według Wrotnego brakuje w nim doprecyzowania reguł rozstrzygania konfliktu
interesów w sytuacji, gdy dany system sztucznej inteligencji został wprowadzony przez instytucję, która ma swojego przedstawiciela w Komisji AI. – Wyobraźmy sobie, że do Komisji wpływa skarga na system stosowany przez Państwową Inspekcję Pracy, która wyznacza swojego przedstawiciela do zasiadania w Komisji. W takiej sytuacji przedstawiciel PIP powinien być wyłączony z obrad w tym temacie – ocenia Mateusz Wrotny.

Wreszcie, Fundacja Panoptykon ma uwagi dotyczące art. 4, w którym mowa, w jakich sprawach wobec działań służb specjalnych nie stosuje się ustawy o systemach sztucznej inteligencji. Chodzi konkretnie o art. 4 ust.2 i ust. 3, według którego ustawy nie stosuje się do "spraw związanych z realizacją zadań ustawowych Agencji Bezpieczeństwa Wewnętrznego oraz Agencji Wywiadu (a także Służby Kontrwywiadu Wojskowego i Służby Wywiadu Wojskowego - przyp. red.), w tym pozostających w bezpośrednim związku z tymi sprawami działaniami na rzecz lokalizowania, ścigania oraz identyfikowania osoby podejrzanej, wobec której toczy się postępowanie przygotowawcze lub skazanej prawomocnym wyrokiem sądu (…)".

Mateusz Wrotny: - Przy takim brzmieniu przepisów na dobrą sprawę nie wiemy, w jakim zakresie służby specjalne nie będą podlegać pod ustawę. A to kreuje ryzyko, że służby będą sędziami we własnej sprawie i to one będą decydowały, czy działania związane z użyciem konkretnego systemu AI będą wyłączone spod jurysdykcji ustawy – podkreśla.

(MZD, 05.03.2025)