Projekt ustawy o systemach sztucznej inteligencji – jakie będą zmiany w polskim prawie?

16 października 2024 roku na stronie Rządowego Centrum Legislacji pojawił się projekt ustawy o systemach sztucznej inteligencji. Jego głównym celem jest dostosowanie krajowych przepisów do wymogów wynikających z rozporządzenia AI Act, które zobowiązuje państwa członkowskie do stworzenia systemu nadzoru nad sztuczną inteligencją zgodnego z przepisami Unii Europejskiej.

Czas na nowe instytucje nadzoru – Komisja Rozwoju i Bezpieczeństwa sztucznej inteligencji

Projekt ustawy przewiduje utworzenie nowej struktury instytucjonalnej. Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji stanie się centralnym organem odpowiedzialnym za nadzór nad wdrażaniem i stosowaniem systemów AI.

Komisja będzie prowadzić kontrole zarówno w ramach rutynowego monitoringu zgodności z AI Act, jak i w odpowiedzi na zgłoszone skargi. Przy Komisji działać będzie również Społeczna Rada do spraw Sztucznej Inteligencji, pełniąca funkcję doradczą.

Jakie prawa będą mieli kontrolerzy sztucznej inteligencji?

Projekt ustawy zakłada, że kontrolerzy będą dysponować szerokim zakresem uprawnień. Zgodnie z art. 43 ust. 4, będą mogli:

• żądać dostępu do systemów teleinformatycznych i dokumentów związanych z działaniem systemów AI
• przetwarzać dane osobowe w zakresie niezbędnym do realizacji zadań kontrolnych
• dokonywać oględzin systemów AI, urządzeń oraz nośników danych, które mogą zawierać informacje istotne z punktu widzenia kontroli.

Zdalna kontrola systemów AI – nowe podejście do nadzoru

Projekt ustawy zakłada, że kontrole przeprowadzane przez Komisję będą realizowane głównie w sposób zdalny. W wyjątkowych, szczególnie uzasadnionych przypadkach, kontrola może odbywać się również w siedzibie podmiotu kontrolowanego lub w miejscu prowadzenia przez niego działalności. Zdalny nadzór umożliwi Komisji monitorowanie systemów AI w czasie rzeczywistym, co ma kluczowe znaczenie dla technologii wymagających ciągłego nadzoru.

Kary administracyjne i sankcje utrudnianie kontroli

Ustawa przewiduje szczegółowe procedury w zakresie naruszenia przepisów AI Act. Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji jest uprawniona do nakładania kar administracyjnych, chociażby za brak zgodności z wymaganiami dotyczącymi bezpieczeństwa, oceny ryzyka lub niewłaściwego raportowania incydentów związanych ze sztuczną inteligencją.

Udaremnianie lub utrudnianie organowi prowadzenie kontroli podlega grzywnie do 500 00 zł, karze ograniczenia wolności labo pozbawienia wolności do lat dwóch. 

Przyszłość regulacji AI w Polsce – co nas czeka?

Opublikowane przepisy to dopiero początek prac nad krajowymi regulacjami dotyczącymi sztucznej inteligencji. Szczególną uwagę warto zwrócić na szerokie uprawnienia Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, które wywołują już teraz wiele dyskusji w branży.

Masz pytania dotyczące nadchodzących zmian prawnych w zakresie sztucznej inteligencji? Skontaktuj się z nami, a nasi eksperci udzielą Ci szczegółowych informacji i pomogą przygotować się na nowe regulacje.