Wchodzą w życie pierwsze przepisy aktu o AI

2 lutego br. w całej UE zacznie obowiązywać zakaz używania oraz wprowadzania na rynek systemów AI, które zostały uznane za szczególnie niebezpieczne

Systemy zakazane AI

Chodzi o systemy stosujące zakazane praktyki w dziedzinie AI, szczegółowo opisane w art. 5 rozporządzenia 2024/1689.

W dużym uproszczeniu, przepis ten zakazuje systemów sztucznej inteligencji, które:

• stosują techniki podprogowe lub manipulacyjne;
• wykorzystują ludzkie słabości;
• prowadzą tzw. scoring społeczny;
• oceniają ryzyko popełnienia przestępstwa na podstawie profilowania lub cech osobowości;
• tworzą lub rozbudowują bazy danych służące rozpoznawaniu twarzy;
• analizują emocje danej osoby w pracy lub w szkole;
• służą kategoryzacji biometrycznej;
• służą identyfikacji biometrycznej w czasie rzeczywistym (wyjątki dotyczą zwalczania poważnej przestępczości i poszukiwaniu osób zaginionych).

Czytaj w LEX: Definicja prawnicza sztucznej inteligencji na podstawie rozporządzenia PE i Rady (UE) 2024/1689 w sprawie sztucznej inteligencji >

AI Literacy

Również 2 lutego 2025 r. wejdzie w życie art. 4 rozporządzenia, stanowiący obowiązek posiadania kompetencji w zakresie AI (tzw. AI Literacy). Stanowi on, że pracodawcy (dostawcy i podmioty stosujące systemy AI) podejmują środki w celu zapewnienia, w możliwie największym stopniu, odpowiedniego poziomu kompetencji w zakresie AI wśród swojego personelu i innych osób zajmujących się działaniem i wykorzystaniem systemów AI w ich imieniu..

Czytaj także: Gawrońska: Do stosowania sztucznej inteligencji w medycynie niezbędne są precyzyjne przepisy

Kolejne przepisy o AI wkrótce

Przypomnijmy, że cały czas trwają prace legislacyjnie na polską ustawą o systemach sztucznej inteligencji, która ma służyć właściwemu stosowaniu AI Act. Przepisy wchodzące w życie 2 lutego br. zostały jednak umieszczone w rozdziale I (przepisy ogólne) i rozdziale II (zakazane praktyki) rozporządzenia. Ministerstwo Cyfryzacji stoi na stanowisku, że przepisy tych rozdziałów „obowiązują wprost i nie wymagają podjęcia działań legislacyjnych przez państwa członkowskie”.

Kolejne przepisy rozporządzenia o AI wejdą w życie 2 sierpnia 2025 r. i będą dotyczyły m.in. obowiązków dostawców modeli AI ogólnego przeznaczenia (zalicza się do nic duże generatywne modele AI, zdolne do generowania tekstów, obrazów i innych treści), krajowych organów nadzorujących rynek oraz kar.