AI Act już za chwilę, a urzędy nadal nie wiedzą, czy używają AI

Od 2 sierpnia 2026 r. zacznie być stosowany AI Act. Choć rozporządzenie ma zwiększyć przejrzystość i kontrolę nad wykorzystaniem sztucznej inteligencji, wiele urzędów oraz instytucji publicznych wciąż nie potrafi jednoznacznie odpowiedzieć, czy używa systemów objętych nowymi regulacjami. Zdaniem ekspertów niejasności wokół definicji AI mogą sprzyjać unikaniu części obowiązków przewidzianych przez unijne prawo.

Akt o AI będzie stosowany od 2 sierpnia 2026 roku (z wyjątkiem wybranych przepisów) i obejmie wszystkie podmioty używające systemy sztucznej inteligencji w Unii Europejskiej. Tymczasem wiele instytucji publicznych nie potrafi lub nie chce powiedzieć, czy używa sztucznej inteligencji. Problem zaczyna się od samej definicji systemów AI.

Urzędy same oceniają, czy korzystają z AI

W AI Act pojęcie systemu sztucznej inteligencji oznacza “system maszynowy, który został zaprojektowany do działania z różnym poziomem autonomii po jego wdrożeniu oraz który może wykazywać zdolność adaptacji po jego wdrożeniu, a także który – na potrzeby wyraźnych lub dorozumianych celów – wnioskuje, jak generować na podstawie otrzymanych danych wejściowych wyniki, takie jak predykcje, treści, zalecenia lub decyzje, które mogą wpływać na środowisko fizyczne lub wirtualne” (art. 3 pkt 1 AI Act). 

Ta definicja obejmuje popularne generatywne chatboty (np. Claude, ChatGPT), duże modele językowe i część rozwiązań znanych od lat:

• systemy uczenia maszynowego,
• modele predykcyjne,
• narzędzia scoringowe.

Każdy podmiot musi dokonać samodzielnie oceny, czy system, z którego korzysta spełnia definicję z art. 3 ust. 1 AI Act. Oznacza to, że również instytucja publiczna musi sama ustalić, czy dane narzędzie to w ogóle system AI oraz określić swoją rolę np. jako dostawca lub podmiot stosujący, co determinuje zakres jej obowiązków – tłumaczy Paweł Dymek, radca prawny z kancelarii prawniczej Głowacki i Wspólnicy.

Tymczasem instytucje publiczne interpretują definicję z AI Act bardzo swobodnie. Tak wynika z raportu „Kto, do czego i jak korzysta z AI?” przygotowanego przez Sieć Obywatelską Watchdog Polska.

Czytaj też w LEX: Obowiązki w zakresie przejrzystości dla dostawców i podmioty stosujące AI >

Niejasna definicja AI sprzyja unikaniu obowiązków

Watchdog Polska zapytała o korzystanie ze sztucznej inteligencji 5480 jednostek samorządu terytorialnego, ministerstw, sądów, placówek medycznych i spółek komunalnych (ok. 1500 nie odpowiedziało). Raport z kwietnia 2026 roku pokazuje, że dla niektórych urzędów systemem AI jest oprogramowanie OCR służące do rozpoznawania tekstu na zeskanowanych dokumentach, wiele przez takie systemy rozumie aplikacje do generowania treści (np. ChtatGPT) a inne odmawiają ujawnienia zaawansowanych modeli analitycznych, twierdząc, że ich rozwiązania definicji nie spełniają.

Nasze badanie pokazało, że spór o definicję bywa pretekstem dla ucieczki od jawności. Instytucja może twierdzić, że dane narzędzie nie jest systemem AI, że AI jest tylko jednym z modułów, że funkcja jest opcjonalna, nieaktywna albo że ostateczną decyzję i tak podejmuje człowiek – podkreśla Michał Zemełka, autor raportu Sieci Obywatelskiej Watchdog Polska. 

Czytaj też w LEX: Sztuczna inteligencja w administracji samorządowej >

– Zbyt wąskie interpretowanie definicji systemu AI może być chęcią uniknięcia rygorystycznych procedur wynikających z rozporządzenia. Z drugiej strony raport Watchdog pokazuje też, że w innych przypadkach wszystkie systemy informatyczne są uznawane przez instytucje publiczne za system AI, co sugeruje niską świadomość co do nowych regulacji - ocenia mecenas Paweł Dymek.

Raport Watchdog Polska opisuje trzy przypadki związane z niejasną definicją systemów opartych na AI.

Czytaj też w LEX: Czy organ ochrony środowiska może korzystać z AI przy kontroli i analizie danych? >

ZUS, ABW – gdzie kończy się technologia a zaczyna AI?

Zakład Ubezpieczeń Społecznych używa narzędzia opartego na modelu predykcyjnym do analizy zwolnień lekarskich. Przypisuje im wartość scoringową, aby wskazać ryzyko nieprawidłowości przy wystawieniu dokumentu. Wynik analizy jest jednym z elementów uwzględnianych przez lekarzy orzeczników przy decydowaniu o kontroli zaświadczenia. System wydaje się stosować techniki wymienione w definicji systemów sztucznej inteligencji, ale ZUS nie uznaje go za system AI w rozumieniu AI Act. - Dlatego nie czuje się zobligowany do stosowania takich mechanizmów zabezpieczających, jak kwalifikacja ryzyka czy ocena skutków dla praw podstawowych (FRIA) - czytamy w raporcie „Kto, do czego i jak korzysta z AI?”.

Czytaj też w LEX: Decentralizacja władzy publicznej – relacje czy zależności w aspekcie finansowego działania jednostek samorządu terytorialnego w dobie AI >

System STIR w Krajowej Izbie Rozrachunkowej służy natomiast do analizy ryzyka wykorzystywania rachunków bankowych do wyłudzeń skarbowych. - Z uwagi na funkcje, które realizuje (między innymi wyliczanie wskaźnika ryzyka, będącego podstawą do blokowania kont podatników), trudno uwierzyć, że nie korzysta z technologii mieszczących się w definicji AI z AI Act - czytamy w wynikach badań Watchdog Polska. Jednak nie można tego z całą pewnością wykazać, bo Ministerstwo Finansów i KIR oszczędnie udzielają informacji na ten temat.

– Wskaźniki ryzyka w STIR ustala Krajowa Izba Rozliczeniowa. Przy podejmowaniu decyzji o blokadzie rachunków brane są pod uwagę różne informacje i okoliczności, w tym dane podatkowe wynikające z systemów informatycznych Krajowej Administracji Skarbowej oraz dane o przepływach i saldach na rachunkach bankowych – odpowiada biuro prasowe Ministerstwa Finansów na pakiet pytań o m.in. ewentualne wykorzystanie AI w STIR.

Z uwagi na poufność informacji o STIR, zastrzeżoną również ustawowo, przekazanie w odpowiedzi na Pana pytania danych w szerszym zakresie niż to wynika z powyższych dokumentów nie jest możliwe – odpowiada Anna Olszewska, rzeczniczka prasowa KIR.

Odsyła do ordynacji podatkowej oraz druku sejmowego nr 1880 (Ocena Skutków Regulacji) dotyczącego ustawy z dnia 24 listopada 2017 r. o zmianie niektórych ustaw w celu przeciwdziałania wykorzystywaniu sektora finansowego do wyłudzeń skarbowych.

Czytaj też w LEX: Budowa systemu zarządzania ryzykiem wdrażania mechanizmów opartych o AI w organizacji zgodnie z normami ISO i dobrymi praktykami >

O stosowanych systemach milczy Agencja Bezpieczeństwa Wewnętrznego. Argument: nawet sama odpowiedź – niezależnie od jej treści – mogłaby ujawnić metody działania i zainteresowania operacyjne służb. Watchdog Polska zauważa, że gdyby systemy AI nie były stosowane wcale lub nie były stosowane w związku z działaniami operacyjnymi, nie byłoby powodu do odmowy.

Czytaj też w LEX: Przeciwdziałanie dezinformacji jako zadanie samorządu terytorialnego >

Regulacja zwiększa ostrożność urzędów

Watchdog Polska ocenia, że zbliżający się termin wdrożenia AI Act działa odwrotnie do zamierzonego efektu.

Kiedy pytaliśmy bardziej szczegółowo o konkretne systemy, ryzyka, dokumentację, ocenę skutków dla ochrony danych, czy ocenę wpływu na prawa podstawowe, uzyskanie informacji stało się trudniejsze. Część instytucji, które wcześniej deklarowały użycie AI, później zaczęła twierdzić, że jednak z systemów AI nie korzysta albo że dane rozwiązanie nie mieści się w definicji z AI Act – tłumaczy Michał Zemełka.

Nowe obowiązki wynikające z unijnych regulacji mogły w niektórych przypadkach zwiększyć ostrożność w przyznawaniu, że dane rozwiązanie jest AI. Powód? Instytucja, która stosuje systemy sztucznej inteligencji, musi m.in.:

• zapewnić zgodność systemu z instrukcją dostawcy,
• wdrożyć nadzór człowieka sprawowany przez kompetentne osoby,
• prowadzić bieżące monitorowanie,
• w przypadku systemów wysokiego ryzyka przeprowadzić ocenę skutków dla praw podstawowych.

Polecamy szkolenie online w LEX: Wdrożenie AI w JST: obowiązki prawne, ryzyka i decyzje organizacyjne Sekretarza >

– Dziś problem polega na tym, że administracji często bardziej opłaca się nie nazwać czegoś AI, niż wziąć odpowiedzialność za konsekwencje takiej kwalifikacji. Ten mechanizm odwrócimy dopiero wtedy, gdy jawność stanie się normalnym warunkiem korzystania ze sztucznej inteligencji, a ukrywanie jej użycia będzie realnym ryzykiem prawnym i organizacyjnym dla instytucji – podkreśla Michał Zemełka.

Surowe kary za celowe zaniżanie ryzyka

Watchdog Polska rekomenduje m.in. przyjęcie jednolitej, operacyjnej definicji systemu AI na potrzeby stosowania przepisów w administracji publicznej. To ograniczy możliwość dowolnej interpretacji przez instytucje.

Mnożenie kolejnych definicji AI uważałbym za błąd. AI Act już zawiera definicję systemu AI, którą Komisja szczegółowo objaśniła w wytycznych, choć sam fakt, że potrzebny był 15 stronicowy dokument wyjaśniający jedną definicję, pokazuje złożoność materii – ocenia ten pomysł Paweł Dymek

Zauważa, że urzędnikom potrzebna jest edukacja i wsparcie w stosowaniu istniejącej definicji oraz wytycznych Komisji.

Pozostałe rekomendacje Watchdog Polska to:

• prowadzenie zasady, że o kwalifikacji systemu decyduje jego funkcjonalność i faktyczny wpływ na sytuację obywateli, a nie wyłącznie deklaracja podmiotu go stosującego,
• utworzenie centralnego, publicznego rejestru zastosowań AI w administracji,
• ustanowienie niezależnego mechanizmu szybkiej weryfikacji zasadności odmów udostępnienia informacji o systemach AI (bez długotrwałego postępowania sądowego).

Czytaj też w LEX: Wykorzystanie sztucznej inteligencji przez jednostki samorządu terytorialnego w Polsce - wyzwania legislacyjne transformacji cyfrowej w finansach publicznych >

Mecenas Dymek podkreśla, że unijne prawo już teraz nakazuje kwalifikację systemu na podstawie jego realnej funkcji i wpływu na obywatela, a za celowe zaniżanie ryzyka grozi interwencja organu nadzoru z art. 80 oraz surowe kary. Po weryfikacji organ nadzoru nakazuje dostawcy natychmiastowe wdrożenie pełnych wymogów dla systemów wysokiego ryzyka i działania naprawcze. Ignorowanie tych zaleceń grozi gigantycznymi karami finansowymi z art. 99 AI Act.

Może to być droga do dyscyplinowania takiej wąskiej wykładni definicji systemu AI – podsumowuje Paweł Dymek.

Według niego ciekawym pomysłem jest utworzenie centralnego, krajowego rejestru zastosowań AI, który w przeciwieństwie do bazy unijnej, objąłby także systemy niższego ryzyka (jak chatboty) i realnie otworzył administrację na kontrolę społeczną. Taki mechanizm w pewnym stopniu mógłby ograniczyć skalę problemu z dostępnością do informacji, bo wiele informacji stanie się dostępnych z góry, bez wniosku.

Czytaj też w LEX: Emergentne AI. Jak samorząd lokalny adaptuje się do rewolucji AI >

Urzędy zaprzeczają używaniu AI, ale z niej korzystają

Dane ilościowe dopełniają obrazu użycia sztucznej inteligencji w instytucjach publicznych. Według badania Fundacji Miasto i Związku Miast Polskich, kwestię sztucznej inteligencji ujęło w dokumentach strategicznych 60 proc. badanych samorządów. Regulamin korzystania z narzędzi AI posiada zaledwie 8 proc. z nich.

Z kolei badanie Watchdog pokazuje, że wśród ponad 2000 gmin, które odpowiedziały na wniosek o informację, jedynie 20 posiadało wewnętrzne zasady korzystania z AI. W gminach innych niż miasta na prawach powiatu jest ich mniej niż 1 proc. Dla porównania, raport NASK wskazuje, że w drugiej połowie 2025 roku 46 proc. urzędników korzystało z generatywnej AI w celach zawodowych.

Czytaj też w LEX: Informatyzacja CUW – jak skutecznie przeprowadzić proces? >

Co ciekawe, raport “Kto, do czego i jak korzysta z AI” przywołuje dwie gminy, które oficjalnie zaprzeczyły korzystaniu z AI, a jednocześnie wydały decyzje administracyjne wskazujące na użycie generatywnej sztucznej inteligencji... m.in. ze zmyślonymi przepisami.