AI Act zobowiązuje urzędników do informowania o korzystaniu z systemów sztucznej inteligencji przy wydawaniu decyzji ważnych dla osób fizycznych, jednak tylko w niektórych sytuacjach. W większości przypadków urzędnicy użyją AI poniżej „pułapu" systemu wysokiego ryzyka, czyli bez obowiązku informowania obywatela o skorzystaniu z ChatGPT czy Claude.
AI Act, unijne rozporządzenie dotyczące sztucznej inteligencji, zaczyna obowiązywać etapami. Podmioty, które stosują systemy generujące treści mają od 2 sierpnia obowiązek informowania odbiorców o tym, że dany materiał – dźwiękowy, wizualny, audiowizualny lub tekstowy – powstał lub został zmodyfikowany przy użyciu AI. Obowiązek transparentności dotyczy też informowania o interakcji z AI (np. podczas rozmowy z chatbotem), informowania o systemach rozpoznawania emocji oraz informowania o kategoryzacji biometrycznej (art. 50 AI Act).
Czy w związku z tym pracownik instytucji, np. urzędu gminy lub urzędu miasta, ma obowiązek informować, że do przygotowania decyzji administracyjnej wykorzystał sztuczną inteligencję?
AI Act wprowadza obowiązek informowania o wykorzystaniu systemu AI do wydania decyzji, gdy wykorzystany został system AI wysokiego ryzyka. Poza tą kategorią, AI Act nie wprowadza ogólnego obowiązku informowania, że sztuczna inteligencja została wykorzystana przy wydaniu decyzji – mówi mecenas Julia Porębska z kancelarii Peak Legal.
Mecenas Porębska tłumaczy, że w przypadku systemów AI wysokiego ryzyka, zgodnie z art. 26 ust. 11 AI Act podmioty stosujące systemy z załącznika III, podejmujące decyzje lub uczestniczące w podejmowaniu decyzji dotyczących osób fizycznych, informują te osoby, że jest wobec nich wykorzystywany system AI wysokiego ryzyka. Dotyczyć może to np. systemów wykorzystywanych podczas naboru do instytucji edukacyjnych, do zatrudnienia i zarządzania pracownikami, dostępu do podstawowych usług i świadczeń publicznych czy ścigania przestępstw i zarządzania migracją.
Obywatel będzie miał prawo – zgodnie z artykułem 86 AI Act ust. 1 – do uzyskania wyjaśnienia na temat roli sztucznej inteligencji w procedurze podejmowania decyzji w indywidualnej sprawie jeżeli w jej sprawie użyto systemu wysokiego ryzyka z załącznika III.
Warunek: decyzja wywołuje skutki prawne lub w podobny sposób oddziałuje na tę osobę na tyle znacząco, że uważa ona, iż ma to niepożądany wpływ na jej zdrowie, bezpieczeństwo lub prawa podstawowe.
Jednak termin stosowania tych przepisów został przesunięty. Zgodnie z rozporządzeniem „Omnibus” przepisy AI Act dotyczące obowiązków podmiotów stosujących systemy AI wysokiego ryzyka z załącznika III, w tym art. 26 ust. 11, będą stosowane od 2 grudnia 2027 r.
Przeczytaj także: AI Act już za chwilę, a urzędy nadal nie wiedzą, czy używają AI
Tymczasem w większości przypadków pracownicy urzędów korzystają z narzędzi AI, które nie są klasyfikowane jako wysokiego ryzyka. Odbiorca nie dowie się, że w jego sprawie używana była sztuczna inteligencja.
Obowiązujący od 2 sierpnia 2026 r. art. 50 AI Act nie odnosi się do ogólnego obowiązku informowania o wykorzystaniu AI przy wydaniu decyzji. Dotyczy on natomiast obowiązków w zakresie przejrzystości, w tym oznaczania treści wygenerowanych lub zmanipulowanych przez AI.
W przypadku tekstu obowiązek ten dotyczy tekstu publikowanego w celu informowania społeczeństwa o sprawach leżących w interesie publicznym. Nie ma on zastosowania m.in. w przypadku treści poddanych weryfikacji przez człowieka lub kontroli redakcyjnej, jeżeli za publikację odpowiedzialność redakcyjną ponosi osoba fizyczna lub prawna – tłumaczy mecenas Julia Porębska.
Zgodnie z raportem NASK (badanie z jesieni 2025), 46 proc. pracowników urzędów korzysta w pracy z generatywnej AI. To najczęściej ChatGPT, Gemini, czy Claude. Jeżeli urzędnik wspomaga się tego typu narzędziami – np. do wyszukiwania przepisów, tworzenia szablonów pism, automatycznego tworzenia pism na podstawie danych lub analizy tekstu – a ostatecznie weryfikuje i ponosi odpowiedzialność za treść dokumentu, to nie musi informować o użyciu sztucznej inteligencji. Art. 86 ust. 1 AI Act nie ma zastosowania do tego typu narzędzi pomocniczych, bo nie są systemami wysokiego ryzyka.
Co może zrobić osoba, która chce uzyskać informacje o użyciu AI i ewentualnie zakwestionować decyzję?
Osoba będąca przedmiotem decyzji podjętej na podstawie wyników systemu AI wysokiego ryzyka wymienionego w załączniku III, z wyjątkiem systemów wymienionych w pkt 2 tego załącznika (systemy stosowane do zarządzania infrastrukturą krytyczną), może uzyskać jasne i merytoryczne wyjaśnienie roli systemu AI w procedurze podejmowania decyzji oraz głównych elementów podjętej decyzji - mówi mecenas Julia Porębska.
Jeżeli urzędnik nie wykorzystał systemu AI wysokiego ryzyka, to zainteresowanemu pozostaje skorzystać z przepisów Kodeksu postępowania administracyjnego oraz z dostępu do informacji publicznej.
Zgodnie z art. 73 k.p.a. strona postępowania administracyjnego ma prawo wglądu do akt sprawy oraz sporządzania z nich notatek, kopii lub odpisów. Inną drogą może być również procedura dostępu do informacji publicznej, np. w odniesieniu do informacji o wykorzystywaniu przez dany urząd określonych systemów AI – wymienia Julia Porębska.
Zauważa, że pojawienie się komponentu sztucznej inteligencji nie wyklucza więc skorzystania z dotychczasowych ścieżek kontroli działalności organów administracji publicznej. AI Act uzupełnia je o szczególne mechanizmy dotyczące określonych systemów AI wysokiego ryzyka.
Osoba, która chce mieć pełną informację, może zatem pytać, czy w jej sprawie użyto systemów sztucznej inteligencji, ewentualnie jakie narzędzia informatyczne zastosowano i czy instytucja ma wewnętrzne procedury dotyczące użycia sztucznej inteligencji. Organ ma obowiązek odpowiedzieć, chyba że informacja jest objęta wyjątkiem (np. tajemnica przedsiębiorcy, bezpieczeństwo).
Rozdźwięk między obowiązującym prawem i dobrymi praktykami pokazuje „Przewodnik po AI dla administracji publicznej" opublikowany w marcu 2026 roku przez Ministerstwo Cyfryzacji. Resort rekomenduje m.in. transparentne informowanie obywateli o wykorzystaniu AI (nawet jeśli nie ma takiego obowiązku prawnego) oraz opracowanie wewnętrznych zasad korzystania z AI (w tym dokumentowania użycia i weryfikacji treści wygenerowanych przez AI).
Tymczasem badanie Fundacji Miasto i Związku Miast Polskich (z września 2025) wykazało, że regulamin korzystania z narzędzi AI miało zaledwie kilka procent pytanych samorządów.
Trzeba wprowadzić obowiązek oznaczania użycia AI. Nie tylko wtedy, gdy system formalnie sam podejmuje decyzję, i nie tylko wtedy, gdy zostanie zakwalifikowany jako system wysokiego ryzyka. Obywatel powinien wiedzieć, że AI uczestniczyła w przygotowaniu dokumentu, pisma, analizy, rekomendacji albo rozstrzygnięcia, jeżeli mogło to mieć znaczenie dla jego sprawy. Bez takiej informacji nie wie nawet, że może zapytać o rolę systemu, domagać się wyjaśnienia, zakwestionować błąd albo zażądać realnej weryfikacji przez człowieka. – mówi Michał Zemełka, autor raportu Sieci Obywatelskiej Watchdog Polska "Kto, do czego i jak korzysta z AI?”.
Ministerstwo Cyfryzacji przypomina też w “Przewodniku”, że urzędnik powinien zawsze weryfikować treści wygenerowane przez AI, bo ponosi odpowiedzialność za treść pisma.
Tymczasem w raporcie Watchdog (opublikowanym w kwietniu 2026 roku) znalazły się trzy gminy, które w badaniu zaprzeczyły korzystaniu z systemów AI i jednocześnie deklarowały brak regulacji w tym zakresie albo w ogóle nie odpowiedziały na pytanie o takie regulacje.
Tymczasem skądinąd dysponujemy wydanymi przez nie w tym samym czasie decyzjami odmownymi, które najprawdopodobniej powstały z udziałem generatywnej AI. Wskazywały na to halucynowane przepisy, czyli odwołania do nieistniejących podstaw prawnych, oraz techniczne ślady charakterystyczne dla tekstu wygenerowanego z szablonu lub przez model językowy, na przykład nieuzupełnione tagi w rodzaju „gmina [nazwa]” - tłumaczy Michał Zemełka.
Sieć Obywatelska Watchdog Polska postulowała również utworzenie publicznego rejestru zastosowań AI w AI w administracji, aby obywatele wiedzieli, jakie systemy są używane.
