Od 2 sierpnia 2026 r. w całej Unii obowiązuje art. 50 ust. 4 rozporządzenia AI Act, dotyczący znakowania obrazów i treści, które zostały wygenerowane lub zmanipulowane przy użyciu sztucznej inteligencji. Chodzi tylko o treści deepfake, definiowane jako „obrazy, treści dźwiękowe lub treści wideo, które przypominają istniejące osoby, przedmioty, miejsca, podmioty lub zdarzenia, które odbiorca mógłby niesłusznie uznać za autentyczne lub prawdziwe” (art. 3 pkt 60 AI Act).
Tego typu materiały trzeba oznaczać „w jasny i wyraźny sposób, najpóźniej w momencie pierwszej interakcji lub pierwszego stosowania” (art. 50 ust. 5 AI Act).
Pierwsze tygodnie obowiązywania tych przepisów sugerują, że w praktyce sprawiają one wiele trudności.
Czytaj też w LEX: Obowiązki w zakresie przejrzystości dla dostawców i podmioty stosujące AI >
Głos wygenerowany przez AI – oznaczać czy nie?
Prawo.pl w artykule „Od 2 sierpnia treści tworzone w AI muszą być znakowane” pisało, że definicja deepfake jest szersza niż może wydawać się potocznie. Z drugiej strony są też tendencje do jej nadmiernego rozszerzania.
Popularna sieć hipermarketów w salach sprzedaży emituje komunikaty głosowe, dotyczące m.in. oferowanych promocji. Od sierpnia każdy taki komunikat kończy się zdaniem: „Głos został wygenerowany za pomocą AI”. Wśród prawników pojawiają się wątpliwości, czy firma nie nadinterpretuje obowiązku i czy takie oznaczenie jest faktycznie wymagane.
- Nie każde syntetyczne audio jest deepfake'em – zwraca uwagę Paula Skrzypecka, doktor nauk prawnych, CEO AI Leaders, przytaczając podaną wyżej definicję z art. 3 pkt 60.
Magdalena Michalska-Niewiadomska, radca prawny w Lawspective Litwiński Valirakis Radcowie Prawni, uważa, że nie jest to treść deepfake, a więc firma nie ma obowiązku oznaczania takiego komunikatu. - Syntetyczny lektor zapowiadający promocje nie podszywa się pod nikogo konkretnego. Potwierdzają to wytyczne KE do art. 50 z 20 lipca 2026 r.: wśród przykładów niebędących deepfake'iem wymieniają głos AI fikcyjnych postaci, np. w audiobookach, gdy nie ma zmylenia co do tożsamości lektora – mówi mec. Michalska-Niewiadomska.
Czytaj też w LEX: Audyt aplikacji mobilnych pod kątem cyberbezpieczeństwa i prywatności - przewodnik po wymogach wynikających z RODO, NIS 2, AI Act, wytycznych OWASP i norm ISO >
Dr Skrzypecka również uważa, że oznaczenie nie jest obowiązkowe, jeśli hipermarket korzysta z syntetycznego, nieimitującego konkretnej osoby głosu, natomiast staje się wymagane, gdy AI odtwarza lub imituje głos konkretnej osoby i odbiorca może uznać nagranie za autentyczne.
- Chociaż sam zalecam, aby w razie wątpliwości treść raczej oznaczyć niż jej nie oznaczać, obserwuję wiele przypadków nadmiernej ostrożności. Treścią typu deepfake nie będzie głos wygenerowany przez AI, który niczego nie udaje (w szczególności nie przypomina głosu żadnej rzeczywistej i istniejącej osoby) i w żaden sposób nie wprowadza w błąd - potwierdza Adam Piotrowski, radca prawny w Kancelarii Prawnej KTZR.
Innym zagadnieniem jest moment, w którym pada komunikat o wygenerowaniu dźwięku przez AI. - Kodeks postępowania wydany przez KE przewiduje dla materiałów wyłącznie audio krótki, zrozumiały komunikat już na początku treści. Ostrzeżenie wypowiedziane dopiero po reklamie byłoby więc problematyczne z perspektywy zasady „najpóźniej przy pierwszej ekspozycji” – mówi dr Skrzypecka.
Zobacz też w LEX: AI Act: wyzwania dla organów ścigania związane ze stosowaniem systemów opartych na sztucznej inteligencji >
Kiedy trzeba oznaczać tekst napisany z użyciem AI?
Inna wątpliwość dotyczy tekstów powstałych z użyciem AI. W tym przypadku obowiązek oznaczania dotyczy jedynie tekstów wygenerowanych lub zmanipulowanych przez AI, publikowanych w celu informowania społeczeństwa o sprawach leżących w interesie publicznym, i nie obejmuje materiałów poddanych weryfikacji przez człowieka lub kontroli redakcyjnej, za które odpowiada konkretna osoba fizyczna lub prawna.
W zdecydowanej większości przypadków post (tekst) publikowany w mediach społecznościowych nie będzie więc wymagał oznaczenia – mówi mec. Piotrowski.
Czy jednak przeprowadzenie przez osobę publikującą w social mediach lub dziennikarza edycji tekstu z udziałem AI nie wyczerpuje znamion „manipulacji”? Prawnicy uważają, że nie.
- Wytyczne Komisji Europejskiej określają treści zmanipulowane jako istniejące treści, niezależnie czy stworzone przez AI czy nie, które zostały zmienione przez AI, jeśli zakres tych zmian wykracza poza standardową edycję tekstu i zmienia w istotny sposób jego treść lub semantykę. Zwykła korekta błędów nie będzie skutkowała uznaniem tekstu za zmanipulowany – uważa mec. Magdalena Michalska-Niewiadomska.
- Dlatego użycie AI przez dziennikarza do poprawienia literówek, interpunkcji czy niezręcznego zdania nie powoduje samo przez się obowiązku dodawania do artykułu komunikatu „tekst powstał przy użyciu AI”. Podobnie oceniłabym sytuację, w której AI proponuje kilka tytułów, a redaktor świadomie wybiera, zmienia i zatwierdza jeden z nich – dodaje dr Paula Skrzypecka.
Czytaj też w LEX: Aspekty prawne dotyczące pojęcia deepfake w AI Act – uwagi de lege ferenda wobec wyzwań współczesności >
Mec. Michalska-Niewiadomska uważa, że inaczej można interpretować skrót tekstu, który został wygenerowany przez AI. Niemniej jeśli skrót został zweryfikowany przez człowieka, a za publikację ponosi odpowiedzialność redakcja, obowiązek oznaczania nadal nie powstaje.
- Komisja podkreśla przy tym, że nie chodzi o fikcyjne „human in the loop”: samo sprawdzenie pisowni czy formatowania nie wystarczy. Człowiek powinien rzeczywiście ocenić treść merytorycznie, mieć możliwość jej zmiany albo odrzucenia, zweryfikować informacje i źródła – zastrzega dr Skrzypecka.
Jak oznaczać treści deepfake zgodnie z AI Act
Pojawiają się też wątpliwości na temat sposobu oznaczania treści. Znana platforma sprzedażowa typu marketplace publikowała niedawno reklamy aparatu fotograficznego Canon, w których napis „Obraz wygenerowany przez AI” był większy i bardziej czytelny niż napis wskazujący na model reklamowanego przedmiotu.
Czytaj też w LEX: Obowiązki dokumentacyjne przy wdrażaniu rozwiązań AI w przedsiębiorstwie – ocena ryzyka, zarządzanie jakością, procedury i informacje >
Samo oznaczenie takiej reklamy wydaje się słuszne, gdyż pojęcie deepfake'u w rozumieniu AI Act obejmuje także przedmioty., czy jednak firma nie dmuch na zimne, eksponując do przesady oznaczenie o użyciu treści AI?
Nie jest konieczne stosowanie oznaczenia, które będzie większe niż sama treść wygenerowana przez AI. Spełnienie obowiązku informacyjnego nie powinno powodować jednoczesnej utraty czy istotnego pogorszenia widoczności czy czytelności samej treści – uważa mec. Michalska-Niewiadomska.
Jak zatem rozumieć wymóg, by treści oznaczać „w jasny i wyraźny sposób”?
- Komisja tłumaczy to funkcjonalnie: odbiorca powinien móc informację zauważyć i zrozumieć bez używania dodatkowych narzędzi i bez wykonywania dodatkowych czynności. Nie wystarczy więc np. zaszyć informacji wyłącznie w metadanych pliku. Jednocześnie przepisy nie wskazują jednej obowiązkowej wielkości czcionki, liczby pikseli ani konkretnego współczynnika kontrastu – wyjaśnia dr Skrzypecka.
Dodaje, że KE opublikowała na ten temat bardziej szczegółowe wytyczne, a także wzory ikon oznaczających treści AI, których można używać dobrowolnie, by wywiązać się z obowiązku.
Czytaj też w LEX: Piktogramy jako forma realizacji obowiązku informacyjnego przedsiębiorcy wobec konsumenta >
Podmiot stosujący a dostawca systemu
Mec. Piotrowski w swojej praktyce spotkał się jeszcze z jednym zjawiskiem: przedsiębiorcy, którzy korzystają z narzędzi sztucznej inteligencji i w rozumieniu AI Act są „podmiotami stosującymi system AI”, błędnie uważają się za „dostawców systemów AI”. W związku z tym obawiają się, że dotyczą ich także obowiązki technologiczne z art. 50 ust. 2, które w rzeczywistości odnoszą się do takich podmiotów, jak Google czy OpenAI.
Zwraca uwagę, że przepisy unijne zwykle nie są zero-jedynkowe.
Czytaj też w LEX: Informowanie przez prasę o udziale sztucznej inteligencji w tworzeniu materiałów prasowych jako obowiązek etyczny >
- W pierwszych latach ich obowiązywania możemy mieć do czynienia z powtórką sytuacji znanej z RODO, które dopiero po pewnym czasie zaczęło funkcjonować w bardziej przewidywalny sposób. Dodatkową trudnością jest fakt, że polska komisja, która ma wydawać opinie indywidualne i wyjaśnienia musi się dopiero ukonstytuować, a następnie wykształcić własną praktykę decyzyjną i interpretacyjną. Często dopiero konkretna kontrola u konkretnego przedsiębiorcy daje odpowiedź na pytanie, czy dana interpretacja jest prawidłowa – mówi mecenas Piotrowski.
Chatboty i streszczenia AI podlegają oznaczeniu
Prawnicy przestrzegają jednak, by rzeczywistych obowiązków nakładanych przez AI Act z oznaczaniem nie lekceważyć. Mec. Piotrowski zwraca uwagę, że część rynku nie dostrzega obowiązków związanych z oznaczaniem chatbotów i systemów służących do automatycznej komunikacji z użytkownikami. - Formalnym adresatem tego obowiązku jest dostawca systemu, a nie każdy podmiot, który z niego korzysta – uściśla.
Czytaj też w LEX: Zakazane praktyki AI a ochrona danych osobowych – granice dopuszczalnego wykorzystania sztucznej inteligencji >
Dr Paula Skrzypecka wskazuje natomiast, że obowiązek oznaczania dotyczy serwisu internetowego, który publikuje automatycznie bez ingerencji człowieka wygenerowane przez AI streszczenia wyroków, informacji politycznych czy wiadomości gospodarczych.
- Mamy wtedy tekst publikowany w celu informowania społeczeństwa o sprawach interesu publicznego, bez rzeczywistego tzw. human review. Taki przypadek trafia już bardzo wyraźnie w art. 50 ust. 4. Komisja interpretuje „sprawy interesu publicznego” szeroko: obejmuje m.in. politykę, administrację, wymiar sprawiedliwości, zdrowie publiczne, bezpieczeństwo konsumentów oraz istotne wydarzenia gospodarcze, finansowe, naukowe czy kulturalne – wskazuje ekspertka.
Zobacz też w LEX:
----------------------------------------------------------------------------------------------------------------------------------------------
Linki w tekście artykułu mogą odsyłać bezpośrednio do odpowiednich dokumentów w programie LEX. Aby móc przeglądać te dokumenty, konieczne jest zalogowanie się do programu. Dostęp do treści dokumentów LEX jest zależny od posiadanych licencji.
