Chociaż część przepisów unijnego rozporządzenia AI Act wejdzie w życie później niż zakładano, Komisja Europejska nie odroczyła wymogu ujawniania, że grafika, film lub dźwięk został wygenerowany lub zmanipulowany przy użyciu sztucznej inteligencji. Chodzi o treści spełniające definicję deepfake’ów, która jest szersza niż może się wydawać na pierwszy rzut oka. Po 2 sierpnia 2026 r. nie znikną one z internetu, ale powinny być znakowane „w jasny i wyraźny sposób” jako wytwory AI.
Data 2 sierpnia 2026 r. przez długi czas była uznawana przez prawników zajmujących się sztuczną inteligencją za kluczową, ponieważ tego dnia miały wejść w życie przepisy rozporządzenia AI Act dotyczące systemów wysokiego ryzyka. Branża odetchnęła po ogłoszeniu pakietu Digital Omnibus, który odracza ich wejście w życie, a ponadto przesuwa nałożony na dostawców systemów AI wymóg maszynowego znakowania generowanych treści.
Marta Adranowska, adwokat w Lawspective Litwiński Valirakis Radcowie Prawni, zwraca jednak uwagę, że wokół 2 sierpnia 2026 r. narosły nieporozumienia. Jak tłumaczy, nie wszystkie przepisy mające wejść w życie tego dnia będą odroczone.
- Nie dotyczy to obowiązku ujawnienia po stronie podmiotów stosujących AI (że jego treści zostały sztucznie wygenerowane lub zmanipulowane - red.). Wchodzi on w życie 2 sierpnia 2026 r. bez zmian – zwraca uwagę prawniczka.
Innymi słowy, obecni na rynku dostawcy narzędzi AI co do zasady nie będą jeszcze musieli oznaczać w sposób maszynowy, że dostarczane przez nich treści są sztucznie generowane. Już 2 sierpnia br. wejdzie natomiast w życie obowiązek odpowiedniego znakowania wytworów sztucznej inteligencji przez tych, którzy z takich systemów korzystają w swojej działalności (art. 50 ust. 4 AI Act). Unijne rozporządzenia określa ich mianem „podmiotów stosujących”.
Czytaj też w LEX: Obowiązki w zakresie przejrzystości dla dostawców i podmioty stosujące AI >
Kogo dotyczy nowy obowiązek? Motyw 13 AI Act wyjaśnia, jak należy interpretować pojęcie "podmiotu stosującego". Może to być zarówno osoba fizyczna, jak i prawna, która wykorzystuje system AI. Nie dotyczy to jedynie przypadków „gdy wykorzystywanie systemu AI odbywa się w ramach osobistej działalności pozazawodowej”.
Czytaj też w LEX: Audyt aplikacji mobilnych pod kątem cyberbezpieczeństwa i prywatności - przewodnik po wymogach wynikających z RODO, NIS 2, AI Act, wytycznych OWASP i norm ISO >
W projektowanych wytycznych z 8 maja br. Komisja Europejska definiuje działalność zawodową szeroko. Będzie to każda aktywność, dzięki której osoba fizyczna regularnie osiąga korzyści ekonomiczne lub która w inny sposób wiąże się z prowadzeniem działalności profesjonalnej, gospodarczej, handlowej, wykonywaniem pracy zarobkowej albo świadczeniem usług jako freelancer. Wytyczne podkreślają też, że aby korzystać z wyjątku od obowiązku znakowania treści, nie wystarczy tylko niezawodowy charakter działalności – musi być ona jednocześnie osobista.
Dokument podaje przykłady. Stworzenie w AI kartki świątecznej przedstawiającej członków rodziny w fikcyjnej sytuacji i wysłanie jej swoim bliskim nie będzie wymagało znakowania treści jako stworzonej przy użyciu AI. Natomiast wygenerowanie deepfake’u przedstawiającego burmistrza swojej miejscowości i upublicznienie go w mediach społecznościowych w celu krytyki będzie wymagało znakowania, ponieważ taki udział w debacie publicznej nie stanowi działalności wyłącznie osobistej.
Zobacz też w LEX: Prawnik in‑house: tajemnica przedsiębiorstwa w erze AI >
Jak zwraca uwagę Tomasz Zalewski, radca prawny, założyciel kancelarii Zalewski Legal, obowiązek ujawniania przewidziany w art. 50 ust. 4 AI Act dotyczy treści, które spełniają definicję deepfake’u.
- Najogólniej mówiąc, są to obrazy, nagrania wideo lub dźwiękowe wygenerowane przy użyciu sztucznej inteligencji, które przypominają realistyczne obiekty. Początkowo powszechnie uważano, że chodzi wyłącznie o treści przypominające coś, co rzeczywiście istnieje. Zmieniło się to w maju br., wraz z wydaniem wytycznych Komisji Europejskiej. Wynika z nich, że treści będące deepfake’ami nie muszą przedstawiać rzeczywistych osób ani przedmiotów – wystarczy, że przypominają realistyczne obiekty - mówi Tomasz Zalewski.
Wyjaśnia na przykładach, że w świetle nowych wytycznych, za deepfake mogą być uznane:
- W takich przypadkach treść powinna zostać oznaczona jako wygenerowana przez sztuczną inteligencję. Moim zdaniem art. 50 ust. 4 AI Act będzie więc stosowany znacznie szerzej, niż początkowo się wydawało. Wyjątkiem są obiekty, które nie istnieją. KE podaje przykład rysunku smoka, którego nie trzeba oznaczać, ponieważ smoki nie istnieją – mówi mec. Zalewski.
Czytaj też w LEX: Informowanie przez prasę o udziale sztucznej inteligencji w tworzeniu materiałów prasowych jako obowiązek etyczny >
- Wiralowa rolka z dzikami biegającymi po galerii handlowej to modelowy deepfake zdarzenia – twórca działający zawodowo, czerpiący z tego korzyść komercyjną, ma obowiązek ujawnić sztuczne pochodzenie materiału – dodaje mec. Marta Adranowska.
Art. 50 ust. 4 przewiduje, że obowiązek oznaczania dotyczy treści, które „zostały sztucznie wygenerowane lub zmanipulowane”. Przepis stanowi też wprost, że obowiązek nie dotyczy tekstów informacyjnych, które zostały poddane weryfikacji przez człowieka lub kontroli redakcyjnej i gdy za publikację treści odpowiedzialność redakcyjną ponosi osoba fizyczna lub prawna. Jak jest natomiast w przypadku treści graficznych, wideo lub audio – czy każde wykorzystanie AI w ich tworzeniu lub przeróbce AI będzie wymagało oznaczenia?
- Uważam, że jeżeli ktoś użyje AI do poprawy jakości fotografii, zmieniając np. ostrość lub kolorystykę, nie musi jej oznaczać. Jeżeli jednak mamy do czynienia ze zmianą proporcji albo inną daleko idącą modyfikacją, która może tworzyć fałszywe wrażenie autentyczności, należałoby potraktować taki materiał jako deepfake i odpowiednio go oznaczyć – ocenia mec. Tomasz Zalewski.
Zwraca przy tym uwagę, że nie jest istotne, jaki zamiar przyświecał twórcy takiej przeróbki. - Wytyczne KE wskazują wprost, że znaczenie ma to, jakie wrażenie odniesie odbiorca. Nie chodzi przy tym o przeciętnego odbiorcę, lecz o osobę, do której adresowany jest dany przekaz. Szczególną ostrożność należy zatem zachować w przypadku materiałów kierowanych do dzieci lub osób starszych, które mogą być mniej zorientowane w nowych technologiach i uznać wytwór AI za coś rzeczywistego – mówi prawnik.
Czytaj też w LEX: Aspekty prawne dotyczące pojęcia deepfake w AI Act – uwagi de lege ferenda wobec wyzwań współczesności >
Informacja o tym, że dana treść jest deepfake’m, musi być podana – zgodnie z art. 50 ust. 5 AI Act – „w jasny i wyraźny sposób, najpóźniej w momencie pierwszej interakcji lub pierwszego stosowania”, a ponadto spełniać wymogi dostępności. Komisja Europejska opublikowała przykładowe ikony, które można w tym celu stosować.
Pozostanie natomiast wątpliwość co do sytuacji, w której treść stworzona AI jest tylko pojedynczym elementem dołączonym do utworu stworzonego przez człowieka. Wyobraźmy sobie twórcę, który nagrywa filmy podróżnicze na YouTube i dodaje do nich muzykę stworzoną przez sztuczną inteligencję. Prawnicy nie są jednoznaczni w ocenie tej sytuacji.
- Moim zdaniem oznaczenie powinno być stosowane również wtedy, gdy przy użyciu AI wykonano tylko jeden element filmu, np. scenografię albo podkład muzyczny. Przepisy łagodniej traktują jednak utwory o artystycznym, twórczym, satyrycznym, fikcyjnym lub analogicznym charakterze. Nie ma potrzeby umieszczania w takim filmie dużego znaku z informacją o wykorzystaniu AI, a wystarczy odpowiednia wzmianka w napisach końcowych lub w opisie filmu na platformie streamingowej – mówi mec. Tomasz Zalewski. - Inaczej jest w przypadku filmów o charakterze reklamowym lub biznesowym. Tego rodzaju materiały powinny być oznaczone w sposób oczywisty i od razu widoczny dla odbiorcy – zastrzega.
Zobacz też w LEX: AI w kancelarii prawnej – jak korzystać bezpiecznie i zgodnie z prawem? >
Inaczej sytuację interpretuje mec. Marta Adranowska. Jej zdaniem nie wymaga oznaczania film podróżniczy, jeśli wykorzystuje stworzoną przez AI muzykę instrumentalną. - Taka muzyka nie jest deepfakiem ani tekstem o sprawach publicznych, więc obowiązek ujawnienia najprawdopodobniej nie powstaje – uważa prawniczka. Zwraca jednak uwagę, że granica przesunie się przy klonowaniu głosu konkretnego, istniejącego artysty, będzie to już bowiem deepfake osoby.
AI Act wskazuje, że sankcje za naruszenie przepisów mogą wynieść do 15 mln euro lub 3 proc. rocznego obrotu. To państwa członkowskie powinny wyznaczyć organ uprawniony do ich nakładania. Polska ustawa o systemach sztucznej inteligencji zakłada, że będzie nim Komisja Bezpieczeństwa i Rozwoju Sztucznej Inteligencji (KRiBSI). Ustawa jednak jeszcze nie obowiązuje, czeka obecnie na decyzję prezydenta.
Tomasz Zalewski przestrzega jednak, że obowiązek znakowania treści formalnie zacznie obowiązywać 2 sierpnia 2026 r. Nawet jeśli KRiBSI zostanie powołana później, prawdopodobnie ewentualne naruszenia nie zdążą się jeszcze przedawnić i będą mogły być karane.
Zobacz też w LEX: AI Act: wyzwania dla organów ścigania związane ze stosowaniem systemów opartych na sztucznej inteligencji >
Uściślijmy, że obowiązek ujawniana spoczywa na podmiocie stosującym AI do tworzenia treści, a nie na podmiocie, który takie treści dalej udostępnia. To nie portal społecznościowy ma więc wskazywać na wytwory AI, a jego użytkownik. Mec. Zalewski dodaje, że jeśli agencja reklamowa wygeneruje treść na potrzeby reklamy znanej marki, obowiązek znakowania będzie spoczywał na agencji, a nie na marce.
- Moim zdaniem jest to luka w przepisach. Jak się jednak wydaje, KE dostrzegła ten problem, ponieważ w wytycznych zachęca podmioty rozpowszechniające treści wygenerowane przez inne podmioty do zachowania oznaczeń informujących o wykorzystaniu AI – mówi prawnik. Dodaje, że chociaż marka zamawiająca reklamę będącą deepfake’m nie ma obowiązku stosowania się do art. 50 ust. 4 AI Act, może narazić się na innego rodzaju odpowiedzialność, np. z tytułu czynu nieuczciwej konkurencji.
Czytaj też w LEX:
Linki w tekście artykułu mogą odsyłać bezpośrednio do odpowiednich dokumentów w programie LEX. Aby móc przeglądać te dokumenty, konieczne jest zalogowanie się do programu. Dostęp do treści dokumentów LEX jest zależny od posiadanych licencji.
