ChatGPT zacznie znakować teksty. Co to oznacza dla polskiej nauki?
OpenAI zapowiedziało wprowadzenie niewidocznego znakowania tekstów generowanych przez ChatGPT na terenie Unii Europejskiej. Nowe rozwiązanie może mieć znaczenie nie tylko przy sprawdzaniu prac studentów i doktorantów. W przyszłości może wpływać także na ocenę artykułów naukowych, monografii, recenzji, ekspertyz czy innych tekstów przygotowywanych przez naukowców. Nie oznacza to jednak, że wykrycie śladu AI będzie dowodem nierzetelności naukowej - pisze dr hab. Grzegorz Krawiec, prof. URad, Uniwersytet Radomski im. K. Pułaskiego.
OpenAI ogłosiło, że rozpoczyna w Unii Europejskiej stopniowe wprowadzanie niewidocznego znakowania kwalifikujących się tekstów generowanych przez ChatGPT i Codex. Rozwiązanie ma objąć również polskich użytkowników. Źródłem informacji jest oficjalny komunikat OpenAI dotyczący zasad identyfikowania pochodzenia tekstu w UE.
Nie chodzi przy tym o umieszczanie w tekście widocznego napisu „wygenerowano przez AI” ani o dodawanie prostych ukrytych znaków, które można byłoby łatwo usunąć w edytorze tekstu. Mechanizm ma polegać na takim sposobie generowania wypowiedzi, aby w jej strukturze powstawał wzorzec możliwy do rozpoznania przez specjalistyczne narzędzie. Dla czytelnika tekst pozostanie zwykłym tekstem. Dopiero jego analiza techniczna może wskazać, że przy jego powstaniu wykorzystano określony system generatywnej sztucznej inteligencji. Nie oznacza to jednak, że od tej chwili każda uczelnia, redakcja czasopisma czy recenzent otrzyma narzędzie pozwalające jednym kliknięciem ustalić, czy autor korzystał z ChatGPT. Dostęp do mechanizmów weryfikacyjnych ma być ograniczony, a sama technologia ma swoje granice.
To konsekwencja europejskiej regulacji AI
Wprowadzenie takich rozwiązań należy widzieć w szerszym kontekście unijnego AI Act, czyli rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689 ustanawiającego zharmonizowane przepisy dotyczące sztucznej inteligencji. Art. 50 AI Act przewiduje obowiązki związane z przejrzystością treści generowanych lub manipulowanych przez systemy sztucznej inteligencji. W szczególności dostawcy określonych systemów mają zapewnić możliwość wykrycia, że dana treść została sztucznie wygenerowana lub zmanipulowana. Trzeba jednak wyraźnie odróżnić obowiązek technicznego oznaczenia rezultatu działania systemu od obowiązku autora publikacji naukowej polegającego na ujawnieniu, że korzystał on z AI. Są to dwa różne zagadnienia.
AI Act nie tworzy generalnej zasady, zgodnie z którą każdy naukowiec musi oznaczać każdy tekst, przy którego przygotowywaniu w jakikolwiek sposób wykorzystał sztuczną inteligencję. Zasady takie mogą natomiast wynikać z polityk wydawców, czasopism naukowych, uczelni, organizacji grantowych czy kodeksów etyki publikacyjnej.
Czytaj też w LEX: Procedury antyplagiatowe na uczelniach wyższych – obowiązki i konsekwencje >
Problem dotyczy nie tylko studentów
Pierwszym skojarzeniem ze znakowaniem tekstów generowanych przez AI jest zapewne kontrola prac zaliczeniowych, magisterskich czy doktorskich. Rzeczywiście nowe rozwiązanie może stać się dodatkowym narzędziem wykorzystywanym przez uczelnie do badania samodzielności takich opracowań. Problem jest jednak znacznie szerszy. Generatywna AI jest już bowiem (i to powszechnie) wykorzystywana także przez naukowców. Może pomagać w redagowaniu tekstów, tłumaczeniu, streszczaniu literatury, tworzeniu struktury artykułu, wyszukiwaniu argumentów, porządkowaniu danych, a nawet generowaniu fragmentów analizy. Najnowsze modele mogą natomiast już obecnie generować niezły tekst naukowy. Dlatego pytanie o identyfikowanie treści pochodzących z AI coraz częściej będzie dotyczyło nie tylko studenta piszącego pracę magisterską, ale również profesora przesyłającego artykuł do czasopisma naukowego. W przyszłości redakcja czasopisma może zatem dysponować informacją, że w nadesłanym artykule występuje wzorzec charakterystyczny dla treści wygenerowanej przez określony model AI.
Czytaj też w LEX: Wykorzystanie AI przy pisaniu prac dyplomowych – odpowiedzialność i warunki dopuszczalności >
I tu zaczynają się znacznie trudniejsze pytania. Np. takie: Czy artykuł naukowy przygotowany z pomocą AI jest nierzetelny? Odpowiedź brzmi: „niekoniecznie” (albo, jak lubią odpowiadać prawnicy: „to zależy”). Wyobraźmy sobie naukowca, który samodzielnie formułuje problem badawczy, analizuje źródła, przeprowadza badania i formułuje wnioski, ale wykorzystuje ChatGPT do poprawienia stylu językowego albo skrócenia niektórych fragmentów artykułu. Inny autor może polecić systemowi wygenerowanie całej części teoretycznej, następnie nie sprawdzić wskazanych źródeł i przedstawić rezultat jako własną analizę. Jeszcze inny może wykorzystać AI jako swoistego partnera do dyskusji – przedstawiać mu własne argumenty, prosić o kontrargumenty, a następnie samodzielnie oceniać ich trafność.
Te sytuacje są pod względem standardów rzetelności naukowej całkowicie różne. Samo wykrycie udziału AI nie mówi zatem jeszcze niczego pewnego o jakości ani uczciwości publikacji. Istotne znaczenie powinno mieć to, kto rzeczywiście wykonał pracę intelektualną, kto zweryfikował źródła, kto odpowiada za przedstawione twierdzenia i czy wykorzystanie AI zostało dokonane zgodnie z zasadami obowiązującymi w danej dyscyplinie lub czasopiśmie.
Czytaj też w LEX: Czuryk Małgorzata, Zagrożenia związane z korzystaniem z systemów sztucznej inteligencji przez pracowników będących nauczycielami akademickimi >
Autor nadal musi być autorem
W nauce podstawowym problemem nie jest samo użycie narzędzia, lecz odpowiedzialność za rezultat. Autor artykułu naukowego swoim nazwiskiem potwierdza, że odpowiada za jego treść. Nie może zwolnić się z tej odpowiedzialności przez stwierdzenie, że błędną informację podał mu ChatGPT. Dotyczy to w szczególności źródeł bibliograficznych. Modele językowe potrafią generować przekonująco wyglądające, lecz nieistniejące publikacje, orzeczenia czy numery stron. Nie ulega wątpliwości, że włączenie takiej informacji do artykułu obciąża autora, a nie producenta modelu. W tym sensie pojawienie się technicznego znakowania tekstu może paradoksalnie (nareszcie!) przesunąć debatę we właściwą stronę. Powinniśmy bowiem pytać, czy człowiek, który podpisał artykuł swoim nazwiskiem, rzeczywiście odpowiada za jego zawartość i przeprowadził pracę badawczą wymaganą od autora publikacji naukowej? A zatem pytanie: „czy ten tekst napisała AI?”, jest drugorzędne.
Czasopisma naukowe staną przed nowym problemem
Nowa technologia może szczególnie mocno wpłynąć na praktykę wydawniczą. Redakcje czasopism naukowych od kilku lat opracowują polityki dotyczące korzystania z generatywnej AI. W wielu przypadkach dopuszcza się jej pomocnicze wykorzystanie, ale wymaga ujawnienia tego faktu albo zabrania wskazywania systemu AI jako współautora publikacji. Upowszechnienie technicznego znakowania tekstów może spowodować, że redakcje zaczną próbować weryfikować deklaracje autorów. Jeżeli autor oświadczy, że nie wykorzystywał AI, natomiast analiza tekstu wskaże prawdopodobieństwo obecności oznaczenia charakterystycznego dla modelu generatywnego, może powstać podstawa do zwrócenia się do autora o wyjaśnienia. Nie powinno to jednak prowadzić do automatycznego odrzucania publikacji.
Techniczne narzędzie powinno być co najwyżej jednym z elementów oceny. Konieczne będzie uwzględnienie możliwości błędów, zakresu korzystania z AI oraz polityki obowiązującej w danym czasopiśmie. Szczególnie niebezpieczne byłoby wprowadzenie zasady: „wykryto AI – artykuł jest nierzetelny”. Taka reguła ignorowałaby zarówno możliwości zgodnego z zasadami etyki wykorzystania sztucznej inteligencji, jak i ograniczenia samych systemów wykrywających.
Co z monografiami i książkami naukowymi?
Ten sam problem dotyczy monografii. Przy pracy liczącej kilkaset stron wykorzystanie AI może przyjmować bardzo różne formy. Autor może poprosić model o poprawienie jednego akapitu albo używać go systematycznie do przygotowywania kolejnych fragmentów książki. Z punktu widzenia oceny dorobku naukowego różnica jest zasadnicza. Szczególne znaczenie ma to w polskim systemie awansu naukowego, w którym publikacje naukowe (w tym monografie) mogą być elementem oceny osiągnięć kandydata do stopnia doktora habilitowanego lub tytułu profesora. Jeżeli publikacja ma stanowić dowód samodzielnego osiągnięcia naukowego autora, powstaje pytanie, jak szerokie wykorzystanie generatywnej AI da się pogodzić z takim charakterem osiągnięcia. Nie można odpowiedzieć na to pytanie prostym procentem tekstu wygenerowanego przez model. W nauce ważniejsza od liczby słów jest bowiem samodzielność koncepcji, argumentacji, interpretacji i wniosków.
Czytaj też w LEX: Tworzenie dzieł przy użyciu AI a proces cywilny >
Równie wrażliwe są recenzje naukowe
Problem dotyczy również osób oceniających cudzą działalność naukową. Recenzent artykułu, monografii, rozprawy doktorskiej czy osiągnięcia habilitacyjnego może wykorzystywać AI pomocniczo; przykładowo, do uporządkowania własnych notatek. Zupełnie inaczej należałoby jednak ocenić sytuację, w której przekazuje modelowi cudzy tekst i poleca mu sporządzić właściwą recenzję, którą następnie podpisuje swoim nazwiskiem.
Recenzja, zwłaszcza sporządzana w postępowaniach awansowych, jest oceną ekspercką konkretnej osoby. To ta osoba została wybrana ze względu na swoją wiedzę i doświadczenie. Przerzucenie zasadniczej części tej oceny na system generatywnej AI mogłoby więc rodzić znacznie poważniejsze konsekwencje niż zwykła pomoc redakcyjna. Dodatkowym problemem byłoby przekazywanie zewnętrznym systemom materiałów poufnych, na przykład nieopublikowanego artykułu przesłanego recenzentowi w procedurze "peer review".
Czytaj też w LEX: Prawne aspekty trenowania algorytmów generatywnej sztucznej inteligencji (AI) >
Możliwe konsekwencje dla oceny dorobku naukowego
Pojawienie się technicznych metod identyfikowania treści generowanych przez AI może mieć konsekwencje także poza procesem wydawniczym. Można sobie wyobrazić, że w przyszłości pytania dotyczące zakresu wykorzystania AI pojawią się w postępowaniach doktorskich i habilitacyjnych, przy ocenie dorobku kandydatów do tytułu profesora, w konkursach grantowych albo przy badaniu przypadków podejrzenia nierzetelności naukowej. To wymaga dużej ostrożności.
Sam fakt zastosowania AI nie powinien prowadzić do dyskwalifikacji osiągnięcia. Z drugiej strony możliwość przedstawienia jako własnego osiągnięcia tekstu w istotnej mierze wygenerowanego przez model językowy może podważać sens klasycznych kryteriów oceny dorobku naukowego. Polska (i nie tylko polska) nauka będzie więc musiała odpowiedzieć na pytanie, gdzie przebiega granica pomiędzy korzystaniem z nowoczesnego narzędzia a zastępowaniem nim własnej pracy intelektualnej.
Czytaj też w LEX: Quo vadis, sztuczna inteligencjo? Rozważania nad problematyką etyczną i prawną AI >
Uczelnie powinny stworzyć zasady także dla pracowników
Dotychczas regulaminy dotyczące AI na uczelniach bardzo często koncentrują się na studentach. Określają, czy student może wykorzystywać ChatGPT w pracy zaliczeniowej lub dyplomowej. To zdecydowanie za mało. Jeżeli sztuczna inteligencja staje się zwykłym elementem pracy naukowej, zasady powinny obejmować również pracowników naukowych. Potrzebne są standardy dotyczące co najmniej wykorzystania AI przy przygotowywaniu publikacji, ujawniania takiego wykorzystania, weryfikacji źródeł, ochrony nieopublikowanych materiałów powierzonych recenzentowi oraz posługiwania się AI podczas sporządzania recenzji i opinii eksperckich.
Niewłaściwe byłoby natomiast wprowadzanie generalnego zakazu korzystania ze sztucznej inteligencji. AI może być dla naukowca bardzo użytecznym narzędziem. Może pomagać w analizowaniu dużych zbiorów danych, tłumaczeniu tekstów, programowaniu, porządkowaniu literatury czy poprawianiu języka publikacji. Celem powinno być zatem nie zakazanie technologii, lecz ochrona osobistej odpowiedzialności autora i samodzielnego charakteru pracy naukowej.
Czytaj też w LEX: Prawo do korzystania i rozpowszechniania utworu w środowisku cyfrowym – linkowanie, streaming oraz user-generated content >
Znakowanie nie rozwiąże problemu autorstwa
Najważniejszym ograniczeniem nowych mechanizmów pozostaje to, że identyfikacja treści wygenerowanej przez AI nie jest tym samym co ustalenie autorstwa publikacji. Artykuł może zawierać fragment wygenerowany przez ChatGPT, ale jego zasadnicza koncepcja może być oryginalnym osiągnięciem autora. Może być również odwrotnie: tekst nie będzie nosił wykrywalnego oznaczenia AI, ponieważ został wielokrotnie przeredagowany, choć jego zasadniczą treść przygotował model językowy. Dlatego technologia znakowania nie może zastąpić klasycznej oceny naukowej. Wciąż najważniejsze pozostają jakość argumentacji, prawidłowość metodologii, rzetelność wykorzystania źródeł, oryginalność wyników oraz możliwość ich zweryfikowania.
Przypisanie autorstwa treści wygenerowanych z wykorzystaniem AI - perspektywa prawnoautorska >
Polska nauka potrzebuje reguł, a nie polowania na AI
Wprowadzenie przez OpenAI znakowania tekstów może być istotnym momentem dla debaty o wykorzystaniu sztucznej inteligencji w polskiej nauce. Po raz pierwszy pojawia się możliwość technicznego pozostawiania w tekstach śladu ich pochodzenia. Nie oznacza to jednak, że powinniśmy rozpocząć masowe poszukiwanie „tekstów napisanych przez AI”. Znacznie ważniejsze jest określenie zasad dopuszczalnego wykorzystywania generatywnej sztucznej inteligencji w działalności badawczej i publikacyjnej. Naukowiec powinien móc korzystać z nowych narzędzi, ale musi pozostać rzeczywistym autorem swoich osiągnięć i ponosić pełną odpowiedzialność za treść publikacji.
Czytaj też w LEX: Dziedziczenie dóbr cyfrowych – majątek i tożsamość >
Dlatego także w przypadku artykułów naukowych wykrycie technicznego śladu AI powinno być początkiem pytania o sposób powstania tekstu, a nie końcem postępowania i automatycznym dowodem nierzetelności. Sztuczna inteligencja może pomóc ustalić, w jaki sposób powstał tekst. Nie powinna jednak sama rozstrzygać, czy mamy do czynienia z osiągnięciem naukowym. To rozstrzygnięcie nadal musi należeć do ludzi.
Dr hab. Grzegorz Krawiec, prof. URad, Uniwersytet Radomski im. K. Pułaskiego
Linki w tekście artykułu mogą odsyłać bezpośrednio do odpowiednich dokumentów w programie LEX. Aby móc przeglądać te dokumenty, konieczne jest zalogowanie się do programu. Dostęp do treści dokumentów LEX jest zależny od posiadanych licencji.
