Prawnik musi być odporny na halucynacje AI
Bezpieczne korzystanie z AI przez prawników wymaga przyjęcia zasady kontrolowanego i świadomego podejścia do technologii. W praktyce oznacza to odejście od spontanicznego testowania kolejnych narzędzi pojawiających się na rynku na rzecz korzystania z rozwiązań wcześniej ocenionych pod kątem prawnym, technicznym i organizacyjnym – pisze dr Damian Flisak, radca prawny.
Jednym z podstawowych ograniczeń generatywnej AI pozostają halucynacje, generowanie informacji nieprawdziwych lub nieistniejących. Zgodnie z aktualnym stanem wiedzy na temat technicznych aspektów funkcjonowania modeli AI, przypadłości tej nie można na obecnym etapie całkowicie wyeliminować, choć możliwe jest jej istotne ograniczenie. Dla praktyki prawniczej problem ten ma szczególne znaczenie. Znane są liczne przypadki generowania przez narzędzia AI nieistniejących orzeczeń, błędnych podstaw prawnych czy fikcyjnych cytowani, nie wspominając o błędnych interpretacjach stanu prawnego. Dodatkową trudność stanowi fakt, że nieprawdziwe odpowiedzi są formułowane przez model w przekonującej formie, nierzadko z pozornie profesjonalną argumentacją, co utrudnia ich identyfikację nawet wprawnym użytkownikom.
Problem halucynacji nie jest jednak wyłącznie konsekwencją wadliwego działania modelu. W wielu przypadkach wynika również z nieprawidłowego sposobu korzystania z narzędzia. Formułowanie zbyt ogólnych promptów, brak wskazania referencyjnych źródeł, niewłaściwe określenie ram zadania – czy to nadmiernie skrótowe, czy nadmiernie złożone – lub oczekiwanie odpowiedzi na pytania wykraczające poza aktualną wiedzę modelu to okoliczności istotnie zwiększające ryzyko uzyskania błędnych wyników. Wypracowanie odpowiedniego sposobu promptowania, korzystanie z modeli połączonych z aktualnymi bazami wiedzy, wymuszanie wskazywania źródeł w celu weryfikacji otrzymywanej informacji mogą to ryzyko istotnie ograniczać, choć nie eliminują go całkowicie.
Promptowanie, czyli sztuka zadawania trafnych pytań przez prawników - zobacz w LEX >
Z perspektywy odpowiedzialności zawodowej kluczowe znaczenie ma to, że odpowiedzialność za końcowy rezultat pracy ponosi prawnik. Co oczywiste, dotyczy to zarówno prawników świadczących pomoc prawną na rzecz klientów, jak i pełniących funkcje wewnątrz organizacji. W relacji z klientem, sądem, organem administracji czy pracodawcą to prawnik pozostaje autorem i gwarantem jakości porady prawnej, nawet jeśli przy jej przygotowaniu korzystał z zaawansowanych narzędzi AI, ponieważ narzędzie AI nie zastępuje profesjonalnego osądu prawnego.
Niezależnie od jakości promptów i narzędzi, istotnym źródłem ryzyka pozostaje sam użytkownik. Nadmierne zaufanie do AI sprawia, że im bardziej przekonujący językowo staje się model, tym większe ryzyko, że użytkownik przestanie krytycznie oceniać jego odpowiedzi (automation bias). Warto pamiętać, że możliwości weryfikacji treści generowanych przez AI są w praktyce ograniczone. Zasoby uwagi i koncentracji ulegają naturalnemu osłabieniu podczas analizy długich, złożonych dokumentów. Im obszerniejszy tekst, tym większe prawdopodobieństwo przeoczenia błędów, nieścisłości lub pozornie wiarygodnych informacji. Z tego względu przy pracy z dłuższymi materiałami rekomendowane jest stosowanie przerw, a w sprawach o dużym znaczeniu warto rozważyć dodatkową weryfikację przez inną osobę.
Czytaj też w LEX: Odpowiedzialność cywilna za szkody wyrządzone klientom w wyniku wykorzystywania przez radców prawnych systemów sztucznej inteligencji >
Osobną kwestią jest długoterminowe ryzyko związane z intensywnym korzystaniem z narzędzi AI.
Prawnik, który systematycznie zastępuje własną analizę wygenerowanymi odpowiedziami, w naturalny sposób ogranicza rozwój własnych kompetencji. Pokusa delegowania coraz większej części pracy systemom AI jest zrozumiała, nie mogą one jednak przejmować procesu analizy i podejmowania decyzji. Korzystanie z AI powinno wspierać warsztat zawodowy prawnika, nie zastępować go.
Zobacz w LEX: Nie tylko paragrafy – jak AI zmienia oblicze prawa i marketingu kancelarii >
Praktyczne zasady bezpiecznego korzystania z AI
Bezpieczne korzystanie z AI przez prawników wymaga przyjęcia zasady kontrolowanego i świadomego podejścia do technologii. W praktyce oznacza to odejście od spontanicznego testowania kolejnych narzędzi pojawiających się na rynku na rzecz korzystania z rozwiązań wcześniej ocenionych pod kątem prawnym, technicznym i organizacyjnym.
Podstawowym warunkiem bezpiecznego wykorzystania AI jest stworzenie jasnych reguł określających dopuszczalne działania. Użytkownicy powinni wiedzieć nie tylko, z jakich narzędzi mogą korzystać, ale też to, jakie kategorie informacji mogą być do nich wprowadzane, jakie dane wymagają anonimizacji, w jakich okolicznościach konieczna jest dodatkowa akceptacja innych osób, jakie zastosowania AI są całkowicie wyłączone. Brak dookreślenia jednoznacznych zasad może prowadzić do sytuacji, w której użytkownicy samodzielnie oceniają ryzyko, czyniąc to niekiedy często bez wystarczającej wiedzy prawnej czy technicznej.
Halucynacje AI: Jak weryfikować informacje i unikać błędów - zobacz w LEX >
Odrębną kwestią jest sposób dostępu do narzędzi AI w kontekście zawodowym. Powinny być one używane wyłącznie za pośrednictwem kont służbowych tworzonych i zarządzanych przez organizację, nie zaś prywatnych kont pracowników. Tylko takie rozwiązanie pozwala zachować kontrolę nad bezpieczeństwem danych.
Nawet przy narzędziach formalnie dopuszczonych do użytku rekomendowana powinna obowiązywać zasada minimalizacji danych. Do systemu AI powinny trafiać informacje rzeczywiście niezbędne do wykonania konkretnego zadania. Akceptacja danego rozwiązania przez organizację nie oznacza automatycznie zgody na przekazywanie nadmiarowych ilości dokumentów. Przed każdym promptem warto zadać sobie proste pytanie: czy ten sam rezultat można osiągnąć przy użyciu mniejszej ilości danych?
Jednym z kluczowych elementów oceny możliwości dopuszczenia narzędzi AI do użytku zawodowego jest wnikliwa analiza warunków korzystania z danej usługi informatycznej. W żadnym badanie takie nie może ograniczać się do sprawdzenia, czy dostawca deklaruje brak trenowania modeli na danych użytkownika lub określony okres retencji. Niezbędne jest przyjrzenie się sformułowaniom mniej jednoznacznym, np. przewidującym wykorzystywanie danych do „udoskonalania usług", „rozwoju produktów" czy „poprawy jakości działania systemu". Klauzule tego rodzaju mogą w praktyce oznaczać znacznie szerszy zakres przetwarzania danych niż wynikałoby to z pierwszej lektury dokumentacji. Ostrożność należy zachować wobec mechanizmów przekazywania informacji zwrotnych od użytkowników. Niektórzy dostawcy stosują odmienne zasady przetwarzania danych w odniesieniu do informacji przekazywanych przez użytkownika w ramach oceniania odpowiedzi modelu, zgłaszania błędów czy korzystania z funkcji typu „thumbs up, thumbs down". Dane przekazywane w ramach feedbacku mogą podlegać innym zasadom kontraktowym niż dane przetwarzane podczas standardowej pracy z narzędziem.
Nawet najdoskonalsze procedury nie zastąpią własnych kompetencji użytkowników. Regularne szkolenia i budowanie świadomości pracowników są równie ważne jak jakość samego narzędzia. Osoby korzystające z AI powinny rozumieć sposób działania modeli językowych, ich ograniczenia, ryzyka oraz zasady bezpiecznego przetwarzania informacji. Bezpieczeństwo korzystania z AI zależy bowiem w równym stopniu od technologii, jak i od człowieka, który ją stosuje.
Profesjonalny osąd zawsze będzie potrzebny
Historia zawodów prawniczych dowodzi, że kolejne fale technologicznych innowacji nie eliminowały potrzeby profesjonalnego osądu, ale przekształcały sposób jego wykonywania. Z taką sytuacją mieliśmy do czynienia w przypadku komputerów osobistych, internetu, baz danych informacji prawnych czy chmury obliczeniowej. Sztuczna inteligencja wpisuje się w ten proces, choć trzeba przyznać, że skala i tempo zmian są bezprecedensowe. Po raz pierwszy bowiem narzędzie wykorzystywane przez prawników nie tylko przechowuje informacje czy ułatwia ich wyszukiwanie, ale aktywnie uczestniczy w procesie analizy i tworzenia treści. Ta pozorna „intelektualność” systemów AI stanowi ich największą siłę. Jednocześnie jednak jest ona największym źródłem ryzyk. W przeciwieństwie do tradycyjnych narzędzi informatycznych generatywna AI nie sygnalizuje własnej niepewności, nie ostrzega przed własnymi błędami. AI formułuje odpowiedzi z niezwykłą pewnością siebie, bywa że w zgodzi z wyinterpretowaną wolą użytkownika (tzw. sykofancja). W rezultacie podstawowym wyzwaniem dla prawników jest zachowanie zawodowego sceptycyzmu wobec technologii, która imituje eksperckie kompetencje.
AI Act 2026: obowiązki, ryzyka i wdrożenia dla kancelarii - czytaj w LEX >
Postrzeganie AI wyłącznie przez pryzmat zagrożeń byłoby jednak błędem. Odpowiednio wykorzystywana AI zwiększa dostęp do wiedzy i ogranicza czas poświęcany na czynności rutynowe, pozwalając na koncentrację na tych aspektach pracy, które rzeczywiście wymagają doświadczenia i kreatywności. Dość paradoksalnie zatem rozwój AI może prowadzić do swoistego powrotu do istoty zawodu poprzez przesunięcie ciężaru pracy prawnika z wyszukiwania informacji i mozolnego przelewania myśli w kierunku ich oceny, interpretacji i strategicznie przemyślanego wykorzystania dla dobra klienta. Trzeba przy tym uczciwie przyznać, że trudno dziś przewidzieć, w jakim kierunku potoczy się rozwój narzędzi AI wspierających prawników i gdzie znajdziemy się za kilkanaście lat. W obliczu tej niepewności pożądane jest hołdowanie zasadzie, wedle której to zawsze człowiek – prawnik musi pozostać ostatecznym decydentem w kwestii wykorzystania treści wygenerowanych (human in the loop).
Z pewnością jest jednak tak, że podmioty, które będą traktowały AI wyłącznie jako narzędzie redukcji kosztów, mogą narazić się na szereg poważnych konsekwencji. Presja na szybkie wdrożenie i maksymalizację oszczędności sprzyja pomijaniu kluczowych etapów wdrażania narzędzia. W efekcie organizacja zyskuje pozorną efektywność i może zapłacić za nią wzrostem ryzyk prawnych. W środowisku prawniczym, gdzie zaufanie klienta i odpowiedzialność zawodowa są fundamentem, koszty takich zaniedbań szybko mogą okazać się niewspółmiernie wysokie.
dr Damian Flisak, radca prawny, kancelaria Lubasz i Wspólnicy
Zapraszamy na szkolenia online w LEX:
Kancelaria pod lupą hakerów – cyberbezpieczeństwo i cyberodporność kancelarii prawnych >
