Opinia biegłego z pomocą AI? Sędziowie chcą ustawowych zabezpieczeń

Stowarzyszenie Sędziów Polskich Iustitia, w swojej opinii do ustawy o biegłych sądowych, proponuje, by ustawowo uregulować wykorzystywanie przez biegłych AI. Jak wyjaśnia, chodzi o to, by przepisy przesądzały, że sztuczna inteligencja ma być wykorzystywana przy sporządzaniu opinii wyłącznie pomocniczo i nie może zastępować samodzielnego osądu biegłego. Co więcej, odpowiedzialność za treść opinii ma pozostawać po stronie człowieka. Zgodnie z propozycją sędziów m.in. prezes sądu będzie mógł wyłączyć możliwość korzystania z AI przy opinii w konkretnej sprawie.

Sama regulacja trafiła do opiniowania w kwietniu, jednak prace nad nią trwają od lat. Ministerstwo Sprawiedliwości, jak już wcześniej opisywaliśmy, proponuje m.in. utworzenie niezależnej instytucji - Państwowej Komisji Certyfikacyjnej Biegłych Sądowych i Instytucji Opiniujących, która ma przede wszystkim organizować proces weryfikacji kandydatów na biegłych sądowych i instytucji opiniujących oraz biegłych sądowych i instytucji opiniujących ubiegających się o przyznanie certyfikatu (taki certyfikat ma mieć bowiem 5 lat ważności). Ma też występować do ministra sprawiedliwości m.in. o wpis biegłego sądowego lub instytucji opiniującej do utworzonego na mocy ustawy Krajowego Rejestru Biegłych Sądowych i Instytucji Opiniujących, zamieszczenie informacji w Rejestrze o zawieszeniu lub cofnięciu zawieszenia certyfikatu biegłego sądowego lub instytucji opiniującej, wydawanie decyzji w sprawie przyznania, zawieszenia oraz cofnięcia certyfikatu biegłego sądowego lub certyfikatu instytucji opiniującej. Będzie mogła też np. żądać okazania przez biegłego sądowego lub instytucję opiniującą prowadzonej dokumentacji dotyczącej wydawanych opinii. Proponowana ustawa szczegółowo reguluje zarówno samą procedurę uzyskiwania certyfikatu, dokumenty, jakie trzeba przedstawić, jak i wymagania dla kandydatów na biegłych.

Czytaj: Jest projekt ustawy o biegłych, stawki za godzinę pracy określi rozporządzenie>>

Biegły korzysta z AI, sędzia musi wiedzieć w jakim zakresie

Do kwestii sztucznej inteligencji odnosi się m.in. art. 66 par. 1 proponowanej ustawy. Zgodnie z nim - punkt 8, taka opinia ma zawierać wskazanie, czy i w jakim zakresie biegły sądowy lub osoby, które wydały opinię w imieniu instytucji korzystały z systemów opartych na sztucznej inteligencji. W trakcie konsultacji, opinie do projektu przekazało Stowarzyszenie Sędziów Polskich Iustitii, a istotnym jej elementem jest właśnie kwestia związana z wykorzystaniem przez biegłych sztucznej inteligencji. Według sędziów, do rozstrzygnięcia, w trakcie prac na ustawą jest ustawowe uregulowanie dopuszczalności wykorzystywania AI przez biegłych.

Proponują dodanie do ustawy odrębnej jednostki redakcyjnej dotyczącej wykorzystania systemów sztucznej inteligencji. Ma ona przesądzać, że AI może być używana wyłącznie pomocniczo, nie może zastępować samodzielnego osądu biegłego, a odpowiedzialność za treść opinii zawsze pozostaje po stronie człowieka. Przepis ma również uwzględniać ochronę - jak wskazują - praw stron, tajemnic prawnie chronionych, danych osobowych oraz standardy wynikające z AI Act.W ich ocenie potrzebne jest też nałożenie ustawowych obowiązków transparentności i dokumentowania użycia AI. Innymi słowy biegły ma ujawnić istotne użycie AI w opinii lub załączniku, ale też udokumentować zakres i cel wykorzystania narzędzia oraz zapewnić "rzeczywisty nadzór człowieka nad wynikami systemu". 

 Rozwiązanie to ma służyć rozliczalności, weryfikowalności i ochronie praw procesowych uczestników postępowania - wskazują.

W ich ocenie potrzebne jest też wydanie rozporządzenia o AI w pracy biegłych, które obejmowałoby dopuszczalne i niedopuszczalne formy użycia, wymogi nadzoru człowieka, dokumentowania, przechowywania informacji o użyciu AI, zasady ochrony danych i materiału procesowego oraz minimalne standardy przygotowania biegłych do korzystania z takich narzędzi.

Czytaj: Projekt o biegłych prawie gotowy, trwa poszukiwanie oszczędności>>

Co proponuje Iustitia?

Sędziowie proponują dodanie przepisu określającego dopuszczalność zastosowania AI przez biegłych. I tak zgodnie z nim biegły sądowy oraz osoba uprawniona do wydawania opinii w imieniu instytucji opiniującej mogliby wykorzystywać systemy sztucznej inteligencji wyłącznie jako narzędzie pomocnicze przy wykonywaniu czynności biegłego, jeżeli - jak wskazano - nie narusza to prawa, zasad etyki biegłego, tajemnicy prawnie chronionej, ochrony danych osobowych, praw autorskich oraz prawa do rzetelnego postępowania.

Co więcej, w myśl tej regulacji, wykorzystanie systemu sztucznej inteligencji nie będzie zwalniać biegłego sądowego ani instytucji opiniującej z odpowiedzialności za treść opinii, dobór metod badawczych, prawidłowość ustaleń, kompletność materiału, poprawność wniosków oraz zgodność czynności z prawem i aktualną wiedzą specjalną.

Biegły oraz osoba uprawniona do wydawania opinii w imieniu instytucji opiniującej byliby też zobowiązani do m.in.:

• zachowania rzeczywistego i skutecznego nadzoru człowieka nad wykorzystaniem systemu sztucznej inteligencji;
• zweryfikowania wyników działania systemu sztucznej inteligencji przed ich wykorzystaniem w opinii lub toku czynności;
• ujawnienia w opinii albo w załączniku do opinii faktu wykorzystania systemu sztucznej inteligencji, jeżeli system ten miał istotny wpływ na gromadzenie informacji, analizę materiału, przetwarzanie danych, opracowanie wizualizacji, tłumaczenie, redakcję, modelowanie albo inne elementy mające znaczenie dla treści opinii;
• udokumentowania zakresu, celu i sposobu wykorzystania systemu sztucznej inteligencji w stopniu umożliwiającym ocenę wpływu tego systemu na treść opinii;
• powstrzymania się od wykorzystania systemu sztucznej inteligencji, jeżeli nie jest możliwe zapewnienie weryfikowalności jego działania w zakresie istotnym dla opinii albo jeżeli użycie tego systemu mogłoby prowadzić do naruszenia praw stron, tajemnicy prawnie chronionej lub zasad rzetelnego postępowania.

Co zaznaczono, niedopuszczalne byłoby też wykorzystanie systemu sztucznej inteligencji w sposób prowadzący do:

• zastąpienia samodzielnego osądu biegłego w zakresie ustaleń wymagających wiadomości specjalnych;
• automatycznego sformułowania końcowych wniosków opinii bez ich merytorycznej weryfikacji przez biegłego;
• wprowadzenia do systemu sztucznej inteligencji informacji objętych tajemnicą prawnie chronioną, danych osobowych lub materiału procesowego, jeżeli nie istnieje odpowiednia podstawa prawna oraz odpowiednie zabezpieczenia techniczne i organizacyjne;
• użycia systemu sztucznej inteligencji zakazanego przez przepisy prawa Unii Europejskiej lub prawa krajowego.

Prezes sądu będzie mógł ograniczyć wykorzystanie AI w opinii

W myśl propozycji sędziów, prezes sądu, prokurator, sąd albo inny organ prowadzący postępowanie będzie mógł określić dodatkowe ograniczenia albo wyłączyć możliwość wykorzystania systemów sztucznej inteligencji w określonej sprawie, jeżeli wymaga tego charakter materiału, dobro postępowania albo ochrona praw uczestników.

Z kolei rozporządzenie - jak proponuje Iustitia - miałoby określać w szczególności:

• dopuszczalne i niedopuszczalne sposoby wykorzystania systemów sztucznej inteligencji w pracy biegłych;
• przypadki, w których wykorzystanie systemów sztucznej inteligencji wymaga ujawnienia w opinii lub dokumentacji sprawy;
• minimalne wymagania dotyczące nadzoru człowieka, weryfikacji wyników, dokumentowania użycia i przechowywania informacji o wykorzystaniu systemów sztucznej inteligencji;
• zasady ochrony materiału procesowego, danych osobowych, tajemnicy prawnie chronionej oraz praw autorskich przy korzystaniu z systemów sztucznej inteligencji;
• minimalne wymagania dotyczące przygotowania i szkolenia biegłych w zakresie bezpiecznego i zgodnego z prawem korzystania z systemów sztucznej inteligencji;
• a także m.in. sposób raportowania wykorzystania systemów sztucznej inteligencji w opinii albo załączniku do opinii.

Są też konkretne propozycje sędziowskie dotyczące rozporządzenia. I tak ma ono m.in. wskazywać, że wykorzystanie systemu sztucznej inteligencji do analizy 

danych, modelowania, przetwarzania obrazu, dźwięku albo tekstu jest dopuszczalne pod warunkiem, że biegły:

• rozumie sposób użycia narzędzia w zakresie niezbędnym do oceny jego przydatności;
• weryfikuje poprawność otrzymanych wyników;
• potrafi wyjaśnić wpływ wykorzystanego narzędzia na tok rozumowania i treść opinii.

Z kolei niedopuszczalne byłoby wykorzystanie systemów sztucznej inteligencji przez biegłego:

• do automatycznego sformułowania końcowych wniosków opinii bez merytorycznej kontroli biegłego;
• do przypisywania systemowi sztucznej inteligencji roli źródła wiadomości specjalnych zamiast biegłego;
• w sposób sprzeczny z przepisami prawa Unii Europejskiej albo prawa krajowego;
• przez wprowadzenie do systemu danych, których użycie narusza tajemnicę prawnie chronioną, ochronę danych osobowych albo bezpieczeństwo materiału procesowego;
• do tworzenia pozornych źródeł, nieistniejących cytatów, zmanipulowanych danych albo nieoznaczonych treści syntetycznych;
• jeżeli biegły nie może odtworzyć, opisać albo obronić sposobu wykorzystania systemu.