- AI nie może być traktowane jako "zastępstwo" dla ludzkiego osądu. Ocena powinna opierać się na faktach, kryteriach programowych i merytorycznej analizie, a nie na automatycznych rekomendacjach czy wzorcach wykrywanych przez algorytmy – czytamy w odpowiedzi zespołu prasowego NCBR na pytanie w tej sprawie. Dlatego – mimo dostrzegania przez NCBR potencjału AI w zwiększaniu efektywności procesów decyzyjnych – Centrum „nie zgadza się na wykorzystywane przez ekspertów w procesie oceny wniosków narzędzi opartych na sztucznej inteligencji (AI), w tym w szczególności generatywnych modeli językowych, systemów automatycznej analizy treści ani innych technologii przetwarzających dane w sposób automatyczny”.

 

Rządowe prace nad ustawą wdrażającą AI Act na ostatniej prostej>>

 

NCBR nie automatyzuje oceny wniosków

NCBR zapewniło też, że w dokumentach konkursowych oraz w oficjalnych stanowiskach NCBR „nie ma obecnie zapisów dopuszczających automatyzację procesu oceny przy użyciu AI”. - Żaden z elementów procesu oceny, w tym ocena formalna, ocena merytoryczna nie jest aktualnie wspierany przez systemy automatyczne lub algorytmy AI. Procesy te są realizowane przez pracowników NCBR i ekspertów w sposób manualny, zgodnie z obowiązującymi procedurami i zapisami dokumentacji konkursowej dla danego naboru – podkreślono. O wykorzystywaniu narzędzi AI w procesie oceny wniosków przez NCBR zrobiło się głośno w ostatnich tygodniach po artykule „Pulsu Biznesu” z końca lipca br., gdzie opisano, że polska firma z sektora kosmicznego KP Labs miała otrzymać negatywną opinię na wniosek o dofinansowanie, a argumentacja odmowy miała wskazywać na treści wygenerowane przez narzędzia AI. Biuro prasowe NCBR podało, że w drugim kwartale br. rozpoczęto prace nad aktualizacją dokumentacji opisującej zasady współpracy z ekspertami programu Fundusze Europejskie dla Nowoczesnej Gospodarki, która obecnie znajduje się w konsultacjach z instytucją zarządzającą – Ministerstwem Funduszy i Polityki Regionalnej.

- Ponadto, w dokumentach regulujących zasady oceny projektów, takich jak oświadczenia ekspertów oraz zapisy w regulaminach pracy zespołów ekspertów/komisji oceny projektów zaproponowaliśmy wprowadzenie jednoznacznych zapisów zakazujących stosowania narzędzi AI w procesie oceny wniosków. Zgodnie z proponowanymi zapisami (dokumentacja jest na etapie uzgodnień i konsultacji) eksperci zobowiązani będą do niewykorzystywania takich technologii oraz do nieudostępniania treści wniosków jakimkolwiek zewnętrznym systemom – zarówno w formie jawnej, jak i zanonimizowanej – wskazano w informacji. Wyjaśniono też, że naruszenie tych zasad może skutkować wykreśleniem eksperta z Bazy Ekspertów NCBR oraz Wykazu Ekspertów FENG, a także innymi sankcjami przewidzianymi w umowie ramowej, takimi jak: kary umowne, brak wypłaty wynagrodzenia, negatywna ocena jakości pracy eksperta, odpowiedzialność za szkody wobec NCBR i osób trzecich czy natychmiastowe wypowiedzenie umowy ramowej.

 

- Aktualnie jesteśmy także w trakcie opracowywania w formie udokumentowanej wytycznych dla ekspertów dotyczących użycia AI, gdzie przedstawione zostaną m.in. potencjalne zagrożenia związane z wykorzystaniem AI w procesie oceny oraz zasady etyczne, które powinny towarzyszyć pracy eksperta – zapowiedziało NCBR.

NCBR poinformowało, że jego pracownicy mają możliwość korzystania z narzędzia wykorzystującego AI, choć tylko od jednego konkretnego dostawcy oprogramowania. Dodatkowo, dla personelu NCBR został wprowadzony kodeks dobrych praktyk korzystania z tego narzędzia, który obejmuje regulacje dotyczące m.in. dozwolonych ram użytkowania, zasad bezpieczeństwa i prywatności czy ochrony danych osobowych i informacji NCBR. Kodeks ten nie obowiązuje jednak zewnętrznych ekspertów, którzy angażują się w proces oceny wniosków o dofinansowania w różnych programach, choć oni nie posiadają uprawnień ani dostępu do zasobów informatycznych NCBR. W informacji podano, że pracownicy NCBR i eksperci oceniający wnioski przed przystąpieniem do oceny składają oświadczenia o zachowaniu bezstronności, braku konfliktu interesów oraz poufności.

 

- Wykorzystanie narzędzi AI w procesie oceny wniosków mogłoby naruszać te zasady, szczególnie w zakresie poufności danych oraz niezależności oceny – zaznaczono. NCBR jest agencją wykonawczą, powołaną do realizacji zadań z zakresu polityki naukowej, naukowo-technicznej i innowacyjnej państwa. Przez jej „ręce” przechodzą również dofinansowania ze środków krajowych i unijnych, które następnie są przydzielane polskim jednostkom naukowym i przedsiębiorstwom na rzecz tworzenia i wdrażania przez nie wyników badań, sprzyjających docelowo m.in. rozwojowi gospodarki. W sprawie opisanej przez "PB" biuro prasowe NCBR przekazało PAP, że skontaktowano się z ekspertem oceniającym wniosek KP Labs, który „potwierdził, że w procesie oceny korzystał wyłącznie z własnej wiedzy oraz ogólnodostępnych narzędzi wyszukiwania”. „NCBR przeprowadziło również wewnętrzną weryfikację oświadczenia eksperta dotyczącego bezstronności i nie stwierdzono żadnych przesłanek wskazujących na konflikt interesów” – czytamy. Ponadto podano, że wnioskodawca – firma KP Labs – skorzystał z przysługującego prawa do wniesienia protestu, który jest rozpatrywany w ramach procedury odwoławczej.(ms/PAP)

 

 

-------------------------------------------------------------------------------------------------------------------

Linki w tekście artykułu mogą odsyłać bezpośrednio do odpowiednich dokumentów w programie LEX. Aby móc przeglądać te dokumenty, konieczne jest zalogowanie się do programu. Dostęp do treści dokumentów w programie LEX jest zależny od posiadanych licencji.