Opinia Europejskiego Komitetu Regionów - Biała księga w sprawie sztucznej inteligencji - Europejskie podejście do doskonałości i zaufania.

Opinia Europejskiego Komitetu Regionów - Biała księga w sprawie sztucznej inteligencji - Europejskie podejście do doskonałości i zaufania

(2020/C 440/14)

(Dz.U.UE C z dnia 18 grudnia 2020 r.)

Sprawozdawca:	Guido RINK (NL/PES), członek zarządu gminy Emmen
Dokument	Biała księga w sprawie sztucznej inteligencji - Europejskie podejście do doskonałości
źródłowy:	i zaufania
	COM(2020) 65 final

ZALECENIA POLITYCZNE

EUROPEJSKI KOMITET REGIONÓW

Uwagi ogólne

1. Zauważa, że 19 lutego 2020 r. Komisja Europejska (dalej: Komisja) opublikowała strategię cyfrową na lata 20202025. W Białej księdze w sprawie sztucznej inteligencji (dalej: AI) Komisja przedstawia swą wizję najważniejszych środków z zakresu polityki i inwestycji w dziedzinie AI. Zdaniem Komisji Europa może stać się światowym liderem na tym polu.

2. Przypomina, że biała księga w sprawie AI jest powiązana z komunikatem "Kształtowanie cyfrowej przyszłości Europy" ¹  oraz z komunikatem w sprawie europejskiej strategii w zakresie danych ² .

3. Zwraca uwagę, że celem Komisji jest przyjęcie takiego podejścia do rozwoju i stosowania AI, które byłoby ukierunkowane na człowieka, etyczne i bezpieczne oraz zgodne z wartościami, z którymi sama UE pragnie się kojarzyć.

4. Przypomina, że Biała księga w sprawie sztucznej inteligencji obejmuje dwie istotne części: promowanie rozwoju i zastosowania AI oraz ramy regulacyjne dotyczące aspektów etycznych i wiarygodności.

5. Z zadowoleniem przyjmuje Białą księgę w sprawie sztucznej inteligencji - Europejskie podejście do doskonałości i zaufania. Uznaje znaczenie dyskusji na temat AI w okresie poprzedzającym kształtowanie polityki Komisji w tej dziedzinie. KR zwraca jednak uwagę na fakt, że w białej księdze należało położyć nacisk na rolę władz lokalnych i regionalnych jako istotnych partnerów, twórców, użytkowników i propagatorów innowacji w rozwoju AI.

6. W tym kontekście KR przywołuje swą opinię w sprawie sztucznej inteligencji z 6-7 lutego 2019 r. ³

7. Zwraca uwagę, że AI jest już częścią naszego życia i będzie odgrywać coraz większą rolę w przekształcaniu naszych społeczeństw. Ma ona ogromny potencjał dla europejskiego społeczeństwa, przedsiębiorstw i obywateli. Innowacje w dziedzinie AI stanowią nie tylko wkład w gospodarkę, lecz przyczyniają się również do wywiązywania się z zadań społecznych i środowiskowych.

8. Uważa, że zastosowanie AI jest ważne nie tylko na szczeblu krajowym, ale przede wszystkim na szczeblu lokalnym i regionalnym. Władze lokalne i regionalne mają do odegrania istotną rolę m.in. we wspieraniu rozwoju ekosystemów AI we własnych regionach oraz w promowaniu i dokonywaniu inwestycji w AI.

9. Podkreśla, że AI jest złożonym obszarem polityki, który nie jest oderwany od innych. Dotyczy szeregu innych nurtów polityki realizowanych przez Komisję.

10. Zwraca uwagę, że Biała księga w sprawie AI i wynikające z niej środki z zakresu polityki powinny być postrzegane w powiązaniu z przedstawionym w tym samym czasie komunikatem "Kształtowanie cyfrowej przyszłości Europy" i komunikatem w sprawie europejskiej strategii w zakresie danych. Ponadto biała księga powinna wpisywać się w kontekst szeregu innych obszarów polityki Komisji, takich jak na przykład europejski program na rzecz umiejętności ⁴  oraz zalecenie w sprawie wspólnego unijnego zestawu instrumentów ułatwiającego wykorzystanie technologii i danych w celu zwalczania kryzysu wywołanego przez COVID-19 i wyjścia z niego, w szczególności w odniesieniu do aplikacji mobilnych i wykorzystywania zanonimizowanych danych dotyczących mobilności ⁵ .

11. Podkreśla, że zalecenia KR-u należy w stosownych przypadkach rozpatrywać w powiązaniu z tymi dokumentami dotyczącymi kształtowania polityki europejskiej.

12. Z zadowoleniem przyjmuje podejście Komisji, które zasadniczo polega na rozwoju AI ukierunkowanej na człowieka i związaną z tym ambicję, by stać się liderem w ustalaniu norm etycznych. Komisja słusznie podkreśla, że korzyści płynące z AI zależą od zaufania, jakie obywatele wobec niej żywią.

13. Podkreśla jednak z naciskiem, że debata na temat przyszłych środków z zakresu polityki służących budowaniu zaufania do AI powinna również obejmować kwestie dotyczące własności danych, algorytmów, platform, ochrony wartości publicznych na platformach i tego, kto w ostatecznym rozrachunku odnosi największe korzyści z zastosowań w dziedzinie AI, a kto za nie płaci (i czy jest społecznie akceptowalne).

14. Biorąc pod uwagę, że AI dotyczy wielu innych obszarów polityki, KR zaznacza, że istnieje ryzyko osłabienia spójności między tymi obszarami polityki i ich rozwijania się w próżni.

15. Proponuje Komisji, by rozważyła opracowanie planu działania i podejścia do wspierania spójności między różnymi obszarami polityki.

Wykorzystanie szans

16. Podkreśla, że polityka europejska powinna zdecydowanie zmierzać do wzmocnienia multidyscyplinarnych lokalnych i regionalnych sieci obywateli, administracji, instytucji naukowych i przedsiębiorstw, a także w nie inwestować (w ich organizację i promowanie). KR uważa, że proponowane przez Komisję ośrodki innowacji odgrywają w tym względzie kluczową rolę.

17. Zwraca uwagę, że AI może przyczynić się do stawienia czoła wyzwaniom społecznym w obszarach m.in. opieki zdrowotnej (czego najważniejszym najnowszym przykładem jest walka z globalnym kryzysem wywołanym przez COVID-19), bezpieczeństwa, klimatu, mobilności i transportu, wsparcia społecznego, przemysłu zaawansowanych technologii, handlu detalicznego, rolnictwa i usług publicznych.

18. Zwraca uwagę na fakt, że sztuczna inteligencja ma potencjał ku temu, by tworzyć nowe miejsca pracy i nową przedsiębiorczość. Komisja słusznie przyznaje, że istotnym warunkiem podstawowym jest, by obywatele mogli mieć zaufanie do tej technologii. Strategiczne ramy UE oparte na podstawowych wartościach powinny umożliwiać zbudowanie tego zaufania i zachęcać przedsiębiorstwa do opracowywania rozwiązań w zakresie AI.

19. KR zgadza się ze znaczeniem równych warunków działania na rynku europejskim. Szczególną uwagę należy w związku z tym zwrócić na dostęp małych i średnich przedsiębiorstw (MŚP) oraz przedsiębiorstw typu startup do AI, które są istotną siłą napędową lokalnej i regionalnej gospodarki. Europejskie centra innowacji cyfrowych oraz przyszłe ramy regulacyjne i polityki mają do odegrania decydującą rolę w promowaniu równych szans w dostępie do AI, a przede wszystkim we wspieraniu dostępu mikroprzedsiębiorstw oraz małych i średnich przedsiębiorstw (MMŚP) do AI.

20. KR ma świadomość, że Komisja angażuje się na rzecz wykorzystania silnej pozycji Europy na (istniejących) rynkach przemysłowych i branżowych ⁶ . Pragnie podkreślić, że strategia ta nie może być jednak realizowana kosztem wydajności, zdolności do innowacji oraz DNA lokalnych i regionalnych ekosystemów.

21. Podkreśla, że władze lokalne i regionalne starają się wypełnić wiele zadań społecznych w tych ekosystemach. Mogą one odgrywać ważną rolę w przyspieszaniu skutecznych innowacji w odniesieniu do tych zadań.

22. Podkreśla, że władze lokalne i regionalne są najlepiej predestynowane do tego, by przyczynić się do stworzenia warunków sprzyjających rozwojowi inwestycji w AI w nadchodzących latach oraz do zwiększenia zaufania do tej technologii w różnych ogniwach łańcuchów wartości. Wynika to z faktu, że są one najbliżej praktyki w terenie i mogą pobudzać działanie lokalnych multidyscyplinarnych sieci.

23. Uważa, że konieczne będzie znaczne wsparcie ze strony UE w celu stymulowania inwestycji prywatnych i publicznych oraz zapewnienie środków z programu "Cyfrowa Europa", "Horyzont Europa" i europejskich funduszy strukturalnych i inwestycyjnych, aby zaspokoić potrzeby lokalnych ekosystemów.

24. Jest zdania, że instrumenty dotacji powinny być ukierunkowane na konkretne zastosowania AI, w przypadku których możliwe jest zwiększenie skali. Aby optymalnie wykorzystać możliwości związane z AI, należy promować małe projekty oraz ograniczyć związane z nimi obciążenia finansowe, co w oczach władz lokalnych i regionalnych zwiększy atrakcyjność uczestnictwa w projektach finansowanych ze środków europejskich.

25. Popiera podejście polegające na rozwoju AI w ośrodkach innowacji cyfrowych. W tym kontekście instrumenty dotacji na rzecz ośrodków innowacji cyfrowych powinny koncentrować się na promowaniu lokalnych i regionalnych ekosystemów.

26. KR wyraża zadowolenie, że Komisja pragnie dążyć do opracowywania produktów opartych na AI w sektorze publicznym ⁷ .

27. Uważa jednak, że zaangażowanie Komisji w rozwój AI w sektorze publicznym nie powinno ograniczać się do już sprawdzonych technologii AI w uprzednio określonych sektorach. Władze lokalne i regionalne mogą mianowicie odgrywać ważną rolę w przyspieszaniu rozwoju (nowej) technologii AI jako klient wypróbowujący nowe technologie.

28. Komisja powinna wezwać wszystkie organy władz publicznych, w tym władze lokalne i regionalne, do przeprowadzenia rygorystycznych ocen wpływu na prawa podstawowe w odniesieniu do systemów sztucznej inteligencji stosowanych w sektorze publicznym. Organy władz powinny unikać korzystania ze wszelkich technologii nadzoru opartych na sztucznej inteligencji, w szczególności w nagłych przypadkach, zanim znane będą wyniki oceny skutków i przyjęte niezbędne rozwiązania.

29. KR apeluje o opracowanie ram udzielania zamówień publicznych i zestawu przepisów, takich jak standardowe warunki zakupu, które oferują władzom lokalnym i regionalnym możliwość działania oraz optymalnego wykorzystania szans.

30. Podkreśla, że wartość danych wynika z ich ponownego wykorzystania, między innymi w zastosowaniach związanych z AI. Międzysektorowa wymiana danych sprzyja innowacjom w dziedzinie AI. KR wzywa Komisję do wykorzystania ogólnego rozporządzenia o ochronie danych (UE) 2016/679 oraz rozważenia zasadności dalszych ram regulacyjnych konkretnie dotyczących AI w celu zapewnienia łatwej i niezawodnej wymiany i ponownego wykorzystywania danych między przedsiębiorstwami i organami publicznymi (B2G), zwłaszcza jeśli chodzi o interes publiczny, jak np. w przypadku pandemii COVID-19. W tym kontekście uwidoczniło się także znaczenie wykorzystywania danych pochodzących od przedsiębiorstw przez organy publiczne. Należy wykorzystać ten potencjał, ponieważ można w ten sposób zmniejszyć obciążenia administracyjne dla przedsiębiorstw i w wielu przypadkach, na przykład w kontekście gospodarki platform cyfrowych, tylko w ten sposób władze publiczne mogą wywiązać się ze swoich zobowiązań prawnych.

31. Jest zdania, że konieczne jest inwestowanie na szczeblu europejskim we wspólną, bezpieczną podstawową infrastrukturę oraz architekturę danych, a także w normy jakości w odniesieniu do bezpieczeństwa, zbiorów danych i statystyk. Obniża to próg dostępu do zastosowań w dziedzinie AI i zwiększa zaufanie cyfrowe oraz pobudza rozwój i możliwości wykorzystania AI.

32. Zdecydowanie uważa, że zastosowania AI opracowane z wykorzystaniem środków publicznych powinny przynosić jak największe korzyści społeczeństwu. Powinny one zasadniczo być opracowywane na przykład w warunkach otwartego oprogramowania i jednocześnie uznawać potrzebę finansowania rozwoju.

Stanowienie prawa a polityka: podejście oparte na uczeniu się

33. KR odnotowuje z zainteresowaniem postępy poczynione w definiowaniu AI, czego odzwierciedleniem jest uaktualniona definicja ⁸  przedstawiona przez grupę niezależnych ekspertów wysokiego szczebla utworzoną przez Komisję Europejską. Uważa, że definicja ta lepiej odzwierciedla możliwości techniczne AI. Jednak definiowanie AI powinno być procesem ciągłym. Powinno uwzględniać kontekst funkcjonowania AI, dotrzymywać kroku przemianom społecznym w tej dziedzinie oraz brać pod uwagę związek między ekosystemem doskonałości przedstawionym przez Komisję a ekosystemem zaufania.

34. Zdaniem KR-u system AI składa się z elementów technicznych łączących dane, algorytmy i moc obliczeniową z praktykami społecznymi, społeczeństwem, tożsamością i kulturą. Definicja tak dynamicznego połączenia elementów społecznych i technicznych powinna być zatem regularnie aktualizowana w celu dokładnego odzwierciedlenia stale rosnącego wpływu społecznego AI oraz wskazania szybko zmieniających się wyzwań i szans związanych z AI.

35. Zauważa, że zapewnienie praw podstawowych, praw konsumentów oraz przejrzystości w wykorzystywaniu wspomnianych elementów technicznych i zasad dotyczących odpowiedzialności i bezpieczeństwa produktów jest zdaniem Komisji najważniejszym elementem ekosystemu zaufania. Te podstawowe elementy stanowią podstawę przyszłych ram regulacyjnych UE dotyczących AI.

36. Zwraca uwagę na to, że uczenie maszynowe w branży sztucznej inteligencji opiera się na programowaniu przez człowieka, co może prowadzić do stronniczości na znaczną skalę. W związku z tym wzywa UE do wdrożenia mechanizmów zapewniających równouprawnienie płci, rasy i światopoglądu oraz włączenie społeczne w rozwój i zastosowania technologii sztucznej inteligencji.

37. Zwraca uwagę na fakt, że prawo karne stanowi ważną formę ustalania norm w przypadku poważnych naruszeń praw podstawowych obywateli oraz ich bezprawnej i niejawnej obserwacji za pomocą zastosowań AI.

38. Zgadza się z Komisją, że zastosowania AI zostały już uregulowane dzięki szeroko zakrojonym, wysokiej jakości ramom prawnym i etycznym UE. Ważnymi przykładami są przepisy dotyczące bezpieczeństwa produktów i odpowiedzialności, praw konsumentów, praw podstawowych, prawa antydyskryminacyjnego i prawa do ochrony danych osobowych.

39. Podkreśla, że trzeba stwierdzić, iż istniejące ramy prawne nie są specjalnie dostosowane do zastosowań AI, w związku z czym obecnie istnieje luka prawna. Należy uważnie przeanalizować, w jakich obszarach potrzebne są dodatkowe uregulowania prawne w celu zwiększenia zaufania obywateli do AI. Zasadniczym elementem wszelkich przyszłych ram regulacyjnych mających zastosowanie do sztucznej inteligencji jest wprowadzenie zabezpieczeń gwarantujących, że sztuczna inteligencja jest wolna od uprzedzeń i nie prowadzi do powielania dyskryminacji ze względu na płeć, pochodzenie etniczne, wiek, niepełnosprawność lub orientację seksualną.

40. Zwraca również uwagę, że żaden z języków urzędowych UE nie może być dyskryminowany ani narażony na szwank ze względu na stosowanie sztucznej inteligencji, zaś dane i wersje językowe powinny być dostępne we wszystkich językach urzędowych UE.

41. Komitet podkreśla ponadto znaczenie kodowania z uwzględnieniem aspektu płci i wzywa do równego udziału wszystkich płci w opracowywaniu, wdrażaniu, ocenie i debacie na temat etyki i norm technologii związanych z AI. Zwiększenie udziału dziewcząt i kobiet w dziedzinie nauk ścisłych, technologii, inżynierii, sztuki i matematyki (STEAM) ma zasadnicze znaczenie dla ich pełnego włączenia w procesy związane z AI, w szczególności w gospodarkę cyfrową w ujęciu ogólnym.

42. Podkreśla, że niniejsze ramy regulacyjne powinny zapewniać wystarczające wymienione powyżej kluczowe elementy, a jednocześnie przestrzeń na innowacje i elastyczność w tym zakresie. Należy mieć przy tym świadomość wyzwań związanych z objaśnianiem systemów AI, ich funkcjonowania oraz wyników i skutków, również społecznych, które one przynoszą.

43. Zauważa, że AI nie jest samodzielną technologią, lecz musi być powiązana z innymi technologiami i dziedzinami nauki, takimi jak etologia, informatyka kwantowa, internet rzeczy, wdrażanie sieci 5G i 6G, modele biznesowe oraz platformy cyfrowe.

44. Uważa, że koniecznie należy wziąć pod uwagę, iż AI jest rozwijającą się technologią, która nie jest jeszcze w pełni zaawansowana i ugruntowana w społeczeństwie.

45. Zwraca uwagę, że przed politykami, decydentami i społeczeństwem stoi zasadnicze wyzwanie: jak zadbać o to, by równowaga między pożądanymi i niepożądanymi skutkami i oddziaływaniem przechyliła się w odpowiednią stronę? Oraz w jaki sposób można zapewnić wystarczającą przestrzeń do wykorzystania możliwości związanych z AI oraz zwiększenia zaufania obywateli do AI? Wraz z rozwojem zastosowań AI, zwłaszcza algorytmów prognostycznych, w wielu instytucjach publicznych i rządowych (organach wymiaru sprawiedliwości, ochronie porządku publicznego, wojsku itp.) istnieje pilna potrzeba ustanowienia ram regulacyjnych przewidujących surowe wymogi "konieczności" i "proporcjonalności", zapewniających odpowiednie zabezpieczenia i środki naprawcze oraz jasno określających obowiązki i rozliczalność, a także odpowiedni nadzór publiczny.

46. Podkreśla, że władze lokalne i regionalne powinny odgrywać ważną rolę w kształtowaniu prawodawstwa i polityki w dziedzinie AI. Znajdują się one bliżej obywateli, a zatem dysponują bardziej przydatnymi informacjami niż rządy krajowe. Dlatego też muszą być bardziej zaangażowane w opracowywanie polityki i przepisów, które wynikać będą z białej księgi.

47. KR zgadza się ze stanowiskiem Komisji, że z uwagi na tempo rozwoju AI ramy regulacyjne powinny pozostawiać przestrzeń na dalszy rozwój. Zdaniem KR-u w tym celu niezbędne są prawo i proces legislacyjny, które będą się dostosowywać do okoliczności. Wymaga to również krytycznego podejścia ze strony Komisji do funkcjonowania własnego systemu oraz innowacji społecznych w ramach tego systemu.

48. W tym kontekście nalega, by władze lokalne i regionalne miały wystarczające pole do eksperymentów (w tym do prototypowania polityki) i uczenia się, w jaki sposób można najwydajniej i najskuteczniej kształtować politykę dotyczącą tych zasadniczych wyzwań.

49. KR wzywa Komisję do opracowania ram proceduralnych służących wykorzystaniu w jak najszerszym zakresie już istniejących ram a także dalszemu rozwijaniu na przestrzeni czasu przyszłej polityki i ram regulacyjnych UE w zakresie AI. Ramy te powinny również zapewniać koordynację wysiłków na szczeblu europejskim, krajowym i regionalnym oraz współpracę między sektorem prywatnym i publicznym. W związku z tym utworzenie unijnej agencji ds. sztucznej inteligencji przyczyniłoby się do skutecznego nadzoru i koordynacji kwestii związanych z AI na wszystkich szczeblach sprawowania rządów - od szczebla europejskiego do lokalnego.

50. KR popiera podejście Komisji, zgodnie z którym należy wprowadzić dodatkowe uregulowania prawne odnośnie do AI wysokiego ryzyka.

51. Uważa jednak, że najważniejszym kryterium oceny ryzyka związanego z AI jest: stopień, w jakim człowiek może wpływać na proces decyzyjny, oraz wpływ podejmowania decyzji na prawa i rzeczywiste działanie obywateli.

52. Apeluje o to by przyszłe prawodawstwo i przyszła polityka w szczególności koncentrowały się na przejrzystości i wyjaśnialności algorytmów oraz na rozliczalności ⁹  sprawiedliwości i odpowiedzialności za wdrażanie AI, w szczególności, gdy narusza ona prawa czy też rzeczywiste działanie obywateli bądź na nie wpływa.

53. Zwraca uwagę, że obywatele mają prawo dowiedzieć się za pomocą prostego przekazu, na podstawie jakich danych i algorytmów wpływa się na ich prawa lub rzeczywiste działanie, tak aby mogli oni bronić się w sprawiedliwy sposób i, w razie konieczności, korzystać ze skutecznej ochrony prawnej. Ponadto system podejmowania decyzji powinien przewidywać możliwość rozpatrzenia danej kwestii przez osobę. W stosownych przypadkach powinno się podkreślić rolę władz.

54. KR uważa, że wykorzystanie technologii sztucznej inteligencji jest bardzo istotne również w odniesieniu do warunków pracy i dobrostanu pracowników. W związku z tym przyłącza się do apelu europejskich partnerów społecznych o "minimalizację i przejrzystość danych oraz wprowadzenie jasnych zasad przetwarzania danych osobowych w celu ograniczenia ryzyka natarczywego monitorowania i nadużywania danych osobowych" ¹⁰ , by zapewnić poszanowanie godności ludzkiej. W tym kontekście Komitet zgadza się z tym, jak ważne jest umożliwienie przedstawicielom pracowników zajmowania się kwestiami związanymi z danymi, zgodą, ochroną prywatności i nadzorem, łącząc gromadzenie danych z konkretnym i przejrzystym celem oraz zapewniając przejrzystość przy stosowaniu systemów sztucznej inteligencji w procedurach dotyczących zasobów ludzkich.

55. Zgadza się z wymogami dotyczącymi danych szkoleniowych, których wprowadzenie rozważa Komisja. Prowadzenie rejestru jest sposobem sprawdzania zgodności z przepisami. KR uważa jednak, że związane z tym obciążenia administracyjne powinny być jak najbardziej ograniczone.

56. Popiera pogląd Komisji, zgodnie z którym cel polegający na stworzeniu wiarygodnej, etycznej i ukierunkowanej na człowieka AI można osiągnąć wyłącznie poprzez zapewnienie odpowiedniej interwencji człowieka w zastosowaniach AI charakteryzujących się wysokim ryzykiem.

57. Nalega, by przyszłe prawodawstwo i monitorowanie jego przestrzegania miały zastosowanie do całego cyklu życia zastosowania AI.

58. KR zgadza się ze stanowiskiem Komisji, że nadzór człowieka pomaga zapewnić ludzką autonomię, wzywa jednak Komisję Europejską do oceny zagrożeń etycznych, w szczególności w odniesieniu do uprzedzeń, a jednocześnie do proponowania jasnych rozwiązań.

59. Wzywa do uwzględnienia w rozporządzeniu w sprawie sztucznej inteligencji krótko- i długoterminowego wpływu wykorzystania tych technologii na środowisko w całym cyklu ich życia i w całym łańcuchu dostaw.

60. Przyjął do wiadomości projekt sprawozdania Komisji Prawnej Parlamentu Europejskiego ¹¹ . W szczególności odnotował stwierdzenie, że każde państwo członkowskie musi wyznaczyć krajowy organ nadzoru odpowiedzialny za zapewnienie, ocenę i monitorowanie przestrzegania przepisów oraz za propagowanie dyskusji i wymiany poglądów w ścisłej współpracy z odpowiednimi zainteresowanymi stronami i społeczeństwem obywatelskim.

61. KR popiera pogląd Komisji, że konieczna jest obiektywna uprzednia ocena zgodności w celu weryfikacji, czy spełnione zostały obowiązkowe wymogi dla zastosowań wysokiego ryzyka, i zagwarantowania wywiązania się z tych wymogów.

62. Zgadza się z Komisją, że skutki stosowania systemów AI służących zdalnej identyfikacji biometrycznej mogą znacznie się różnić w zależności od celu, kontekstu i zakresu zastosowania.

63. Domaga się opracowania wiążących i łatwo zrozumiałych ram jakości w celu ukierunkowania takich zastosowań AI o potencjalnie poważnych skutkach. Ramy te powinny koncentrować się głównie na normach i metodach, które zapobiegają nielegalnej dyskryminacji oraz stygmatyzacji osób i grup społecznych. KR zgadza się z podejściem Komisji, wedle którego należy przeprowadzić szeroko zakrojoną debatę na ten temat.

64. Uważa, że etyka, wraz z prawodawstwem, odgrywa ważną rolę w projektowaniu AI ("uwzględnianie etyki na etapie projektowania"). Należy zdawać sobie sprawę, że etyka nie jest związana z konkretnym narzędziem technicznym (np. AI), lecz dotyczy kontekstu społecznego i regulacyjnego, w którym dane narzędzie techniczne jest stosowane.

65. Uważa, że dla przyszłej polityki dotyczącej ekosystemu zaufania korzystniejsze byłoby szersze podejście wykraczające poza zwykłe stanowienie prawa w odniesieniu do AI charakteryzującej się wysokim ryzykiem. Przyszła polityka wymaga stałej i systematycznej perspektywy społecznotechnicznej, w ramach której technologia byłaby postrzegana ze wszystkich punktów widzenia z zastosowaniem różnorakich kryteriów. Wymaga to multidyscyplinarnego podejścia do kształtowania polityki i stanowienia prawa, w ramach którego decydenci, pracownicy naukowi z różnych dziedzin, partnerzy społeczni, kręgi biznesowe oraz władze lokalne i regionalne stale by ze sobą współpracowali i monitorowali rozwój sytuacji oraz rozpowszechniali wyniki swoich obserwacji w tak samo przejrzysty sposób.

Rozwój wiedzy

66. Zwraca uwagę, że aby wesprzeć przejście do społeczeństwa, w którym AI odgrywa ważną rolę, konieczne jest, aby przyszłe wnioski dotyczące zaktualizowanego europejskiego programu na rzecz umiejętności oraz Planu działania w dziedzinie edukacji cyfrowej obejmowały całą ścieżkę kształcenia: edukację podstawową, kształcenie średnie, kształcenie zawodowe na poziomie średnim i wyższym oraz kształcenie uniwersyteckie i uczenie się przez całe życie. Programy nauczania w ramach edukacji cyfrowej powinny promować aktywną postawę obywatelską, wyostrzać krytyczne myślenie i umożliwiać ludziom już od wczesnego etapu radzenie sobie z rosnącą interakcją z AI.

67. Apeluje, by działania edukacyjne i szkoleniowe również koncentrowały się na rozwijaniu umiejętności cyfrowych obywateli i specjalistów, zarówno w ramach systemu edukacji, jak i zawodowego kształcenia ustawicznego. Wraz z rewolucją cyfrową oczekuje się znacznego wzrostu liczby osób zatrudnionych w zawodach związanych z technologiami cyfrowymi. Jednocześnie nabywanie przez całe życie kompetencji technicznych w zakresie sztucznej inteligencji ma zasadnicze znaczenie nie tylko dla zawodów technicznych opartych na naukach przyrodniczych, technologii, inżynierii, (sztuce) i matematyce (STE(A)M), ale także dla wszystkich pracowników (w tym administracji publicznej), którzy będą potrzebować wiedzy w dziedzinie AI w wielu innych obszarach działalności. Szkolenia powinny być zatem ukierunkowane nie tylko na bieżące potrzeby rynku pracy związanego z AI, lecz również na umiejętności techniczne wszystkich pracowników, co umożliwia dostosowanie się do długoterminowego podejścia do potrzeb szkoleniowych w dziedzinie AI.

68. Podkreśla, że szkolenie polityków i decydentów, nie tylko w dziedzinie zastosowań AI, ale także w zakresie przepisów i norm etycznych, ma kluczowe znaczenie i byłoby korzystne z punktu widzenia dobrego demokratycznego podejmowania decyzji. KR zaleca szkolenia dotyczące aktualizacji na stosunkowo wysokim poziomie i ma dwa cele: (1) umiejętność komunikowania się z rynkiem jako równorzędnym partnerem i (2) możliwość kontrolowania wpływu AI na społeczeństwo i proces demokratyczny.

69. Podkreśla, że aby zapewnić, że AI odzwierciedla nasze podstawowe wartości i prawa oraz aby uniknąć programowania dyskryminującego ze względu na płeć, kluczowe znaczenie ma zróżnicowanie sektora technologii i zachęcanie studentów, w szczególności dziewcząt, do zapisywania się na kursy STE(A)M.

Wielopoziomowe sprawowanie rządów i partnerstwo publiczno-prywatne

70. KR popiera potrzebę opracowania wspólnego europejskiego podejścia do AI w celu osiągnięcia wystarczającej skali oraz uniknięcia fragmentacji jednolitego rynku.

71. Podkreśla jednak, że europejskie podejście do sprawowania rządów musi opierać się na otwartym, inkluzywnym i zdecentralizowanym społeczeństwie, w którym każdy może być zaangażowany, kreatywny i przedsiębiorczy.

72. Uważa, że główne pytanie dotyczy sposobu, w jaki kręgi polityczne, obywatele i MŚP mogą być skutecznie zaangażowani w rozwój zastosowań AI, zasad etycznych i uregulowań prawnych. Kolejne pytanie nasuwa się odnośnie do roli, jaką zrozumienie oczekiwanych korzyści z ekosystemów może odgrywać w (re-)kalibracji polityki i uregulowań prawnych.

73. Podkreśla duże znaczenie zdecentralizowanych sieci obywateli i gospodarek lokalnych dla udziału polityków, obywateli i przedsiębiorstw w rozwoju zastosowań, zasad etycznych i uregulowań prawnych w dziedzinie AI. Siła zdecentralizowanych społeczności i sieci tkwi przecież w otwartej, wzajemnie połączonej i ukierunkowanej na cele współpracy na szczeblu lokalnym i regionalnym, która sprzyja innowacjom i rozwojowi nowych gospodarek.

74. KR uważa, że przyszłe ramy polityki europejskiej muszą zapewniać koordynację wysiłków na szczeblu europejskim, krajowym i regionalnym, propagowanie wymiany wiedzy oraz współpracę między sektorem prywatnym i publicznym. Wymaga to wielopoziomowego sprawowania rządów łączącego sieci na szczeblu lokalnym, regionalnym, krajowym i europejskim.

Bruksela, dnia 14 października 2020 r.

	Apostolos TZITZIKOSTAS
	Przewodniczący
	Europejskiego Komitetu Regionów

1 COM(2020) 67.

2 COM(2020) 66.

3 SEDEC VI/046 (Dz.U. C 168 z 16.5.2019, s. 11).

4 COM(2016) 381.

5 Zalecenie UE 2020/518.

6 Rozdział 2 białej księgi w sprawie sztucznej inteligencji.

7 Rozdział 4F.

8 http://ec.europa.eu/newsroom/dae/document.cfm?doc_id=56341

9 Maranke Wieringa, What to account for when accounting for algorithms, Uniwersytet w Utrechcie, 20 stycznia 2020 r.

10 Autonomiczne ramowe porozumienie europejskich partnerów społecznych w sprawie cyfryzacji (https://www.etuc.org/system/files/document/ file2020-06/Final%2022%2006%2020_Agreement%20°n%20Digitalisation%202020.pdf).

11 Projekt sprawozdania autorstwa sprawozdawcy Ibana Garcii del Blanco z dnia 21 kwietnia 2020 r. wraz z zaleceniami dla Komisji w sprawie ram aspektów etycznych sztucznej inteligencji, robotyki i powiązanych technologii (2020/2012 (INL)).

• Identyfikator: Dz.U.UE.C.2020.440.79
• Rodzaj: Opinia
• Tytuł: Opinia Europejskiego Komitetu Regionów - Biała księga w sprawie sztucznej inteligencji - Europejskie podejście do doskonałości i zaufania.
• Data aktu: 18/12/2020
• Data ogłoszenia: 18/12/2020