Parlament Europejski,- uwzględniając swoją rezolucję z dnia 12 lutego 2019 r. w sprawie kompleksowej europejskiej polityki przemysłowej w dziedzinie sztucznej inteligencji i robotyki 1 ,
- uwzględniając swoją rezolucję z dnia 16 lutego 2017 r. zawierającą zalecenia dla Komisji w sprawie przepisów prawa cywilnego dotyczących robotyki 2 ,
- uwzględniając sprawozdanie pt. "Odpowiedzialność za sztuczną inteligencję i inne powstające technologie cyfrowe", sporządzone przez grupę ekspertów Komisji ds. odpowiedzialności i nowych technologii oraz opublikowane 21 listopada 2019 r.;
- uwzględniając sprawozdanie pt. "Zalecenia polityczne i inwestycyjne dotyczące sztucznej inteligencji godnej zaufania", sporządzone przez działającą w łonie Komisji grupę ekspertów wysokiego szczebla ds. sztucznej inteligencji i opublikowane 26 czerwca 2019 r.;
- uwzględniając dokument pt. "Wytyczne w zakresie etyki w odniesieniu do sztucznej inteligencji godnej zaufania", sporządzone przez działającą w łonie Komisji grupę ekspertów wysokiego szczebla ds. sztucznej inteligencji i opublikowane 8 kwietnia 2019 r., a także uwzględniając listę kontrolną w zakresie sztucznej inteligencji godnej zaufania;
- uwzględniając komunikat Komisji z 8 kwietnia 2019 r. w sprawie budowania zaufania do sztucznej inteligencji ukierunkowanej na człowieka (COM(2019)0168),
- uwzględniając komunikat Komisji z 7 grudnia 2018 r. w sprawie skoordynowanego planu w dziedzinie sztucznej inteligencji (COM(2018)0795),
- uwzględniając komunikat Komisji z 25 kwietnia 2018 r. w sprawie sztucznej inteligencji dla Europy (COM(2018)0237),
- uwzględniając projekt rezolucji Komisji Rynku Wewnętrznego i Ochrony Konsumentów,
- uwzględniając pytanie do Komisji w sprawie zautomatyzowanych procesów decyzyjnych - zagwarantowanie ochrony konsumenta oraz swobodnego przepływu towarów i usług (0-000°08/2020 - B9-0007/2020),
- uwzględniając art. 136 ust. 5 i art. 132 ust. 2 Regulaminu,
A. mając na uwadze, że postęp technologiczny w dziedzinie sztucznej inteligencji, uczenia maszynowego, systemów opartych na algorytmach i zautomatyzowanych procesów decyzyjnych następuje w szybkim tempie, a także mając na uwadze, że aplikacje, możliwości i wyzwania związane z tymi technologiami są liczne i mają wpływ na praktycznie wszystkie sektory rynku wewnętrznego;
B. mając na uwadze, że oczekuje się, iż rozwój zautomatyzowanych procesów podejmowania decyzji wniesie znaczący wkład w gospodarkę opartą na wiedzy oraz przyniesie korzyści społeczeństwu, m.in. poprzez poprawę jakości usług publicznych, konsumentom dzięki innowacyjnym produktom i usługom oraz przedsiębiorstwom dzięki optymalizacji wyników;
C. mając na uwadze, że wykorzystywanie i rozwój sztucznej inteligencji i zautomatyzowanych procesów podejmowania decyzji stanowi również wyzwanie w zakresie zaufania i dobrobytu konsumentów, zwłaszcza jeżeli chodzi o kwestię wzmocnienia pozycji konsumentów w zakresie identyfikowania takich procesów, rozumienia sposobu ich funkcjonowania, podejmowania świadomych decyzji dotyczących ich stosowania i rezygnacji z nich;
D. mając na uwadze, że wytyczne w zakresie etyki, takie jak zasady przyjęte przez działającą w łonie Komisji grupę ekspertów wysokiego szczebla ds. sztucznej inteligencji, stanowią pewien punkt wyjścia; mając jednak na uwadze, że potrzebna jest analiza obecnych ram prawnych UE, w tym dorobku prawnego w dziedzinie prawa konsumenckiego oraz przepisów dotyczących bezpieczeństwa produktów i nadzoru nad rynkiem, aby sprawdzić, czy ramy te są w stanie reagować na pojawienie się sztucznej inteligencji i zautomatyzowanych procesów decyzyjnych oraz czy mogą zapewnić wysoki poziom ochrony konsumentów zgodnie z wymogami art. 38 Karty praw podstawowych Unii Europejskiej;
E. mając na uwadze, że wspólne podejście UE do rozwoju zautomatyzowanych procesów decyzyjnych pomoże zagwarantować korzyści wynikające z tych procesów, ograniczyć ryzyko w całej UE i uniknąć fragmentacji rynku wewnętrznego, a także umożliwi UE lepsze propagowanie swojego podejścia i swoich wartości na całym świecie;
Wybór konsumentów, ich zaufanie i dobrobyt
1. z zadowoleniem przyjmuje potencjał zautomatyzowanego podejmowania decyzji w celu świadczenia konsumentom innowacyjnych i udoskonalonych usług, w tym nowych usług cyfrowych, takich jak wirtualni asystenci i wirtualni doradcy; uważa jednak, że gdy konsumenci wchodzą w kontakt z systemem, który automatyzuje proces podejmowania decyzji, powinni być należycie poinformowani o tym, w jaki sposób ten system działa, jak dotrzeć do człowieka dysponującego uprawnieniami decyzyjnymi oraz w jaki sposób można kontrolować i korygować decyzje podejmowane przez system;
2. wzywa Komisję do ścisłego monitorowania wdrażania nowych przepisów wynikających z dyrektywy w sprawie lepszego egzekwowania 3 , które nakładają na przedsiębiorców obowiązek informowania konsumentów w sytuacji, gdy ceny towarów lub usług zostały zindywidualizowane w oparciu o zautomatyzowane podejmowanie decyzji i profilowanie zachowań konsumentów, co umożliwia przedsiębiorcom ocenę siły nabywczej konsumenta;
3. wzywa Komisję do ścisłego monitorowania wdrażania rozporządzenia w sprawie blokowania geograficznego 4 w trosce o to, by automatyczne podejmowanie decyzji nie było wykorzystywane do dyskryminacji konsumentów ze względu na przynależność państwową, miejsce zamieszkania lub tymczasowy pobyt;
4. zachęca Komisję do monitorowania, czy obowiązki przedsiębiorców umożliwiają konsumentom skuteczny wybór i zapewniają wystarczającą ochronę konsumentów; wzywa Komisję do zbadania, czy istnieją luki regulacyjne i czy konieczne są dodatkowe środki w celu zagwarantowania solidnego zbioru praw chroniących konsumentów w kontekście sztucznej inteligencji i zautomatyzowanego podejmowania decyzji;
5. zauważa, że systemy zautomatyzowanego podejmowania decyzji wykorzystuje się w alternatywnych mechanizmach rozstrzygania sporów na różnych platformach cyfrowych w celu rozwiązywania sporów między konsumentami a przedsiębiorcami; wzywa Komisję do dopilnowania, aby wszelkie przyszłe przeglądy dyrektywy 2013/11/UE w sprawie alternatywnych metod rozstrzygania sporów konsumenckich 5 oraz rozporządzenia (UE) nr 524/2013 w sprawie internetowego systemu rozstrzygania sporów konsumenckich 6 uwzględniały korzystanie ze zautomatyzowanego procesu podejmowania decyzji oraz gwarantowały, że kontrolę wciąż sprawuje człowiek;
Ramy dotyczące bezpieczeństwa i odpowiedzialności w odniesieniu do produktów
6. podkreśla, że unijne ramy dotyczące bezpieczeństwa produktów zobowiązują przedsiębiorstwa do dbania o to, aby na rynek wprowadzano tylko produkty bezpieczne i zgodne z wymogami; uznaje, że pojawienie się produktów wyposażonych w zautomatyzowane zdolności decyzyjne wiąże się z nowymi wyzwaniami, ponieważ produkty takie mogą ewoluować i działać w sposób nieprzewidziany w momencie pierwszego wprowadzenia produktu do obrotu; wzywa Komisję do przedstawienia wniosków w celu dostosowania przepisów UE w zakresie bezpieczeństwa w odniesieniu do produktów objętych szczegółowymi przepisami UE przewidującymi zharmonizowane wymogi, w tym dyrektywy w sprawie 7 (8 (9
maszyn (), yretywy w sprawie ezpieczestwa zaawe (), yretywy w sprawie urząze raiowyc () oraz yretywy o niskim napięciu 10 , a także w odniesieniu do tzw. produktów niezharmonizowanych objętych zakresem dyrektywy w sprawie ogólnego bezpieczeństwa produktów 11 , aby zagwarantować, że nowe przepisy będą adekwatne do zakładanych celów, użytkownicy i konsumenci będą chronieni przed szkodliwymi skutkami, producenci będą mieć jasność co do swoich obowiązków, a użytkownicy - jasność co do sposobu korzystania z produktów wyposażonych w zautomatyzowane zdolności decyzyjne;
7. podkreśla potrzebę podejścia do regulacji opartego na analizie ryzyka w świetle zróżnicowanego charakteru i złożoności wyzwań wynikających z różnych rodzajów i zastosowań sztucznej inteligencji i systemów zautomatyzowanego podejmowania decyzji; wzywa Komisję do opracowania systemu oceny ryzyka z myślą o sztucznej inteligencji i zautomatyzowanym podejmowaniu decyzji w celu zapewnienia spójnego podejścia do egzekwowania przepisów dotyczących bezpieczeństwa produktów na rynku wewnętrznym; podkreśla, że państwa członkowskie muszą opracować zharmonizowane strategie zarządzania ryzykiem w odniesieniu do sztucznej inteligencji w kontekście krajowych strategii nadzoru nad rynkiem;
8. zauważa, że od ponad 30 lat dyrektywa w sprawie odpowiedzialności za produkty 12 stanowi cenne zabezpieczenie chroniące konsumentów przed szkodami spowodowanymi wadliwymi produktami; dostrzega wyzwanie, jakim jest ustalenie odpowiedzialności w przypadku, gdy przyczyną szkody poniesionej przez konsumenta są autonomiczne procesy podejmowania decyzji; wzywa Komisję do dokonania przeglądu tej dyrektywy i rozważenia możliwości dostosowania takich pojęć jak szkoda, której przyczyną jest produkt, i wada produktu, a także dostosowania przepisów dotyczących ciężaru dowodu; wzywa Komisję do przedstawienia w razie potrzeby wniosków dotyczących aktualizacji tych pojęć i przepisów;
Ramy regulacyjne dotyczące usług
9. przypomina, że istniejące ramy regulacyjne dotyczące usług, a mianowicie dyrektywa o usługach 13 , dyrektywa w sprawie uznawania kwalifikacji zawodowych 14 , dyrektywa w sprawie analizy proporcjonalności 15 , dyrektywa w sprawie handlu elektronicznego 16 i ogólne rozporządzenie o ochronie danych (RODO) 17 , już obejmują wiele aspektów politycznych istotnych dla usług, które obejmują zautomatyzowane procesy podejmowania decyzji, w tym przepisy dotyczące ochrony konsumentów, etyki i odpowiedzialności; zauważa, że zasady te powinny mieć zastosowanie zarówno do tradycyjnych usług, jak i usług obejmujących zautomatyzowane procesy podejmowania decyzji;
10. podkreśla, że choć zautomatyzowane procesy decyzyjne mogą poprawić skuteczność i dokładność usług, to jednak człowiek zawsze musi ponosić ostateczną odpowiedzialność za decyzje podejmowane w kontekście usług świadczonych w ramach zawodów regulowanych, takich jak zawody medyczne, prawnicze i rachunkowe oraz sektor bankowy, a także musi być w stanie uchylić takie decyzje; przypomina o znaczeniu nadzoru lub niezależnej kontroli ze strony wykwalifikowanych specjalistów w przypadku zautomatyzowanego podejmowania decyzji, jeżeli w grę wchodzi uzasadniony interes publiczny;
11. podkreśla znaczenie właściwej oceny ryzyka przed automatyzacją usług świadczonych w ramach zawodów regulowanych, zgodnie z dyrektywą w sprawie analizy proporcjonalności; wzywa właściwe organy państw członkowskich do zadbania o to, by szkolenia zawodowe uwzględniały postęp naukowy w dziedzinie zautomatyzowanego podejmowania decyzji;
Jakość i przejrzystość zarządzania danymi
12. zauważa, że zautomatyzowane systemy podejmowania decyzji opierają się na gromadzeniu dużych ilości danych i uważa, że rozporządzenie w sprawie swobodnego przepływu danych nieosobowych 18 pomoże udostępnić więcej danych w całej UE, umożliwiając tym samym tworzenie innowacyjnych usług opartych na danych; w związku z tym uznaje potencjał udostępniania danych zarówno ze źródeł publicznych, jak i prywatnych, a jednocześnie podkreśla konieczność ochrony danych osobowych na mocy ogólnego rozporządzenia o ochronie danych; podkreśla znaczenie wykorzystywania jedynie wysokiej jakości i bezstronnych zbiorów danych w celu poprawy wyników systemów algorytmicznych oraz zwiększenia zaufania i akceptacji konsumentów;
13. podkreśla, że w świetle znaczącego wpływu, jaki zautomatyzowane systemy podejmowania decyzji mogą mieć na konsumentów, zwłaszcza na osoby znajdujące się w trudnej sytuacji, systemy te powinny nie tylko korzystać z wysokiej jakości i bezstronnych zbiorów danych, ale również wykorzystywać wytłumaczalne i bezstronne algorytmy; uważa, że w ramach procesów biznesowych potrzebne są struktury kontrolne w celu korygowania ewentualnych błędów w zautomatyzowanych decyzjach oraz że konsumenci powinni mieć możliwość wystąpienia o korektę przez człowieka w przypadku zautomatyzowanych decyzji, które mają charakter ostateczny i niezmienny, a także dochodzenia roszczeń;
14. podkreśla, że aby ocenić, czy produkty posiadające zautomatyzowane zdolności decyzyjne są zgodne z odpowiednimi zasadami bezpieczeństwa, algorytmy stanowiące podstawę tych zdolności muszą być odpowiednio przejrzyste i zrozumiałe dla organów nadzoru rynku; zwraca się do Komisji o ocenę, czy organom nadzoru rynku należy przyznać dodatkowe uprawnienia w tym zakresie;
15. wzywa Komisję do ścisłego monitorowania wdrażania rozporządzenia regulującego stosunki między platformami internetowymi a przedsiębiorstwami 19 , zwłaszcza przepisów dotyczących przejrzystości rankingów, które wiążą się z wykorzystaniem procesów zautomatyzowanego podejmowania decyzji;
o
o o
16. zobowiązuje swojego przewodniczącego do przekazania niniejszej rezolucji Radzie i Komisji.
1 Teksty przyjęte, P8_TA(2019)0081.
2 Dz.U. C 252 z 18.7.2018, s. 239.
3 Dyrektywa Parlamentu Europejskiego i Rady (UE) 2019/2161 z 27 listopada 2019 r. zmieniająca dyrektywę Rady 93/13/EWG oraz dyrektywy Parlamentu Europejskiego i Rady 98/6/WE, 2005/29/WE i 2011/83/UE w odniesieniu do lepszego egzekwowania i unowocześnienia unijnych przepisów dotyczących ochrony konsumenta (Dz.U. L 328 z 18.12.2019, s. 7).
4 Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2018/302 z dnia 28 lutego 2018 r. w sprawie nieuzasadnionego blokowania geograficznego oraz innych form dyskryminacji klientów ze względu na przynależność państwową, miejsce zamieszkania lub miejsce prowadzenia działalności na rynku wewnętrznym oraz w sprawie zmiany rozporządzeń (WE) nr 2006/2004 oraz (UE) 2017/2394 i dyrektywy 2009/22/WE (Dz.U. L 60 I z 2.3.2018, s. 1).
5 Dz.U. L 165 z 18.6.2013, s. 63.
6 Dz.U. L 165 z 18.6.2013, s. 1.
7 Dyrektywa Parlamentu Europejskiego i Rady 2006/42/WE z dnia 17 maja 2006 r. w sprawie maszyn, zmieniająca dyrektywę 95/16/WE (przekształcenie) (Dz.U. L 157 z 9.6.2006, s. 24).
8 Dyrektywa Parlamentu Europejskiego i Rady 2009/48/WE z dnia 18 czerwca 2009 r. w sprawie bezpieczeństwa zabawek (Dz.U. L 170 z 30.6.2009, s. 1).
9 Dyrektywa Parlamentu Europejskiego i Rady 2014/53/UE z dnia 16 kwietnia 2014 r. w sprawie harmonizacji ustawodawstwa państw członkowskich dotyczącego udostępniania na rynku urządzeń radiowych i uchylająca dyrektywę 1999/5/WE (Dz.U. L 153 z 22.5.2014, s. 62).
10 Dyrektywa Parlamentu Europejskiego i Rady 2014/35/UE z dnia 26 lutego 2014 r. w sprawie harmonizacji ustawodawstwa państw członkowskich dotyczącego udostępniania na rynku sprzętu elektrycznego przewidzianego do stosowania w określonych granicach napięcia (Dz.U. L 96 z 29.3.2014, s. 357).
11 Dyrektywa 2001/95/WE Parlamentu Europejskiego i Rady z dnia 3 grudnia 2001 r. w sprawie ogólnego bezpieczeństwa produktów (Dz.U. L 11 z 15.1.2002, s. 4).
12 Dyrektywa Rady 85/374/EWG z dnia 25 lipca 1985 r. w sprawie zbliżenia przepisów ustawowych, wykonawczych i administracyjnych państw członkowskich dotyczących odpowiedzialności za produkty wadliwe (Dz.U. L 210 z 7.8.1985, s. 29).
13 Dyrektywa Parlamentu Europejskiego i Rady 2006/123/WE z dnia 12 grudnia 2006 r. dotycząca usług na rynku wewnętrznym (Dz.U. L 376 z 27.12.2006, s. 36).
14 Dyrektywa Parlamentu Europejskiego i Rady 2013/55/UE z dnia 20 listopada 2013 r. zmieniająca dyrektywę 2005/36/WE w sprawie uznawania kwalifikacji zawodowych i rozporządzenie (UE) nr 1024/2012 w sprawie współpracy administracyjnej za pośrednictwem systemu wymiany informacji na rynku wewnętrznym ("rozporządzenie w sprawie IMI") (Dz.U. L 354 z 28.12.2013, s. 132).
15 Dyrektywa Parlamentu Europejskiego i Rady (UE) 2018/958 z dnia 28 czerwca 2018 r. w sprawie analizy proporcjonalności przedprzyjęciem nowych regulacji dotyczących zawodów (Dz.U. L 173 z 9.7.2018, s. 25).
16 Dyrektywa Parlamentu Europejskiego i Rady 2000/31/WE z dnia 8 czerwca 2000 r. w sprawie niektórych aspektów prawnych usług społeczeństwa informacyjnego, w szczególności handlu elektronicznego w ramach rynku wewnętrznego ("dyrektywa o handlu elektronicznym") (Dz.U. L 178 z 17.7.2000, s. 1).
17 Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2016/679 z dnia 27 kwietnia 2016 r. w sprawie ochrony osób fizycznych w związku z przetwarzaniem danych osobowych i w sprawie swobodnego przepływu takich danych oraz uchylenia dyrektywy 95/46/WE (ogólne rozporządzenie o ochronie danych) (Dz.U. L 119 z 4.5.2016, s. 1).
18 Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2018/1807 z dnia 14 listopada 2018 r. w sprawie ram swobodnego przepływu danych nieosobowych w Unii Europejskiej (Dz.U. L 303 z 28.11.2018, s. 59).
19 Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2019/1150 z dnia 20 czerwca 2019 r. w sprawie propagowania sprawiedliwości i przejrzystości dla użytkowników biznesowych korzystających z usług pośrednictwa internetowego (Dz.U. L 186 z 11.7.2019, s. 57).
