Rezolucja Parlamentu Europejskiego z dnia 12 lutego 2020 r. w sprawie zautomatyzowanych procesów decyzyjnych - zagwarantowanie ochrony konsumenta oraz swobodnego przepływu towarów i usług (2019/2915(RSP)).
Dz.U.UE.C.2021.294.14
Akt nienormatywnyZautomatyzowane procesy podejmowania decyzji: zapewnienie ochrony konsumentów i wolnego przepływu towarów i usług
Rezolucja Parlamentu Europejskiego z dnia 12 lutego 2020 r. w sprawie zautomatyzowanych procesów decyzyjnych - zagwarantowanie ochrony konsumenta oraz swobodnego przepływu towarów i usług (2019/2915(RSP))
(2021/C 294/03)
- uwzględniając swoją rezolucję z dnia 12 lutego 2019 r. w sprawie kompleksowej europejskiej polityki przemysłowej w dziedzinie sztucznej inteligencji i robotyki 1 ,
- uwzględniając swoją rezolucję z dnia 16 lutego 2017 r. zawierającą zalecenia dla Komisji w sprawie przepisów prawa cywilnego dotyczących robotyki 2 ,
- uwzględniając sprawozdanie pt. "Odpowiedzialność za sztuczną inteligencję i inne powstające technologie cyfrowe", sporządzone przez grupę ekspertów Komisji ds. odpowiedzialności i nowych technologii oraz opublikowane 21 listopada 2019 r.;
- uwzględniając sprawozdanie pt. "Zalecenia polityczne i inwestycyjne dotyczące sztucznej inteligencji godnej zaufania", sporządzone przez działającą w łonie Komisji grupę ekspertów wysokiego szczebla ds. sztucznej inteligencji i opublikowane 26 czerwca 2019 r.;
- uwzględniając dokument pt. "Wytyczne w zakresie etyki w odniesieniu do sztucznej inteligencji godnej zaufania", sporządzone przez działającą w łonie Komisji grupę ekspertów wysokiego szczebla ds. sztucznej inteligencji i opublikowane 8 kwietnia 2019 r., a także uwzględniając listę kontrolną w zakresie sztucznej inteligencji godnej zaufania;
- uwzględniając komunikat Komisji z 8 kwietnia 2019 r. w sprawie budowania zaufania do sztucznej inteligencji ukierunkowanej na człowieka (COM(2019)0168),
- uwzględniając komunikat Komisji z 7 grudnia 2018 r. w sprawie skoordynowanego planu w dziedzinie sztucznej inteligencji (COM(2018)0795),
- uwzględniając komunikat Komisji z 25 kwietnia 2018 r. w sprawie sztucznej inteligencji dla Europy (COM(2018)0237),
- uwzględniając projekt rezolucji Komisji Rynku Wewnętrznego i Ochrony Konsumentów,
- uwzględniając pytanie do Komisji w sprawie zautomatyzowanych procesów decyzyjnych - zagwarantowanie ochrony konsumenta oraz swobodnego przepływu towarów i usług (0-000°08/2020 - B9-0007/2020),
- uwzględniając art. 136 ust. 5 i art. 132 ust. 2 Regulaminu,
A. mając na uwadze, że postęp technologiczny w dziedzinie sztucznej inteligencji, uczenia maszynowego, systemów opartych na algorytmach i zautomatyzowanych procesów decyzyjnych następuje w szybkim tempie, a także mając na uwadze, że aplikacje, możliwości i wyzwania związane z tymi technologiami są liczne i mają wpływ na praktycznie wszystkie sektory rynku wewnętrznego;
B. mając na uwadze, że oczekuje się, iż rozwój zautomatyzowanych procesów podejmowania decyzji wniesie znaczący wkład w gospodarkę opartą na wiedzy oraz przyniesie korzyści społeczeństwu, m.in. poprzez poprawę jakości usług publicznych, konsumentom dzięki innowacyjnym produktom i usługom oraz przedsiębiorstwom dzięki optymalizacji wyników;
C. mając na uwadze, że wykorzystywanie i rozwój sztucznej inteligencji i zautomatyzowanych procesów podejmowania decyzji stanowi również wyzwanie w zakresie zaufania i dobrobytu konsumentów, zwłaszcza jeżeli chodzi o kwestię wzmocnienia pozycji konsumentów w zakresie identyfikowania takich procesów, rozumienia sposobu ich funkcjonowania, podejmowania świadomych decyzji dotyczących ich stosowania i rezygnacji z nich;
D. mając na uwadze, że wytyczne w zakresie etyki, takie jak zasady przyjęte przez działającą w łonie Komisji grupę ekspertów wysokiego szczebla ds. sztucznej inteligencji, stanowią pewien punkt wyjścia; mając jednak na uwadze, że potrzebna jest analiza obecnych ram prawnych UE, w tym dorobku prawnego w dziedzinie prawa konsumenckiego oraz przepisów dotyczących bezpieczeństwa produktów i nadzoru nad rynkiem, aby sprawdzić, czy ramy te są w stanie reagować na pojawienie się sztucznej inteligencji i zautomatyzowanych procesów decyzyjnych oraz czy mogą zapewnić wysoki poziom ochrony konsumentów zgodnie z wymogami art. 38 Karty praw podstawowych Unii Europejskiej;
E. mając na uwadze, że wspólne podejście UE do rozwoju zautomatyzowanych procesów decyzyjnych pomoże zagwarantować korzyści wynikające z tych procesów, ograniczyć ryzyko w całej UE i uniknąć fragmentacji rynku wewnętrznego, a także umożliwi UE lepsze propagowanie swojego podejścia i swoich wartości na całym świecie;
Wybór konsumentów, ich zaufanie i dobrobyt
1. z zadowoleniem przyjmuje potencjał zautomatyzowanego podejmowania decyzji w celu świadczenia konsumentom innowacyjnych i udoskonalonych usług, w tym nowych usług cyfrowych, takich jak wirtualni asystenci i wirtualni doradcy; uważa jednak, że gdy konsumenci wchodzą w kontakt z systemem, który automatyzuje proces podejmowania decyzji, powinni być należycie poinformowani o tym, w jaki sposób ten system działa, jak dotrzeć do człowieka dysponującego uprawnieniami decyzyjnymi oraz w jaki sposób można kontrolować i korygować decyzje podejmowane przez system;
2. wzywa Komisję do ścisłego monitorowania wdrażania nowych przepisów wynikających z dyrektywy w sprawie lepszego egzekwowania 3 , które nakładają na przedsiębiorców obowiązek informowania konsumentów w sytuacji, gdy ceny towarów lub usług zostały zindywidualizowane w oparciu o zautomatyzowane podejmowanie decyzji i profilowanie zachowań konsumentów, co umożliwia przedsiębiorcom ocenę siły nabywczej konsumenta;
3. wzywa Komisję do ścisłego monitorowania wdrażania rozporządzenia w sprawie blokowania geograficznego 4 w trosce o to, by automatyczne podejmowanie decyzji nie było wykorzystywane do dyskryminacji konsumentów ze względu na przynależność państwową, miejsce zamieszkania lub tymczasowy pobyt;
4. zachęca Komisję do monitorowania, czy obowiązki przedsiębiorców umożliwiają konsumentom skuteczny wybór i zapewniają wystarczającą ochronę konsumentów; wzywa Komisję do zbadania, czy istnieją luki regulacyjne i czy konieczne są dodatkowe środki w celu zagwarantowania solidnego zbioru praw chroniących konsumentów w kontekście sztucznej inteligencji i zautomatyzowanego podejmowania decyzji;
5. zauważa, że systemy zautomatyzowanego podejmowania decyzji wykorzystuje się w alternatywnych mechanizmach rozstrzygania sporów na różnych platformach cyfrowych w celu rozwiązywania sporów między konsumentami a przedsiębiorcami; wzywa Komisję do dopilnowania, aby wszelkie przyszłe przeglądy dyrektywy 2013/11/UE w sprawie alternatywnych metod rozstrzygania sporów konsumenckich 5 oraz rozporządzenia (UE) nr 524/2013 w sprawie internetowego systemu rozstrzygania sporów konsumenckich 6 uwzględniały korzystanie ze zautomatyzowanego procesu podejmowania decyzji oraz gwarantowały, że kontrolę wciąż sprawuje człowiek;
Ramy dotyczące bezpieczeństwa i odpowiedzialności w odniesieniu do produktów
6. podkreśla, że unijne ramy dotyczące bezpieczeństwa produktów zobowiązują przedsiębiorstwa do dbania o to, aby na rynek wprowadzano tylko produkty bezpieczne i zgodne z wymogami; uznaje, że pojawienie się produktów wyposażonych w zautomatyzowane zdolności decyzyjne wiąże się z nowymi wyzwaniami, ponieważ produkty takie mogą ewoluować i działać w sposób nieprzewidziany w momencie pierwszego wprowadzenia produktu do obrotu; wzywa Komisję do przedstawienia wniosków w celu dostosowania przepisów UE w zakresie bezpieczeństwa w odniesieniu do produktów objętych szczegółowymi przepisami UE przewidującymi zharmonizowane wymogi, w tym dyrektywy w sprawie 7 ( 8 ( 9
maszyn (), yretywy w sprawie ezpieczestwa zaawe (), yretywy w sprawie urząze raiowyc () oraz yretywy o niskim napięciu 10 , a także w odniesieniu do tzw. produktów niezharmonizowanych objętych zakresem dyrektywy w sprawie ogólnego bezpieczeństwa produktów 11 , aby zagwarantować, że nowe przepisy będą adekwatne do zakładanych celów, użytkownicy i konsumenci będą chronieni przed szkodliwymi skutkami, producenci będą mieć jasność co do swoich obowiązków, a użytkownicy - jasność co do sposobu korzystania z produktów wyposażonych w zautomatyzowane zdolności decyzyjne;
7. podkreśla potrzebę podejścia do regulacji opartego na analizie ryzyka w świetle zróżnicowanego charakteru i złożoności wyzwań wynikających z różnych rodzajów i zastosowań sztucznej inteligencji i systemów zautomatyzowanego podejmowania decyzji; wzywa Komisję do opracowania systemu oceny ryzyka z myślą o sztucznej inteligencji i zautomatyzowanym podejmowaniu decyzji w celu zapewnienia spójnego podejścia do egzekwowania przepisów dotyczących bezpieczeństwa produktów na rynku wewnętrznym; podkreśla, że państwa członkowskie muszą opracować zharmonizowane strategie zarządzania ryzykiem w odniesieniu do sztucznej inteligencji w kontekście krajowych strategii nadzoru nad rynkiem;
8. zauważa, że od ponad 30 lat dyrektywa w sprawie odpowiedzialności za produkty 12 stanowi cenne zabezpieczenie chroniące konsumentów przed szkodami spowodowanymi wadliwymi produktami; dostrzega wyzwanie, jakim jest ustalenie odpowiedzialności w przypadku, gdy przyczyną szkody poniesionej przez konsumenta są autonomiczne procesy podejmowania decyzji; wzywa Komisję do dokonania przeglądu tej dyrektywy i rozważenia możliwości dostosowania takich pojęć jak szkoda, której przyczyną jest produkt, i wada produktu, a także dostosowania przepisów dotyczących ciężaru dowodu; wzywa Komisję do przedstawienia w razie potrzeby wniosków dotyczących aktualizacji tych pojęć i przepisów;
Ramy regulacyjne dotyczące usług
9. przypomina, że istniejące ramy regulacyjne dotyczące usług, a mianowicie dyrektywa o usługach 13 , dyrektywa w sprawie uznawania kwalifikacji zawodowych 14 , dyrektywa w sprawie analizy proporcjonalności 15 , dyrektywa w sprawie handlu elektronicznego 16 i ogólne rozporządzenie o ochronie danych (RODO) 17 , już obejmują wiele aspektów politycznych istotnych dla usług, które obejmują zautomatyzowane procesy podejmowania decyzji, w tym przepisy dotyczące ochrony konsumentów, etyki i odpowiedzialności; zauważa, że zasady te powinny mieć zastosowanie zarówno do tradycyjnych usług, jak i usług obejmujących zautomatyzowane procesy podejmowania decyzji;
10. podkreśla, że choć zautomatyzowane procesy decyzyjne mogą poprawić skuteczność i dokładność usług, to jednak człowiek zawsze musi ponosić ostateczną odpowiedzialność za decyzje podejmowane w kontekście usług świadczonych w ramach zawodów regulowanych, takich jak zawody medyczne, prawnicze i rachunkowe oraz sektor bankowy, a także musi być w stanie uchylić takie decyzje; przypomina o znaczeniu nadzoru lub niezależnej kontroli ze strony wykwalifikowanych specjalistów w przypadku zautomatyzowanego podejmowania decyzji, jeżeli w grę wchodzi uzasadniony interes publiczny;
11. podkreśla znaczenie właściwej oceny ryzyka przed automatyzacją usług świadczonych w ramach zawodów regulowanych, zgodnie z dyrektywą w sprawie analizy proporcjonalności; wzywa właściwe organy państw członkowskich do zadbania o to, by szkolenia zawodowe uwzględniały postęp naukowy w dziedzinie zautomatyzowanego podejmowania decyzji;
Jakość i przejrzystość zarządzania danymi
12. zauważa, że zautomatyzowane systemy podejmowania decyzji opierają się na gromadzeniu dużych ilości danych i uważa, że rozporządzenie w sprawie swobodnego przepływu danych nieosobowych 18 pomoże udostępnić więcej danych w całej UE, umożliwiając tym samym tworzenie innowacyjnych usług opartych na danych; w związku z tym uznaje potencjał udostępniania danych zarówno ze źródeł publicznych, jak i prywatnych, a jednocześnie podkreśla konieczność ochrony danych osobowych na mocy ogólnego rozporządzenia o ochronie danych; podkreśla znaczenie wykorzystywania jedynie wysokiej jakości i bezstronnych zbiorów danych w celu poprawy wyników systemów algorytmicznych oraz zwiększenia zaufania i akceptacji konsumentów;
13. podkreśla, że w świetle znaczącego wpływu, jaki zautomatyzowane systemy podejmowania decyzji mogą mieć na konsumentów, zwłaszcza na osoby znajdujące się w trudnej sytuacji, systemy te powinny nie tylko korzystać z wysokiej jakości i bezstronnych zbiorów danych, ale również wykorzystywać wytłumaczalne i bezstronne algorytmy; uważa, że w ramach procesów biznesowych potrzebne są struktury kontrolne w celu korygowania ewentualnych błędów w zautomatyzowanych decyzjach oraz że konsumenci powinni mieć możliwość wystąpienia o korektę przez człowieka w przypadku zautomatyzowanych decyzji, które mają charakter ostateczny i niezmienny, a także dochodzenia roszczeń;
14. podkreśla, że aby ocenić, czy produkty posiadające zautomatyzowane zdolności decyzyjne są zgodne z odpowiednimi zasadami bezpieczeństwa, algorytmy stanowiące podstawę tych zdolności muszą być odpowiednio przejrzyste i zrozumiałe dla organów nadzoru rynku; zwraca się do Komisji o ocenę, czy organom nadzoru rynku należy przyznać dodatkowe uprawnienia w tym zakresie;
15. wzywa Komisję do ścisłego monitorowania wdrażania rozporządzenia regulującego stosunki między platformami internetowymi a przedsiębiorstwami 19 , zwłaszcza przepisów dotyczących przejrzystości rankingów, które wiążą się z wykorzystaniem procesów zautomatyzowanego podejmowania decyzji;
o
o o
16. zobowiązuje swojego przewodniczącego do przekazania niniejszej rezolucji Radzie i Komisji.