Opinia Europejskiego Komitetu Ekonomiczno-Społecznego "Rewolucja cyfrowa w kontekście potrzeb i praw obywateli" (opinia z inicjatywy własnej).
Dz.U.UE.C.2019.190.17
Akt nienormatywnyOpinia Europejskiego Komitetu Ekonomiczno-Społecznego "Rewolucja cyfrowa w kontekście potrzeb i praw obywateli"
(opinia z inicjatywy własnej)
(Dz.U.UE C z dnia 5 czerwca 2019 r.)
Sprawozdawca: Ulrich SAMM
| Decyzja Zgromadzenia Plenarnego | 12.7.2018 |
| Podstawa prawna | Artykuł 29 ust. 2 regulaminu wewnętrznego |
| Opinia z inicjatywy własnej | |
| Sekcja odpowiedzialna | Sekcja Transportu, Energii, Infrastruktury i Społeczeństwa Informacyjnego |
| Data przyjęcia przez sekcję | 11.2.2019 |
| Data przyjęcia na sesji plenarnej | 20.2.2019 |
| Sesja plenarna nr | 541 |
| Wynik głosowania (za/przeciw/wstrzymało się) | 129/2/1 |
1. Wnioski i zalecenia
1.1. Obecna rewolucja cyfrowa ma potencjał dokonania gruntownej zmiany społeczeństwa, gospodarki i miejsca zatrudnienia i przyniesienia długoterminowych korzyści pod względem zarówno wzrostu gospodarczego, jak i jakości życia, oddziałując na wszystkie sektory oraz zmieniając nasz styl życia, sposób pracy i komunikowania się. EKES już wcześniej jasno wyraził swój pogląd, że transformacja ta - dokonywana przez ludzi - powinna przynieść korzyści wszystkim. W związku z tym EKES z zadowoleniem przyjmuje wszystkie działania polityczne, a także te podejmowane przez społeczeństwo obywatelskie, które pomagają obywatelom europejskim. Niniejsza opinia odnosi się przede wszystkim do potrzeb i obaw obywateli, niezależnie od tego, czy mamy do czynienia z pracownikami, pracodawcami, czy też ogólnie konsumentami, a także wskazuje obszary, w których zaangażowanie społeczeństwa obywatelskiego ma kluczowe znaczenie. Jedynie poprzez proaktywne kształtowanie transformacji cyfrowej zapewnimy jej powodzenie.
1.2. Postęp cyfryzacji, zwłaszcza gdy wprowadzane są nowe cyfrowe produkty i usługi, może być bardzo szybki (jak w przypadku telefonów komórkowych lub smartfonów), ale może też być spowolniony w tych obszarach, w których opinia publiczna i ogół społeczeństwa nie akceptuje technologii bezkrytycznie, jak ma to miejsce w przypadku, gdy technologie wpływają na ludzką autonomię, odpowiedzialność, bezpieczeństwo, godność i prywatność.
1.3. Cyfryzacja oferuje bogactwo nowych możliwości, które w bezprecedensowy sposób pozwalają ludziom dokonywać wyborów na rzecz lepszego życia. Z drugiej strony, w miarę jak cyfryzacja obejmuje coraz więcej dziedzin naszego życia, zwiększają się również możliwości manipulacji. Może to ograniczać naszą autonomię w takich obszarach jak prowadzenie samochodów, wybór jedzenia, dbanie o zdrowie, ogrzewanie naszych domów, palenie papierosów, picie alkoholu, zarządzanie naszymi finansami i wiele innych. EKES wzywa do opracowania i stosowania przejrzystych zasad przystosowanych do tych szybko rozwijających się technologii. Dobre techniki perswazji powinny wiązać się z wyszkoleniem, a nie manipulacją; powinny być także zgodne z zasadą wolnego wyboru przysługującego jednostce, aby zagwarantować autonomię człowieka.
1.4. EKES ma jasne stanowisko w kwestii tego, w jakim stopniu jest etycznie dopuszczalne delegowanie dokonywania wyborów (mających implikacje moralne) systemom opartym na sztucznej inteligencji. Systemy zautomatyzowane, niezależnie od stopnia ich złożoności, muszą działać zgodnie z zasadą nadzoru przez człowieka. Tylko człowiek może podjąć ostateczną decyzję i wziąć za nią odpowiedzialność.
1.5. Wraz z coraz większą automatyzacją domu rośnie liczba punktów dostępu dla hakerów. Istnieje potrzeba informowania konsumentów o tych zagrożeniach i zapewnienia wsparcia w zakresie środków bezpieczeństwa, w szczególności gdy hakerzy próbują przejąć kontrolę nad inteligentnymi urządzeniami. EKES wzywa UE do przeglądu istniejących przepisów w zakresie bezpieczeństwa i do opracowania ścisłych zasad bezpieczeństwa i dostosowania ich do nowych i zmieniających się technologii w celu ochrony obywateli w ich własnych domach.
1.6. EKES z zadowoleniem przyjmuje podejście do poprawy bezpieczeństwa ruchu drogowego polegające na wprowadzeniu większej liczby rozwiązań cyfrowych w samochodach, ale wyraża jednocześnie obawy dotyczące powolnego tempa tych usprawnień. W celu przyspieszenia przejścia na automatyczne kierowanie pojazdami EKES wzywa UE do opracowania zachęt zmierzających do rozwiązania kwestii wysokich kosztów (konieczność zakupu nowego samochodu) i niedostatecznej akceptacji systemów wspomagania (złożoność, brak szkoleń). Komitet uważa, ze należy opracować europejską strategię mającą na celu przystosowanie i zmianę naszego systemu drogowego, tak by zapewnić sukces w pełni autonomicznych i w stu procentach bezpiecznych pojazdów.
1.7. EKES apeluje o dostosowanie i reformę ogólnego rozporządzenia o ochronie danych (RODO) ze względu na szybko zmieniające się technologie cyfrowe. Szczególnym zagrożeniem dla naszej prywatności są nowe technologie rozpoznawania twarzy. Technologia ta jest coraz tańsza i łatwo dostępna dla wszystkich, co może doprowadzić do sytuacji, w której nie będzie już można zachować anonimowości na ulicy ani robić anonimowo zakupów. Zagrożenie dla prywatności i autonomii jest jeszcze większe wtedy, gdy te technologie stosowane są w celu profilowania lub punktacji. EKES nalega na zapewnienie ludziom prawa do prywatności także w przestrzeni publicznej. Wzywa także Komisję do regularnego przeglądu RODO i powiązanych regulacji w zależności od tempa zmian tych technologii.
1.8. Indywidualny konsument, który nie ma profesjonalnych umiejętności cyfrowych, potrzebuje silnego wsparcia w korzystaniu ze złożonych systemów cyfrowych, czy to urządzeń domowych, czy platform cyfrowych. Niektóre instrukcje obsługi są bardzo długie, a zgoda na wykorzystanie niektórych danych udzielana jest często nieświadomie. EKES jest przekonany, że przejrzystość nie wystarczy. W związku z tym potrzebne są uproszczenia i standardowe procedury w całej UE, aby pomóc konsumentom.
1.9. Platformy cyfrowe mogą z łatwością śledzić użytkowników za pomocą prostych narzędzi. Oznacza to, że RODO jest niewystarczające do ochrony prywatności wtedy, gdy dane są celowo niewłaściwie wykorzystywane bez wiedzy osób. EKES jest przekonany, że prywatność można zagwarantować jedynie poprzez dodatkowe limitowanie dostępu do wrażliwych danych tylko do ograniczonej liczby upoważnionych osób. Środki bezpieczeństwa muszą być opracowane zgodnie z najwyższymi, najbardziej godnymi zaufania normami, z zapewnieniem regularnej weryfikacji przez niezależne organy UE.
1.10. EKES jest zaniepokojony, że systemy nadzoru oparte na danych biometrycznych mogą prowadzić do błędnej klasyfikacji i stygmatyzacji przez automatyczne przypisanie danej osoby do określonej kategorii, np. terrorysta, przestępca czy osoba niewiarygodna. Systemy, które automatycznie identyfikują i klasyfikują ludzi jako podejrzanych, nigdy nie powinny działać bez ścisłej interakcji z człowiekiem i dokładnej weryfikacji.
1.11. Przewiduje się, że rozwiązania z dziedziny robotyki znajdą zastosowanie w sektorze opieki zdrowotnej. Roboty są jednak urządzeniami, niezdolnymi do powielenia empatii i budowania wzajemnych relacji, charakterystycznych dla międzyludzkich stosunków opiekuńczych. Roboty, które nie będą wykorzystywane zgodnie z pewnymi warunkami ramowymi, mogą naruszać godność ludzką. Dlatego też roboty wykorzystywane do opieki powinny wykonywać wyłącznie zadania opiekuńcze niewymagające emocjonalnego, głębokiego ani osobistego zaangażowania.
1.12. EKES zaleca, aby przy planowaniu nowych systemów automatyki w przemyśle, handlu i sektorze usług stosowane były obiektywne naukowe metody optymalizacji i oceny interakcji człowiek-maszyna. Naukowe metody ergonomii kognitywnej umożliwiają obiektywną ocenę potrzeb umysłowych podczas pracy z nowymi systemami pomocy technicznej. Dziedzina ta łączy różne dyscypliny badawcze, takie jak psychologia i ergonomia, na potrzeby oceny interfejsów użytkownika. EKES jest przekonany, że tylko dzięki projektowaniu skoncentrowanym na potrzebach człowieka cyfryzacja odniesie sukces w długiej perspektywie.
1.13. Komitet wzywa do dokonania oceny różnic w rozwoju regionalnym i skali ewentualnych nierówności społecznych oraz ich możliwego wpływu na integralność UE, spowodowanego nierównym dostępem do nowych technologii cyfrowych i niedoborem wykwalifikowanej siły roboczej.
2. Wstęp
2.1. We wcześniejszych opiniach 1 EKES z zadowoleniem przyjął opracowanie przez Komisję Europejską programu "Cyfrowa Europa", który podkreśla zamiar uczynienia z Europy wyróżniającego się gracza w dziedzinie cyfryzacji i wzmocnienia jej siły gospodarczej i konkurencyjności na arenie światowej, umożliwiając powstanie jednolitego rynku cyfrowego i korzystne ukształtowanie transformacji cyfrowej w interesie wszystkich obywateli Unii.
2.2. Obecna rewolucja cyfrowa zmieniła społeczeństwo i uczyni to w jeszcze większej mierze w przyszłości. Zmiany te wpływają na gospodarkę i miejsce zatrudnienia, przynosząc długoterminowe korzyści pod względem zarówno wzrostu gospodarczego, jak i jakości życia, oddziałując na wszystkie sektory oraz zmieniając nasz styl życia, sposób pracy i komunikowania się. EKES już wcześniej jasno wyraził pogląd 2 , że transformacja ta - dokonywana przez ludzi - powinna przynieść korzyści wszystkim. W związku z tym EKES z zadowoleniem przyjmuje wszystkie działania polityczne, a także te podejmowane przez społeczeństwo obywatelskie, które pomagają obywatelom europejskim. Niniejsza opinia skupia się na potrzebach i obawach obywateli, niezależnie od tego, czy są oni pracownikami, pracodawcami, czy też ogólnie konsumentami. Określa się w niej obszary, w których zaangażowanie społeczeństwa obywatelskiego ma kluczowe znaczenie dla proaktywnego kształtowania transformacji cyfrowej i zapewnienia jej sukcesu.
2.3. Postęp cyfryzacji, zwłaszcza gdy wprowadzane są nowe cyfrowe produkty i usługi, może być bardzo szybki (jak w przypadku telefonów komórkowych lub smartfonów), ale może też być spowolniony w tych obszarach, w których opinia publiczna i ogół społeczeństwa nie akceptuje technologii bezkrytycznie, jak ma to miejsce w przypadku, gdy technologie wpływają na ludzką autonomię, odpowiedzialność, bezpieczeństwo, godność i prywatność. Analiza przedstawiona w niniejszej opinii częściowo opiera się na publikacji L. Royakkersa i in., Ethics Inf Technol (2018).
2.4. Rozwój nowych aplikacji cyfrowych promowany jest przez wielu entuzjastów w przemyśle, laboratoriach i na uniwersytetach, a nie tylko, jak wierzy wielu ludzi, przez internetowych gigantów takich jak Google, Apple, Facebook, Amazon czy Microsoft. Entuzjazm ten podziela wielu członków społeczeństwa, ale istnieje także znacząca mniejszość, która jest sceptyczna lub zaniepokojona, z powodu zagrożenia swojej prywatności, autonomii, bezpieczeństwa itp. lub też być może z powodu braku wiedzy i pierwotnego lęku przed przyszłością. Transformacja cyfrowa nie jest napędzana jedynie przez technologie. Potrzeby i pragnienia ludzi i społeczeństwa oraz ich prawa powinny mieć decydujący wpływ na dalszy rozwój technologii. W dążeniu do osiągnięcia pomyślnej transformacji cyfrowej wyraźnym wyzwaniem dla nas wszystkich, a w szczególności dla społeczeństwa obywatelskiego, jest angażowanie ludzi w proces projektowania i proces podejmowania decyzji. Oznacza to także potrzebę zapewnienia dostępu do bezpiecznych i przystępnych cenowo łączy internetowych, by uniknąć dyskryminacji i wykluczenia.
3. Szybkość transformacji cyfrowej
3.1. Rewolucja cyfrowa to proces przechodzenia od technologii mechanicznej i analogowej technologii elektronicznej do cyfrowej elektroniki, który miał miejsce od końca lat 50. do późnych lat 70. XX w. wraz z wprowadzeniem i rozpowszechnieniem cyfrowych komputerów mainframe i komputerów osobistych. W latach 80. technologia cyfrowa stała się powszechna w wielu dziedzinach. Obecnie wszystko wskazuje na to, że już wkrótce ludzie będą korzystać częściej z tabletów i smartfonów niż z komputerów osobistych.
3.2. Udostępnienie od 1991 r. sieci ogólnoświatowej (WWW) szerokiemu społeczeństwu dostarczyło nowej infrastruktury umożliwiającej połączenie ze sobą urządzeń cyfrowych, co dało początek nowym funkcjom wykraczającym daleko poza funkcje pojedynczego urządzenia cyfrowego. Połączenie tych technologii zasadniczo zmieniło sposób, w jaki komunikujemy się, pracujemy i prowadzimy interesy. Platformy cyfrowe, które dały początek całkowicie nowym sposobom prowadzenia działalności (Airbnb, Uber i Amazon, aby wymienić tylko kilka przykładów), w ciągu kilku lat stały się głównymi podmiotami gospodarczymi.
3.3. Wydaje się, że nie ma ograniczeń dla dalszego rozwoju cyfryzacji. Coraz częstsze stosowanie inteligentnych czujników umożliwia odczytywanie i przetwarzanie danych (lokalizacja, ruch, dane środowiskowe, dane biologiczne, dane chemiczne) z dowolnego obiektu (internet rzeczy). Praktycznie nie ma ograniczeń co do liczby czujników, więc teoretycznie możliwe jest wygenerowanie cyfrowej mapy całego naszego środowiska fizycznego. W przyszłości szybki internet szerokopasmowy (sieć 5G) umożliwi reagowanie na dane z czujników w czasie rzeczywistym.
3.4. Ogromne ilości danych z czujników i działań na platformach (duże zbiory danych) będą przetwarzane przez programy komputerowe oparte na określonych algorytmach. Programiści będą mogli albo wąsko zdefiniować te algorytmy, albo generować je dynamicznie za pomocą zestawu danych wejściowych (uczenie maszynowe lub sztuczna inteligencja). Wiele osób oczekuje znaczących przełomów technicznych, zwłaszcza dokonywanych dzięki sztucznej inteligencji 3 . Pytanie, w jakim stopniu pozwolimy maszynom na dokonywanie wyborów (mających moralne implikacje), jest niezmiernie ważne i wymaga kontroli społecznej i politycznej. Już teraz istnieje silne zapotrzebowanie na nałożenie ograniczeń na automatyczne systemy komputerowe w niektórych dziedzinach (takich jak FinTech) z uwagi na znaczącą utratę kontroli i brak przejrzystości.
3.5. Tempo rozwoju cyfryzacji w społeczeństwie jest bardzo szybkie. Organizacje publiczne i przedsiębiorstwa przyjmują wiele nowych podejść, o czym świadczą projekty pilotażowe lub produkty już wchodzące na rynek. Zdobywanie rynku przez te nowe produkty może przebiegać bardzo różnie w zależności od sektora. Może też być powolne w tych obszarach, w których technologia nie jest akceptowana bezkrytycznie, jak opisano w poniższych punktach.
3.6. Typowym przykładem ograniczonej akceptacji zastosowania internetu rzeczy jest automatyka domowa lub systemy inteligentnego domu, które sterują oświetleniem, ogrzewaniem, urządzeniami i systemami domowej rozrywki, sprzętem gospodarstwa domowego i wieloma innymi rzeczami. Systemy kontroli dostępu i systemy alarmowe z kamerami bezpieczeństwa mogą przesyłać nagrania wideo. Brak standardów technicznych dla systemów automatyki domowej utrudnia tworzenie aplikacji kompatybilnych z różnymi urządzeniami. Systemy te mogą również wymagać zaawansowanych umiejętności i ciągłych aktualizacji. Kolejna trudność polega na tym, że większość domów to środowiska dzielone z innymi ludźmi, którzy mają różne zainteresowania, umiejętności i zdolności (np. dzieci, osoby starsze i goście). O wiele łatwiej jest żyć w inteligentnym domu, który zarządza życiem jednej osoby.
3.7. Inteligentne czujniki samochodowe umożliwiają opartą na sieci i zautomatyzowaną mobilność, zapewniając mnóstwo nowych funkcji dla lepszej wygody i bezpieczeństwa, a ostatecznie, przy pełnej automatyzacji, najwyższego poziomu bezpieczeństwa w transporcie drogowym 4 . Technologia jazdy zautomatyzowanej jest stosunkowo zaawansowana, ale z wielu powodów jej upowszechnianie przebiega powoli. Po pierwsze, wysoki poziom wspomagania jazdy jest możliwy tylko w nowych samochodach, w których czujniki i centralne jednostki obliczeniowe stanowią integralną część pojazdu. Koszty tych rozwiązań dla obywateli i całego społeczeństwa utrudniają penetrację rynku. Po drugie, coraz większa liczba systemów wspomagania jazdy może sprawić, że prowadzenie samochodu będzie o wiele bardziej złożone, a co za tym idzie, akceptowane jedynie w ograniczonym stopniu. Po trzecie, żądanie, aby pojazdy w pełni autonomiczne były w stu procentach bezpieczne, stanowi poważną przeszkodę dopóty, dopóki pojazdy te będą współużytkować drogi ze zwykłymi samochodami i innymi użytkownikami dróg. W pełni zautomatyzowane pojazdy są wyzwaniem ze względu na konieczność znacznego przeprojektowania systemu transportu drogowego.
3.8. Google i Facebook już teraz intensywnie i z powodzeniem wykorzystują sztuczną inteligencję do personalizacji wyświetlania informacji i reklam. Ale istnieje też znacznie więcej obszarów, w których sztuczna inteligencja może znaleźć i znajdzie zastosowanie, zapewniając istotną pomoc w pracy poznawczej, np. w zawodach opartych na wiedzy. W niektórych z tych obszarów rozwój może być jednak wolniejszy niż oczekiwano z powodu pewnego podstawowego problemu, bowiem jak stwierdzono niedawno: "ograniczeniem dla sztucznej inteligencji nie jest technologia (moc obliczeniowa komputerów), ale brak gruntownego zrozumienia przez nas dokładnego sposobu, w jaki uczą się ludzie, a także ludzkich procesów myślowych". Niesztampowe myślenie i wykorzystywanie doświadczeń życiowych jest nadal przywilejem człowieka.
3.9. Można wskazać kilku pionierów mających ogromne sukcesy w przekształcaniu usług publicznych w elastyczne e-rozwiązania. Na przykład w Estonii istnieje wiele usług, takich jak administracja elektroniczna, e-podatki, e-zdrowie czy e-głosowanie, które zostały pozytywnie przyjęte, są powszechnie stosowanie i postrzegane przez wiele osób jako technologia wzorcowa, która powinna zostać wdrożona we wszystkich krajach UE, najlepiej w oparciu o te same standardy, aby zapewnić ich interoperacyjność. Jedynie ogólnounijna strategia i dobrze finansowane projekty umożliwią nam przezwyciężenie przeszkód stwarzanych przez obecną dużą różnorodność regionów, instytucji i kultur oraz wymaganą pomocniczość względem rządów centralnych.
4. Obawy i zalecenia
4.1. W opublikowanym przez Komisję Europejską badaniu Eurobarometr z 2017 r. 5 76 % respondentów korzystających z internetu na co dzień stwierdziło, że technologie te poprawiły jakość ich życia, niemniej 38 % respondentów nigdy nie korzysta z internetu. Ten ostatni odsetek może wynikać z braku umiejętności cyfrowych, ale istnieje również znaczna liczba osób, które mogą mieć odpowiednie umiejętności, ale mają poważne obawy dotyczące korzystania z internetu, co sprawia, że wahają się to czynić. Ten punkt widzenia musi być szanowany i potraktowany poważnie. Wyrażane obawy dotyczą zwłaszcza kwestii autonomii, odpowiedzialności, bezpieczeństwa, godności ludzkiej, prywatności i warunków pracy, jak wyjaśniono poniżej.
4.2. Autonomia
4.2.1. Mówimy o paternalizmie, jeśli ktoś twierdzi, że wie lepiej, co jest dobre dla innych, niż sami zainteresowani. W przypadku paternalizmu technologicznego to rozwiązania techniczne wyposaża się w cechy paternalistyczne. Paternalizm może cechować się perswazją lub zmuszaniem. Dobre techniki perswazji powinny wiązać się ze szkoleniem, a nie manipulacją, i powinny być zgodne z zasadą wolnego wyboru przysługującego jednostce, aby zagwarantować autonomię człowieka. Cyfryzacja oferuje bogactwo nowych możliwości, które w bezprecedensowy sposób umożliwiają ludziom dokonywanie wyborów na rzecz lepszego życia. Z drugiej strony, w miarę jak cyfryzacja obejmuje coraz więcej dziedzin naszego życia, zwiększają się również możliwości manipulacji. Podważa to naszą autonomię w takich obszarach jak prowadzenie samochodów, wybór jedzenia, dbanie o zdrowie, ogrzewanie domów, palenie papierosów, picie alkoholu, zarządzanie naszymi finansami, a nawet głosowanie, gdyż wybory mogą stanowić zagrożenie dla demokracji, jeśli są przedmiotem manipulacji. EKES apeluje o opracowanie i stosowanie przejrzystych zasad, a w stosownych przypadkach rygorystycznych środków prawnych, odnośnie do tych szybko rozwijających się technologii, a także o dostosowywanie ich do tych technologii.
4.2.2. Najbardziej uderzający przykład skrajnej metody wpływania na ludzi za pomocą technologii cyfrowych można znaleźć w Chinach. Każdy obywatel posiada prowadzoną przez chiński rząd kartę wyników obywatela, która pomaga ustalić, czy ktoś kwalifikuje się do uzyskania pożyczki, wizy lub pracy. Stoi to w ostrej sprzeczności z europejskimi wartościami i prawami (ochrona danych, prywatność, ochrona socjalna, zrównoważony rozwój).
4.2.3. Zaobserwowano, że ludzie odczuwają coraz większą potrzebę bardziej analogowego życia, przynajmniej w pewnych okresach. Istnieją obozy typu "sleep-away", na które wyjeżdżają dorośli, aby spędzić weekend poza siecią. Niektórzy ludzie spędzają wolny czas "w trybie offline", aby skupić się na swoich dzieciach, rodzinach i przyjaciołach - co oznacza brak telefonu w zasięgu ręki. Istnieje stałe zapotrzebowanie na rzeczy uważane obecnie za analogowe mimo ich dostępności w wersjach cyfrowych: książki, muzyka stworzona bez komputerów, płyty winylowe, papier, długopisy i wiele innych. Wiadomo, że wielu kierowników wysokiego szczebla raz na jakiś czas uwalnia się od poczty elektronicznej. Oznacza to usunięcie każdego emaila ze skrzynki odbiorczej lub całkowite zamknięcie konta, aby odpocząć od zalewu komunikacji elektronicznej. EKES jest zdania, że istnieje potrzeba równoważenia w ten sposób także transformacji cyfrowej, jeśli chcemy, by odniosła sukces i była powszechnie akceptowana; i ostrzega przed zbyt dużym naleganiem na zastępowanie technik analogowych.
4.3. Odpowiedzialność
Termin "człowiek poza obiegiem"odnosi się do pełnej automatyzacji, w której system podejmuje decyzję bez interwencji człowieka. Przykładami są systemy oparte na wiedzy, które stawiają diagnozy lekarskie na podstawie dużej ilości informacji, czy roboty wojskowe, które decydują o życiu lub śmierci z wykorzystaniem informacji z różnych źródeł. Najważniejsze, często zadawane pytanie brzmi: w jakim stopniu etycznie dopuszczalne jest delegowanie dokonywania wyborów (mających implikacje moralne) systemom opartym na sztucznej inteligencji? EKES wyraził już jasne stanowisko na ten temat 6 : pojęcia "odpowiedzialność"i "moralny"są przypisane wyłącznie człowiekowi, podczas gdy pewne cechy umysłowe lub osobowościowe nie mogą być przypisane robotom. Systemy zautomatyzowane, niezależnie od tego, jak bardzo są skomplikowane, muszą działać zgodnie z zasadą nadzoru przez człowieka. Tylko człowiek może podjąć ostateczną decyzję i wziąć za nią odpowiedzialność.
4.4. Bezpieczeństwo i konsumenci
4.4.1. Instalujemy najnowsze gadżety, dzięki którym nasze domy stają się "inteligentniejsze", ale jednocześnie bardziej narażone na zagrożenia. Coraz więcej naszych urządzeń łączy się z internetem - inteligentne telewizory, kamery internetowe, konsole do gier, inteligentne zegarki - dlatego ważny jest dobry plan ochrony swojej sieci domowej. Inteligentne zegarki i inne urządzenia do noszenia przy sobie są rozszerzeniem smartfona, zapewniając natychmiastowy dostęp do zaawansowanych aplikacji, wiadomości e-mail, wiadomości tekstowych i internetu. Hakerzy mogą więc przechwytywać cenne dla siebie informacje, a także przejmować kontrolę nad inteligentnymi urządzeniami. Badacze zajmujący się bezpieczeństwem pokazali, jak łatwo jest zhakować lalkę Cayla; wykazali też, że można nawet zhakować pompę insulinową lub szpiegować osobę mającą na ręku inteligentny zegarek. Należy uświadomić konsumentom te zagrożenia. EKES wzywa UE do dokonania przeglądu istniejących przepisów w zakresie bezpieczeństwa i do opracowania ścisłych zasad bezpieczeństwa i dostosowania ich do nowych i zmieniających się technologii w celu ochrony obywateli w ich własnych domach.
4.4.2. Techniki biometryczne (rozpoznawanie twarzy, odciski palców, skanowanie tęczówki) są wspaniałe, dopóki system działa dobrze. Okazuje się jednak, że po błędnym zidentyfikowaniu kogoś przez system jako podejrzanego często bardzo trudno jest skorygować taki błąd. Wykorzystanie danych biometrycznych może prowadzić do błędnej klasyfikacji i stygmatyzacji przez automatyczne przypisanie danej osoby do określonej kategorii, np. terrorysta, przestępca lub osoba niewiarygodna. Może to prowadzić do naruszenia zasady domniemania niewinności. Wydaje się również, że technik biometrycznych nie można zastosować u niektórych osób. Na przykład nie można odczytać 2 % odcisków palców, ponieważ należą one do osób starszych, wykonujących określony zawód lub leczonych chemioterapią. Systemy cyfrowe używane przez nasze społeczeństwo muszą być zaprojektowane w taki sposób, aby nie wykluczać ani nie dyskryminować osób niespełniających pewnych standardowych kryteriów. Systemy, które automatycznie klasyfikują ludzi jako podejrzanych, nigdy nie powinny działać bez ścisłej interakcji z człowiekiem i dokładnej weryfikacji.
4.4.3. Oszustwo dotyczące tożsamości to poważny problem. Polega ono na celowym pozyskiwaniu, przywłaszczaniu, posiadaniu lub tworzeniu fałszywych identyfikatorów w celu popełnienia przestępstwa lub z zamiarem jego popełnienia. Nasze społeczeństwo potrzebuje odpowiedniego wsparcia prawnego, aby chronić ofiary takich oszustw.
4.5. Godność ludzka
4.5.1. Przedmiotem obaw jest zastosowanie rozwiązań z dziedziny robotyki w sektorze opieki zdrowotnej. Roboty są urządzeniami, niezdolnymi do powielenia empatii i budowania wzajemnych relacji, charakterystycznych dla międzyludzkich stosunków opiekuńczych. Dlatego też roboty wykorzystywane do opieki powinny wykonywać wyłącznie zadania opiekuńcze niewymagające emocjonalnego, głębokiego ani osobistego zaangażowania. Roboty, które nie będą wykorzystywane zgodnie z pewnymi warunkami ramowymi, mogą naruszać godność ludzką.
4.6. Ochrona prywatności
4.6.1. Rozpoznawanie twarzy polega na porównaniu profilu zeskanowanej twarzy z profilami twarzy w bazie danych, aby ustalić, czy dana osoba występuje w tej bazie. Technika ta jest stosowana w dochodzeniach policyjnych lub w kamerach bezpieczeństwa w miejscach publicznych, a jej wykorzystywanie jest regulowane przez prawo. Takie bardzo poufne informacje muszą być przechowywane w bezpieczny sposób. W przyszłości technologia rozpoznania twarzy będzie tańsza i łatwo dostępna dla wszystkich - sklepów, firm, a nawet osób prywatnych. Podejmowane są próby zastosowania tego rodzaju techniki nawet do rozpoznawania emocji. Ludzie obawiają się jednak, że technologia ta doprowadzi do sytuacji, w której nie będzie już można zachować anonimowości na ulicy ani robić anonimowo zakupów. EKES domaga się zapewnienia prawa do prywatności także w przestrzeni publicznej. Ogólnie rzecz biorąc, rozpoznawanie twarzy przez kamery bez wiedzy obserwowanych osób musi być zabronione.
4.6.2. Wszyscy dobrze znają wizję "wielkiego brata", a więc świata, w którym rząd szpieguje wszystkich obywateli, natomiast jeszcze bliższy urzeczywistnieniu jest scenariusz "małego brata", w którym szpiegują się pojedyncze osoby lub małe firmy. Na przykład inteligentne okulary mogą być używane do rejestrowania i wyszukiwania danych o rozmówcy lub osobie odwiedzającej nas. W miarę dalszego rozwoju zaawansowanej i przystępnej cenowo technologii dostępne staną się również inne elektroniczne gadżety szpiegowskie. EKES podkreśla, że potrzebujemy jasnych i ścisłych zasad ochrony prywatności osób, które to zasady wykraczałyby poza zakres obecnego RODO.
4.6.3. Rozwój automatyki domowej sprawia, że dom zapewnia nam coraz mniej prywatności. Granica między domem a światem zewnętrznym zaciera się, ponieważ jego mury nie chronią już nas przed wścibskimi oczami. Urządzenia domowej rozrywki, systemy alarmowe z kamerami bezpieczeństwa i centralne systemy sterowania (komputer stacjonarny, smartfon, inteligentny głośnik) zapewniają hakerom szereg punktów dostępu. EKES wzywa do podjęcia skoordynowanych działań na poziomie UE mających na celu informowanie konsumentów o tych zagrożeniach i zapewnienie wsparcia w zakresie środków bezpieczeństwa.
4.6.4. Jednym z zagrożeń związanych z systemami cyfrowymi jest ich złożoność. W szczególności indywidualny konsument, który nie ma profesjonalnych umiejętności cyfrowych, potrzebuje dużego wsparcia. Na przykład niektóre instrukcje obsługi urządzeń cyfrowych są bardzo długie. Zwykle ostrzegają one użytkownika o problemach związanych z prywatnością, ale zezwolenie na wykorzystanie niektórych danych podawane jest często nieświadomie, ponieważ ludzie nie są w stanie zrozumieć całego podręcznika lub cierpią na tzw. zmęczenie udzielaniem zgody spowodowane wielokrotną koniecznością udzielania uprawnień do korzystania z ich danych urządzeniom pobierającym dane. Rodzi to pytanie, gdzie leży odpowiedzialność w tym procesie. EKES nawołuje do uproszczenia i proponuje wprowadzenie standardowych procedur UE bądź standardowych pakietów dotyczących ochrony prywatności, które byłyby dla wszystkich łatwo zrozumiałe.
4.6.5. Kwestia prywatności dotyczy również platform cyfrowych, które mogą z łatwością śledzić użytkowników za pomocą prostych narzędzi. Na przykład pracownicy Ubera korzystali z firmowego narzędzia God View do śledzenia polityków, celebrytów i innych osób, i zaprzestali tego dopiero po wniesieniu sprawy do sądu. To rozwiązanie techniczne jednak wciąż przechwytuje dane ze śledzenia i dane dotyczące połączeń. EKES jest przekonany, że prywatność można zagwarantować jedynie poprzez wprowadzenie dodatkowych środków, a mianowicie limitując dostęp do wrażliwych danych tylko do ograniczonej liczby upoważnionych osób. Tego rodzaju środki bezpieczeństwa muszą być opracowane zgodnie z najwyższymi, najbardziej godnymi zaufania normami, z zapewnieniem regularnej weryfikacji przez niezależne organy UE.
4.7. Praca w przyszłości
4.7.1. Praca pozostanie głównym źródłem dochodu w epoce cyfrowej. Zdolność do zatrudnienia z perspektywy pracodawcy oraz zdolność do świadczenia pracy z punktu widzenia pracownika to dwie strony tego samego medalu w erze transformacji cyfrowej. Zdolność pracowników do przystosowania się do nowych zadań równa jest możliwości przystosowania pracy do indywidualnych zadań pracownika dzięki technologii cyfrowej. W miarę jak coraz bardziej zaciera się granica miedzy pracą świadczoną w celach zarobkowych a pracą wykonywaną w celach prywatnych, wyzwaniem - zwłaszcza dla partnerów społecznych - staje się znalezienie i ustanowienie nowych kryteriów sprawiedliwego mierzenia indywidualnych wyników. Przewidywanie przemian cyfrowych wymaga zaangażowania pracowników poprzez informowanie ich, konsultowanie się z nimi i zapewnianie ich udziału. Zabezpieczenie społeczne, usługi publiczne świadczone w interesie ogólnym oraz ekologiczne źródła utrzymania pozostają niezbędnym warunkiem przyszłego społeczeństwa opartego na pracy w erze transformacji cyfrowej.
4.7.2. Automatyzacja i robotyzacja będą w przyszłości wywierały znaczący wpływ na zatrudnienie. Na przykład systemy zautomatyzowanego transportu są już powszechnie stosowane w transporcie materiałów w magazynach. Roboty mogą również zastąpić monotonną, ciężką lub niebezpieczną pracę, zaś tzw. roboty współpracujące nowej generacji mogą stać się w sensie fizycznym partnerami dla pracowników, szczególnie przydatnymi dla osób niepełnosprawnych. Współczesne roboty głównie zastępują pracowników fizycznych, ale roboty wyposażone w sztuczną inteligencję będą również wykonywać pracę umysłową. Odczują to pracownicy w wielu zawodach, ponieważ roboty przejmują określone zadania lub nawet całkowicie zastępują w pracy ludzi, czego byliśmy świadkami w minionych dziesięcioleciach. Szacuje się, że zatrudnienie we wszystkich sektorach przemysłu pozostanie stabilne do 2022 r. Spojrzenie na sytuację w dużych firmach ujawnia nawet, że w wyniku przesunięcia w podziale pracy między człowiekiem a maszyną powstało prawie dwa razy więcej nowych miejsc pracy i funkcji, niż się spodziewano. EKES omówił te kwestie w szeregu opinii 7 .
4.7.3. Nierówny dostęp do nowych technologii cyfrowych i niedobór wykwalifikowanej siły roboczej może być źródłem stopniowo narastających różnic w rozwoju regionalnym, co ma wpływ na rozwój gospodarczy, kulturalny i w konsekwencji na społeczny rozwój tych regionów. EKES wzywa do oceny skali ewentualnych nierówności społecznych i jej możliwego wpływu na integralność UE.
4.7.4. Pracownicy współpracujący z automatycznymi systemami, korzystający z takich systemów lub pracujący z dużą ilością danych mogą napotkać pewne problemy. Muszą oni wykonywać skomplikowane zadania wymagające korzystania z dużej ilości informacji. Na przykład wirtualna rzeczywistość jest wykorzystywana do celów szkoleniowych i planowania, podczas gdy ze wsparcia rzeczywistości rozszerzonej korzysta się w projektach związanych z konserwacją. EKES zaleca, aby przy planowaniu nowych systemów automatyki w przemyśle i handlu stosowane były obiektywne naukowe metody optymalizacji i oceny interakcji człowiek-maszyna.
4.7.5. Z kolei pracodawcy stają przed wyzwaniem związanym z wyborem odpowiednich rozwiązań cyfrowych z szerokiej gamy nowych technologii. Ważne jest opracowanie odpowiednich systemów pomocy technicznej wspierających działania przedsiębiorstwa i procesy pracy. Zaleca się także, aby przed wprowadzeniem nowych technologii określić kompetencje techniczne pracowników i w razie potrzeby zapewnić im szkolenia. Kluczowym czynnikiem jest także udział pracowników we wdrażaniu nowych technologii.
4.7.6. W dobie cyfryzacji rozkwit przeżywają badania z dziedziny ergonomii kognitywnej. Naukowe metody ergonomii kognitywnej umożliwiają obiektywną ocenę potrzeb umysłowych podczas pracy z nowymi systemami pomocy technicznej. Dziedzina ta łączy różne dyscypliny badawcze, takie jak psychologia i ergonomia, na potrzeby oceny interfejsów użytkownika. Celem są optymalnie zaprojektowane miejsca pracy i sytuacja, w której korzyści odnoszą zarówno pracownicy, jak i pracodawcy. W takiej obopólnie korzystnej sytuacji pracownicy osiągają największy poziom zadowolenia z pracy, dobrego samopoczucia i zdrowia, zapewniając przedsiębiorstwu maksymalne wyniki i największą wydajność w dłuższym okresie. EKES zaleca, aby takie metody oceny stały się standardem, z korzyścią dla pracowników i przedsiębiorstw. Należy monitorować transformację cyfrową za pomocą ukierunkowanych na pracę kompleksowych badań dotyczących "cyfryzacji na rzecz godnej pracy", finansowanych ze środków europejskich. EKES jest przekonany, że tylko dzięki zaprojektowaniu wydajnych i przyjaznych dla pracownika systemów Przemysłu 4.0 cyfryzacja odniesie sukces w długiej perspektywie.
| Luca JAHIER | |
| Przewodniczący | |
| Europejskiego Komitetu Ekonomiczno-Społecznego |