Decyzja Komisji z dnia 24 stycznia 2024 r. ustanawiająca Europejski Urząd ds. Sztucznej Inteligencji

Dzienniki UE

Dz.U.UE.C.2024.1459

Akt obowiązujący

Wersja od: 14 lutego 2024 r.

DECYZJA KOMISJI

z dnia 24 stycznia 2024 r.

ustanawiająca Europejski Urząd ds. Sztucznej Inteligencji

(C/2024/1459)

(Dz.U.UE C z dnia 14 lutego 2024 r.)

KOMISJA EUROPEJSKA,

uwzględniając Traktat o funkcjonowaniu Unii Europejskiej,

a także mając na uwadze, co następuje:

(1) Sztuczna inteligencja (AI) to szybko rozwijająca się grupa technologii, które mogą przyczyniać się do wielu różnych korzyści społecznoekonomicznych we wszystkich gałęziach przemysłu i obszarach działalności społecznej. Jednocześnie AI może być źródłem ryzyka i szkód dla interesu publicznego i praw podstawowych chronionych prawem Unii, w zależności od okoliczności dotyczących jej konkretnego zastosowania i wykorzystania.

(2) Komisja przedstawiła wniosek dotyczący rozporządzenia ustanawiającego zharmonizowane przepisy dotyczące sztucznej inteligencji (akt w sprawie sztucznej inteligencji) i zmieniającego niektóre akty ustawodawcze Unii ¹ , mającego na celu wspieranie rozwoju, wykorzystywania i wprowadzania sztucznej inteligencji na rynku wewnętrznym, który jednocześnie zapewnia wysoki poziom ochrony interesów publicznych, takich jak opieka zdrowotna i bezpieczeństwo oraz ochrona praw podstawowych, uznanych i chronionych prawem Unii. Rozporządzenie, którego dotyczy wniosek, jest jednym z kilku środków Komisji mających na celu osiągnięcie podwójnego celu, jakim jest promowanie stosowania AI i przeciwdziałanie ryzyku związanemu z niektórymi zastosowaniami takiej technologii. Dalsze środki obejmują "Skoordynowany plan w sprawie sztucznej inteligencji" w przeglądzie z 2021 r. ² , inicjatywy polityki sektorowej wspierające wprowadzanie AI lub unijne programy finansowania, takie jak te ustanowione rozporządzeniami Parlamentu Europejskiego i Rady (UE) 2021/694 ³  i (UE) 2021/695 ⁴ .

(3) Złożoność i coraz szersze upowszechnianie AI, zwłaszcza w oparciu o najbardziej zaawansowane modele, oraz konieczność przyspieszenia postępów w realizacji założeń i celów określonych w programie polityki "Droga ku cyfrowej dekadzie" ustanowionym decyzją Parlamentu Europejskiego i Rady (UE) 2022/2481 ⁵ , wskazują na potrzebę podjęcia dodatkowych działań w celu lepszego zrozumienia zdolności, tendencji i potencjalnych zagrożeń oraz wspierania bezpiecznego rozwoju i wykorzystania technologii AI w Unii.

(4) Konieczne jest rozwijanie wiedzy fachowej i zdolności na szczeblu Unii w celu wspierania takiego zrozumienia, przyczyniania się do wdrożenia i egzekwowania przyszłego rozporządzenia ustanawiającego zharmonizowane przepisy dotyczące sztucznej inteligencji oraz przyczyniania się do wdrożenia międzynarodowych przepisów i zasad dotyczących AI, np. kodeksu postępowania G7 i wytycznych dla twórców zaawansowanych systemów AI.

(5) W tym kontekście należy zapewnić podstawy jednolitego systemu zarządzania AI w Unii poprzez ustanowienie struktury, która ma służyć nadzorowaniu postępów w zakresie modeli sztucznej inteligencji, w tym w odniesieniu do modeli AI ogólnego przeznaczenia, interakcji ze środowiskiem naukowym, a także powinna odgrywać kluczową rolę w analizach i testach, egzekwowaniu prawa i mieć globalne znaczenie.

(6) W związku z tym w ramach Komisji należy ustanowić Europejski Urząd ds. Sztucznej Inteligencji będący częścią struktury administracyjnej Dyrekcji Generalnej ds. Sieci Komunikacyjnych, Treści i Technologii i podlegający jej rocznemu planowi zarządzania.

(7) Europejski Urząd ds. Sztucznej Inteligencji powinien działać zgodnie z wewnętrznymi procesami Komisji ⁶ , a jego ustanowienie nie powinno wpływać na uprawnienia i kompetencje właściwych organów krajowych ani organów, urzędów i agencji Unii w zakresie nadzoru nad systemami AI, jak przewidziano w przyszłym rozporządzeniu ustanawiającym zharmonizowane przepisy dotyczące sztucznej inteligencji i w innych sektorowych przepisach Unii. Powyższe pozostaje bez uszczerbku dla funkcji innych departamentów Komisji w ich odpowiednich obszarach kompetencji oraz funkcji Europejskiej Służby Działań Zewnętrznych w dziedzinie wspólnej polityki zagranicznej i bezpieczeństwa. Europejski Urząd ds. Sztucznej Inteligencji powinien wykonywać swoje zadania, w szczególności w celu wydawania wytycznych, w sposób, który nie powiela działań odpowiednich organów, urzędów i agencji Unii na mocy przepisów sektorowych.

(8) Aby umożliwić jak najszybsze rozpoczęcie przygotowań do wdrożenia przyszłego rozporządzenia ustanawiającego zharmonizowane przepisy dotyczące sztucznej inteligencji, niniejsza decyzja powinna wejść w życie w trybie pilnym przed przyjęciem wspomnianego rozporządzenia w następstwie porozumienia politycznego osiągniętego przez współprawodawców w dniu 8 grudnia 2023 r. Po przyjęciu rozporządzenia niniejsza decyzja może zostać zmieniona,

STANOWI, CO NASTĘPUJE:

Artykuł  1

Ustanowienie

Ustanawia się Europejski Urząd ds. Sztucznej Inteligencji ("Urząd").

Urząd jest częścią struktury administracyjnej Dyrekcji Generalnej ds. Sieci Komunikacyjnych, Treści i Technologii ("Dyrekcja Generalna").

Artykuł  2

Misja i zadania

1. Urząd wykonuje zadania określone w art. 3 w celu wdrażania i egzekwowania przyszłego rozporządzenia ustanawiającego zharmonizowane przepisy dotyczące sztucznej inteligencji ("przyszłe rozporządzenie").

2. Dodatkowe zadania urzędu obejmują:

a) wkład w strategiczne, spójne i skuteczne podejście Unii do międzynarodowych inicjatyw w zakresie AI zgodnie z art. 7, w koordynacji z państwami członkowskimi oraz zgodnie ze stanowiskami i politykami Unii;

b) wkład w wspomaganie działań i polityk Komisji, które czerpią społeczne i gospodarcze korzyści z technologii AI, zgodnie z art. 5;

c) wspieranie przyspieszonego rozwoju, wprowadzania i wykorzystywania wiarygodnych systemów i zastosowań AI, które przynoszą korzyści społeczne i gospodarcze oraz przyczyniają się do konkurencyjności i wzrostu gospodarczego Unii. W szczególności Urząd promuje ekosystemy innowacji, współdziałając z odpowiednimi podmiotami publicznymi i prywatnymi oraz społecznością przedsiębiorstw typu startup;

d) monitorowanie zmian w obszarze rynków i technologii AI.

3. Wykonując zadania, o których mowa w ust. 1 i 2 niniejszego artykułu, Urząd:

a) współpracuje z zainteresowanymi stronami, w szczególności ekspertami ze środowiska naukowego i podmiotami rozwijającymi AI zgodnie z art. 4;

b) współpracuje z odpowiednimi dyrekcjami generalnymi i służbami Komisji zgodnie z art. 5;

c) współpracuje ze wszystkimi właściwymi organami, urzędami i agencjami Unii, w tym ze Wspólnym Przedsięwzięciem w dziedzinie Europejskich Obliczeń Wielkiej Skali (Wspólne Przedsięwzięcie EuroHPC), zgodnie z art. 6;

d) współpracuje z urzędami i organami państw członkowskich w imieniu Komisji.

Artykuł  3

Wdrożenie przyszłego rozporządzenia

1. Urząd wykonuje następujące zadania wynikające z przyszłego rozporządzenia:

a) opracowywanie narzędzi, metod i poziomów odniesienia na potrzeby oceny zdolności modeli AI ogólnego przeznaczenia, w szczególności w odniesieniu do bardzo dużych modeli AI ogólnego przeznaczenia wiążących się z ryzykiem systemowym;

b) monitorowanie wdrażania i stosowania przepisów dotyczących modeli i systemów AI ogólnego przeznaczenia, w szczególności w przypadku gdy model i system są opracowywane przez tego samego dostawcę;

c) monitorowanie pojawiania się nieprzewidzianych zagrożeń wynikających z modeli AI ogólnego przeznaczenia, m.in. poprzez reagowanie na ostrzeżenia ze strony panelu naukowego;

d) badanie ewentualnych naruszeń przepisów dotyczących modeli i systemów AI ogólnego przeznaczenia, w tym poprzez gromadzenie skarg i ostrzeżeń, pomoc w przygotowywaniu decyzji Komisji i przeprowadzanie ocen zgodnie z przyszłym rozporządzeniem;

e) zapewnienie, aby w przypadku gdy system AI jest objęty zakresem odpowiednich przepisów Unii, w odniesieniu do których Komisja posiada uprawnienia odnośnie do nadzoru i egzekwowania przepisów, np. na mocy rozporządzenia Parlamentu Europejskiego i Rady (UE) 2022/2065 ⁷  lub rozporządzenia Parlamentu Europejskiego i Rady (UE) 2022/1925 ⁸ , nadzór nad tymi przepisami i ich egzekwowanie były w pełni skoordynowane z nadzorem i egzekwowaniem przyszłego rozporządzenia;

f) wspieranie wdrażania przepisów dotyczących zakazanych praktyk w zakresie AI i systemów AI wysokiego ryzyka w koordynacji z odpowiednimi organami odpowiedzialnymi na mocy przepisów sektorowych, w tym ułatwianie wymiany informacji i współpracy między organami krajowymi, gromadzenie powiadomień oraz tworzenie platform informacyjnych i baz danych, w szczególności w przypadku gdy model lub system AI ogólnego przeznaczenia jest zintegrowany z systemem AI wysokiego ryzyka.

2. Ponadto, aby przyczynić się do skutecznego wykonania przyszłego rozporządzenia, Urzędowi powierza się następujące zadania:

a) wspieranie Komisji w przygotowywaniu odpowiednich decyzji Komisji oraz aktów wykonawczych i delegowanych;

b) ułatwianie jednolitego stosowania przyszłego rozporządzenia;

c) wspieranie Komisji w przygotowywaniu wskazówek i wytycznych w celu wsparcia praktycznego wdrażania przyszłego rozporządzenia, a także opracowywanie narzędzi wspierających, takich jak znormalizowane protokoły i najlepsze praktyki, w porozumieniu z odpowiednimi służbami Komisji oraz organami, urzędami i agencjami Unii;

d) wspieranie Komisji w przygotowywaniu zleceń normalizacji, ocenie istniejących norm i przygotowywaniu wspólnych specyfikacji w celu wdrożenia przyszłego rozporządzenia;

e) przyczynianie się do zapewniania wsparcia technicznego, doradztwa i narzędzi na potrzeby tworzenia i funkcjonowania piaskownic regulacyjnych w zakresie AI oraz, w stosownych przypadkach, koordynacji z właściwymi organami krajowymi ustanawiającymi takie piaskownice;

f) przeprowadzanie ocen i przeglądów oraz przygotowywanie sprawozdań związanych z przyszłym rozporządzeniem;

g) koordynowanie tworzenia skutecznego systemu zarządzania, m.in. poprzez przygotowywanie tworzenia organów doradczych na szczeblu unijnym, a także monitorowanie tworzenia odpowiednich organów krajowych i innych organów na szczeblu krajowym;

h) zapewnianie sekretariatu Radzie ds. AI i jej podgrupom oraz, w stosownych przypadkach, zapewnianie wsparcia administracyjnego forum doradczemu i panelowi naukowemu, m.in. poprzez zapewnianie struktury administracyjnej, organizowanie posiedzeń i przygotowywanie odpowiednich dokumentów; oraz

i) zachęcanie do opracowywania kodeksów praktyk i kodeksów postępowania na szczeblu Unii oraz ułatwianie ich opracowywania, z uwzględnieniem podejść międzynarodowych, a także monitorowanie wdrażania i oceny kodeksów praktyk.

Artykuł  4

Współpraca z zainteresowanymi stronami

1. Wykonując swoje zadania na podstawie art. 3, Urząd współpracuje z zainteresowanymi stronami zgodnie z mającymi zastosowanie zasadami konkurencji w drodze:

a) ustanawiania forów współpracy dostawców modeli i systemów AI w celu rozwijania najlepszych praktyk i przyczyniania się do opracowywania kodeksów postępowania i kodeksów praktyk

b) prowadzenia regularnych konsultacji z zainteresowanymi stronami, w tym z ekspertami ze środowiska naukowego i sektora edukacji, obywatelami, społeczeństwem obywatelskim i partnerami społecznymi, w stosownych przypadkach, w celu zebrania danych wejściowych na potrzeby wykonywania zadań na podstawie art. 3 ust. 2;

c) ustanowienia forum współpracy ze społecznością danych open-source w celu określenia i opracowania najlepszych praktyk w zakresie bezpiecznego rozwoju i stosowania otwartych modeli i systemów AI.

Artykuł  5

Współpraca międzysektorowa w ramach Komisji

1. Urząd przyczynia się do wspierania działań i polityk, które przynoszą korzyści dla społeczeństwa i przemysłu wynikające z technologii AI.

2. W szczególności Urząd:

a) współpracuje z innymi odpowiednimi dyrekcjami generalnymi i służbami Komisji przy wykonywaniu swoich zadań określonych w art. 2, w szczególności z Europejskim Centrum Przejrzystości Algorytmicznej w odniesieniu do oceny i testowania modeli i systemów AI ogólnego przeznaczenia;

b) wspiera inne właściwe dyrekcje generalne i służby Komisji w celu ułatwienia korzystania z modeli i systemów AI jako narzędzi transformacyjnych w odpowiednich dziedzinach polityki Unii, a także w celu podnoszenia świadomości na temat pojawiających się zagrożeń.

Artykuł  6

Współpraca międzyinstytucjonalna

Wykonując swoje zadania zgodnie z art. 3, Urząd ustanawia odpowiednie formy współpracy z organami, urzędami i agencjami Unii.

Artykuł  7

Współpraca międzynarodowa

1. Urząd wnosi wkład we współpracę międzynarodową Komisji w zakresie AI, z uwzględnieniem polityki w zakresie innowacji i doskonałości, z państwami trzecimi i organizacjami międzynarodowymi, w szczególności poprzez:

a) popieranie odpowiedzialnego sprawowania pieczy nad AI i propagowanie unijnego podejścia do godnej zaufania AI;

b) przyczynianie się do współpracy międzynarodowej związanej z regulacjami w zakresie AI i zarządzaniem nią;

c) przyczynianie się do realizacji umów międzynarodowych w sprawie zasad dotyczących AI, m.in. poprzez udzielanie wsparcia państwom członkowskim.

Artykuł  8

Finansowanie

1. W przypadku urzędników pracujących w Urzędzie potrzeby w zakresie zasobów ludzkich są zaspakajane z zasobów Dyrekcji Generalnej już przydzielonych na potrzeby zarządzania tym działaniem lub przesuniętych w ramach Dyrekcji Generalnej, w świetle ograniczeń budżetowych, bez uszczerbku dla procedury rocznego przydziału środków.

2. W przypadku zewnętrznego personelu statutowego pracującego w Urzędzie koszty zasobów ludzkich pokrywa się w drodze przesunięcia środków budżetowych z wydatków na wsparcie administracyjne z programu "Cyfrowa Europa".

3. Wydatki operacyjne Urzędu pokrywa się ze środków finansowych przydzielonych na cel szczegółowy nr 2 "Sztuczna inteligencja" programu "Cyfrowa Europa".

Artykuł  9

Wejście w życie

Niniejsza decyzja wchodzi w życie z dniem 21 lutego 2024 r.

Sporządzono w Brukseli dnia 24 stycznia 2024 r.

¹ COM(2021) 206 final.

² COM(2021) 205 final.

³ Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2021/694 z dnia 29 kwietnia 2021 r. ustanawiające program "Cyfrowa Europa" oraz uchylające decyzję (UE) 2015/2240 (Dz.U. L 166 z 11.5.2021, s. 1, ELI: http://data.europa.eu/eli/reg/2021/694/oj).

⁴ Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2021/695 z dnia 28 kwietnia 2021 r. ustanawiające program ramowy w zakresie badań naukowych i innowacji "Horyzont Europa" oraz zasady uczestnictwa i upowszechniania obowiązujące w tym programie oraz uchylające rozporządzenia (UE) nr 1290/2013 i (UE) nr 1291/2013 (Dz.U. L 170 z 12.5.2021, s. 1, ELI: http://data.europa.eu/eli/ reg/2021/695/oj).

⁵ Decyzja Parlamentu Europejskiego i Rady (UE) 2022/2481 z dnia 14 grudnia 2022 r. ustanawiająca program polityki "Droga ku cyfrowej dekadzie" do 2030 r. (Dz.U. L 323 z 19.12.2022, s. 4, ELI: http://data.europa.eu/eli/dec/2022/2481/oj).

⁶ Nie jest to urząd europejski w rozumieniu art. 2 pkt 26 rozporządzenia finansowego, rozporządzenia Parlamentu Europejskiego i Rady (UE, Euratom) 2018/1046 z dnia 18 lipca 2018 r.

⁷ Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2022/2065 z dnia 19 października 2022 r. w sprawie jednolitego rynku usług cyfrowych oraz zmiany dyrektywy 2000/31/WE (akt o usługach cyfrowych) (Dz.U. L 277 z 27.10.2022, s. 1, ELI: http://data.europa. eu/eli/reg/2022/2065/oj).

⁸ Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2022/1925 z dnia 14 września 2022 r. w sprawie kontestowanych i uczciwych rynków w sektorze cyfrowym oraz zmiany dyrektyw (UE) 2019/1937 i (UE) 2020/1828 (akt o rynkach cyfrowych) (Dz.U. L 265 z 12.10.2022, s. 1, ELI: http://data.europa.eu/eli/reg/2022/1925/oj).