EROD i EIOD wzywają do wprowadzenia zakazu wykorzystywania sztucznej inteligencji do automatycznego rozpoznawania cech ludzkich w przestrzeni publicznej oraz niektórych innych zastosowań sztucznej inteligencji, które mogą prowadzić do niesprawiedliwej dys

21 June 2021 EDPB

Bruksela, 21 czerwca – EROD i EIOD przyjęły wspólną opinię w sprawie wniosku Komisji Europejskiej dotyczącego rozporządzenia ustanawiającego zharmonizowane przepisy dotyczące sztucznej inteligencji (AI).

EROD i EIOD z dużym zadowoleniem przyjmują cel, jakim jest zajęcie się kwestią wykorzystania systemów sztucznej inteligencji w Unii Europejskiej, w tym wykorzystania takich systemów przez instytucje, organy lub agencje UE. Jednocześnie EROD i EIOD są zaniepokojeni wyłączeniem międzynarodowej współpracy w zakresie egzekwowania prawa z zakresu wniosku.

EROD i EIOD podkreślają również potrzebę wyraźnego wyjaśnienia, że istniejące unijne przepisy dotyczące ochrony danych (RODO, EUDPR i LED) mają zastosowanie do każdego przetwarzania danych osobowych objętego zakresem projektu rozporządzenia w sprawie sztucznej inteligencji.

Choć EROD i EIOD z zadowoleniem przyjmują podejście oparte na analizie ryzyka, na którym opiera się wniosek, uważają, że pojęcie „zagrożenia dla praw podstawowych” powinno zostać dostosowane do unijnych ram ochrony danych. EROD i EIOD zalecają, aby ocenić i złagodzić również zagrożenia społeczne dla grup osób fizycznych. Ponadto zgadzają się z wnioskiem, że sklasyfikowanie systemu sztucznej inteligencji jako systemu wysokiego ryzyka niekoniecznie oznacza, że jest on sam w sobie zgodny z prawem i jako taki może zostać wdrożony przez użytkownika. EROD i EIOD uważają również, że zgodność z obowiązkami prawnymi wynikającymi z przepisów Unii – w tym dotyczących ochrony danych osobowych – powinna być warunkiem wstępnym wprowadzenia na rynek europejski produktu z oznakowaniem zgodności CE.

Biorąc pod uwagę niezwykle wysokie ryzyko, jakie stwarza zdalna biometryczna identyfikacja osób w przestrzeni publicznej, EROD i EIOD wzywają do wprowadzenia ogólnego zakazu jakiegokolwiek wykorzystywania sztucznej inteligencji do automatycznego rozpoznawania cech ludzkich w przestrzeni publicznej, takich jak rozpoznawanie twarzy, chodu, odcisków palców, DNA, głosu, uderzeń w klawisze i innych sygnałów biometrycznych lub behawioralnych, w jakimkolwiek kontekście. Podobnie EROD i EIOD zalecają zakaz stosowania systemów sztucznej inteligencji wykorzystujących dane biometryczne do podziału osób na grupy ze względu na pochodzenie etniczne, płeć, orientację polityczną lub seksualną lub inne powody, ze względu na które dyskryminacja jest zakazana na mocy art. 21 Karty praw podstawowych. Ponadto EROD i EIOD uważają, że wykorzystywanie sztucznej inteligencji do wyciągania wniosków na temat stanu emocjonalnego danej osoby fizycznej jest wysoce niepożądane i powinno być zabronione, z wyjątkiem bardzo szczególnych przypadków, takich jak niektóre cele zdrowotne, w których rozpoznawanie emocji pacjenta jest ważne, oraz że wykorzystywanie sztucznej inteligencji do wszelkiego rodzaju punktowej oceny zachowań społecznych powinno być zabronione.

Andrea Jelinek, przewodnicząca EROD, i Wojciech Wiewiórowski, EIOD, powiedzieli: „Wdrażanie zdalnej identyfikacji biometrycznej w przestrzeni publicznej oznacza utratę anonimowości w takiej przestrzeni. Aplikacje, takie jak rozpoznawanie twarzy na żywo, ingerują w podstawowe prawa i wolności w takim stopniu, że mogą podważać istotę tych praw i wolności. Wymaga to natychmiastowego zastosowania podejścia ostrożnościowego. Ogólny zakaz stosowania rozpoznawania twarzy w przestrzeni publicznej jest koniecznym punktem wyjścia, jeżeli chcemy zachować nasze wolności i stworzyć ramy prawne sztucznej inteligencji zorientowane na człowieka. W proponowanym rozporządzeniu należy również zakazać jakiegokolwiek rodzaju wykorzystania sztucznej inteligencji do oceny punktowej zachowań społecznych, ponieważ jest to sprzeczne z podstawowymi wartościami UE i może prowadzić do dyskryminacji”.

EROD i EIOD z zadowoleniem przyjmują również fakt, że we wniosku wyznaczono EIOD jako organ właściwy i organ nadzoru rynku do celów nadzoru nad instytucjami, agencjami i organami Unii. Należy jednak doprecyzować rolę i zadania EIOD, zwłaszcza jeśli chodzi o jego rolę jako organu nadzoru rynku.

EROD i EIOD przypominają, że organy ochrony danych (OOD) już teraz egzekwują RODO i LED w zakresie systemów sztucznej inteligencji wykorzystujących dane osobowe, aby zagwarantować ochronę praw podstawowych, a konkretnie prawa do ochrony danych. W rezultacie wyznaczenie organów ochrony danych jako krajowych organów nadzorczych zapewniłoby bardziej zharmonizowane podejście regulacyjne i przyczyniłoby się do spójnej interpretacji przepisów dotyczących przetwarzania danych w całej UE. W związku z tym EROD i EIOD uważają, że aby zapewnić sprawne stosowanie tego nowego rozporządzenia, OOD powinny zostać wyznaczone jako krajowe organy nadzorcze zgodnie z art. 59 wniosku.

Wreszcie EROD i EIOD kwestionują przyznanie Komisji Europejskiej dominującej roli w „Europejskiej Radzie ds. Sztucznej Inteligencji” (EAIB), ponieważ byłoby to sprzeczne z potrzebą utworzenia europejskiego organu ds. sztucznej inteligencji, który byłby niezależny od wszelkich wpływów politycznych. Aby zapewnić jego niezależność, w ramach wniosku należy nadać EAIB większą autonomię i zagwarantować jej możliwość działania z własnej inicjatywy.

 

Uwaga dla redaktorów:
Wszystkie dokumenty przyjęte na sesji plenarnej EROD podlegają niezbędnym kontrolom pod względem prawnym, językowym i pod względem formatowania oraz zostaną udostępnione na stronie internetowej EROD po ich zakończeniu.

EDPB_Press Release_statement_2021_05