Evropski odbor za varstvo podatkov in Evropski nadzornik za varstvo podatkov pozivata k prepovedi uporabe umetne inteligence za avtomatizirano prepoznavanje človekovih značilnosti v javno dostopnih prostorih in nekaterih drugih načinov uporabe umetne inte

21 June 2021 EDPB

Bruselj, 21. junij — Evropski odbor za varstvo podatkov (EOVP) in Evropski nadzornik za varstvo podatkov (ENVP) sta sprejela skupno mnenje o predlogu uredbe o določitvi usklajenih pravil o umetni inteligenci Evropske komisije.

EOVP in ENVP močno pozdravljata cilj, da se obravnava uporaba sistemov umetne inteligence v Evropski uniji, vključno z uporabo sistemov umetne inteligence v institucijah, organih ali agencijah EU. Hkrati sta EOVP in ENVP zaskrbljena zaradi izključitve mednarodnega sodelovanja na področju kazenskega pregona iz področja uporabe predloga uredbe.

EOVP in ENVP tudi poudarjata, da je treba izrecno pojasniti, da se za vsako obdelavo osebnih podatkov, ki spada na področje uporabe osnutka uredbe o umetni inteligenci, uporablja obstoječa zakonodaja EU o varstvu podatkov (Splošna uredba o varstvu podatkov, Uredba (EU) 2018/1725 in Direktiva o kazenskem pregonu).

EOVP in ENVP pozdravljata pristop, ki temelji na analizi tveganja, vendar menita, da bi bilo treba koncept „tveganja za temeljne pravice“ uskladiti z okvirom EU za varstvo podatkov. EOVP in ENVP priporočata, da se tudi ocenijo in ublažijo družbena tveganja za skupine posameznikov. Poleg tega se strinjata s predlogom, da opredelitev sistema umetne inteligence kot sistema z visokim tveganjem ne pomeni nujno, da je sam po sebi zakonit in da ga lahko uporabnik uporabi. EOVP in ENVP tudi menita, da bi moralo biti izpolnjevanje pravnih obveznosti, ki izhajajo iz zakonodaje EU, vključno z varstvom osebnih podatkov, predpogoj za vstop na evropski trg kot proizvod z oznako CE.

Ob upoštevanju izjemno velikega tveganja, ki ga predstavlja biometrična identifikacija posameznikov v javno dostopnih prostorih, EOVP in ENVP pozivata k splošni prepovedi vsakršne uporabe umetne inteligence za avtomatizirano prepoznavanje človeških značilnosti v javno dostopnih prostorih, kot so prepoznavanje obrazov, načina hoje, prstnih odtisov, DNK, glasu, pritiskanja na tipke in drugih biometričnih ali vedenjskih signalov. EOVP in ENVP podobno priporočata prepoved uporabe biometričnih podatkov za razvrščanje posameznikov v skupine na podlagi etnične pripadnosti, spola, politične ali spolne usmerjenosti ali drugih okoliščin glede katerih je diskriminacija v skladu z 21. členom Listine o temeljnih pravicah prepovedana. Poleg tega EOVP in ENVP menita, da je uporaba umetne inteligence za razkrivanje čustev fizičnih oseb zelo nezaželena in bi jo bilo treba prepovedati, razen v točno določenih primerih, kot so nekateri zdravstveni nameni, kjer je prepoznavanje čustev pacientov pomembno, in prav tako bi bilo treba prepovedati uporabo umetne inteligence za vse vrste družbenega točkovanja.

Andrea Jelinek, predsednica EOVP, & Wojciech Wiewiórowski, ENVP, sta dejala: „Uporaba biometrične identifikacije na daljavo v javno dostopnih prostorih pomeni konec anonimnosti na teh mestih. Aplikacije, kot je prepoznavanje obraza v živo, posegajo v temeljne pravice in svoboščine v tolikšni meri, da lahko ogrozijo bistvo teh pravic in svoboščin. To zahteva takojšnjo uporabo previdnostnega pristopa. Splošna prepoved prepoznavanja obrazov na javno dostopnih mestih je nujno izhodišče za ohranitev naših svoboščin in oblikovanje pravnega okvira za umetno inteligenco, ki je osredotočena na človeka. Predlagana uredba bi morala prepovedati tudi kakršno koli uporabo umetne inteligence za socialno točkovanje, saj je to v nasprotju s temeljnimi vrednotami EU in lahko privede do diskriminacije.“

EOVP in ENVP pozdravljata tudi dejstvo, da je v predlogu ENVP določen kot pristojni organ in organ za nadzor trga, ki nadzoruje institucije, agencije in organe Unije. Vendar bi bilo treba dodatno pojasniti vlogo in naloge ENVP, zlasti v zvezi z njegovo vlogo organa za nadzor trga.

EOVP in ENVP opozarjata, da organi za varstvo podatkov že izvršujejo Splošno uredbo o varstvu podatkov in Direktivo o kazenskem pregonu glede sistemov umetne inteligence, ki vključujejo osebne podatke, z namenom, da se zagotovi varstvo temeljnih pravic, natančneje pravice do varstva podatkov. Posledično bi imenovanje organov za varstvo podatkov kot nacionalnih nadzornih organov zagotovilo bolj usklajen regulativni pristop in prispevalo k dosledni razlagi določb o obdelavi podatkov po vsej EU. Zato EOVP in ENVP menita, da bi bilo treba za zagotovitev nemotene uporabe te nove uredbe imenovati organe za varstvo podatkov za nacionalne nadzorne organe v skladu z 59. členom predloga uredbe.

Poleg tega imata EOVP in ENVP dvome glede določitve prevladujoče vloge Evropske komisije v „Evropskem odboru za umetno inteligenco“, saj bi bilo to v nasprotju s potrebo po evropskem organu za umetno inteligenco, ki bi bil neodvisen od vsakršnega političnega vpliva. Da bi zagotovili neodvisnost Evropskega odbora za umetno inteligenco, bi mu moral predlog uredbe dati večjo samostojnost in zagotoviti, da lahko deluje na lastno pobudo.

 

Opomba za urednike:
Vsi dokumenti, sprejeti na plenarnem zasedanju EOVP, so predmet potrebnih pravnih, jezikovnih in oblikovnih pregledov ter bodo po zaključku na voljo na spletnem mestu EOVP.

EDPB_Press Release_statement_2021_05