Europski odbor za zaštitu podataka i Europski nadzornik za zaštitu podataka pozivaju na zabranu uporabe umjetne inteligencije za automatizirano prepoznavanje ljudskih obilježja na javnim mjestima, kao i određenih drugih oblika uporabe umjetne inteligencij

21 June 2021 EDPB

Bruxelles, 21. lipnja – Europski odbor za zaštitu podataka i Europski nadzornik za zaštitu podataka donijeli su zajedničko mišljenje o Prijedlogu uredbe Europske komisije o utvrđivanju usklađenih pravila o umjetnoj inteligenciji.

Europski odbor za zaštitu podataka i Europski nadzornik za zaštitu podataka snažno pozdravljaju cilj koji se odnosi na rješavanje pitanja uporabe sustavâ umjetne inteligencije (UI) u Europskoj uniji, uključujući način na koji institucije, tijela ili agencije EU-a koriste sustave UI-ja. Ujedno su zabrinuti zbog činjenice da je međunarodna suradnja u području izvršavanja zakonodavstva isključena iz područja primjene prijedloga.

Europski odbor za zaštitu podataka i Europski nadzornik za zaštitu podataka naglašavaju potrebu i za time da se izričito pojasni da se postojeće zakonodavstvo EU-a u području zaštite podataka (Opća uredba o zaštiti podataka, Europska uredba o zaštiti podataka i Direktiva za provedbu zakona) primjenjuje na svaku obradu osobnih podataka obuhvaćenu područjem primjene nacrta Uredbe o umjetnoj inteligenciji.

Iako Europski odbor za zaštitu podataka i Europski nadzornik za zaštitu podataka pozdravljaju pristup utemeljen na riziku na kojem se temelji prijedlog, smatraju da bi načelo „rizika za temeljna prava” trebalo uskladiti s okvirom EU-a za zaštitu podataka. Preporučuju i da bi trebalo ocijeniti i ublažiti društvene rizike za skupine pojedinaca. Nadalje, slažu se s dijelom prijedloga u kojem se navodi da klasifikacija sustava umjetne inteligencije kao visokorizičnog ne podrazumijeva nužno da je sam po sebi zakonit i da ga korisnik može koristiti kao takvog. Smatraju i da bi usklađenost s pravnim obvezama koje proizlaze iz zakonodavstva Unije, među ostalim u području zaštite osobnih podataka, trebala biti preduvjet za uvrštenje proizvoda na europsko tržište kao proizvoda s oznakom CE.

Uzimajući u obzir iznimno visoke rizike koje predstavlja daljinska biometrijska identifikacija pojedinaca na javnim mjestima, Europski odbor za zaštitu podataka i Europski nadzornik za zaštitu podataka pozivaju na opću zabranu svih oblika uporabe umjetne inteligencije za automatizirano prepoznavanje ljudskih obilježja na javnim mjestima, kao što su prepoznavanje lica, načina kretanja, otisaka prstiju, DNK-a, glasa, načina tipkanja i drugih biometrijskih ili bihevioralnih signala, u svakom kontekstu. Isto tako, preporučuju uvođenje zabrane sustava umjetne inteligencije koji koriste biometrijske identifikatore za razvrstavanje pojedinaca u skupine na temelju etničke pripadnosti, roda, političke ili seksualne orijentacije ili drugih osnova na temelju kojih je zabranjena diskriminacija u skladu s člankom 21. Povelje o temeljnim pravima. Nadalje, smatraju da je uporaba umjetne inteligencije za izvođenje zaključaka o emocijama pojedinaca vrlo nepoželjna i da bi je valjalo zabraniti, osim u vrlo konkretnim slučajevima, kao što su određene zdravstvene svrhe, kada je važno prepoznavanje emocija bolesnika, te da bi trebalo zabraniti uporabu UI-ja za bilo kakav oblik društvenog vrednovanja.

Andrea Jelinek, predsjednica Europskog odbora za zaštitu podataka, i Wojciech Wiewiórowski, europski nadzornik za zaštitu podataka, izjavili su sljedeće: „Uvođenje daljinske biometrijske identifikacije na javnim mjestima predstavlja kraj anonimnosti na tim mjestima. Primjene kao što su prepoznavanje lica u stvarnom vremenu ugrožavaju temeljna prava i slobode u tolikoj mjeri da mogu dovesti u pitanje bit tih prava i sloboda. Zbog toga valja odmah započeti s primjenom pristupa koji se temelji na predostrožnosti. Opća zabrana uporabe prepoznavanja lica na javnim mjestima predstavlja nužnu početnu točku ako želimo očuvati svoje slobode i uspostaviti pravni okvir za UI koji je usmjeren na čovjeka. Predloženom uredbom trebalo bi zabraniti i sve vrste uporabe UI-ja za društveno vrednovanje jer je to protivno temeljnim vrijednostima EU-a i može dovesti do diskriminacije.”

Nadalje, Europski odbor za zaštitu podataka i Europski nadzornik za zaštitu podataka pozdravljaju činjenicu da je Europski nadzornik za zaštitu podataka prijedlogom imenovan nadležnim tijelom i tijelom za nadzor tržišta koje će provoditi nadzor nad institucijama, agencijama i tijelima EU-a. Međutim, trebalo bi dodatno pojasniti ulogu i zadaće Europskog nadzornika za zaštitu podataka, osobito kad je riječ o njegovoj ulozi tijela za nadzor tržišta.

Europski odbor za zaštitu podataka i Europski nadzornik za zaštitu podataka podsjećaju da tijela za zaštitu podataka već provode Opću uredbu o zaštiti podataka i Direktivu za provedbu zakona u pogledu sustava UI-ja koji obuhvaćaju osobne podatke kako bi zajamčili zaštitu temeljnih prava, a osobito prava na zaštitu podataka. Zbog toga bi se imenovanjem tijela za zaštitu podataka nacionalnim nadzornim tijelima zajamčio usklađeniji regulatorni pristup i doprinijelo bi se dosljednom tumačenju odredbi o obradi podataka u cijelom EU-u. Prema tome, Europski odbor za zaštitu podataka i Europski nadzornik za zaštitu podataka smatraju da bi tijela za zaštitu podataka trebala biti imenovana nacionalnim nadzornim tijelima u skladu s člankom 59. prijedloga kako bi se zajamčila neometana primjena ove nove uredbe.

Konačno, Europski odbor za zaštitu podataka i Europski nadzornik za zaštitu podataka pitaju se zašto je Europskoj komisiji dodijeljena glavna uloga u „Europskom odboru za umjetnu inteligenciju” jer bi to bilo protivno potrebi za europskim tijelom za UI koje je neovisno o bilo kakvom političkom utjecaju. Kako bi se zajamčila njegova neovisnost, prijedlogom bi trebala biti predviđena veća razina samostalnosti za Europski odbor za umjetnu inteligenciju i trebalo bi biti zajamčeno da može samoinicijativno djelovati.

 

Napomena urednicima:
Napominjemo da svi dokumenti doneseni tijekom plenarne sjednice Europskog odbora za zaštitu podataka podliježu potrebnim pravnim, jezičnim i oblikovnim provjerama te će biti dostupni na mrežnom mjestu Odbora nakon tih provjera.

EDPB_Press Release_statement_2021_05