EDAV ir EDAPP ragina uždrausti naudoti dirbtinį intelektą automatiniam žmogaus bruožų atpažinimui viešai prieinamose erdvėse ir kai kuriuos kitus dirbtinio intelekto naudojimo būdus, kurie gali lemti nesąžiningą diskriminaciją

21 June 2021 EDPB

Briuselis, birželio 21 d. - EDAV ir EDAPP priėmė bendrą nuomonę dėl Europos Komisijos pasiūlymo dėl reglamento, kuriuo nustatomos suderintos dirbtinio intelekto (DI) taisyklės.

EDAV ir EDAPP labai palankiai vertina siekį spręsti DI sistemų naudojimo Europos Sąjungoje, įskaitant ES institucijų, įstaigų ar agentūrų vykdomą DI sistemų naudojimą, klausimą. Kartu EDAV ir EDAPP yra susirūpinę dėl to, kad į pasiūlymo taikymo sritį neįtrauktas tarptautinis bendradarbiavimas teisėsaugos srityje.

EDAV ir EDAPP taip pat pabrėžia, kad reikia aiškiai paaiškinti, jog galiojantys ES duomenų apsaugos teisės aktai (BDAR, ES duomenų apsaugos reglamentas ir Teisėsaugos direktyva) taikomi bet kokiam asmens duomenų tvarkymui, kuris patenka į DI reglamento projekto taikymo sritį.

Nors EDAV ir EDAPP palankiai vertina pasiūlyme įtvirtintą rizika grindžiamą metodą, jie mano, kad sąvoka „rizika pagrindinėms teisėms“ turėtų būti suderinta su ES duomenų apsaugos sistema. EDAV ir EDAPP rekomenduoja, kad taip pat būtų įvertinta ir sumažinta socialinė rizika, kylanti asmenų grupėms. Be to, jie sutinka su pasiūlymu, kad DI sistemos priskyrimas didelės rizikos kategorijai nebūtinai reiškia, kad ji savaime yra teisėta ir naudotojas gali ją naudoti kaip tokią. EDAV ir EDAPP taip pat mano, kad teisinių prievolių, kylančių iš Sąjungos teisės aktų, įskaitant susijusius su asmens duomenų apsauga, laikymasis turėtų būti išankstinė sąlyga, kad į Europos rinką patektų CE ženklu pažymėtas gaminys.

Atsižvelgdami į itin didelę riziką, kurią kelia nuotolinis biometrinis asmenų identifikavimas viešai prieinamose erdvėse, EDAV ir EDAPP ragina apskritai uždrausti bet kokį DI naudojimą automatizuotam žmogaus bruožų atpažinimui viešai prieinamose erdvėse, pavyzdžiui, veidų, eisenos, pirštų atspaudų, DNR, balso, klavišų paspaudimų ir kitų biometrinių ar elgsenos signalų atpažinimui bet kokiomis aplinkybėmis. Taip pat EDAV ir EDAPP rekomenduoja uždrausti DI sistemoms naudoti biometrinius duomenis, kad būtų galima suskirstyti asmenis į grupes pagal etninę kilmę, lytį, politinę ar seksualinę orientaciją arba kitais pagrindais, dėl kurių diskriminacija draudžiama pagal Pagrindinių teisių chartijos 21 straipsnį. Be to, EDAV ir EDAPP mano, kad naudoti DI fizinio asmens emocijoms nustatyti yra labai nepageidautina ir turėtų būti draudžiama, išskyrus labai konkrečius atvejus, pavyzdžiui, kai kuriais sveikatos priežiūros tikslais, kai svarbu atpažinti paciento emocijas, ir kad turėtų būti draudžiama naudoti DI bet kokiam socialiniam vertinimui.

EDAV pirmininkė Andrea Jelinek ir EDAPP Wojciech Wiewiórowski sakė: „Nuotolinio biometrinio identifikavimo įdiegimas viešai prieinamose vietose reiškia anonimiškumo tose vietose pabaigą. Tokios taikomosios programos, kaip veido atpažinimas gyvai, taip kertasi su pagrindinėmis teisėmis ir laisvėmis, kad gali kelti abejonių dėl šių teisių ir laisvių esmės. Todėl reikia nedelsiant taikyti atsargumo principą. Jei norime išsaugoti savo laisves ir sukurti į žmogų orientuotą DI teisinę sistemą, būtina pradėti nuo bendro draudimo naudoti veido atpažinimo priemones viešai prieinamose vietose. Siūlomu reglamentu taip pat turėtų būti uždraustas bet koks DI naudojimas socialiniam vertinimui, nes tai prieštarauja ES pagrindinėms vertybėms ir gali sukelti diskriminaciją“.

Be to, EDAV ir EDAPP palankiai vertina tai, kad pasiūlyme EDAPP paskirtas kompetentinga institucija ir rinkos priežiūros institucija, atsakinga už Sąjungos institucijų, agentūrų ir įstaigų priežiūrą. Tačiau reikėtų išsamiau paaiškinti EDAPP vaidmenį ir užduotis, ypač kai kalbama apie jo, kaip rinkos priežiūros institucijos, vaidmenį.

EDAV ir EDAPP primena, kad duomenų apsaugos institucijos (DAI) jau užtikrina BDAR ir Teisėsaugos direktyvos vykdymą dėl su asmens duomenimis susijusių DI sistemų, kad būtų užtikrinta pagrindinių teisių, konkrečiai teisės į duomenų apsaugą, apsauga. Todėl paskyrus DAI nacionalinėmis priežiūros institucijomis būtų užtikrintas darnesnis reguliavimo metodas ir prisidėta prie nuoseklaus duomenų tvarkymo nuostatų aiškinimo visoje ES. Todėl EDAV ir EDAPP mano, kad siekiant užtikrinti sklandų šio naujojo reglamento taikymą, DAI turėtų būti paskirtos nacionalinėmis priežiūros institucijomis pagal pasiūlymo 59 straipsnį.

Galiausiai EDAV ir EDAPP abejoja, ar Europos dirbtinio intelekto taryboje (EAIB) turėtų būti suteiktas dominuojantis vaidmuo Europos Komisijai, nes tai prieštarautų poreikiui sukurti nuo bet kokios politinės įtakos nepriklausomą Europos DI instituciją. Siekiant užtikrinti jos nepriklausomumą, pasiūlymu EAIB turėtų būti suteikta daugiau savarankiškumo ir užtikrinta, kad ji galėtų veikti savo iniciatyva.

 

Pastaba redaktoriams
Primename, kad visus EDAV plenariniame posėdyje patvirtintus dokumentus turi patikrinti teisininkai, kalbininkai ir formatavimo specialistai. EDAV interneto svetainėje jie bus paskelbti užbaigus šias patikras.

EDPB_Press Release_statement_2021_05