CEPD și AEPD solicită interzicerea utilizării IA pentru recunoașterea automatizată a trăsăturilor umane în spațiile accesibile publicului și a altor utilizări ale IA care pot conduce la discriminare injustă

21 June 2021 EDPB

Bruxelles, 21 iunie - CEPD și AEPD au adoptat un aviz comun privind propunerea Comisiei Europene de regulament de stabilire a unor norme armonizate privind inteligența artificială (IA).

CEPD și AEPD salută călduros obiectivul de a aborda utilizarea sistemelor de IA în Uniunea Europeană, inclusiv utilizarea sistemelor de IA de către instituțiile, organismele sau agențiile UE. În același timp, CEPD și AEPD sunt preocupate de excluderea cooperării internaționale în materie de aplicare a legii din domeniul de aplicare al propunerii.

CEPD și AEPD subliniază, de asemenea, necesitatea de a clarifica în mod explicit că legislația UE în materie de protecție a datelor (RGPD, EUDPR și LED) se aplică oricărei activități de prelucrare a datelor cu caracter personal care intră sub incidența proiectului de regulament privind IA.

Deși CEPD și AEPD salută abordarea bazată pe riscuri care stă la baza propunerii, ele consideră că conceptul de „risc pentru drepturile fundamentale” ar trebui să fie aliniat la cadrul UE de protecție a datelor. CEPD și AEPD recomandă ca riscurile societale pentru grupurile de persoane să fie, de asemenea, evaluate și atenuate. Mai mult, cele două entități sunt de acord cu propunerea conform căreia clasificarea unui sistem de IA ca având risc ridicat nu înseamnă neapărat că este legal în sine și poate fi implementat de utilizator ca atare. CEPD și AEPD consideră, de asemenea, că respectarea obligațiilor legale care decurg din legislația Uniunii - inclusiv în ceea ce privește protecția datelor cu caracter personal - ar trebui să fie o condiție prealabilă pentru intrarea pe piața europeană ca produs marcat CE.

Luând în considerare riscurile extrem de ridicate pe care le reprezintă identificarea biometrică la distanță a indivizilor în spații accesibile publicului, CEPD și AEPD solicită interzicerea generală a oricărei utilizări a IA pentru recunoașterea automatizată a trăsăturilor umane în spații accesibile publicului, cum ar fi recunoașterea facială, a mersului, amprentelor, ADN-ului, vocii, apăsării de taste și a altor semnale biometrice sau comportamentale, în orice context. În mod similar, CEPD și AEPD recomandă interzicerea sistemelor de IA care utilizează date biometrice pentru a clasifica indivizii în grupuri bazate pe etnie, sex, orientare politică sau sexuală sau pe alte criterii pentru care discriminarea este interzisă în temeiul articolului 21 din Carta drepturilor fundamentale. În plus, CEPD și AEPD consideră că utilizarea IA pentru a deduce emoțiile unei persoane fizice este extrem de nedorită și ar trebui interzisă, cu excepția cazurilor foarte specifice, cum ar fi în scopuri medicale, în care recunoașterea emoțiilor pacientului este importantă, și că utilizarea IA pentru orice tip de evaluare a comportamentului social ar trebui interzisă.

Andrea Jelinek, președinta CEPD, și Wojciech Wiewiórowski, AEPD, au afirmat: „Implementarea identificării biometrice la distanță în spații accesibile publicului înseamnă sfârșitul anonimatului în acele locuri. Aplicații precum recunoașterea facială în timp real interferează cu drepturile și libertățile fundamentale într-o asemenea măsură încât pot pune sub semnul întrebării esența acestor drepturi și libertăți. De aceea, este nevoie de o aplicare imediată a abordării precaute. O interzicere generală a utilizării recunoașterii faciale în zonele accesibile publicului este punctul de plecare necesar dacă vrem să ne păstrăm libertățile și să creăm un cadru juridic centrat pe factorul uman pentru IA. Regulamentul propus ar trebui, de asemenea, să interzică orice tip de utilizare a IA pentru evaluarea comportamentului social deoarece contravine valorilor fundamentale ale UE și poate duce la discriminare.”

Mai mult, CEPD și AEPD salută faptul că propunerea desemnează AEPD drept autoritate competentă și autoritate de supraveghere a pieței pentru supravegherea instituțiilor, agențiilor și organismelor Uniunii. Cu toate acestea, rolul și sarcinile AEPD ar trebui clarificate mai detaliat, în special în ceea ce privește rolul său de autoritate de supraveghere a pieței.

CEPD și AEPD reamintesc că autoritățile de protecție a datelor (APD) aplică deja RGPD și LED la sistemele de IA care implică date cu caracter personal pentru a garanta protecția drepturilor fundamentale și, mai precis, dreptul la protecția datelor. În consecință, desemnarea APD-urilor drept autorități naționale de supraveghere ar asigura o abordare de reglementare mai armonizată și ar contribui la interpretarea consecventă a dispozițiilor privind prelucrarea datelor în întreaga UE. În consecință, CEPD și AEPD consideră că, pentru a asigura o aplicare fără probleme a acestui nou regulament, APD-urile ar trebui desemnate autorități naționale de supraveghere în conformitate cu articolul 59 din propunere.

În cele din urmă, CEPD și AEPD pun sub semnul întrebării desemnarea unui rol predominant pentru Comisia Europeană în „Comitetul european pentru inteligența artificială” (European Artificial Intelligence Board - EAIB), întrucât acest lucru ar intra în conflict cu nevoia de a avea un organism european pentru IA independent de orice influență politică. Pentru a-și asigura independența, propunerea ar trebui să acorde mai multă autonomie EAIB și să se asigure că acesta poate acționa din proprie inițiativă.

 

Notă pentru redactori:
Vă rugăm să rețineți că toate documentele adoptate în ședința plenară a CEPD fac obiectul verificărilor juridice, lingvistice și de formatare necesare și vor fi publicate pe site-ul CEPD de îndată ce aceste verificări vor fi finalizate.

EDPB_Press Release_statement_2021_05