ЕКЗД и ЕНОЗД призовават за забрана на използването на изкуствен интелект (ИИ) за автоматично разпознаване на човешки черти на обществено достъпни места и на някои други употреби на ИИ, които могат да доведат до несправедлива дискриминация

21 June 2021 EDPB

Брюксел, 21 юни — ЕКЗД и ЕНОЗД приеха съвместно становище относно предложението на Европейската комисия за Регламент за определяне на хармонизирани правила относно изкуствения интелект (ИИ).

ЕКЗД и ЕНОЗД горещо приветстват разглеждането на проблемите с използването на системи с ИИ в Европейския съюз, включително използването им от институциите, органите и агенциите на ЕС. Същевременно, ЕКЗД и ЕНОЗД изразяват опасение във връзка с изключването от обхвата на предложението на сътрудничеството в областта на прилагането на международното право.

ЕКЗД и ЕНОЗД също така подчертават нуждата да бъде изрично изяснено, че действащото законодателство на ЕС в областта на защитата на личните данни (Общия регламент относно защита на данните, Регламента за защита на данните от институциите на ЕС и Директивата относно правоприлагането в областта на защитата на данните) се прилага по отношение на обработката на лични данни, попадащи в обхвата на проекта на регламент за ИИ.

ЕКЗД и ЕНОЗД приветстват основания на риска подход, който е залегнал в предложението, но същевременно считат, че понятието „риск за основните права“ трябва да се уеднакви с рамката на ЕС в областта на защитата на личните данни. ЕКЗД и ЕНОЗД препоръчват също обществения риск за групите от физически лица да се оцени и намали. Освен това те подкрепят изразената в предложението теза, че класифицирането на дадена система с ИИ като високорискова не означава непременно, че тя сама по себе си е законна и може да бъде приложена от потребителя като такава. ЕКЗД и ЕНОЗД също така считат, че спазването на правните задължения, произтичащи от законодателството на Съюза — включително относно защитата на личните данни — следва да бъде предпоставка за навлизане в европейския пазар като продукт с маркировката „СЕ“.

Като отчитат изключително високия риск, свързан с дистанционната биометрична идентификация на лица на обществено достъпни места, ЕКЗД и ЕНОЗД призовават за обща забрана върху използването на ИИ за автоматично разпознаване на човешки черти на публично достъпни места, например разпознаване на лица, походка, пръстови отпечатъци, ДНК, глас, натискане на клавиши и други биометрични или поведенчески данни, в какъвто и да било контекст. По подобни причини ЕКЗД и ЕНОЗД препоръчват забрана върху използването на биометрични данни в рамките на системи с ИИ за категоризиране на отделни лица в групи въз основа на етническа принадлежност, пол, политическа или сексуална ориентация или на други основания, при които има забрана на дискриминация съобразно член 21 от Хартата на основните права. Освен това, ЕКЗД и ЕНОЗД считат, че използването на ИИ за съставяне на изводи за емоциите на физически лица е силно нежелателно и следва да бъде забранено, освен в много специфични случаи, например по здравословни причини, когато разпознаването на емоциите е важно, и че използването на ИИ за всякакъв вид социална оценка следва да бъде забранено.

Председателят на ЕКЗД Andrea Jelinek и ръководителят на ЕНОЗД Wojciech Wiewiórowski заявиха: „Прилагането на дистанционно биометрично идентифициране на обществено достъпни места означава край на анонимността на тези места. Приложения като тези за лицево разпознаване в реално време нарушават основните права в такава степен, че могат да поставят под въпрос същността на основните права и свободи. Това налага незабавното извършване на действия за предпазване от риска. Общата забрана на използването на лицево разпознаване на публично достъпни места е необходимата отправна точка, ако искаме да запазим нашите свободи и да създадем ориентирана към човека правна рамка за ИИ. Предлаганият регламент следва също да забранява всякакъв вид използване на ИИ за социална оценка, тъй като това е в разрез с основните ценности на ЕС и може да доведе до дискриминация.“

ЕКЗД и ЕНОЗД също така приветстват факта, че предложението определя ЕНОЗД като компетентен орган и орган за надзор на пазара по отношение на наблюдението на институциите, агенциите и органите на Съюза. Ролята и задачите на ЕНОЗД обаче следва да бъдат допълнително изяснени, особено що се отнася до ролята му като орган за надзор на пазара.

ЕКЗД и ЕНОЗД припомнят, че органите за защита на данните (ОЗД) вече прилагат ОРЗД и ДПОЗД спрямо системи, включващи лични данни, за да се гарантира закрилата на основните права, и по-специално правото на защита на личните данни. В резултат на това определянето на ОЗД за национални надзорни органи ще гарантира по-хармонизиран регулаторен подход и ще допринесе за по-последователно тълкуване на разпоредбите в областта на обработката на данни в ЕС. Следователно, ЕКЗД и ЕНОЗД считат, че с цел гарантиране на безпроблемното прилагане на този нов регламент ОЗД следва за бъдат определени като надзорни органи в съответствие с член 59 от предложението.

На последно място, ЕКЗД и ЕНОЗД поставят под въпрос определянето на доминираща роля за Европейската комисия в „Европейския съвет по изкуствен интелект“ (ЕСИИ), тъй като това ще бъде в противоречие с необходимостта от независим от политическо влияние европейски орган за ИИ. За да осигури независимост, в предложението следва да се даде повече свобода на ЕСИИ и да се гарантира, че той може да действа по своя инициатива.

 

Бележка за редакторите:
Следва да се има предвид, че всички документи, приети по време на пленарното заседание на ЕКЗД, са предмет на необходимите правни и езикови проверки, както и на проверки на оформлението, и ще бъдат публикувани на уебсайта на ЕКЗД веднага щом тези проверки бъдат извършени.

EDPB_Press Release_statement_2021_05