O CEPD e a AEPD apelam à proibição da utilização da inteligência artificial (IA) para o reconhecimento automático de características humanas em espaços acessíveis ao público e de outras utilizações da IA que possam conduzir a uma discriminação injusta

21 June 2021 EDPB

Bruxelas, 21 de junho — O CEPD e a AEPD adotaram um parecer conjunto sobre a proposta de Regulamento da Comissão Europeia que estabelece regras harmonizadas em matéria de inteligência artificial (IA).

O CEPD e a AEPD saúdam vivamente o objetivo de abordar a utilização de sistemas de IA na União Europeia, incluindo a utilização de sistemas de IA por parte de instituições, organismos e agências da UE. Ao mesmo tempo, o CEPD e a AEPD estão preocupados com a exclusão da cooperação policial internacional do âmbito de aplicação da proposta.

O CEPD e a AEPD sublinham também a necessidade de clarificar expressamente que a legislação da UE em vigor em matéria de proteção de dados (RGPD, RPDUE e Diretiva sobre a Proteção de Dados na Aplicação da Lei) se aplica ao tratamento de dados pessoais abrangido pelo âmbito de aplicação do projeto de regulamento relativo à IA.

Embora acolham favoravelmente a abordagem baseada no risco subjacente à proposta, o CEPD e a AEPD consideram que o conceito de «risco para os direitos fundamentais» deve ser alinhado com o quadro da UE em matéria de proteção de dados. O CEPD e a AEPD recomendam que os riscos societais para grupos de indivíduos também sejam avaliados e mitigados. Além disso, concordam com a proposta de que a classificação de um sistema de IA como de alto risco não significa necessariamente que tal sistema seja legal per se e possa ser implantado pelo utilizador como tal. O CEPD e a AEPD consideram igualmente que o cumprimento das obrigações legais decorrentes da legislação da União, incluindo em matéria de proteção de dados pessoais, deve ser uma condição prévia para a entrada no mercado europeu como produto com a marcação CE.

Tendo em conta os riscos extremamente elevados colocados pela identificação biométrica à distância de pessoas em espaços acessíveis ao público, o CEPD e a AEPD apelam à proibição geral da utilização da IA para o reconhecimento automático de características humanas em espaços acessíveis ao público, tais como o reconhecimento de rostos, da maneira de andar, de impressões digitais, ADN, voz, digitação e outros sinais biométricos ou comportamentais, em qualquer contexto. Do mesmo modo, o CEPD e a AEPD recomendam a proibição de sistemas de IA que utilizem dados biométricos para classificar as pessoas em grupos com base na etnia, no género, na orientação política ou sexual ou outras razões pelas quais a discriminação seja proibida nos termos do artigo 21.º da Carta dos Direitos Fundamentais. Além disso, o CEPD e a AEPD consideram que a utilização da IA para inferir emoções de pessoas singulares é altamente indesejável e deve ser proibida (exceto em casos muito específicos, como para alguns fins de saúde, em que o reconhecimento da emoção do doente é importante) e deve também ser proibida para qualquer tipo de classificação social deve ser proibida.

Andrea Jelinek, Presidente do CEPD, e Wojciech Wiewiórowski, AEPD, declararam: «A implantação da identificação biométrica à distância em espaços acessíveis ao público significa o fim do anonimato nesses locais. As aplicações como o reconhecimento facial em tempo real interferem com os direitos e liberdades fundamentais de tal forma que podem pôr em causa a essência desses direitos e liberdades. Tal exige uma aplicação imediata da abordagem de precaução. A proibição geral da utilização do reconhecimento facial em áreas acessíveis ao público é o ponto de partida necessário para preservar as nossas liberdades e criar um quadro jurídico centrado no ser humano para a IA. O regulamento proposto deve igualmente proibir qualquer tipo de utilização da IA para classificação social, uma vez que tal é contrário aos valores fundamentais da UE e pode conduzir à discriminação.»

O CEPD e a AEPD congratulam-se igualmente com o facto de a proposta designar a AEPD como autoridade competente e autoridade de fiscalização do mercado para a supervisão das instituições, agências e organismos da União. O papel e as funções da AEPD devem, contudo, ser clarificados, especificamente no que se refere ao seu papel de autoridade de fiscalização do mercado.

O CEPD e a AEPD recordam que as autoridades responsáveis pela proteção de dados (APD) já aplicam o RGPD e a Diretiva sobre a Proteção de Dados na Aplicação da Lei aos sistemas de IA que envolvem dados pessoais, a fim de garantir a proteção dos direitos fundamentais e, mais especificamente, o direito à proteção de dados. Consequentemente, a designação das APD como autoridades nacionais de controlo asseguraria uma abordagem regulamentar mais harmonizada e contribuiria para uma interpretação coerente das disposições relativas ao tratamento de dados em toda a UE. Por conseguinte, o CEPD e a AEPD consideram que, para assegurar uma aplicação harmoniosa deste novo regulamento, as APD devem ser designadas como autoridades nacionais de controlo nos termos do artigo 59.º da proposta.

Por último, o CEPD e a AEPD questionam a atribuição de um papel predominante à Comissão Europeia no Conselho Europeu para a Inteligência Artificial (European Artificial Intelligence Board — EAIB), uma vez que tal entraria em conflito com a necessidade de um organismo europeu de IA independente de qualquer influência política. Para garantir a sua independência, a proposta deve dar mais autonomia ao EAIB e garantir que este possa agir por sua própria iniciativa.

 

Notas aos editores:
Todos os documentos adotados em sessão plenária pelo CEPD estão sujeitos aos controlos jurídicos, linguísticos e de formatação necessários, e serão publicados no sítio Web do CEPD uma vez concluídos esses controlos.

EDPB_Press Release_statement_2021_05