EDPB en EDPS roepen op tot verbod op gebruik van AI voor geautomatiseerde herkenning van menselijke kenmerken in openbaar toegankelijke ruimten en andere toepassingen van AI die kunnen leiden tot oneerlijke discriminatie

21 June 2021 EDPB

Brussel, 21 juni – De EDPB en de EDPS hebben een gemeenschappelijk advies vastgesteld over het voorstel van de Europese Commissie voor een verordening tot vaststelling van geharmoniseerde regels inzake artificiële intelligentie (AI).

De EDPB en de EDPS zijn zeer ingenomen met de doelstelling om het gebruik van AI-systemen binnen de Europese Unie, onder meer het gebruik van AI-systemen door instellingen, organen of instanties van de EU, te regelen. Tegelijkertijd zijn de EDPB en de EDPS bezorgd over het feit dat internationale samenwerking op het gebied van rechtshandhaving geen deel van het voorstel uitmaakt.

Tevens benadrukken de EDPB en de EDPS dat uitdrukkelijk moet worden verduidelijkt dat de bestaande EU-wetgeving inzake gegevensbescherming (AVG, EUDPR en richtlijn wetshandhaving) van toepassing is op elke vorm van verwerking van persoonsgegevens die onder het toepassingsgebied van de ontwerp-AI-verordening valt.

De EDPB en de EDPS zijn ingenomen met de risicogebaseerde benadering die aan het voorstel ten grondslag ligt, maar zijn van mening dat het concept “risico voor de grondrechten” moet aansluiten op het gegevensbeschermingskader van de EU. De EDPB en de EDPS raden aan om maatschappelijke risico’s voor groepen van individuen eveneens te beoordelen en beperken. Bovendien onderschrijven zij het uitgangspunt van het voorstel dat als een AI-systeem als systeem met een hoog risico wordt geclassificeerd, dit niet noodzakelijkerwijs betekent dat het als zodanig rechtmatig is en door de gebruiker kan worden ingezet. Ook zijn de EDPB en de EDPS van mening dat naleving van de wettelijke verplichtingen die voortvloeien uit wetgeving van de Unie – onder meer wat betreft de bescherming van persoonsgegevens – een voorwaarde moet zijn voor toelating tot de Europese markt als product met CE-markering.

Gelet op de extreem hoge risico’s die verbonden zijn aan biometrische identificatie op afstand van individuen in de openbare ruimte roepen de EDPB en de EDPS op tot een algemeen verbod op ieder gebruik van AI voor geautomatiseerde herkenning van menselijke eigenschappen in de openbare ruimte, zoals de herkenning van gezichten, manier van lopen, vingerafdrukken, DNA, stemmen, toetsaanslagen en andere biometrische of gedragsgerelateerde signalen, in welke context dan ook. Eveneens bevelen de EDPB en de EDPS aan een verbod in te stellen op AI-systemen die biometrische gegevens gebruiken om individuen in clusters in te delen op basis van etnische afkomst, geslacht, politieke denkbeelden, seksuele gerichtheid of andere gronden waarop discriminatie verboden is overeenkomstig artikel 21 van het Handvest van de grondrechten. Bovendien zijn de EDPB en de EDPS van mening dat het gebruik van AI om emoties van een natuurlijke persoon af te leiden uiterst onwenselijk is en moet worden verboden, met uitzondering van zeer specifieke gevallen, zoals bepaalde medische doeleinden waarbij herkenning van de emoties van de patiënt van belang is, en dat het gebruik van AI voor sociale scoring in welke vorm dan ook moet worden verboden.

Andrea Jelinek, voorzitter van de EDPB, en Wojciech Wiewiórowski, EDPS: “Het inzetten van biometrische identificatie op afstand in de openbare ruimte betekent het einde van anonimiteit op die plaatsen. Toepassingen als live-gezichtsherkenning vormen een zodanige inbreuk op de grondrechten en fundamentele vrijheden dat de essentie van deze rechten en vrijheden er mogelijk door wordt ondermijnd. Daarom is het nodig onmiddellijk de voorzorgsbenadering toe te passen. Een algemeen verbod op het gebruik van gezichtsherkenning in de openbare ruimte is het noodzakelijke uitgangspunt als wij onze vrijheden willen behouden en een mensgericht rechtskader voor AI willen creëren. De voorgestelde verordening moet eveneens elk gebruik van AI voor sociale scoring verbieden, aangezien dergelijke praktijken indruisen tegen de fundamentele waarden van de EU en tot discriminatie kunnen leiden.”

Verder zijn de EDPB en de EDPS ingenomen met het feit dat de EDPS in het voorstel wordt aangewezen als de bevoegde autoriteit en als de markttoezichtautoriteit voor het toezicht op de instellingen, instanties en organen van de Unie. De rol en taken van de EDPS moeten echter verder worden verduidelijkt, met name voor wat betreft zijn rol als markttoezichtautoriteit.

De EDPB en de EDPS brengen in herinnering dat de AVG en de richtlijn wetshandhaving al door gegevensbeschermingsautoriteiten worden gehandhaafd als het gaat om AI-systemen waarbij persoonsgegevens betrokken zijn, teneinde de bescherming van de grondrechten en meer specifiek het recht op gegevensbescherming te garanderen. Derhalve zou aanwijzing van gegevensbeschermingsautoriteiten als de nationale toezichthoudende autoriteiten zorgen voor een meer geharmoniseerde regelgevingsbenadering en bijdragen tot een consistente interpretatie in de EU van bepalingen over gegevensverwerking. De EDPB en de EDPS zijn dan ook van mening dat de gegevensbeschermingsautoriteiten als nationale toezichthoudende autoriteiten moeten worden aangewezen overeenkomstig artikel 59 van het voorstel, teneinde te zorgen voor een vlotte toepassing van deze nieuwe verordening.

Ten slotte zetten de EDPB en de EDPS vraagtekens bij de toekenning van een overheersende rol aan de Europese Commissie in het “Europees Comité voor artificiële intelligentie”, aangezien dit strijdig zou zijn met de noodzaak van een Europees AI-orgaan dat niet onder politieke invloed staat. Om de onafhankelijkheid van het Europees Comité voor artificiële intelligentie te garanderen, moet het voorstel voorzien in meer autonomie voor het comité en in de nodige mogelijkheden om op eigen initiatief op te treden.

 

Informatie voor redacteurs:
Alle documenten die tijdens de zitting van het Europees Comité voor gegevensbescherming worden goedgekeurd, worden onderworpen aan de nodige juridische, taalkundige en formatteringscontroles en zullen op de website van het Comité beschikbaar worden gesteld zodra deze controles zijn afgerond.

EDPB_Press Release_statement_2021_05