Europeiska dataskyddsstyrelsen & EDPS efterlyser ett förbud mot användning av AI för automatiserad igenkänning av mänskliga egenskaper på allmänt tillgängliga platser, och viss annan användning av AI som kan leda till orättvis diskriminering

21 June 2021 EDPB

Bryssel den 21 juni — Europeiska dataskyddsstyrelsen och Europeiska datatillsynsmannen (EDPS) har antagit ett gemensamt yttrande om Europeiska kommissionens förslag till förordning om fastställande av harmoniserade regler för artificiell intelligens (AI).

Europeiska dataskyddsstyrelsen och EDPS välkomnar starkt målet att ta itu med användningen av AI-system inom Europeiska unionen, inbegripet EU-institutionernas, EU-organens eller EU-byråernas användning av AI-system. Samtidigt är Europeiska dataskyddsstyrelsen och EDPS bekymrade över att internationellt brottsbekämpningssamarbete undantas från förslagets tillämpningsområde.

Europeiska dataskyddsstyrelsen och EDPS betonar också behovet av att uttryckligen klargöra att EU:s befintliga dataskyddslagstiftning (GDPR, EUDPR och LED) är tillämplig på all behandling av personuppgifter som omfattas av tillämpningsområdet för utkastet till AI-förordning.

Europeiska dataskyddsstyrelsen och EDPS välkomnar den riskbaserade metod som ligger till grund för förslaget, men anser att begreppet ”risk för de grundläggande rättigheterna” bör anpassas till EU:s dataskyddsramverk. Europeiska dataskyddsstyrelsen och EDPS rekommenderar att samhällsrisker för grupper av individer också bör bedömas och motverkas. Dessutom instämmer de i förslaget om att klassificeringen av ett AI-system som högrisksystem inte nödvändigtvis innebär att det är lagligt i sig och kan användas av användaren som sådant. Europeiska dataskyddsstyrelsen och EDPS anser också att efterlevnad av rättsliga skyldigheter som följer av unionslagstiftningen – inbegripet skydd av personuppgifter – bör vara en förutsättning för att komma in på den europeiska marknaden som CE-märkt produkt.

Med tanke på de extremt stora risker som är förknippade med biometrisk identifiering på distans av enskilda personer på allmänt tillgängliga platser efterlyser Europeiska dataskyddsstyrelsen och EDPS ett allmänt förbud mot all användning av AI för automatiserad igenkänning av mänskliga egenskaper på allmänt tillgängliga platser, såsom igenkänning av ansikten, gångstil, fingeravtryck, DNA, tal, tangenttryckning och andra biometriska eller beteendemässiga signaler, oavsett sammanhang. På liknande sätt rekommenderar Europeiska dataskyddsstyrelsen och EDPS ett förbud mot AI-system som använder biometriska kännetecken för att kategorisera enskilda personer i kluster på grundval av etnicitet, kön, politisk eller sexuell läggning eller andra grunder på vilka diskriminering är förbjuden enligt artikel 21 i stadgan om de grundläggande rättigheterna. Dessutom anser Europeiska dataskyddsstyrelsen och EDPS att användning av AI för att härleda känslor hos en fysisk person är högst oönskad och bör förbjudas, utom i mycket specificerade fall, såsom vissa hälsoändamål, där igenkännande av patienters känslomässiga reaktioner är viktigt, och att användning av AI för alla typer av social värdering bör förbjudas.

Andrea Jelinek, ordförande för Europeiska dataskyddsstyrelsen, & Wojciech Wiewiórowski, EDPS, sade: Användning av biometrisk fjärridentifiering på allmänt tillgängliga platser innebär slutet på anonymiteten på sådana platser. Tillämpningar såsom ansiktsigenkänning på plats inkräktar på grundläggande rättigheter och friheter i sådan utsträckning att de kan ifrågasätta det väsentliga innehållet i dessa rättigheter och friheter. Detta kräver en omedelbar tillämpning av försiktighetsprincipen. Ett allmänt förbud mot ansiktsigenkänning på allmänt tillgängliga platser är den nödvändiga utgångspunkten om vi vill bevara våra friheter och skapa en människocentrerad rättslig ram för AI. Den föreslagna förordningen bör också förbjuda all slags användning av AI för social värdering, eftersom den strider mot EU:s grundläggande värden och kan leda till diskriminering. ”

Europeiska dataskyddsstyrelsen och EDPS välkomnar vidare att EDPS i förslaget utses till behörig myndighet och marknadskontrollmyndighet för tillsynen av unionens institutioner, byråer och organ. EDPS roll och uppgifter bör dock klargöras ytterligare, särskilt när det gäller dess roll som marknadskontrollmyndighet.

Europeiska dataskyddsstyrelsen och EDPS erinrar om att dataskyddsmyndigheterna redan har tillsyn över den allmänna dataskyddsförordningen och LED-direktivet ifråga om AI-system som omfattar personuppgifter, i syfte att garantera skyddet av de grundläggande rättigheterna, särskilt rätten till uppgiftsskydd. Till följd av detta skulle utnämningen av dataskyddsmyndigheter till nationella tillsynsmyndigheter säkerställa en mer harmoniserad regleringsstrategi och bidra till en enhetlig tolkning av bestämmelserna om uppgiftsbehandling i hela EU. Därför anser Europeiska dataskyddsstyrelsen och EDPS att dataskyddsmyndigheter bör utses till nationella tillsynsmyndigheter enligt artikel 59 i förslaget för att säkerställa en smidig tillämpning av denna nya förordning.

Slutligen ifrågasätter Europeiska dataskyddsstyrelsen och EDPS utpekandet av en dominerande roll för Europeiska kommissionen i ”European Artificial Intelligence Board” (EAIB), eftersom detta skulle strida mot behovet av ett europeiskt AI-organ som är oberoende av allt politiskt inflytande. För att säkerställa dess oberoende bör förslaget ge EAIB större självständighet och se till att det kan agera på eget initiativ.

 

Information till redaktörer:
Observera att alla dokument som antas under EDPB:s plenarsammanträde är föremål för nödvändiga rättsliga, språkliga och formaterande kontroller och kommer att göras tillgängliga på EDPB:s webbplats när dessa har slutförts.

EDPB_Press Release_statement_2021_05