Databeskyttelsesrådet og Den Tilsynsførende opfordrer til forbud mod anvendelse af AI til automatisk genkendelse af menneskelige træk på offentlige steder og visse andre anvendelser af AI, der kan føre til urimelig forskelsbehandling

21 June 2021 EDPB

Bruxelles, den 21. juni — Databeskyttelsesrådet og Den Tilsynsførende har vedtaget en fælles udtalelse om Europa-Kommissionens forslag til en forordning om harmoniserede regler for kunstig intelligens (AI).

Databeskyttelsesrådet og Den Tilsynsførende bifalder målsætningen om at adressere anvendelsen af AI-systemer i EU, herunder i EU-institutionerne, -organerne eller -agenturerne. Databeskyttelsesrådet og Den Tilsynsførende er dog betænkelige ved udelukkelsen af det internationale samarbejde om retshåndhævelse fra forslagets anvendelsesområde.

Databeskyttelsesrådet og Den Tilsynsførende understreger også behovet for udtrykkeligt at præcisere, at den eksisterende EU-lovgivning om databeskyttelse (GDPR, EUDPR og retshåndhævelsesdirektivet) finder anvendelse på enhver behandling af personoplysninger, der er omfattet af udkastet til AI-forordningen.

Selv om Databeskyttelsesrådet og Den Tilsynsførende bifalder den risikobaserede tilgang, der ligger til grund for forslaget, mener de, at begrebet "risiko for grundlæggende rettigheder" bør bringes i overensstemmelse med EU's databeskyttelsesramme. Databeskyttelsesrådet og Den Tilsynsførende anbefaler, at samfundsmæssige risici for grupper af enkeltpersoner også vurderes og afbødes. Desuden er de enige i forslaget om, at klassificeringen af et AI-system som højrisikabelt ikke nødvendigvis betyder, at det er lovligt i sig selv og kan anvendes af brugeren som sådan. Databeskyttelsesrådet og Den Tilsynsførende mener også, at overholdelse af de retlige forpligtelser, der følger af EU-lovgivningen — herunder i forhold til beskyttelse af personoplysninger — bør være en forudsætning for at komme ind på det europæiske marked som CE-mærket produkt.

I betragtning af de ekstremt høje risici, der er forbundet med biometrisk fjernidentifikation af personer på offentlige steder, opfordrer Databeskyttelsesrådet og Den Tilsynsførende til et generelt forbud mod enhver anvendelse af AI til automatisk genkendelse af menneskelige træk på offentlige steder, såsom genkendelse af ansigt, gangart, fingeraftryk, DNA, stemme, tastetryk og andre biometriske eller adfærdsmæssige signaler i enhver sammenhæng. Ligeledes anbefaler Databeskyttelsesrådet og Den Tilsynsførende et forbud mod, at AI-systemer anvender biometri til at opdele enkeltpersoner i grupper baseret på etnicitet, køn, politisk eller seksuel orientering eller andre kategorier, på grundlag af hvilke forskelsbehandling er forbudt i henhold til artikel 21 i chartret om grundlæggende rettigheder. Endvidere mener Databeskyttelsesrådet og Den Tilsynsførende, at enhver anvendelse af AI til sociale pointsystemer og til at udlede følelser hos en fysisk person er yderst uhensigtsmæssig og bør forbydes, undtagen i meget specifikke tilfælde, såsom sundhedsmæssige sammenhænge, hvor genkendelsen af en patients følelser er vigtig.

Andrea Jelinek, Databeskyttelsesrådets formand, og Wojciech Wiewiórowski, Den Tilsynsførende, udtalte: "Anvendelsen af biometrisk fjernidentifikation på offentlige steder betyder enden på anonymitet på disse steder. Applikationer som live-ansigtsgenkendelse griber ind i grundlæggende rettigheder og frihedsrettigheder i en sådan grad, at de kan sætte spørgsmålstegn ved essensen af disse rettigheder. Dette kræver en øjeblikkelig anvendelse af forsigtighedsprincippet. Et generelt forbud mod anvendelse af ansigtsgenkendelse på offentlige steder er en forudsætning, hvis vi ønsker at bevare vores frihedsrettigheder og skabe en menneskecentrisk juridisk ramme for AI. Den foreslåede forordning bør også forbyde enhver form for anvendelse af AI i forbindelse med sociale pointsystemer, da det er imod EU's grundlæggende værdier og kan føre til forskelsbehandling."

Databeskyttelsesrådet og Den Tilsynsførende bifalder i øvrigt, at Den Tilsynsførende i forslaget udpeges som kompetent myndighed og markedsovervågningsmyndighed med ansvar for tilsynet med EU-institutionerne, -agenturerne og -organerne. Den Tilsynsførendes rolle og opgaver bør dog præciseres yderligere, navnlig med hensyn til dens rolle som markedsovervågningsmyndighed.

Databeskyttelsesrådet og Den Tilsynsførende minder om, at databeskyttelsesmyndighederne allerede håndhæver GDPR og retshåndhævelsesdirektivet i forhold til AI-systemer, hvor personoplysninger er involveret, for at sikre beskyttelsen af grundlæggende rettigheder og, mere specifikt, retten til databeskyttelse. Som følge heraf ville udpegningen af databeskyttelsesmyndighederne som nationale tilsynsmyndigheder sikre en mere harmoniseret reguleringsmæssig tilgang og bidrage til en konsekvent fortolkning af bestemmelserne om databehandling i hele EU. Databeskyttelsesrådet og Den Tilsynsførende mener derfor, at databeskyttelsesmyndighederne bør udpeges som nationale tilsynsmyndigheder i henhold til forslagets artikel 59 for at sikre en gnidningsløs anvendelse af den nye forordning.

Endelig sætter Databeskyttelsesrådet og Den Tilsynsførende spørgsmålstegn ved tildelingen af en dominerende rolle til Europa-Kommissionen i Det Europæiske Udvalg for Kunstig Intelligens (EAIB), da dette ville være i strid med behovet for et europæisk AI-organ, der er unddraget enhver politisk indflydelse. Med forslaget bør Det Europæiske Udvalg for Kunstig Intelligens sikres mere autonomi, for at det kan forblive uafhængigt og handle på eget initiativ.

 

Bemærkning til redaktører:
Bemærk, at alle dokumenter, der vedtages på Databeskyttelsesrådets plenarmøde, undergår de nødvendige kontroller af juridisk, sproglig og formateringsmæssig art og vil blive gjort tilgængelige på Databeskyttelsesrådets websted, når disse er afsluttet.

EDPB_Press Release_statement_2021_05