EDPB a EDPS požadujú zákaz používania umelej inteligencie na automatické rozpoznávanie ľudských charakteristík vo verejných priestoroch, ako aj niektorých iných druhov použitia umelej inteligencie, ktoré môžu viesť k nespravodlivej diskriminácii

21 June 2021 EDPB

V Bruseli, 21. júna – EDPB a EDPS prijali spoločné stanovisko k návrhu nariadenia Európskej komisie, ktorým sa stanovujú harmonizované pravidlá pre umelú inteligenciu.

EDPB a EDPS veľmi vítajú cieľ, ktorým je riešenie problematiky používania systémov umelej inteligencie v rámci Európskej únie vrátane použitia systémov umelej inteligencie inštitúciami, orgánmi alebo agentúrami EÚ. Zároveň vyjadrili obavy z vylúčenia medzinárodnej spolupráce v oblasti presadzovania práva z rozsahu návrhu.

EDPB a EDPS takisto zdôrazňujú potrebu výslovne objasniť, že existujúce právne predpisy EÚ týkajúce sa ochrany údajov (všeobecné nariadenie o ochrane údajov, nariadenie o ochrane údajov inštitúciami EÚ a smernica o presadzovaní práva) sa týkajú každého spracúvania osobných údajov v rozsahu pôsobnosti návrhu nariadenia o umelej inteligencii.

Aj keď EDPB a EDPS vítajú, že základom návrhu je prístup založený na riziku, domnievajú sa, že koncepcia „rizika pre základné práva“ by sa mala zosúladiť s rámcom EÚ pre ochranu údajov. EDPB a EDPS odporúčajú, aby sa posúdili a zmiernili aj spoločenské riziká pre skupiny jednotlivcov. Okrem toho súhlasia s návrhom, že klasifikácia systému umelej inteligencie ako vysoko rizikového nevyhnutne neznamená, že je sám osebe zákonný a používateľ ho môže využívať ako taký. EDPB a EDPS sa takisto domnievajú, že nato, aby na európsky trh vstúpil výrobok označený značkou CE, je nevyhnutným predpokladom súlad s právnymi povinnosťami vyplývajúcimi z právnych predpisov Únie vrátane ochrany osobných údajov.

Vzhľadom na extrémne vysoké riziko, ktoré predstavuje biometrická identifikácia osôb na diaľku vo verejných priestoroch, EDPB a EDPS požadujú celkový zákaz akéhokoľvek používania umelej inteligencie na automatické rozpoznávanie ľudských charakteristík vo verejných priestoroch, ako je rozpoznávanie tváre, chôdze, odtlačkov prstov, DNA, hlasu, spôsobu písania a iných biometrických alebo behaviorálnych signálov, a to v každej situácii. EDPB a EDPS podobne odporúčajú, aby sa zakázali systémy umelej inteligencie využívajúce biometriu na kategorizáciu osôb do skupín na základe etnického pôvodu, rodu, politickej alebo sexuálnej orientácie alebo iných dôvodov, na základe ktorých je diskriminácia zakázaná podľa článku 21 Charty základných práv. Okrem toho sa domnievajú, že používanie umelej inteligencie na vyvodenie pocitov fyzických osôb je veľmi nežiaduce a malo by sa zakázať, s výnimkou veľmi špecifických prípadov, ako sú niektoré zdravotné účely, v ktorých je dôležité rozpoznať pocity pacienta, a aby sa zakázalo používanie umelej inteligencie pri každom type sociálneho hodnotenia.

Andrea Jelinek, predsedníčka EDPB, & Wojciech Wiewiórowski, EDPS, uviedli: „Využívanie biometrickej identifikácie na diaľku vo verejných priestoroch znamená koniec anonymity v takýchto priestoroch. Aplikácie, ako je rozpoznávanie tváre v reálnom čase, sú v rozpore so základnými právami a slobodami do takej miery, že môžu spochybniť ich podstatu. Preto je nevyhnutné, aby sme okamžite začali uplatňovať prístup predbežnej opatrnosti. Ak si chceme zachovať naše slobody a vytvoriť právny rámec pre umelú inteligenciu, ktorý by sa zameriaval na človeka, je nevyhnutné, aby sme hneď na samotnom začiatku všeobecne zakázali využívanie rozpoznávania tváre vo verejných priestoroch. Navrhovaným nariadením by sa takisto malo zakázať akékoľvek využívanie umelej inteligencie na sociálne hodnotenie, pretože to je v rozpore so základnými hodnotami EÚ a môže to viesť k diskriminácii.“

EDPB a EDPS okrem toho vítajú skutočnosť, že v návrhu sa EDPS označuje ako príslušný orgán a orgán dohľadu nad trhom pre dohľad nad inštitúciami, agentúrami a orgánmi Únie. Význam a úlohy EDPS by sa však mali podrobnejšie objasniť, predovšetkým pokiaľ ide o jeho úlohu orgánu dohľadu nad trhom.

EDPB a EDPS pripomínajú, že orgány pre ochranu údajov v prípade systémov umelej inteligencie zahŕňajúcich osobné údaje už presadzujú všeobecné nariadenie o ochrane údajov a smernicu o presadzovaní práva, aby sa zabezpečila ochrana základných práv a predovšetkým práva na ochranu údajov. Označením orgánov pre ochranu údajov ako vnútroštátnych dozorných orgánov by sa preto zabezpečil harmonizovanejší regulačný prístup a prispelo by sa k jednotnému výkladu ustanovení týkajúcich sa spracúvania údajov v celej EÚ. EDPB a EDPS sa preto domnievajú, že na zabezpečenie bezproblémového uplatňovania tohto nového nariadenia by sa podľa článku 59 návrhu mali orgány pre ochranu údajov označiť ako vnútroštátne dozorné orgány.

EDPB a EDPS na záver vyslovujú pochybnosti v súvislosti s tým, že by Európska komisia mala zohrávať dominantnú úlohu v tzv. Európskej rade pre umelú inteligenciu (EAIB), pretože by to bolo v rozpore s potrebou vytvorenia európskeho orgánu pre umelú inteligenciu, ktorý by bol nezávislý od akéhokoľvek politického vplyvu. V návrhu by sa v záujme nezávislosti mala EAIB prideliť väčšia autonómia a zaistiť, aby mohla konať z vlastnej iniciatívy.

 

Poznámky pre redaktorov:
Pripomíname, že všetky dokumenty schválené počas plenárnej schôdze EDPB sú podrobené potrebným právnym a jazykovým kontrolám, ako aj kontrole v oblasti formátovania a po ich ukončení budú sprístupnené na webovom sídle EDPB.

EDPB_Press Release_statement_2021_05