Βρυξέλλες, 21 Ιουνίου - Το ΕΣΠΔ και ο ΕΕΠΔ εξέδωσαν κοινή γνωμοδότηση σχετικά με την πρόταση κανονισμού της Ευρωπαϊκής Επιτροπής για τη θέσπιση εναρμονισμένων κανόνων σχετικά με την τεχνητή νοημοσύνη (ΤΝ).
Το ΕΣΠΔ και ο ΕΕΠΔ επικροτούν την εξέταση της χρήσης των συστημάτων ΤΝ στην Ευρωπαϊκή Ένωση, καθώς και της χρήσης τους από τα θεσμικά και λοιπά όργανα και οργανισμούς της ΕΕ. Παράλληλα, το ΕΣΠΔ και ο ΕΕΠΔ εκφράζουν την ανησυχία τους σχετικά με την εξαίρεση της διεθνούς συνεργασίας για την επιβολή του νόμου από το πεδίο εφαρμογής της πρότασης.
Το ΕΣΠΔ και ο ΕΕΠΔ υπογραμμίζουν επίσης την ανάγκη να διευκρινιστεί ρητά ότι η υφιστάμενη νομοθεσία της ΕΕ για την προστασία των δεδομένων (ΓΚΠΔ, EUDPR και LED) εφαρμόζεται σε κάθε είδους επεξεργασία δεδομένων προσωπικού χαρακτήρα που εμπίπτει στο πεδίο εφαρμογής του σχεδίου κανονισμού για την TN.
Παρόλο που το ΕΣΠΔ και ο ΕΕΠΔ χαιρετίζουν την προσέγγιση βάσει κινδύνου στην οποία βασίζεται η πρόταση, θεωρούν ότι η έννοια του «κινδύνου για τα θεμελιώδη δικαιώματα» πρέπει να ευθυγραμμίζεται με το πλαίσιο προστασίας δεδομένων της ΕΕ. Το ΕΣΠΔ και ο ΕΕΠΔ συνιστούν επίσης να αξιολογούνται και να μετριάζονται οι κοινωνικοί κίνδυνοι για ομάδες ατόμων. Επιπλέον, συμφωνούν με την πρόταση στην οποία αναφέρεται ότι η ταξινόμηση ενός συστήματος ΤΝ ως υψηλού κινδύνου δεν θα πρέπει να ερμηνεύεται ως ένδειξη ότι η χρήση του συστήματος είναι κατ’ ανάγκη νόμιμη και ότι μπορεί να χρησιμοποιηθεί από τον χρήστη ως έχει. Το ΕΣΠΔ και ο ΕΕΠΔ θεωρούν επίσης ότι η συμμόρφωση με τις νομικές υποχρεώσεις που απορρέουν από τη νομοθεσία της Ένωσης - συμπεριλαμβανομένης της προστασίας δεδομένων προσωπικού χαρακτήρα - θα πρέπει να αποτελεί προϋπόθεση για την είσοδο στην ευρωπαϊκή αγορά ενός προϊόντος με τη σήμανση CE.
Λαμβανομένων υπόψη των εξαιρετικά υψηλών κινδύνων που ενέχει η εξ αποστάσεως βιομετρική ταυτοποίηση ατόμων σε δημόσια προσβάσιμους χώρους, το ΕΣΠΔ και ο ΕΕΠΔ ζητούν τη γενική απαγόρευση της χρήσης ΤΝ για την αυτόματη αναγνώριση ανθρώπινων χαρακτηριστικών σε δημόσιους χώρους, όπως την αναγνώριση προσώπων, τον τρόπο βαδίσματος, τα δακτυλικά αποτυπώματα, το DNA, τη φωνή, τις πληκτρολογήσεις και άλλα βιομετρικά στοιχεία ή σήματα συμπεριφοράς, σε οποιοδήποτε πλαίσιο. Ομοίως, το ΕΣΠΔ και ο ΕΕΠΔ προτείνουν την απαγόρευση των συστημάτων ΤΝ που χρησιμοποιούν βιομετρικά στοιχεία για την κατηγοριοποίηση των ατόμων σε ομάδες με βάση την εθνοτική καταγωγή, το φύλο, τα πολιτικά φρονήματα, τον γενετήσιο προσανατολισμό ή άλλους λόγους για τους οποίους απαγορεύεται η διάκριση σύμφωνα με το άρθρο 21 του Χάρτη των Θεμελιωδών Δικαιωμάτων. Επιπλέον, το ΕΣΠΔ και ο ΕΕΠΔ θεωρούν ότι η χρήση της ΤΝ για τη διαπίστωση των συναισθημάτων ενός φυσικού προσώπου είναι άκρως ανεπιθύμητη και πρέπει να απαγορευτεί, εκτός από πολύ συγκεκριμένες περιπτώσεις, όπου συντρέχουν ορισμένοι λόγοι υγείας και η αναγνώριση των συναισθημάτων του ασθενούς είναι σημαντική, καθώς και ότι η χρήση της ΤΝ θα πρέπει να απαγορεύεται για κάθε τύπο κοινωνικής βαθμολόγησης.
Η Andrea Jelinek, πρόεδρος του ΕΣΠΔ, και ο Wojciech Wiewiórowski, ΕΕΠΔ, δήλωσαν: «Η χρήση της εξ αποστάσεως βιομετρικής ταυτοποίησης σε δημόσια προσβάσιμους χώρους σημαίνει το τέλος της ανωνυμίας στους χώρους αυτούς. Εφαρμογές όπως η αναγνώριση προσώπου σε απευθείας σύνδεση παρεμβαίνουν σε θεμελιώδη δικαιώματα και ελευθερίες σε τέτοιο βαθμό που θα μπορούσαν να θέσουν υπό αμφισβήτηση την ουσία των εν λόγω δικαιωμάτων και ελευθεριών. Το γεγονός αυτό απαιτεί την άμεση εφαρμογή της προληπτικής προσέγγισης. Μια γενική απαγόρευση της χρήσης της αναγνώρισης προσώπου σε δημόσια προσβάσιμους χώρους αποτελεί το απαραίτητο σημείο εκκίνησης εάν θέλουμε να διαφυλάξουμε τις ελευθερίες μας και να δημιουργήσουμε ένα ανθρωποκεντρικό νομικό πλαίσιο για την ΤΝ. Ο προτεινόμενος κανονισμός θα πρέπει επίσης να απαγορεύει κάθε είδους χρήση της ΤΝ για κοινωνική βαθμολόγηση, καθώς κάτι τέτοιο αντίκειται στις θεμελιώδεις αξίες της ΕΕ και μπορεί να οδηγήσει σε διακρίσεις.»
Το ΕΣΠΔ και ο ΕΕΠΔ χαιρετίζουν επίσης το γεγονός ότι η πρόταση ορίζει τον ΕΕΠΔ ως αρμόδια αρχή και αρχή εποπτείας της αγοράς για την επίβλεψη των θεσμικών και λοιπών οργάνων και οργανισμών της Ένωσης. Ωστόσο, ο ρόλος και τα καθήκοντα του ΕΕΠΔ θα πρέπει να αποσαφηνιστούν περαιτέρω, κυρίως όσον αφορά τον ρόλο του ως αρχής εποπτείας της αγοράς.
Το ΕΣΠΔ και ο ΕΕΠΔ υπενθυμίζουν ότι οι αρχές προστασίας δεδομένων (ΑΠΔ) εφαρμόζουν ήδη τον ΓΚΠΔ και την οδηγία LED στα συστήματα ΤΝ που χρησιμοποιούν δεδομένα προσωπικού χαρακτήρα, προκειμένου να διασφαλίζεται η προστασία των θεμελιωδών δικαιωμάτων και ειδικότερα το δικαίωμα στην προστασία των δεδομένων. Κατά συνέπεια, ο ορισμός των ΑΠΔ ως εθνικών εποπτικών αρχών θα διασφαλίσει μια πιο εναρμονισμένη κανονιστική προσέγγιση και θα συμβάλει στη συνεπή ερμηνεία των διατάξεων για την επεξεργασία δεδομένων σε ολόκληρη την ΕΕ. Συνεπώς, το ΕΣΠΔ και ο ΕΕΠΔ θεωρούν ότι, για να διασφαλιστεί η ομαλή εφαρμογή του νέου αυτού κανονισμού, οι ΑΠΔ θα πρέπει να οριστούν ως εθνικές εποπτικές αρχές σύμφωνα με το άρθρο 59 της Πρότασης.
Τέλος, το ΕΣΠΔ και ο ΕΕΠΔ θέτουν υπό αμφισβήτηση την ανάθεση ενός κυρίαρχου ρόλου στην Ευρωπαϊκή Επιτροπή εντός του «Ευρωπαϊκού Συμβουλίου Τεχνητής Νοημοσύνης» καθώς κάτι τέτοιο θα ερχόταν σε σύγκρουση με την ανάγκη για ένα ευρωπαϊκό όργανο ΤΝ ανεξάρτητο από οποιαδήποτε πολιτική επιρροή. Για να διασφαλιστεί η ανεξαρτησία του, η πρόταση θα πρέπει να παρέχει περισσότερη αυτονομία στο Ευρωπαϊκό Συμβούλιο Τεχνητής Νοημοσύνης και να διασφαλίζει ότι μπορεί να ενεργεί με δική του πρωτοβουλία.
Σημείωση προς τους συντάκτες:
Επισημαίνεται ότι όλα τα έγγραφα που εγκρίνονται κατά τη σύνοδο ολομέλειας του ΕΣΠΔ υπόκεινται στους αναγκαίους νομικούς και γλωσσικούς ελέγχους, καθώς και στον αναγκαίο έλεγχο μορφοποίησης, και θα καταστούν διαθέσιμα στον δικτυακό τόπο του ΕΣΠΔ μετά την ολοκλήρωση των ελέγχων αυτών.
EDPB_Press Release_statement_2021_05