KI zur automatisierten Erkennung menschlicher Merkmale und andere KI-Nutzungen mit Diskriminierungsrisiko: EDSA und EDSB rufen zu Verbot auf

21 June 2021

Brüssel, 21. Juni – Der EDSA und der EDSB haben eine gemeinsame Stellungnahme zum Vorschlag der Europäischen Kommission für eine Verordnung zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz (KI) angenommen.

Der EDSA und der EDSB begrüßen das Ziel, dass die Verwendung von KI-Systemen in der Europäischen Union, darunter die Verwendung von KI-Systemen durch die Organe, Einrichtungen oder sonstigen Stellen der EU, reguliert werden soll. Zugleich sind der EDSA und der EDSB darüber besorgt, dass die internationale Zusammenarbeit auf dem Gebiet der Strafverfolgung nicht in den Anwendungsbereich des Vorschlags fällt.

Der EDSA und der EDSB betonen zudem, dass klarzustellen ist, dass die bestehenden EU-Rechtsvorschriften zum Datenschutz (DSGVO, EU-DSVO und Richtlinie zum Datenschutz bei der Strafverfolgung) auf jede Verarbeitung personenbezogener Daten anwendbar sind, die in den Anwendungsbereich des Vorschlags für die KI-Verordnung fällt.

Zwar begrüßen der EDSA und der EDSB den risikobasierten Ansatz, der dem Vorschlag zugrunde liegt, doch sind sie gleichzeitig der Auffassung, dass das Konzept der „Risiken für die Grundrechte“ an den EU-Datenschutzrahmen angepasst werden sollte. Der EDSA und der EDSB empfehlen, dass die gesellschaftlichen Risiken für Personengruppen ebenfalls berücksichtigt und gemindert werden. Darüber hinaus stimmen sie mit dem Vorschlag darin überein, dass die Einstufung eines Systems als hochriskant nicht zwangsläufig bedeuten sollte, dass es per se mit geltendem Recht vereinbar ist und vom Nutzer entsprechend verwendet werden kann. Ferner sind der EDSA und der EDSB der Auffassung, dass die Einhaltung der sich aus den Unionsvorschriften ergebenden rechtlichen Verpflichtungen – einschließlich in Bezug auf den Schutz personenbezogener Daten – eine Voraussetzung für die Einführung eines Produkts mit CE-Kennzeichnung auf dem europäischen Markt darstellen sollte.

Angesichts der extrem hohen Risiken in Verbindung mit der biometrischen Fernidentifizierung von Personen im öffentlichen Raum rufen der EDSA und der EDSB zu einem generellen Verbot der Verwendung von KI für die automatisierte Erkennung menschlicher Merkmale im öffentlichen Raum egal in welchem Kontext auf, darunter die Gesichts-, Gang-, Fingerabdruck-, DNA-, Stimm- und Tippverhaltenserkennung sowie die Erkennung anhand anderer biometrischer oder verhaltensbezogener Charakteristika. Parallel dazu empfehlen der EDSA und der EDSB ein Verbot von KI-Systemen, die Personen mithilfe von Biometrie aufgrund ihrer ethnischen Zugehörigkeit, ihres Geschlechts, ihrer politischen oder sexuellen Orientierung oder anderer Gründe in Gruppen einteilen, für die ein Diskriminierungsverbot gemäß Artikel 21 der Charta der Grundrechte besteht. Darüber hinaus vertreten der EDSA und der EDSB die Auffassung, dass die Verwendung von KI zur Ableitung von Rückschlüssen auf die Emotionen einer natürlichen Person keinesfalls wünschenswert ist und verboten werden sollte, wobei nur für sehr spezifische Fälle, wie zum Beispiel medizinische Zwecke, bei denen die Erkennung der Emotionen der Patienten wichtig ist, Ausnahmen vorgesehen werden sollten. Zudem sollte die Verwendung von KI für die Bewertung des sozialen Verhaltens („Social Scoring“) verboten werden.

Andrea Jelinek, Vorsitzende des EDSA, und Wojciech Wiewiórowski, EDSB: „Die Verwendung von biometrischen Fernidentifikationssystemen im öffentlichen Raum bedeutet das Aus für die Anonymität. Anwendungen wie die Live-Gesichtserkennung beeinträchtigen die Grundrechte und Grundfreiheiten in einem solchen Ausmaß, dass sie den Wesensgehalt dieser Rechte und Freiheiten infrage stellen können. Daher ist das Vorsorgeprinzip von Beginn an anzuwenden. Ein generelles Verbot von Gesichtserkennung im öffentlichen Raum ist eine zwingende Voraussetzung, wenn wir unsere Rechte und Freiheiten bewahren und einen auf den Menschen ausgerichteten Rechtsrahmen für KI schaffen wollen. Außerdem sollten in dem Vorschlag für eine Verordnung alle Formen der KI-Verwendung für Social-Scoring-Zwecke verboten werden, da dies den Grundwerten der EU zuwiderläuft und zu Diskriminierung führen kann.“

Der EDSA und der EDSB begrüßen zudem, dass in dem Vorschlag der EDSB als die zuständige Behörde und Marktüberwachungsbehörde für die Aufsicht über die Organe, Einrichtungen und sonstigen Stellen der Union benannt wird. Die Rolle und die Aufgaben des EDSB sollten jedoch genauer spezifiziert werden, vor allem in Bezug auf seine Rolle als Marktüberwachungsbehörde.

Der EDSA und der EDSB erinnern daran, dass die Datenschutzbehörden (DSB) bereits die DSGVO und die Richtlinie zum Datenschutz bei der Strafverfolgung auf KI-Systeme, die personenbezogene Daten enthalten, durchsetzen, um den Schutz der Grundrechte und insbesondere das Recht auf Datenschutz zu gewährleisten. Die Benennung der DSB als nationale Aufsichtsbehörden würde folglich einen einheitlicheren Regulierungsansatz ermöglichen und zur EU-weit kohärenten Auslegung von Datenverarbeitungsvorschriften beitragen. In Anbetracht dessen sind der EDSA und der EDSB der Auffassung, dass die DSB zur Sicherstellung der reibungslosen Anwendung dieser neuen Verordnung als zuständige nationale Aufsichtsbehörden gemäß Artikel 59 des Vorschlags benannt werden sollten.

Schließlich hinterfragen der EDSA und der EDSB die Tatsache, dass der Europäischen Kommission im „Europäischen Ausschuss für künstliche Intelligenz“ eine übergeordnete Stellung eingeräumt werden soll, da dies nicht damit vereinbar wäre, dass eine europäische KI-Stelle benötigt wird, die unabhängig von politischer Einflussnahme ist. Um die Unabhängigkeit des Europäischen Ausschusses für künstliche Intelligenz zu gewährleisten, sollte ihm im Vorschlag mehr Selbstständigkeit zuerkannt und es ihm ermöglicht werden, von sich aus zu handeln.

 

Hinweise für die Redaktion:
Wir weisen darauf hin, dass alle im Rahmen der EDSA-Plenartagung angenommenen Dokumente den erforderlichen rechtlichen, sprachlichen und Formatierungsprüfungen unterliegen und nach deren Abschluss auf der EDSA-Website zur Verfügung gestellt werden.

EDPB_Press Release_statement_2021_05