Nachrichten der Woche

Verordnungsvorschlag der EU-Kommission zur Regulierung von automatisierten Entscheidungssystemen

Von Oliver KesslerVeröffentlicht am
Lesezeit:-Wörter

Die EU-Kommission hat einen Verordnungsvorschlag vorgelegt, der gewisse 
Anwendungen künstlicher Intelligenz verbietet und andere strengen 
Regeln unterwirft.

Der Vorschlag enthält eine Liste mit Anwendungen, die künftig als „hochriskant“ eingestuft werden sollen und dann genehmigungspflichtig sind. Der Echtzeit-Einsatz biometrischer Systeme zur Identifizierung von Menschen soll auf wenige Ausnahmen beschränkt werden, z.B. zur Terrorismusbekämpfung. „Social-Credit-Systeme“, wie in China bereits getestet, sollen verboten werden.

Weiterführende Links:

Update:

Der Europäische Datenschutzausschuss (EDSA) und der Europäische Datenschutzbeauftragte (EDPS) haben sich mit dem Thema „Biometrische Identifikation“ und dem Einsatz der KI in diesem Kontext im Zuge der Aufarbeitung des KI-Verordnungsentwurfs der Kommission beschäftigt. 
In Anbetracht der extrem hohen Risiken, die von der biometrischen Fernidentifizierung von Personen in öffentlich zugänglichen Räumen ausgehen, fordern der EDSB und der EDSB ein generelles Verbot des Einsatzes von KI für die automatisierte Erkennung menschlicher Merkmale in öffentlich zugänglichen Räumen, wie z. B. die Erkennung von Gesichtern, des Gangs, von Fingerabdrücken, der DNA, der Stimme, des Tastenanschlags und anderer biometrischer oder verhaltensbezogener Signale, in jedem Kontext. Ebenso empfehlen der EDSB und der EDSB ein Verbot von KI-Systemen, die biometrische Daten verwenden, um Personen aufgrund ihrer ethnischen Zugehörigkeit, ihres Geschlechts, ihrer politischen oder sexuellen Orientierung oder aus anderen Gründen, aus denen eine Diskriminierung gemäß Artikel 21 der Charta der Grundrechte verboten ist, in Gruppen einzuteilen. 

Quellen: