Das Europäische Parlament hat am Freitag, dem 08.12.2023, gemeinsam mit dem Rat eine Einigung über die KI-Verordnung („AI Act“) erzielt, einen Gesetzesentwurf, der sicherstellen soll, dass Künstliche Intelligenz (KI) in Europa sicher und demokratiekonform eingesetzt wird.
Die Regelungen, die am Freitag von den Verhandlungsführern des Parlaments und des Rates vorläufig vereinbart wurden, zielen darauf ab, grundlegende Rechte, Demokratie, Rechtsstaatlichkeit und Umweltschutz vor hochriskanter KI zu schützen. Gleichzeitig sollen Innovationen gefördert und Europa als Vorreiter in diesem Bereich etabliert werden.
Verbotene Anwendungen und Ausnahmen für Strafverfolgung
Mit Blick auf potenzielle Bedrohungen für Bürgerrechte durch KI-Anwendungen wurde eine Reihe von Verboten festgelegt. Dazu gehören biometrische Kategorisierungssysteme mit sensiblen Merkmalen, das ungerichtete Sammeln von Gesichtsbildern aus dem Internet für die Erstellung von Gesichtserkennungsdatenbanken und die Nutzung von KI zur Manipulation oder Ausnutzung von Benutzeranfälligkeiten.
Für den Einsatz von biometrischen Identifikationssystemen durch Strafverfolgungsbehörden wurden spezifische Schutzmaßnahmen und Ausnahmen vereinbart. Dieser Einsatz ist nur in öffentlich zugänglichen Bereichen möglich, erfordert eine vorherige gerichtliche Genehmigung und ist auf bestimmte Verbrechensarten beschränkt.
Verpflichtungen für Hochrisikosysteme und Schutz vor KI-Einfluss auf Wahlen
Für als hochriskant eingestufte KI-Systeme wurden klare Verpflichtungen festgelegt, darunter eine verpflichtende Bewertung der Auswirkungen auf grundlegende Rechte. Dies gilt auch für den Versicherungs- und Bankensektor. KI-Systeme, die den Ausgang von Wahlen und das Wählerverhalten beeinflussen können, werden ebenfalls als hochriskant betrachtet. Bürger sollen das Recht erhalten, Beschwerden über solche Systeme einzureichen und Erklärungen zu KIS-basierten Entscheidungen zu erhalten, die ihre Rechte beeinträchtigen.
Transparenzanforderungen für Allgemeine KI-Systeme und Maßnahmen zur Unterstützung von Innovation und KMUs
Um die Vielfalt von Aufgaben, die KI-Systeme erfüllen können, abzudecken, müssen allgemeine KI-Systeme bestimmten Transparenzanforderungen entsprechen. Dies beinhaltet die Erstellung von technischen Dokumentationen, die Einhaltung des EU-Urheberrechts und die Verbreitung detaillierter Zusammenfassungen der für das Training verwendeten Inhalte.
Um Innovationen und die Entwicklung von KI-Lösungen durch Unternehmen, insbesondere KMUs, zu fördern, werden sogenannte regulatorische Sandkästen („regulatory sandboxes“) und Tests in der realen Welt unterstützt.
Sanktionen und Inkrafttreten
Nichteinhaltung der Regelungen kann zu erheblichen Geldstrafen führen, die je nach Verstoß und Unternehmensgröße zwischen 35 Millionen Euro oder 7% des weltweiten Umsatzes und 7,5 Millionen oder 1,5% des Umsatzes liegen können.
Nach Aussage von beteiligten EU-Parlamentsmitgliedern sei die EU mit dieser Vereinbarung führend bei der Einführung umfassender KI-Regulierungen. Der Gesetzesentwurf muss nun formell vom Parlament und dem Rat angenommen werden, um EU-Recht zu werden. Der Ausschuss des EU-Parlaments für bürgerliche Freiheiten, Justiz und Inneres wird hierzu in einer seiner nächsten Sitzungen diesbezüglich abstimmen.
Frühere Beiträge des JIPS zum „AI Act“: https://www.jura.uni-saarland.de/?s=AI+Act
Quellen: