Ab dem 2. Februar 2025 tritt bereits ein Teil der KI-Verordnung in Kraft. Dies betrifft zum einen das Verbot bestimmter KI-Systeme sowie die Verpflichtung zur Schaffung von KI-Kompetenz.
Verboten sind demnach KI-Anwendungen, die gegen die Grundrechte von Menschen verstoßen oder sie manipulieren könnten. Dazu gehört zum Beispiel das Social Scoring, wobei Künstliche Intelligenz Menschen aufgrund ihres sozialen Verhaltens oder persönlicher Eigenschaften klassifiziert, KI-Systeme die durch manipulative Techniken die sozialen Benachteiligungen wie das Alter, Armut oder Behinderungen ausnutzen, sowie Biometrische Erkennungssysteme, die beispielsweise Rückschlüsse auf religiöse oder politische Einstellungen ermöglichen.
Zudem verpflichtet die KI-Verordnung Unternehmen, die KI-Systeme entwickeln, betreiben oder einsetzen, sicherzustellen, dass ihr Personal und andere Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind, über ein ausreichendes Maß an KI-Kompetenz verfügen. Dies bedeutet, dass Mitarbeiter ein Grundverständnis über die Funktionsweise, Risiken und rechtlichen Anforderungen von KI-Systemen erhalten müssen. Die Unternehmen sind daher verpflichtet, ihre Mitarbeiter zu schulen. Durch diese Schulungspflicht will die Europäische Union sicherstellen, dass KI sicher und verantwortungsvoll eingesetzt wird.
Quellen: