Das Bundesamt für Sicherheit in der Informationstechnik (BSI) hat erstmalig einen umfassenden Kriterienkatalog veröffentlicht, um die Vertrauenswürdigkeit von KI-Systemen im Finanzsektor sicherzustellen. Dieses neue Regelwerk soll dazu beitragen, Risiken zu minimieren und eine verantwortungsvolle Nutzung künstlicher Intelligenz zu ermöglichen.
Der Kriterienkatalog, entwickelt im Rahmen des Projekts AICRIV (AI Criteria definition and Validation), enthält rund 100 Prüfkriterien, die verschiedene zentrale Aspekte abdecken. Dazu gehören unter anderem die IT-Sicherheit, Datenqualität, Modellrobustheit, regulatorische Anforderungen sowie menschliche Kontrolle und Überwachung. Ergänzend gibt das Dokument Empfehlungen zu Prüfmethoden, um eine standardisierte Bewertung von KI-Anwendungen zu erleichtern.
Die im Katalog formulierten Anforderungen orientieren sich an etablierten Normen und Gesetzen, insbesondere der neuen EU-KI-Verordnung. Entwickler, Anbieter und Betreiber von KI-Systemen in der Finanzwirtschaft erhalten damit eine wertvolle Grundlage zur Bewertung und Verbesserung ihrer Technologien. Auch Prüfstellen können die Vorgaben nutzen, um die Einhaltung regulatorischer Vorgaben sicherzustellen.
Das BSI hat das Dokument bewusst in englischer Sprache veröffentlicht, da sich der Kriterienkatalog an Akteure im gesamten europäischen Finanz- und Versicherungswesen richtet.
Mit dieser Initiative setzt das BSI einen wichtigen Impuls für die Regulierung und sichere Anwendung von KI-Systemen im Finanzbereich. Der Kriterienkatalog trägt dazu bei, Risiken zu begrenzen und die Qualität dieser Systeme nachhaltig zu sichern.
Quellen: