Vertrauenswürdige KI messbar machen: BSI veröffentlicht Entwurf für KI-Prüfkatalog A5

Am 6. Juli 2026 hat das Bundesamt für Sicherheit in der Informationstechnik den Community Draft der AI Audit and Assurance Assessment Architecture, kurz A5, veröffentlicht. Der A5 soll als modularer Prüfkatalog dienen, mit dem die Vertrauenswürdigkeit von KI-Systemen systematisch bewertet werden kann. Der Entwurf steht bis zum 31. August 2026 zur öffentlichen Kommentierung offen.

Nach Angaben des BSI richtet sich der Entwurf an Akteure entlang der KI-Wertschöpfungskette, also insbesondere an Anbieter von KI-Systemen, Betreiber von KI-Lösungen sowie Personen, die mit Entwicklung, Betrieb oder Aufsicht solcher Systeme befasst sind. Ziel ist es, Kriterien und Methoden bereitzustellen, mit denen die Vertrauenswürdigkeit von KI-Systemen nachvollziehbar geprüft werden kann.

Juristisch relevant ist der A5 vor allem im Zusammenhang mit der europäischen KI-Verordnung. Diese verlangt für Hochrisiko-KI-Systeme unter anderem Anforderungen an Risikomanagement, Datenqualität, technische Dokumentation, Transparenz, menschliche Aufsicht sowie Genauigkeit, Robustheit und Cybersicherheit. Art. 15 KI-VO bestimmt ausdrücklich, dass Hochrisiko-KI-Systeme so konzipiert und entwickelt sein müssen, dass sie ein angemessenes Maß an Genauigkeit, Robustheit und Cybersicherheit erreichen und diese Eigenschaften über den gesamten Lebenszyklus hinweg beibehalten.

Der praktische Kern des Problems liegt darin, dass rechtliche Begriffe wie „Robustheit“, „Cybersicherheit“ oder „Vertrauenswürdigkeit“ ohne technische Prüfkriterien schwer greifbar bleiben. Der A5 kann hier eine Brückenfunktion übernehmen: Er übersetzt abstrakte regulatorische Erwartungen in überprüfbare Anforderungen und Auditstrukturen. Damit könnte der Prüfkatalog künftig eine wichtige Rolle für Unternehmen spielen, die KI-Systeme entwickeln, einsetzen oder gegenüber Aufsichtsbehörden und Vertragspartnern ihre Compliance nachweisen müssen.

Der A5 soll modular aufgebaut sein und sich an bestehenden BSI-Strukturen orientieren. Die Kriterien werden zudem dokumentenbasiert und maschinenlesbar im OSCAL-Standard bereitgestellt, sodass sie in Compliance- und Prüfwerkzeuge integriert werden können. Für den Einstieg sieht der Entwurf ein horizontales Basismodul vor, das unabhängig von konkreter Technologie oder konkretem Einsatzbereich gelten soll.

Bewertend zeigt die Veröffentlichung des A5, dass sich die Regulierung von KI zunehmend von bloßen Grundsatzfragen hin zur praktischen Nachweisbarkeit verschiebt.

Quellen: