Gemeinsam mit 22 weiteren internationalen Organisationen und unter Führung von Großbritannien und den USA hat das BSI Richtlinien für eine sichere Entwicklung von KI-Systemen herausgegeben. Die Vereinbarung über die in diesem nicht-verbindlichen Dokument festgelegten Verhaltensregeln wurde von insgesamt 18 Staaten unterzeichnet. Der Grundstein für diese erste internationale Richtlinie für sichere KI-Entwicklung wurde beim KI-Gipfel in Großbritannien Anfang November gelegt, wo mehrere Staaten ihre Absicht über eine Zusammenarbeit bei der Entwicklung und Regulierung von KI erklärt hatten.
Der Leitfaden richtet sich an Entwickler, Anbieter und Nutzer von KI-Systemen und ist in vier Bereiche unterteilt:
- Secure design (Sicheres Design): Risiken verstehen und abbilden
- Secure development (Sichere Entwicklung): Lieferkettensicherheit, Dokumentation, Asset-Management
- Secure deployment (Sicherer Einsatz): Infrastruktur und Modelle vor Übergriffen schützen; Prozesse für Vorfälle entwickeln
- Secure operation and maintenance (Sicherer Betrieb und sichere Wartung): Logging und Überwachung von Systemen, Update-Prozesse und Informationsmanagement
Quellen:
- Bericht: https://www.heise.de/news/Secu
re-by-design-18-Staaten-unterz eichnen-neue-KI-Richtlinien- 9540237.html - Pressemitteilung BSI: https://www.bsi.bund.de/DE/Ser
vice-Navi/Presse/Pressemitteil ungen/Presse2023/231127_ Leitfaden-sicher-KI-Systeme. html - Leitfaden: https://www.ncsc.gov.uk/files/
Guidelines-for-secure-AI-syste m-development.pdf