Leitfaden: Entwicklung von sicheren KI-Systemen

KI-Systeme finden vielfältige Anwendungen, darunter die Prognose von Klima- und Finanzmärkten, automatisierte medizinische Diagnosen sowie (teil-) autonome Transportmittel. Um sicherzustellen, dass diese Systeme den Anforderungen der Informationssicherheit gerecht werden, ist nicht nur eine sichere Planung und Entwicklung, sondern auch eine sichere Implementierung und Betrieb erforderlich.

In Zusammenarbeit mit 23 internationalen Cybersicherheitsbehörden aus 18 Ländern hat das BSI einen Leitfaden speziell für diesen Zweck erstellt. Das kürzlich veröffentlichte Dokument „Richtlinien für die sichere Entwicklung von KI-Systemen“ bietet klare Anleitungen für die Entwicklung sicherer KI-Systeme. Diese Richtlinien sollen Betreibern helfen, sicherzustellen, dass ihre KI-Systeme jederzeit verfügbar sind, erwartungsgemäß und zuverlässig arbeiten und dabei keine sensiblen Daten preisgeben.

Der Hauptadressat dieses Leitfadens sind die Betreiber von KI-Produkten. Das Dokument orientiert sich an Prinzipien wie „security by design“ und „security by default“ und identifiziert KI-spezifische Sicherheitslücken. Es gibt konkrete Empfehlungen, wie diese Schwachstellen während der Entwicklung berücksichtigt werden können. Da Endnutzer oft nicht in der Lage sind, die mit KI verbundenen Risiken zu verstehen, fordern die Cybersicherheitsbehörden die Betreiber und Entwickler von KI-Systemen auf, die Endnutzer stärker in den Transparenzprozess einzubeziehen. Anwenderinnen und Anwender sollen über potenzielle Risiken informiert werden und Richtlinien erhalten, um die Systeme sicher nutzen zu können.

Bundesamt für Sicherheit in der Informationstechnik

(Foto: Martin Rettenberger – stock.adobe.com)