Leitfaden: Entwicklung von sicheren KI-Systemen
KI-Systeme finden vielfältige Anwendungen, darunter die Prognose von Klima- und Finanzmärkten, automatisierte medizinische Diagnosen sowie (teil-) autonome Transportmittel. Um sicherzustellen, dass diese Systeme den Anforderungen der Informationssicherheit gerecht werden, ist nicht nur eine sichere Planung und Entwicklung, sondern auch eine sichere Implementierung und Betrieb erforderlich.
In Zusammenarbeit mit 23 internationalen Cybersicherheitsbehörden aus 18 Ländern hat das BSI einen Leitfaden speziell für diesen Zweck erstellt. Das kürzlich veröffentlichte Dokument „Richtlinien für die sichere Entwicklung von KI-Systemen“ bietet klare Anleitungen für die Entwicklung sicherer KI-Systeme. Diese Richtlinien sollen Betreibern helfen, sicherzustellen, dass ihre KI-Systeme jederzeit verfügbar sind, erwartungsgemäß und zuverlässig arbeiten und dabei keine sensiblen Daten preisgeben.
Der Hauptadressat dieses Leitfadens sind die Betreiber von KI-Produkten. Das Dokument orientiert sich an Prinzipien wie „security by design“ und „security by default“ und identifiziert KI-spezifische Sicherheitslücken. Es gibt konkrete Empfehlungen, wie diese Schwachstellen während der Entwicklung berücksichtigt werden können. Da Endnutzer oft nicht in der Lage sind, die mit KI verbundenen Risiken zu verstehen, fordern die Cybersicherheitsbehörden die Betreiber und Entwickler von KI-Systemen auf, die Endnutzer stärker in den Transparenzprozess einzubeziehen. Anwenderinnen und Anwender sollen über potenzielle Risiken informiert werden und Richtlinien erhalten, um die Systeme sicher nutzen zu können.
Bundesamt für Sicherheit in der Informationstechnik
(Foto: Martin Rettenberger – stock.adobe.com)
Das könnte Sie auch interessieren
-
LinkedIn-Verrnetzung begründet keine Einwilligung für Werbe‑E‑Mails
Das AG Düsseldorf hat mit Urteil vom 20.11.2025 (Az. 23 C 120/25) klargestellt, dass berufliche Vernetzung in sozialen Netzwerken keine Einwilligung für den Versand werblicher E-Mails begründet. Hintergrund war ein Fall, in dem ein IT-Dienstleister zwei Werbe-E-Mails an eine GmbH sandte, die lediglich über LinkedIn vernetzt war, ohne dass eine ausdrückliche Zustimmung vorlag. LinkedIn-Kontakte ≠ Einwilligung für
Mehr erfahren -
Vergütung für nicht deklariertes „KI-Gutachten“ kann verweigert werden
Das Landgericht Darmstadt hat in einem Beschluss vom November 2025 (19 O 527/16) klargestellt, dass eine erhebliche, nicht gegenüber dem Gericht offengelegte Verwendung von Künstlicher Intelligenz (KI) bei der Erstellung eines gerichtlichen Sachverständigengutachtens zur vollständigen Versagung der Vergütung führen kann. Damit stärkt das Gericht die Anforderungen an Transparenz, persönliche Leistungspflicht und Nachvollziehbarkeit bei Gutachten, die im Rahmen zivilprozessualer
Mehr erfahren -
Gemeinsame Dateiablagen als datenschutzrechtliches Risiko
In der Aktuellen Kurz-Information 65 weist der Bayerische Landesbeauftragte für den Datenschutz auf die erhebliche Gefahr von Datenpannen durch gemeinsam genutzte Dateiablagen hin. Betroffen sind sowohl klassische Netzlaufwerke als auch moderne Kollaborationsplattformen wie Microsoft SharePoint. Diese Systeme dienen zwar der effizienten Zusammenarbeit, können jedoch bei unzureichender Konfiguration und Organisation zu unbeabsichtigten Offenlegungen personenbezogener Daten führen.
Mehr erfahren
