Leitfaden: Entwicklung von sicheren KI-Systemen
KI-Systeme finden vielfältige Anwendungen, darunter die Prognose von Klima- und Finanzmärkten, automatisierte medizinische Diagnosen sowie (teil-) autonome Transportmittel. Um sicherzustellen, dass diese Systeme den Anforderungen der Informationssicherheit gerecht werden, ist nicht nur eine sichere Planung und Entwicklung, sondern auch eine sichere Implementierung und Betrieb erforderlich.
In Zusammenarbeit mit 23 internationalen Cybersicherheitsbehörden aus 18 Ländern hat das BSI einen Leitfaden speziell für diesen Zweck erstellt. Das kürzlich veröffentlichte Dokument „Richtlinien für die sichere Entwicklung von KI-Systemen“ bietet klare Anleitungen für die Entwicklung sicherer KI-Systeme. Diese Richtlinien sollen Betreibern helfen, sicherzustellen, dass ihre KI-Systeme jederzeit verfügbar sind, erwartungsgemäß und zuverlässig arbeiten und dabei keine sensiblen Daten preisgeben.
Der Hauptadressat dieses Leitfadens sind die Betreiber von KI-Produkten. Das Dokument orientiert sich an Prinzipien wie „security by design“ und „security by default“ und identifiziert KI-spezifische Sicherheitslücken. Es gibt konkrete Empfehlungen, wie diese Schwachstellen während der Entwicklung berücksichtigt werden können. Da Endnutzer oft nicht in der Lage sind, die mit KI verbundenen Risiken zu verstehen, fordern die Cybersicherheitsbehörden die Betreiber und Entwickler von KI-Systemen auf, die Endnutzer stärker in den Transparenzprozess einzubeziehen. Anwenderinnen und Anwender sollen über potenzielle Risiken informiert werden und Richtlinien erhalten, um die Systeme sicher nutzen zu können.
Bundesamt für Sicherheit in der Informationstechnik
(Foto: Martin Rettenberger – stock.adobe.com)
Das könnte Sie auch interessieren
-
Folge 90: KI Omnibus Update März 2026 reloaded: Reallabore Spezial
Im DataAgenda-Podcast Folge 89 hat Kai Zenner über die anstehenden Änderungen der KI-Verordnung berichtet, die im August 2026 Geltung erlangen sollen. Einer der Gegenstände der Änderung betrifft das sog. New Legal Framework in Anhang 1. Die dort unter Abschnitt A aufgelisteten Harmonisierungsvorschriften führen zu einer Doppelregulierung. Deshalb sollen die dort aufgeführten Produkte in Abschnitt B
Mehr erfahren -
Folge 89: KI Omnibus Update März 2026
Änderungen der KI-VO stehen in den Startblöcken. So wie es aussieht, wird das am 1. August 2024 in Kraft getretene EU-Gesetz geändert, noch bevor der Großteil der maßgeblichen Pflichten am 2. August 2026 Geltung erlangt. Kai Zenner, Büroleiter von MdEP Axel Voss berichtet am Tag der Ausschussabstimmung im Europäischen Parlament tagesaktuell von Zeitplan und Inhalten
Mehr erfahren -
Folge 88: „NIS-2: Regulierung als Chance oder Bürokratiemonster?“
Mit der fortschreitenden Digitalisierung wachsen nicht nur die Risiken für die Datensicherheit, sondern auch die regulatorischen Anforderungen. Dr. Judith Nink, Fachbereichsleiterin Cybersicherheit bei Unternehmen, Digitale Sicherheit beim Bundesamt für Sicherheit in der Informationstechnologie (BSI), erläutert NIS-2 im europäischen Regulierungskontext. Warum ist NIS-2 notwendig? Was ist zu tun? Wie können Unternehmen das Recht umsetzen und welche
Mehr erfahren
