Leitfaden: Entwicklung von sicheren KI-Systemen
KI-Systeme finden vielfältige Anwendungen, darunter die Prognose von Klima- und Finanzmärkten, automatisierte medizinische Diagnosen sowie (teil-) autonome Transportmittel. Um sicherzustellen, dass diese Systeme den Anforderungen der Informationssicherheit gerecht werden, ist nicht nur eine sichere Planung und Entwicklung, sondern auch eine sichere Implementierung und Betrieb erforderlich.
In Zusammenarbeit mit 23 internationalen Cybersicherheitsbehörden aus 18 Ländern hat das BSI einen Leitfaden speziell für diesen Zweck erstellt. Das kürzlich veröffentlichte Dokument „Richtlinien für die sichere Entwicklung von KI-Systemen“ bietet klare Anleitungen für die Entwicklung sicherer KI-Systeme. Diese Richtlinien sollen Betreibern helfen, sicherzustellen, dass ihre KI-Systeme jederzeit verfügbar sind, erwartungsgemäß und zuverlässig arbeiten und dabei keine sensiblen Daten preisgeben.
Der Hauptadressat dieses Leitfadens sind die Betreiber von KI-Produkten. Das Dokument orientiert sich an Prinzipien wie „security by design“ und „security by default“ und identifiziert KI-spezifische Sicherheitslücken. Es gibt konkrete Empfehlungen, wie diese Schwachstellen während der Entwicklung berücksichtigt werden können. Da Endnutzer oft nicht in der Lage sind, die mit KI verbundenen Risiken zu verstehen, fordern die Cybersicherheitsbehörden die Betreiber und Entwickler von KI-Systemen auf, die Endnutzer stärker in den Transparenzprozess einzubeziehen. Anwenderinnen und Anwender sollen über potenzielle Risiken informiert werden und Richtlinien erhalten, um die Systeme sicher nutzen zu können.
Bundesamt für Sicherheit in der Informationstechnik
(Foto: Martin Rettenberger – stock.adobe.com)
Das könnte Sie auch interessieren
-
408.000 Euro Bußgeld wegen fehlenden Datenschutzes durch Technikgestaltung
Die spanische Datenschutzbehörde AEPD hat gegen die CaixaBank Geldbußen von insgesamt 510.000 Euro festgesetzt (Verfahren PS-00028-2025). Die Bank hatte bei der Abwicklung von Erbfällen standardmäßig mehr Daten verlangt als erforderlich und die Erben unzureichend informiert. Da sie die Geldbuße freiwillig vorab bezahlte, ermäßigte sich der Betrag um 20 Prozent auf 408.000 Euro. Sachverhalt Nach dem
Mehr erfahren -
Verlorene Papierakte: DS-GVO greift, Schadensersatz aber nicht
Auch Papierakten können unter die DS-GVO fallen. Wenn eine solche Akte verschwindet, begründet das aber nicht automatisch einen Anspruch auf Schmerzensgeld. Das hat das LG Magdeburg mit Urteil vom 25.06.2026 (Az. 10 O 1894/25) entschieden. Das Urteil ist rechtskräftig. Sachverhalt Bei einem Fachaufsichtsbesuch in der JVA Burg fiel auf, dass ein Ordner mit der Einsatzakte
Mehr erfahren -
Standortdaten: 403 Millionen Euro Bußgeld gegen Google
Die irische Datenschutzbehörde (DPC) hat am 21.09.2026 ein Bußgeld von 403 Millionen Euro gegen Google Ireland verhängt. Gegenstand ist die Verarbeitung von Standortdaten über die Kontoeinstellungen „Location History“, „Web & App Activity“ und „Location Accuracy“ im Zeitraum von Mai 2018 bis Februar 2020. Das Verfahren ging auf Beschwerden europäischer Verbraucherverbände zurück, darunter der europäische Dachverband
Mehr erfahren
