Leitfaden: Entwicklung von sicheren KI-Systemen

KI-Entwicklung

KI-Systeme finden vielfältige Anwendungen, darunter die Prognose von Klima- und Finanzmärkten, automatisierte medizinische Diagnosen sowie (teil-) autonome Transportmittel. Um sicherzustellen, dass diese Systeme den Anforderungen der Informationssicherheit gerecht werden, ist nicht nur eine sichere Planung und Entwicklung, sondern auch eine sichere Implementierung und Betrieb erforderlich.

In Zusammenarbeit mit 23 internationalen Cybersicherheitsbehörden aus 18 Ländern hat das BSI einen Leitfaden speziell für diesen Zweck erstellt. Das kürzlich veröffentlichte Dokument „Richtlinien für die sichere Entwicklung von KI-Systemen“ bietet klare Anleitungen für die Entwicklung sicherer KI-Systeme. Diese Richtlinien sollen Betreibern helfen, sicherzustellen, dass ihre KI-Systeme jederzeit verfügbar sind, erwartungsgemäß und zuverlässig arbeiten und dabei keine sensiblen Daten preisgeben.

Der Hauptadressat dieses Leitfadens sind die Betreiber von KI-Produkten. Das Dokument orientiert sich an Prinzipien wie „security by design“ und „security by default“ und identifiziert KI-spezifische Sicherheitslücken. Es gibt konkrete Empfehlungen, wie diese Schwachstellen während der Entwicklung berücksichtigt werden können. Da Endnutzer oft nicht in der Lage sind, die mit KI verbundenen Risiken zu verstehen, fordern die Cybersicherheitsbehörden die Betreiber und Entwickler von KI-Systemen auf, die Endnutzer stärker in den Transparenzprozess einzubeziehen. Anwenderinnen und Anwender sollen über potenzielle Risiken informiert werden und Richtlinien erhalten, um die Systeme sicher nutzen zu können.

Bundesamt für Sicherheit in der Informationstechnik

(Foto: Martin Rettenberger – stock.adobe.com)

Letztes Update:03.12.23

  • Informationen zur KI

    Bildung und Sensibilisierung zum Thema KI

    Das Bayerische Landesamt für Datenschutzaufsicht (bayLDA) möchte mit seinem neuen Informationsangebot zu Datenschutz und Künstliche Intelligenz seinem Sensibilisierungsauftrag in diesem Bereich gerecht werden. Dank der leicht und vielfältig nutzbaren Sprachmodelle wie „ChatGPT“ durchdringt das Thema „Künstliche Intelligenz“ immer mehr den Alltag von Bürgern, Schülern, Beschäftigten und durchdringt auch Arbeitprozesse von Organisationen. Der Zugang zu leistungsfähigen

    Mehr erfahren
  • Best Practice Chatbots

    BSI veröffentlicht Leitfaden zur sicheren Nutzung von KI-Systemen

    Nicht nur in den Deutschland werden neben den vielen Vorteilen von KI-Systemen, auch die mit der Entwicklung und Anwendung von KI-Systemen verbundenen Risiken gesehen. Mit Blick darauf, den identifizierten Gefahren und möglichen Bedrohungen verfügbaren Gegenmaßnahmen entgegen setzen zu können, hat sich das Bundesamt für Sicherheit in der Informationstechnik (BSI) mit seinen Partnerbehörden aus Australien, Israel,

    Mehr erfahren
  • Personenbeziehbarkeit

    Aktueller Stand: Wann sind natürliche Personen identifizierbar?

    Man sollte meinen, dass es gerade zu dieser Frage, die ja nun den Anwendungsbereich des Datenschutzrechts eröffnet, zwischenzeitlich „gesicherte Erkenntnisse“ gibt. Wenn jedoch der Bayerische Landesbeauftragte für den Datenschutz (BayLfD) die neueste Ausgabe seiner sog. „Aktuellen Kurzinformationen (AKI)“ dieser Frage widmet, darf davon ausgegangen werden, dass es genau zu dieser Frage immer noch keine klaren

    Mehr erfahren