BSI veröffentlicht Leitfaden zur sicheren Nutzung von KI-Systemen

Best Practice Chatbots

Nicht nur in den Deutschland werden neben den vielen Vorteilen von KI-Systemen, auch die mit der Entwicklung und Anwendung von KI-Systemen verbundenen Risiken gesehen.

Mit Blick darauf, den identifizierten Gefahren und möglichen Bedrohungen verfügbaren Gegenmaßnahmen entgegen setzen zu können, hat sich das Bundesamt für Sicherheit in der Informationstechnik (BSI) mit seinen Partnerbehörden aus Australien, Israel, Japan, Kanada, Neuseeland, Norwegen, Schweden, Singapur, dem Vereinigten Königreich und den Vereinigten Staaten zusammengetan und einen Leitfaden zu dem Thema veröffentlicht.

Der Leitfaden bietet einen Überblick über wesentliche Bedrohungen und entsprechende Gegenmaßnahmen, die von Nutzerinnen und Nutzern ergriffen werden sollten. Im November 2023 wurden die „Guidelines for secure AI system development“ unter Beteiligung des BSI veröffentlicht, die unter britischer Leitung entstanden waren.

Die Leitlinien ist in vier Schlüsselbereiche innerhalb des Lebenszyklus der KI-Systementwicklung gegliedert:

  • sicherer Entwurf,
  • sichere Entwicklung,
  • sicherer Einsatz sowie
  • sicherer Betrieb und Wartung.

Für jeden Abschnitt schlagen die SAutoren Überlegungen und Maßnahmen vor, die dazu beitragen sollen, das Gesamtrisiko für den Entwicklungsprozess eines KI-Systems zu verringern.

Letztes Update:03.02.24

  • EU Datenstrategie

    Der DSB im Dickicht der Europäischen Datenstrategie

    Die EU-Datenstrategie ist eine umfassende Initiative der Europäischen Union, die darauf abzielt, den digitalen Binnenmarkt zu stärken und Europa weltweit wettbewerbsfähiger zu machen, indem die Nutzung von Daten gefördert und reguliert wird. Diese Strategie ist ein zentraler Bestandteil der digitalen Transformation Europas und umfasst verschiedene Maßnahmen und Gesetzgebungen, die den rechtlichen Rahmen für den Umgang

    Mehr erfahren
  • Folge 57: KI-Kompetenz Pflichten und Chancen für Unternehmen

    Am 12. Juli 2024 wird die KI-Verordnung im Amtsblatt der EU veröffentlicht und tritt am 1. August 2024 in Kraft. Was ist ein KI-System und was bedeutet es, dass es autonom agiert? Warum kann KI nicht denken und trotzdem sinnvoll in menschlicher Sprache antworten und Fragen stellen? Welche Nutzung von KI-Systemen ist gefahrlos möglich? Wo

    Mehr erfahren
  • Audit Messenger

    Standardisierte Prüfung von Messengern

    Der Europäische Datenschutzausschus (EDSA) hatte bereits auf den Vorschlag des BfDI die Umsetzung des Auskunfsrechts durch die für die Verarbeitung Verantwortlichen gemäß Art. 15 DS-GVO als Thema für seine dritte koordinierte Durchsetzungsmaßnahme in 2024 beschlossen. Die koordinierten Maßnahmen erfolgen auf Basis des Beschlusses des EDSA aus Oktober 2020, einen koordinierten Durchsetzungsrahmen (Coordinated Enforcement Framework –

    Mehr erfahren