BSI veröffentlicht Leitfaden zur sicheren Nutzung von KI-Systemen

Best Practice Chatbots

Nicht nur in den Deutschland werden neben den vielen Vorteilen von KI-Systemen, auch die mit der Entwicklung und Anwendung von KI-Systemen verbundenen Risiken gesehen.

Mit Blick darauf, den identifizierten Gefahren und möglichen Bedrohungen verfügbaren Gegenmaßnahmen entgegen setzen zu können, hat sich das Bundesamt für Sicherheit in der Informationstechnik (BSI) mit seinen Partnerbehörden aus Australien, Israel, Japan, Kanada, Neuseeland, Norwegen, Schweden, Singapur, dem Vereinigten Königreich und den Vereinigten Staaten zusammengetan und einen Leitfaden zu dem Thema veröffentlicht.

Der Leitfaden bietet einen Überblick über wesentliche Bedrohungen und entsprechende Gegenmaßnahmen, die von Nutzerinnen und Nutzern ergriffen werden sollten. Im November 2023 wurden die „Guidelines for secure AI system development“ unter Beteiligung des BSI veröffentlicht, die unter britischer Leitung entstanden waren.

Die Leitlinien ist in vier Schlüsselbereiche innerhalb des Lebenszyklus der KI-Systementwicklung gegliedert:

  • sicherer Entwurf,
  • sichere Entwicklung,
  • sicherer Einsatz sowie
  • sicherer Betrieb und Wartung.

Für jeden Abschnitt schlagen die SAutoren Überlegungen und Maßnahmen vor, die dazu beitragen sollen, das Gesamtrisiko für den Entwicklungsprozess eines KI-Systems zu verringern.

Letztes Update:03.02.24

  • Informationen zur KI

    Bildung und Sensibilisierung zum Thema KI

    Das Bayerische Landesamt für Datenschutzaufsicht (bayLDA) möchte mit seinem neuen Informationsangebot zu Datenschutz und Künstliche Intelligenz seinem Sensibilisierungsauftrag in diesem Bereich gerecht werden. Dank der leicht und vielfältig nutzbaren Sprachmodelle wie „ChatGPT“ durchdringt das Thema „Künstliche Intelligenz“ immer mehr den Alltag von Bürgern, Schülern, Beschäftigten und durchdringt auch Arbeitprozesse von Organisationen. Der Zugang zu leistungsfähigen

    Mehr erfahren
  • Personenbeziehbarkeit

    Aktueller Stand: Wann sind natürliche Personen identifizierbar?

    Man sollte meinen, dass es gerade zu dieser Frage, die ja nun den Anwendungsbereich des Datenschutzrechts eröffnet, zwischenzeitlich „gesicherte Erkenntnisse“ gibt. Wenn jedoch der Bayerische Landesbeauftragte für den Datenschutz (BayLfD) die neueste Ausgabe seiner sog. „Aktuellen Kurzinformationen (AKI)“ dieser Frage widmet, darf davon ausgegangen werden, dass es genau zu dieser Frage immer noch keine klaren

    Mehr erfahren
  • FAQ Datenschutz im Gesundheitsbereich

    Datenschutz im Gesundheitsbereich: Aufsichtsbehörde klärt auf

    Im Bereich der Gesundheitsversorgung unterliegen medizinische Daten einem besonders strengen Schutz. Diese Daten umfassen nicht nur persönliche Informationen, sondern fallen gemäß Artikel 9 Absatz 1 der Datenschutz-Grundverordnung (DS-GVO) in die Kategorie der besonderen Daten. Diese Kategorie bezieht sich nicht nur auf Gesundheitsdaten, sondern schließt auch die „Verarbeitung von genetischen und biometrischen Daten zur eindeutigen Identifizierung

    Mehr erfahren