BSI veröffentlicht Leitfaden zur sicheren Nutzung von KI-Systemen
Nicht nur in den Deutschland werden neben den vielen Vorteilen von KI-Systemen, auch die mit der Entwicklung und Anwendung von KI-Systemen verbundenen Risiken gesehen.
Mit Blick darauf, den identifizierten Gefahren und möglichen Bedrohungen verfügbaren Gegenmaßnahmen entgegen setzen zu können, hat sich das Bundesamt für Sicherheit in der Informationstechnik (BSI) mit seinen Partnerbehörden aus Australien, Israel, Japan, Kanada, Neuseeland, Norwegen, Schweden, Singapur, dem Vereinigten Königreich und den Vereinigten Staaten zusammengetan und einen Leitfaden zu dem Thema veröffentlicht.
Der Leitfaden bietet einen Überblick über wesentliche Bedrohungen und entsprechende Gegenmaßnahmen, die von Nutzerinnen und Nutzern ergriffen werden sollten. Im November 2023 wurden die „Guidelines for secure AI system development“ unter Beteiligung des BSI veröffentlicht, die unter britischer Leitung entstanden waren.
Die Leitlinien ist in vier Schlüsselbereiche innerhalb des Lebenszyklus der KI-Systementwicklung gegliedert:
- sicherer Entwurf,
- sichere Entwicklung,
- sicherer Einsatz sowie
- sicherer Betrieb und Wartung.
Für jeden Abschnitt schlagen die SAutoren Überlegungen und Maßnahmen vor, die dazu beitragen sollen, das Gesamtrisiko für den Entwicklungsprozess eines KI-Systems zu verringern.
Verwandte Produkte
Das könnte Sie auch interessieren
-
Folge 95: Ein „KI-Seepferdchen“ für alle – Befähigung und Schutz in der digitalen Welt
Das „KI-Seepferdchen“ wurde von der unabhängigen Expertenkommission „Kinder und Jugendschutz in der digitalen Welt“ im Juni 2026 als Maßnahme vorgeschlagen. Es geht darum, Kinder schon im Grundschulalter mit den Möglichkeiten und Risiken von KI in Form von Chatbots vertraut zu machen. Die Vermittlung von KI-Kompetenz ist eine Rechtspflicht auch für Schulen und Schulträger. Die Expertenkommission
Mehr erfahren -
Folge 94: KI-Reallabore, Kinder und Gesundheit
Die unabhängige Expertenkommission „Kinder- und Jugendschutz in der digitalen Welt“ hat am 24. Juni 2026 ihre Handlungsempfehlungen vorgelegt. Der Bericht trägt den Titel „Entwicklung stärken, Verantwortung übernehmen“ und befasst sich insbesondere mit den Auswirkungen Künstlicher Intelligenz auf Kinder und Jugendliche. Markus Beckedahl, der Gründer des Zentrums für Digitalrechte und Demokratie, diskutiert das „KI-Seepferdchen“ (HE 12),
Mehr erfahren -
Koalitionsausschuss beschließt „Vereinfachung“ des Datenschutzrechts
Koalitionsausschuss beschließt Vereinfachung des Datenschutzrechts Im Rahmen des am 2. Juli 2026 vorgestellten Reformpakets „Ein Programm für Aufschwung und Beschäftigung“ haben CDU/CSU und SPD unter Punkt 14 weitreichende Änderungen im Bereich Datenschutz angekündigt. Unter der Überschrift „Moderner Datenschutz für mehr Wachstum“ kündigt die Koalition an, den nationalen Datenschutz zu vereinfachen und die in der DS-GVO
Mehr erfahren
