BSI veröffentlicht Leitfaden zur sicheren Nutzung von KI-Systemen
Nicht nur in den Deutschland werden neben den vielen Vorteilen von KI-Systemen, auch die mit der Entwicklung und Anwendung von KI-Systemen verbundenen Risiken gesehen.
Mit Blick darauf, den identifizierten Gefahren und möglichen Bedrohungen verfügbaren Gegenmaßnahmen entgegen setzen zu können, hat sich das Bundesamt für Sicherheit in der Informationstechnik (BSI) mit seinen Partnerbehörden aus Australien, Israel, Japan, Kanada, Neuseeland, Norwegen, Schweden, Singapur, dem Vereinigten Königreich und den Vereinigten Staaten zusammengetan und einen Leitfaden zu dem Thema veröffentlicht.
Der Leitfaden bietet einen Überblick über wesentliche Bedrohungen und entsprechende Gegenmaßnahmen, die von Nutzerinnen und Nutzern ergriffen werden sollten. Im November 2023 wurden die „Guidelines for secure AI system development“ unter Beteiligung des BSI veröffentlicht, die unter britischer Leitung entstanden waren.
Die Leitlinien ist in vier Schlüsselbereiche innerhalb des Lebenszyklus der KI-Systementwicklung gegliedert:
- sicherer Entwurf,
- sichere Entwicklung,
- sicherer Einsatz sowie
- sicherer Betrieb und Wartung.
Für jeden Abschnitt schlagen die SAutoren Überlegungen und Maßnahmen vor, die dazu beitragen sollen, das Gesamtrisiko für den Entwicklungsprozess eines KI-Systems zu verringern.
Verwandte Produkte
Das könnte Sie auch interessieren
-
Folge 96: Legal AI zwischen Vollkornbrot und Burger: Warum generative KI nicht alles ist
„Es kommt darauf an.“ Das ist eine Lieblingsantwort von Juristen. Sie ist oft unbefriedigend, aber ebenso oft richtig.Bei der Frage, ob und wofür man in der Rechtsberatung ein digitales Hilfsmittel einsetzt – etwa ein sogenanntes deterministisches Expertensystem, das sich mit Vollkornbrot vergleichen lässt, oder eine generative KI, die eher einem „AI-Burger“ entspricht –, kommt es
Mehr erfahren -
Umgang mit E-Mail-Postfächern bei Abwesenheit und Ausscheiden von Beschäftigten
Der Umgang mit personalisierten E-Mail-Konten ausgeschiedener oder länger abwesender Mitarbeitender zählt zu den häufig nachgefragten Beratungsthemen im Beschäftigtendatenschutz. Im Zentrum steht die Frage, ob und unter welchen Voraussetzungen Arbeitgeber:innen auf betroffene Postfächer zugreifen dürfen. Prävention durch klare Prozesse Verantwortliche sollten datenschutzrechtlichen Konflikten bereits durch organisatorische Weichenstellungen vorbeugen. Zu prüfen ist zunächst, ob personalisierte Postfächer überhaupt
Mehr erfahren -
Auskunftsrecht nach Art. 15 DS-GVO gegenüber Rechtsanwält:innen
Beschwerden über unbeantwortete oder unvollständig beantwortete Auskunftsersuchen gegenüber Kanzleien und Einzelanwält:innen gehören zu den regelmäßig auftretenden Fallkonstellationen der Aufsichtspraxis. Im Fokus steht zumeist die Frage der Reichweite des Auskunftsrechts betroffener Personen gegenüber Berufsgeheimnisträger:innen. Grundsatz: DS-GVO gilt auch für Rechtsanwält:innen Rechtsanwält:innen unterliegen als Verantwortliche im Sinne der DS-GVO grundsätzlich uneingeschränkt deren Vorgaben und müssen geeignete Maßnahmen
Mehr erfahren
