BSI: Chancen und Risiken generativer KI-Modelle
Es gibt bereits zahlreiche Veröffentlichungen, die sich den Chancen aber auch den Risiken widmen, die mit der Nutzung von generativen KI-Modellen einhergehen können.
Unter diesen sticht die Ausarbeitung des BSI sicher schon bereits deswegen hervor, weil sie sich naturgemäß auf das Thema IT-Sicherheitsrisiko fokussiert, wenn die Gefahrenseite generativer KI-Modelle betrachtet wird.
Das BSI wendet sich mit einer Aktualisierung der Veröffentlichung „Generative KI-Modelle -Chancen und Risiken für Industrie und Behörden“ (Stand 17.01.2025) an Unternehmen und Behörden, die über den Einsatz generativer KI-Modelle in ihren Arbeitsabläufen nachdenken, um ein grundlegendes Sicherheitsbewusstsein für diese Modelle zu schaffen und ihren sicheren Einsatz zu fördern. Hierzu werden neben Chancen die wichtigsten aktuellen Gefahren, daraus resultierende Risiken während der Planungsund Entwicklungsphase, dem Betrieb und der Verwendung von generativen KI-Modellen sowie mögliche Gegenmaßnahmen bezogen auf den gesamten Lebenszyklus der Modelle aufgezeigt.
Die Ausarbeitung des BSI kann damit als Grundlage für eine systematische Risikoanalyse dienen, die im Zusammenhang mit der Planungs- und Entwicklungsphase, dem Betrieb oder der Verwendung von generativen KI-Modellen durchgeführt werden sollte. Die Veröffentlichung geht auch auf das Thema „Privacy Attacks“ ein:
Dieser Begriff hat sich in der KI-Literatur als Standard für Angriffe etabliert, bei denen sensible Trainingsdaten rekonstruiert werden. Diese müssen jedoch nicht, anders als der Begriff vielleicht suggeriert, einen Personenbezug haben und können beispielsweise auch Firmengeheimnisse oder ähnliches darstellen. Es ist zu beachten, dass das BSI keine Aussagen zu Datenschutzaspekten im rechtlichen Sinne trifft.
Die aktuelle Fassung wurde um die Chancen, Risiken und Gegenmaßnahmen im Kontext von Bild- und Videogeneratoren ergänzt. Die Risiken und Gegenmaßnahmen wurden innerhalb der Kategorien entsprechend der Reihenfolge, in der sie im Lebenszyklus generativer KI-Modelle auftreten, umsortiert.
Zudem wurden die Risiken teilweise umstrukturiert oder der Einfachheit wegen zusammengefasst.
Vorhandene Informationen zu großen KI-Sprachmodellen wurden auf den aktuellen Stand gebracht. Die Risiken und Maßnahmen wurden aufgrund der Betrachtung weiterer Ausgabemodalitäten jeweils in einen
allgemeingültigen Teil und ggf. weitere modalitätsspezifische Informationen unterteilt.
Bundesamt für Sicherheit in der Informationstechnik (BSI)
Verwandte Produkte
Das könnte Sie auch interessieren
-
Folge 91: KI-Kompetenz und KI-Kompetenzen
KI ist ein Werkzeug, welches vielfältig eingesetzt wird. Das erfordert Verständnis für die neue Technik und Kompetenz für den Einsatz. Allerdings kann KI auch Kompetenzen in Menschen entfalten und gezielt eingesetzt werden, um sich seiner selbst bewusster zu werden. Wie das gehen kann, erklärt die Buchautorin Céleste Spahić im DataAgenda Datenschutz Podcast. Weitere ThemenFolge 82:
Mehr erfahren -
Datenschutzkonforme Anwesenheitsübersicht im Zeiterfassungssystem
Ein Fallbeispiel aus dem sächsischen Tätigkeitsbericht 2025 zeigt, wie die flächendeckende Freischaltung einer „Anwesenheitsübersicht“ in einem elektronischen Zeiterfassungssystem gegen den Grundsatz der Datenminimierung verstoßen kann – und welche Konsequenzen drohen, wenn Verantwortliche die datenschutzrechtliche Erforderlichkeit nicht hinreichend begründen können. Ausgangslage In sächsischen Finanzämtern war die Funktion „Anwesenheitsübersicht“ eines Zeiterfassungssystems zunächst so konfiguriert, dass sämtliche Beschäftigte
Mehr erfahren -
Mieterselbstauskunft: Datenschutzaufsicht zieht klare Grenzen
Ein aktueller Fall (Ziffer 2.2.) aus dem Tätigkeitsbericht 2025 der Sächsichen Datenschutzaufsichtsbehörde verdeutlicht, dass Mieterselbstauskünfte in der Praxis nach wie vor häufig datenschutzrechtlich unzulässige Abfragen enthalten – und dass Aufsichtsbehörden auch ohne festgestellten Verstoß im Einzelfall tätig werden können. Der Fall Ein Mietinteressent erhielt von einem Wohnungsmakler bereits vor der Wohnungsbesichtigung eine umfangreiche Selbstauskunft, die
Mehr erfahren
