BSI beleuchtet Chancen und Risiken generativer KI-Modelle
Es gibt bereits einige gute Veröffentlichungen, die sich den Chancen aber auch den Risiken widmen, die mit der Nutzung von generativen KI-Modellen einhergehen können.
Unter diesen sticht die Ausarbeitung des BSI sicher schon bereits deswegen hervor, weil sie sich naturgemäß auf das Thema IT-Sicherheitsrisiko fokussiert, wenn die Gefahrenseite generativer KI-Modelle betrachtet wird.
Das BSI wendet sich mit dieser Publikation (Generative KI-Modelle -Chancen und Risiken für Industrie und Behörden) an Unternehmen und Behörden, die über den Einsatz generativer KI-Modelle in ihren Arbeitsabläufen nachdenken, um ein grundlegendes Sicherheitsbewusstsein für diese Modelle zu schaffen und ihren sicheren Einsatz zu fördern. Hierzu werden neben Chancen die wichtigsten aktuellen Gefahren, daraus resultierende Risiken während der Planungsund Entwicklungsphase, dem Betrieb und der Verwendung von generativen KI-Modellen sowie mögliche Gegenmaßnahmen bezogen auf den gesamten Lebenszyklus der Modelle aufgezeigt.
Die Ausarbeitung des BSI kann damit als Grundlage für eine systematische Risikoanalyse dienen, die im Zusammenhang mit der Planungs- und Entwicklungsphase, dem Betrieb oder der Verwendung von generativen KI-Modellen durchgeführt werden sollte. Die Veröffentlichung geht auch auf das Thema „Privacy Attacks“ ein:
Dieser Begriff hat sich in der KI-Literatur als Standard für Angriffe etabliert, bei denen sensible Trainingsdaten rekonstruiert werden. Diese müssen jedoch nicht, anders als der Begriff vielleicht suggeriert, einen Personenbezug haben und können beispielsweise auch Firmengeheimnisse oder ähnliches darstellen. Es ist zu beachten, dass das BSI keine Aussagen zu Datenschutzaspekten im rechtlichen Sinne trifft.
Bundesamt für Sicherheit in der Informationstechnik (BSI)
(Foto: Michael_G – stock.adobe.com)
Letztes Update:15.04.24
Verwandte Produkte
Das könnte Sie auch interessieren
-
Google Fonts: Generalanwalt verneint Schadensersatz bei provozierten Datenschutzverstößen
Wer Datenschutzverstöße gezielt herbeiführt, um anschließend Geld zu verlangen, soll nach Auffassung von Generalanwalt Maciej Szpunar keinen Schadensersatz nach Art. 82 DS-GVO erhalten. Das geht aus seinen Schlussanträgen vom 5. November 2026 in der Rechtssache C-654/25 hervor. Hintergrund: die Abmahnwelle Vorgelegt hat der Bundesgerichtshof mit Beschluss vom 28. August 2025 (VI ZR 258/24). Ihm lag
Mehr erfahren -
KI im Recruiting: EDSA kündigt europaweite Prüfaktion für 2027 an
Die europäischen Datenschutzaufsichtsbehörden nehmen 2027 automatisierte Entscheidungen bei der Personalauswahl ins Visier. Das hat der Europäische Datenschutzausschuss (EDSA) in seiner Plenarsitzung beschlossen und am 11. November 2026 bekannt gegeben. Sechste koordinierte Prüfaktion Das Thema der sechsten Aktion im Coordinated Enforcement Framework (CEF) ist die automatisierte Entscheidungsfindung im Recruiting, ausdrücklich auch mit KI. Im Mittelpunkt stehen
Mehr erfahren -
Einsatz von KI trotz fraglicher Trainingsdaten
Darf man ein Sprachmodell nutzen, dessen Trainingsdaten möglicherweise rechtswidrig erhoben wurden? Der Hamburgische Datenschutzbeauftragte zeigt am eigenen Einsatz des Verwaltungs-Chatbots LLMoin, wie das gelingen kann. Den Schwerpunkt legt er auf Schutzmaßnahmen auf Systemebene. Der Hamburgische Beauftragte für Datenschutz und Informationsfreiheit (HmbBfDI) hat am 05.11.2026 eine Fallstudie zum KI-Chatbot LLMoin veröffentlicht. LLMoin ist ein Chatbot der
Mehr erfahren




