BSI beleuchtet Chancen und Risiken generativer KI-Modelle
Es gibt bereits einige gute Veröffentlichungen, die sich den Chancen aber auch den Risiken widmen, die mit der Nutzung von generativen KI-Modellen einhergehen können.
Unter diesen sticht die Ausarbeitung des BSI sicher schon bereits deswegen hervor, weil sie sich naturgemäß auf das Thema IT-Sicherheitsrisiko fokussiert, wenn die Gefahrenseite generativer KI-Modelle betrachtet wird.
Das BSI wendet sich mit dieser Publikation (Generative KI-Modelle -Chancen und Risiken für Industrie und Behörden) an Unternehmen und Behörden, die über den Einsatz generativer KI-Modelle in ihren Arbeitsabläufen nachdenken, um ein grundlegendes Sicherheitsbewusstsein für diese Modelle zu schaffen und ihren sicheren Einsatz zu fördern. Hierzu werden neben Chancen die wichtigsten aktuellen Gefahren, daraus resultierende Risiken während der Planungsund Entwicklungsphase, dem Betrieb und der Verwendung von generativen KI-Modellen sowie mögliche Gegenmaßnahmen bezogen auf den gesamten Lebenszyklus der Modelle aufgezeigt.
Die Ausarbeitung des BSI kann damit als Grundlage für eine systematische Risikoanalyse dienen, die im Zusammenhang mit der Planungs- und Entwicklungsphase, dem Betrieb oder der Verwendung von generativen KI-Modellen durchgeführt werden sollte. Die Veröffentlichung geht auch auf das Thema „Privacy Attacks“ ein:
Dieser Begriff hat sich in der KI-Literatur als Standard für Angriffe etabliert, bei denen sensible Trainingsdaten rekonstruiert werden. Diese müssen jedoch nicht, anders als der Begriff vielleicht suggeriert, einen Personenbezug haben und können beispielsweise auch Firmengeheimnisse oder ähnliches darstellen. Es ist zu beachten, dass das BSI keine Aussagen zu Datenschutzaspekten im rechtlichen Sinne trifft.
Bundesamt für Sicherheit in der Informationstechnik (BSI)
(Foto: Michael_G – stock.adobe.com)
Verwandte Produkte
Das könnte Sie auch interessieren
-
E-Mails mit Personendaten: unterschätzte Haftungsfalle
Die Referenten präsentieren aktuelle Analysen, die aufzeigen, an welchen Stellen nicht mehr genutzte personenbezogene Daten sowie sensible Passwort- oder Login-Informationen in den unstrukturierten Datenquellen (zum Beispiel E-Mail) enthalten sind. Dabei erläutern sie, welche Folgen diese Verbreitung für Haftung und mögliche Strafen hat und wie dadurch das Risiko von Ransomware-Angriffen steigt. Erfahren Sie in unserem Webinar
Mehr erfahren -
Folge 65: Justizbehörde gegen den Hass im Netz – Wie die ZAC NRW Onlinekriminalität bekämpft
Im Gespräch mit Staatsanwalt Dr. Christoph Hebbecker geht es um die Aufgabe eines Ermittlers gegen Hasskriminalität bei der Zentral- und Ansprechstelle Cybercrime Nordrhein-Westfalen. Das Spektrum der „ZAC NRW“ reicht von Kooperationen mit Medienunternehmen und Fußballvereinen bis hin zur Zusammenarbeit mit Anbietern von Onlineplattformen unter der Digital Services Act (DSA). Allen, die sich dafür interessieren, wie
Mehr erfahren -
Rückzug von Hochschulen und Forschungseinrichtungen aus „X“ (ehemals Twitter)
Mehr als 60 deutschsprachige Hochschulen und Forschungseinrichtungen haben beschlossen, ihre Aktivitäten auf der Plattform X (ehemals Twitter) einzustellen. Dieser Schritt erfolgt aufgrund der fehlenden Vereinbarkeit der aktuellen Plattformpolitik mit den Grundwerten der Institutionen, insbesondere in Bezug auf Weltoffenheit, wissenschaftliche Integrität, Transparenz und demokratischen Diskurs. Kritisiert wird unter anderem die algorithmische Verstärkung rechtspopulistischer Inhalte sowie die
Mehr erfahren
