BayLfD baut Informationsangebot zu KI und Datenschutz aus

Der Bayerische Landesbeauftragte für den Datenschutz (BayLfD) erweitert kontinuierlich sein Angebot zur datenschutzkonformen Gestaltung von KI-Einsatzszenarien in der bayerischen Verwaltung. Hintergrund ist die zunehmende Nutzung von KI-Anwendungen durch öffentliche Stellen, die bei Verarbeitung personenbezogener Daten datenschutzrechtliche Anforderungen auslöst. Zentrales Referenzdokument bleibt die Orientierungshilfe „Datenschutz bei KI-Projekten in der bayerischen Verwaltung“, die den rechtlichen Rahmen aus KI-Verordnung sowie unionalem und nationalem Datenschutzrecht zusammenführt.

Reihe „AI in a nutshell“ wächst weiter

Ergänzend zur umfassenden Orientierungshilfe veröffentlicht der BayLfD kompakte Praxispapiere zu einzelnen Einsatzszenarien aus seiner Prüf- und Beratungstätigkeit. Mittlerweile liegen sechs Ausgaben vor, unter anderem zur Anbindung von RAG-Subsystemen, zu KI-gestützten Übersetzungstools, LLM-Chatbots, Recherche-Unterstützung, Schreibassistenz und KI-basierter Textzusammenfassung.

Besonders praxisrelevant ist die vierte Ausgabe zu KI-Systemen zur Recherche-Unterstützung, die typischerweise Sprachmodelle mit Anbindung an behördeninterne Dokumentensammlungen, Fachdatenbanken oder Register kombinieren. Das Papier benennt konkrete Prüfpunkte entlang von Implementierung und Nutzung: Dazu zählen die erforderliche Freigabe solcher Systeme durch die einsetzende Stelle, KI-Kompetenzschulungen nach Art. 4 KI-VO, die Deaktivierung eines „Nachtrainings“ mit Eingabedaten sowie die Minimierung von Nutzerdaten – etwa durch restriktive Speicherung der Prompthistorie. Bei der Nutzung mahnt der BayLfD insbesondere die Vermeidung personenbezogener Eingaben ohne Rechtsgrundlage sowie eine sorgfältige Prüfung der Ausgaben auf Richtigkeit an, da KI-Systeme auch Halluzinationen, etwa erfundene Gerichtsentscheidungen oder Quellen, als faktisch präsentieren können. Ergänzend verweist das Papier auf die Kennzeichnungspflicht für KI-generierte Inhalte nach Art. 50 KI-VO, die entfällt, sobald Ausgaben redaktionell überarbeitet und fachlich geprüft werden.

Abgerundet wird das Angebot durch einschlägige Beiträge aus den Tätigkeitsberichten sowie Verweise auf Stellungnahmen des Europäischen Datenschutzausschusses und Positionspapiere der Datenschutzkonferenz, darunter die Hambacher Erklärung zur Künstlichen Intelligenz.

(Foto: Raza – stock.adobe.com)