Geprüfte KI-Anwendungen durch den HmbBfDI

Der Hamburgische Beauftragte für Datenschutz und Informationsfreiheit (HmbBfDI) hat im Berichtsjahr 2024/2025 mehrere KI-gestützte Systeme unter datenschutzrechtlichen Gesichtspunkten begleitet und bewertet. Die Anwendungen betreffen sowohl den öffentlichen Sektor als auch den Gesundheitsbereich und zeigen exemplarisch, welche Herausforderungen mit dem Einsatz lernender Systeme verbunden sind.
1. KI-gestützte Entlassbrief-Erstellung am UKE („ARGO CL“)
Das Universitätsklinikum Hamburg-Eppendorf nutzt mit „ARGO Clinical Letters“ ein KI-Sprachmodell zur automatisierten Erstellung von Arztbriefen. Grundlage des Systems ist ein LLM, das mit pseudonymisierten Behandlungsdaten aus der digitalen Patientenakte des UKE trainiert wurde. Die Datenschutzaufsicht prüft unter anderem:
- die datenschutzrechtliche Verantwortlichkeit (IDM/UKE),
- die Zulässigkeit des KI-Trainings auf Basis von Art. 9 Abs. 2 lit. j DSGVO i.V.m. § 12 HmbKHG,
- die Sicherstellung von Betroffenenrechten und
- die Qualität der Pseudonymisierung sowie Anonymisierung nach dem Training.
Besonderes Augenmerk gilt der wissenschaftlichen Zielsetzung des Projekts und der Pflicht zur transparenten Information der Betroffenen. Der Abschluss der Prüfung ist für 2025 vorgesehen.
2. „LLMoin“ – KI-Textassistent für die Hamburger Verwaltung
Der KI-Chatbot „LLMoin“, basierend auf GPT-4o, wird zur Textgenerierung und Recherche eingesetzt. Während zunächst keine personenbezogenen Daten verarbeitet werden durften, erlaubt die erweiterte Nutzung inzwischen deren Verarbeitung bei „normalem Schutzbedarf“. Der HmbBfDI bewertet laufend:
- die Verantwortlichkeitsverteilung zwischen Senatskanzlei und Fachbehörden,
- die Umsetzung von Betroffenenrechten, insbesondere im Prompting und bei Logdaten,
- die Notwendigkeit einer Datenschutz-Folgenabschätzung sowie
- die geplante zentrale Protokollierung und deren mögliche Verstöße gegen das Trennungsprinzip.
Positiv ist die frühzeitige Einbindung der Datenschutzaufsicht. Kritisch bleibt insbesondere die zentrale Speicherung von Logdaten mit möglichen Rückschlüssen auf Nutzerverhalten.
3. Erkennung von Ertrinkenden durch KI im Hamburger Schwimmbad
Im Bille-Bad testet die Stadt Hamburg das System „Lynxight“, das mithilfe maschinellen Lernens Bewegungsmuster erkennt, die auf drohende Ertrinkungsunfälle hinweisen. Der HmbBfDI begleitet den Pilotbetrieb unter besonderer Beachtung:
- der Zweckbindung und Datenminimierung,
- der räumlichen Begrenzung der Videoüberwachung,
- des Verzichts auf Cloud-Speicherung,
- der Gestaltung der Alarmierung (anonymisiert auf Smartwatch) sowie
- der datenschutzkonformen Kalibrierung.
Die Systeme sollen ausschließlich präventiv arbeiten und keine dauerhafte Videoauswertung zulassen. Eine kontinuierliche Beratung stellt sicher, dass offene datenschutzrechtliche Fragen eng begleitet werden.
(Foto: tippapatt – stock.adobe.com)
Letztes Update:06.04.25
Verwandte Produkte
-
Datenschutz in medizinischen Einrichtungen
Seminar
30.10.2025, 09:00 Uhr | online
708,05 € Mehr erfahren
Das könnte Sie auch interessieren
-
Datenschutz effizient organisieren und managen – Fokus: Audit-Modul
Der Referent wird im Vortrag das webbasierte Management-System DataAgenda Datenschutz Manager kurz vorstellen. Mit dem Management-System erfassen, verwalten und dokumentieren Sie sämtliche Datenschutzmaßnahmen wie beispielsweise TOMs, VVT, DSFA. Anschließend stellt der Referent das Modul Audit des DataAgenda Datenschutz Managers vor. Das Modul dient zur Überprüfung des eigenen oder eines anderen Unternehmens im Bezug zu den
Mehr erfahren -
Folge 69: Faire Bedingungen für Digitale Märkte: Die Rolle des Bundeskartellamts und seine Bezugspunkte zum Datenschutz
Das Bundeskartellamt spielt eine wichtige Rolle zum Schutz des Wettbewerbs. In der Digitalisierung kommt es zunehmend zu Berührungen mit dem Datenschutzrecht. Was sind die Aufgaben des Bundeskartellamts, welche Entwicklungen gibt es, wie unterscheiden sich Daten- und Kartellrecht und wie ergänzen sich die Rechtsgebiete?Einordnungen und Einschätzungen von Andreas Mundt. Der Präsident des Bundeskartellamts, im DataAgenda Podcast
Mehr erfahren -
12. Hamburger Datenschutztage 2025
Die Datenschutzpraxis steht nicht still: Neue gesetzliche Entwicklungen, technische Herausforderungen und steigende Anforderungen an die Organisation fordern Verantwortliche in Unternehmen und Verwaltung gleichermaßen. Orientierung und aktuelles Fachwissen bietet hier eine der wichtigsten Fachveranstaltungen des Jahres: die 12. Hamburger Datenschutztage am 26. und 27. Juni 2025. In Hamburg treffen sich erneut Fachleute aus Wirtschaft, Wissenschaft und
Mehr erfahren