Folge 44: Regulierung Generativer KI zwischen Digitalwirtschaft und Datenschutzaufsicht
„Zeichne mir einen Menschen in der Küche“. Diese Aufforderung muss eine bildgenerierende Künstliche Intelligenz genderneutral erledigen, wenn kein geschlechterdiskriminierendes Menschenbild erzeugt werden soll. Die Daten, auf die Anwendungen zugreifen, die Sprache oder Bilder erzeugen, müssen unser Verständnis von Gut und Böse kennen, damit sie die Welt so abbilden können, wie wir sie wahrnehmen. Zugleich soll die Datenbasis neutral und unschuldig sein. Aber warum soll eine generative KI-Anwendung eigentlich nicht werten dürfen? Und wer bestimmt, ob eine Datenbasis Gutes oder Böses hervorbringt – die Programmierer, die Nutzer oder doch die Gesellschaft? Wie sieht es die Digitalwirtschaft und wie die Datenschutzaufsicht?
Ein DataAgenda-Podcast mit den Aleph Alpha Gründern Jonas Andrulis und Samuel Weinbach im Gespräch mit DSK und ULD-Schleswig Holstein Chefin Dr. hc. Marit Hansen und dem LfDI aus Baden-Württemberg Prof. Dr. Tobias Keber.
Verwandte Produkte
Das könnte Sie auch interessieren
-
Bafin wird Marktüberwachungsbehörde für KI-Systeme im Finanzsektor
Mit Inkrafttreten des Gesetzes zur Durchführung der europäischen KI-Verordnung (KI-MIG) am 29. Juli 2026 übernimmt die Bundesanstalt für Finanzdienstleistungsaufsicht (Bafin) die Marktüberwachung für KI-Systeme, die in direktem Zusammenhang mit einer regulierten Finanztätigkeit stehen. Die neue Zuständigkeit betrifft nach § 2 Abs. 3 KI-MIG von der Bafin oder der EZB beaufsichtigte Finanzunternehmen, Emittenten signifikanter vermögenswertreferenzierter Token
Mehr erfahren -
Transparenz- und Anonymisierungsmängel bei KI-gestütztem Inkasso
Im Jahresbericht 2025 schildert die Berliner Beauftragte für Datenschutz und Informationsfreiheit (BlnBDI) die Ergebnisse einer Vor-Ort-Prüfung bei einem Inkassounternehmen, das Schuldnerdaten mittels KI und Verhaltensforschung analysiert, um Ansprachekanal, Tonalität und Kontaktzeitpunkt zu optimieren. Über die reine Forderungseinziehung hinaus wurden die Daten zudem zum Training und zur Optimierung der eingesetzten KI-Modelle verwendet. Hierbei stellte die Behörde
Mehr erfahren -
Bußgeldverfahren wegen „Mitarbeiterexzessen“ im Gesundheits- und Polizeibereich
Die Berliner Beauftragte für Datenschutz und Informationsfreiheit (BlnBDI) berichtet in ihrem Jahresbericht 2025 über eine Vielzahl von Bußgeldverfahren wegen sogenannter Mitarbeiterexzesse – Fälle, in denen Beschäftigte personenbezogene Daten, auf die sie im Rahmen ihrer dienstlichen Tätigkeit berechtigten Zugriff hatten, unbefugt zu privaten Zwecken verarbeiteten. Betroffen waren insbesondere der Gesundheits- und der Polizeibereich; die Fälle verdeutlichen
Mehr erfahren
