Risiko- und Folgenabschätzung von KI-Systemen
2021 wurde der Ausschuss für Künstliche Intelligenz (CAI) beauftragt, einen rechtsverbindlichen Vertrag zu KI auf Basis der Europarats-Standards zu entwickeln. Nach Verhandlungen mit 46 Mitgliedsstaaten, der EU und 11 Nichtmitgliedsstaaten verabschiedete der Europarat am 17. Mai 2024 das Rahmenübereinkommen über KI, Menschenrechte, Demokratie und Rechtsstaatlichkeit.
Dieses technologieneutrale Abkommen regelt den gesamten Lebenszyklus von KI-Systemen, fördert Innovation und adressiert Risiken für Grundwerte. Ergänzend wurde HUDERIA, eine Methodik zur Folgenabschätzung von KI-Systemen, entwickelt, die technische und soziotechnische Aspekte berücksichtigt.
Der Europarat hat ein aktuelles Papier (Stand 28.11.2024) zu dieser Methodik zur Risiko- und Folgenabschätzung von KI-Systemen im Hinblick auf Menschenrechte, Demokratie und Rechtsstaatlichkeit veröffentlicht.
Das Dokument beschreibt die HUDERIA-Methodik, eine vom Europarat entwickelte, nicht rechtsverbindliche Anleitung zur Risiko- und Folgenabschätzung von KI-Systemen im Hinblick auf Menschenrechte, Demokratie und Rechtsstaatlichkeit. Sie bietet einen strukturierten Ansatz mit vier Elementen: Kontextbezogene Risikoanalyse (COBRA), Prozess der Stakeholder-Einbindung (SEP), Risiko- und Folgenabschätzung (RIA) und Maßnahmenplan (MP).
Die Methodik verfolgt einen soziotechnischen Ansatz und betont Iterationen zur kontinuierlichen Überprüfung und Anpassung der Maßnahmen im gesamten Lebenszyklus des KI-Systems. Ziel ist die Förderung verantwortungsvoller KI-Entwicklung und -Anwendung, die die genannten Werte schützt. Die Anleitung beinhaltet detaillierte Fragen und Hinweise zur Durchführung der einzelnen Schritte.
(Foto: ImageFlow – stock.adobe.com)
Verwandte Produkte
Das könnte Sie auch interessieren
-
Kennzeichnung KI-generierter Werbeinhalte
Die Wettbewerbszentrale hat einen Leitfaden zu den Kennzeichnungspflichten für KI-generierte Inhalte in der Werbung vorgelegt, der die seit dem 2. August 2026 geltenden Transparenzvorschriften der KI-Verordnung (Art. 50 KI-VO) mit dem lauterkeitsrechtlichen Rahmen des UWG verzahnt. Deepfakes bei Bild, Ton und Video Nach Art. 50 Abs. 4 KI-VO müssen Betreiber – definiert als jede Person
Mehr erfahren -
Kein Anspruch auf vollständige Kopie eines Compliance-Berichts
Das Bundesarbeitsgericht hat mit Urteil vom 16.04.2026 (8 AZR 169/25) klargestellt, dass sich das datenschutzrechtliche Auskunftsrecht nach Art. 15 Abs. 1 i.V.m. Abs. 3 S. 1 DS-GVO grundsätzlich nur auf die in einem Dokument enthaltenen personenbezogenen Daten bezieht und nicht auf das Dokument als Ganzes. Sachverhalt Eine leitende Angestellte war Gegenstand einer arbeitgeberseitig beauftragten Compliance-Untersuchung
Mehr erfahren -
Praxisleitfaden zu KI-Systemen mit geringem Risiko
Der Landesbeauftragte für Datenschutz und Informationsfreiheit Mecklenburg-Vorpommern (LfDI MV) hat im Juli 2026 einen praxisorientierten Leitfaden zum datenschutzkonformen und digital-souveränen Einsatz Künstlicher Intelligenz vorgelegt. Adressiert werden explizit Verantwortliche in kleineren Verwaltungen sowie KMU, die KI-Systeme mit begrenztem oder minimalem Risiko im Sinne der KI-VO einsetzen – etwa interne Chatbots oder Text-Zusammenfassungstools. Damit schließt der LfDI
Mehr erfahren
