Risiko- und Folgenabschätzung von KI-Systemen
2021 wurde der Ausschuss für Künstliche Intelligenz (CAI) beauftragt, einen rechtsverbindlichen Vertrag zu KI auf Basis der Europarats-Standards zu entwickeln. Nach Verhandlungen mit 46 Mitgliedsstaaten, der EU und 11 Nichtmitgliedsstaaten verabschiedete der Europarat am 17. Mai 2024 das Rahmenübereinkommen über KI, Menschenrechte, Demokratie und Rechtsstaatlichkeit.
Dieses technologieneutrale Abkommen regelt den gesamten Lebenszyklus von KI-Systemen, fördert Innovation und adressiert Risiken für Grundwerte. Ergänzend wurde HUDERIA, eine Methodik zur Folgenabschätzung von KI-Systemen, entwickelt, die technische und soziotechnische Aspekte berücksichtigt.
Der Europarat hat ein aktuelles Papier (Stand 28.11.2024) zu dieser Methodik zur Risiko- und Folgenabschätzung von KI-Systemen im Hinblick auf Menschenrechte, Demokratie und Rechtsstaatlichkeit veröffentlicht.
Das Dokument beschreibt die HUDERIA-Methodik, eine vom Europarat entwickelte, nicht rechtsverbindliche Anleitung zur Risiko- und Folgenabschätzung von KI-Systemen im Hinblick auf Menschenrechte, Demokratie und Rechtsstaatlichkeit. Sie bietet einen strukturierten Ansatz mit vier Elementen: Kontextbezogene Risikoanalyse (COBRA), Prozess der Stakeholder-Einbindung (SEP), Risiko- und Folgenabschätzung (RIA) und Maßnahmenplan (MP).
Die Methodik verfolgt einen soziotechnischen Ansatz und betont Iterationen zur kontinuierlichen Überprüfung und Anpassung der Maßnahmen im gesamten Lebenszyklus des KI-Systems. Ziel ist die Förderung verantwortungsvoller KI-Entwicklung und -Anwendung, die die genannten Werte schützt. Die Anleitung beinhaltet detaillierte Fragen und Hinweise zur Durchführung der einzelnen Schritte.
(Foto: ImageFlow – stock.adobe.com)
Verwandte Produkte
Das könnte Sie auch interessieren
-
Folge 95: Ein „KI-Seepferdchen“ für alle – Befähigung und Schutz in der digitalen Welt
Das „KI-Seepferdchen“ wurde von der unabhängigen Expertenkommission „Kinder und Jugendschutz in der digitalen Welt“ im Juni 2026 als Maßnahme vorgeschlagen. Es geht darum, Kinder schon im Grundschulalter mit den Möglichkeiten und Risiken von KI in Form von Chatbots vertraut zu machen. Die Vermittlung von KI-Kompetenz ist eine Rechtspflicht auch für Schulen und Schulträger. Die Expertenkommission
Mehr erfahren -
Folge 94: KI-Reallabore, Kinder und Gesundheit
Die unabhängige Expertenkommission „Kinder- und Jugendschutz in der digitalen Welt“ hat am 24. Juni 2026 ihre Handlungsempfehlungen vorgelegt. Der Bericht trägt den Titel „Entwicklung stärken, Verantwortung übernehmen“ und befasst sich insbesondere mit den Auswirkungen Künstlicher Intelligenz auf Kinder und Jugendliche. Markus Beckedahl, der Gründer des Zentrums für Digitalrechte und Demokratie, diskutiert das „KI-Seepferdchen“ (HE 12),
Mehr erfahren -
Koalitionsausschuss beschließt „Vereinfachung“ des Datenschutzrechts
Koalitionsausschuss beschließt Vereinfachung des Datenschutzrechts Im Rahmen des am 2. Juli 2026 vorgestellten Reformpakets „Ein Programm für Aufschwung und Beschäftigung“ haben CDU/CSU und SPD unter Punkt 14 weitreichende Änderungen im Bereich Datenschutz angekündigt. Unter der Überschrift „Moderner Datenschutz für mehr Wachstum“ kündigt die Koalition an, den nationalen Datenschutz zu vereinfachen und die in der DS-GVO
Mehr erfahren
