Risiko- und Folgenabschätzung von KI-Systemen
2021 wurde der Ausschuss für Künstliche Intelligenz (CAI) beauftragt, einen rechtsverbindlichen Vertrag zu KI auf Basis der Europarats-Standards zu entwickeln. Nach Verhandlungen mit 46 Mitgliedsstaaten, der EU und 11 Nichtmitgliedsstaaten verabschiedete der Europarat am 17. Mai 2024 das Rahmenübereinkommen über KI, Menschenrechte, Demokratie und Rechtsstaatlichkeit.
Dieses technologieneutrale Abkommen regelt den gesamten Lebenszyklus von KI-Systemen, fördert Innovation und adressiert Risiken für Grundwerte. Ergänzend wurde HUDERIA, eine Methodik zur Folgenabschätzung von KI-Systemen, entwickelt, die technische und soziotechnische Aspekte berücksichtigt.
Der Europarat hat ein aktuelles Papier (Stand 28.11.2024) zu dieser Methodik zur Risiko- und Folgenabschätzung von KI-Systemen im Hinblick auf Menschenrechte, Demokratie und Rechtsstaatlichkeit veröffentlicht.
Das Dokument beschreibt die HUDERIA-Methodik, eine vom Europarat entwickelte, nicht rechtsverbindliche Anleitung zur Risiko- und Folgenabschätzung von KI-Systemen im Hinblick auf Menschenrechte, Demokratie und Rechtsstaatlichkeit. Sie bietet einen strukturierten Ansatz mit vier Elementen: Kontextbezogene Risikoanalyse (COBRA), Prozess der Stakeholder-Einbindung (SEP), Risiko- und Folgenabschätzung (RIA) und Maßnahmenplan (MP).
Die Methodik verfolgt einen soziotechnischen Ansatz und betont Iterationen zur kontinuierlichen Überprüfung und Anpassung der Maßnahmen im gesamten Lebenszyklus des KI-Systems. Ziel ist die Förderung verantwortungsvoller KI-Entwicklung und -Anwendung, die die genannten Werte schützt. Die Anleitung beinhaltet detaillierte Fragen und Hinweise zur Durchführung der einzelnen Schritte.
(Foto: ImageFlow – stock.adobe.com)
Verwandte Produkte
Das könnte Sie auch interessieren
-
Folge 83: Psychologie im Spiegel der KI
Die Haltung der Menschen zu KI wandelt sich nach dem Befund des Psychologen Stephan Grünewald. Aus dem Zauberstab des „Allmachts-Boosters“ sei eine Bedrohung geworden. KI sei zwischen „persönlichem Heinzelmann und gefügigem Traumpartner“ gestartet: „Was kann ich noch selbst? Und wer bin ich überhaupt noch?“. Diese Fragen stellen sich für den Menschen. Wie hätte man vor
Mehr erfahren -
Folge 86: KI-Daten-Wirtschaft – Der Parlamentarische Abend der GDD im Rückblick
Im Dezember 2025 hat die GDD zum Parlamentarischen Abend in der Deutschen Parlamentarischen Gesellschaft in Berlin eingeladen. Unter der Schirmherrschaft von MdB Günter Krings haben Thomas Jarzombek, Parlamentarischer Staatssekretär im BMDS, Dr. Daniela Brönstrup, Vizepräsidentin der BNetzA, und DSK-Chef Tobias Keber, VAUNET-Chef Claus Grewenig, der Neuropathologe Felix Sahm und Kristin Benedikt diskutiert, moderiert von Rolf
Mehr erfahren -
EuGH: Banken haften auch ohne Verurteilung ihrer Organmitglieder
Der Europäische Gerichtshof hat mit Urteil vom 29. Januar 2026 (C-291/24) entschieden, dass die EU-Geldwäscherichtlinie einer nationalen Regelung entgegensteht, die Sanktionen gegen juristische Personen von der förmlichen Feststellung der Schuld natürlicher Personen abhängig macht. Das Urteil stärkt die Durchsetzbarkeit von Compliance-Anforderungen im Finanzsektor. Ausgangssachverhalt aus Österreich Die österreichische Finanzmarktaufsicht (FMA) hatte gegen die Steiermärkische Bank
Mehr erfahren
