Risiko- und Folgenabschätzung von KI-Systemen
2021 wurde der Ausschuss für Künstliche Intelligenz (CAI) beauftragt, einen rechtsverbindlichen Vertrag zu KI auf Basis der Europarats-Standards zu entwickeln. Nach Verhandlungen mit 46 Mitgliedsstaaten, der EU und 11 Nichtmitgliedsstaaten verabschiedete der Europarat am 17. Mai 2024 das Rahmenübereinkommen über KI, Menschenrechte, Demokratie und Rechtsstaatlichkeit.
Dieses technologieneutrale Abkommen regelt den gesamten Lebenszyklus von KI-Systemen, fördert Innovation und adressiert Risiken für Grundwerte. Ergänzend wurde HUDERIA, eine Methodik zur Folgenabschätzung von KI-Systemen, entwickelt, die technische und soziotechnische Aspekte berücksichtigt.
Der Europarat hat ein aktuelles Papier (Stand 28.11.2024) zu dieser Methodik zur Risiko- und Folgenabschätzung von KI-Systemen im Hinblick auf Menschenrechte, Demokratie und Rechtsstaatlichkeit veröffentlicht.
Das Dokument beschreibt die HUDERIA-Methodik, eine vom Europarat entwickelte, nicht rechtsverbindliche Anleitung zur Risiko- und Folgenabschätzung von KI-Systemen im Hinblick auf Menschenrechte, Demokratie und Rechtsstaatlichkeit. Sie bietet einen strukturierten Ansatz mit vier Elementen: Kontextbezogene Risikoanalyse (COBRA), Prozess der Stakeholder-Einbindung (SEP), Risiko- und Folgenabschätzung (RIA) und Maßnahmenplan (MP).
Die Methodik verfolgt einen soziotechnischen Ansatz und betont Iterationen zur kontinuierlichen Überprüfung und Anpassung der Maßnahmen im gesamten Lebenszyklus des KI-Systems. Ziel ist die Förderung verantwortungsvoller KI-Entwicklung und -Anwendung, die die genannten Werte schützt. Die Anleitung beinhaltet detaillierte Fragen und Hinweise zur Durchführung der einzelnen Schritte.
(Foto: ImageFlow – stock.adobe.com)
Verwandte Produkte
Das könnte Sie auch interessieren
-
BSI veröffentlicht Methodikleitfaden für Grundschutz++
Das Bundesamt für Sicherheit in der Informationstechnik hat Anfang April 2026 die erste Version seines Leitfadens zur Methodik des Grundschutz++ veröffentlicht. Das Dokument markiert einen weiteren Schritt bei der Ablösung des klassischen IT-Grundschutzes durch den modernisierten Nachfolgestandard. Inhalt und Zielsetzung Der Leitfaden bildet einen zukunftsgerichteten Ordnungsrahmen für den systematischen Aufbau und die Weiterentwicklung eines Informationssicherheitsmanagementsystems.
Mehr erfahren -
Folge 91: KI-Kompetenz und KI-Kompetenzen
KI ist ein Werkzeug, welches vielfältig eingesetzt wird. Das erfordert Verständnis für die neue Technik und Kompetenz für den Einsatz. Allerdings kann KI auch Kompetenzen in Menschen entfalten und gezielt eingesetzt werden, um sich seiner selbst bewusster zu werden. Wie das gehen kann, erklärt die Buchautorin Céleste Spahić im DataAgenda Datenschutz Podcast. Weitere ThemenFolge 82:
Mehr erfahren -
Datenschutzkonforme Anwesenheitsübersicht im Zeiterfassungssystem
Ein Fallbeispiel aus dem sächsischen Tätigkeitsbericht 2025 zeigt, wie die flächendeckende Freischaltung einer „Anwesenheitsübersicht“ in einem elektronischen Zeiterfassungssystem gegen den Grundsatz der Datenminimierung verstoßen kann – und welche Konsequenzen drohen, wenn Verantwortliche die datenschutzrechtliche Erforderlichkeit nicht hinreichend begründen können. Ausgangslage In sächsischen Finanzämtern war die Funktion „Anwesenheitsübersicht“ eines Zeiterfassungssystems zunächst so konfiguriert, dass sämtliche Beschäftigte
Mehr erfahren
