Risiko- und Folgenabschätzung von KI-Systemen
2021 wurde der Ausschuss für Künstliche Intelligenz (CAI) beauftragt, einen rechtsverbindlichen Vertrag zu KI auf Basis der Europarats-Standards zu entwickeln. Nach Verhandlungen mit 46 Mitgliedsstaaten, der EU und 11 Nichtmitgliedsstaaten verabschiedete der Europarat am 17. Mai 2024 das Rahmenübereinkommen über KI, Menschenrechte, Demokratie und Rechtsstaatlichkeit.
Dieses technologieneutrale Abkommen regelt den gesamten Lebenszyklus von KI-Systemen, fördert Innovation und adressiert Risiken für Grundwerte. Ergänzend wurde HUDERIA, eine Methodik zur Folgenabschätzung von KI-Systemen, entwickelt, die technische und soziotechnische Aspekte berücksichtigt.
Der Europarat hat ein aktuelles Papier (Stand 28.11.2024) zu dieser Methodik zur Risiko- und Folgenabschätzung von KI-Systemen im Hinblick auf Menschenrechte, Demokratie und Rechtsstaatlichkeit veröffentlicht.
Das Dokument beschreibt die HUDERIA-Methodik, eine vom Europarat entwickelte, nicht rechtsverbindliche Anleitung zur Risiko- und Folgenabschätzung von KI-Systemen im Hinblick auf Menschenrechte, Demokratie und Rechtsstaatlichkeit. Sie bietet einen strukturierten Ansatz mit vier Elementen: Kontextbezogene Risikoanalyse (COBRA), Prozess der Stakeholder-Einbindung (SEP), Risiko- und Folgenabschätzung (RIA) und Maßnahmenplan (MP).
Die Methodik verfolgt einen soziotechnischen Ansatz und betont Iterationen zur kontinuierlichen Überprüfung und Anpassung der Maßnahmen im gesamten Lebenszyklus des KI-Systems. Ziel ist die Förderung verantwortungsvoller KI-Entwicklung und -Anwendung, die die genannten Werte schützt. Die Anleitung beinhaltet detaillierte Fragen und Hinweise zur Durchführung der einzelnen Schritte.
(Foto: ImageFlow – stock.adobe.com)
Verwandte Produkte
Das könnte Sie auch interessieren
-
Wegweiser stärkt Schutz von Kommunen vor Cyberangriffen
Das Bundesamt für Bevölkerungsschutz und Katastrophenhilfe (BBK) und das Bundesamt für Sicherheit in der Informationstechnik (BSI) haben am 10. Dezember 2024 den Wegweiser „Kommunale IT-Krisen: Handlungsfähigkeit sichern“ veröffentlicht. Ziel der Handreichung ist es, Kommunen gezielt dabei zu unterstützen, IT-Krisen zu bewältigen und die Folgen von Cyberangriffen auf ein Minimum zu reduzieren. Cyberangriffe – eine wachsende
Mehr erfahren -
KI-Kompetenzen im deutschen Arbeitsmarkt
Ein neues Papier (Qualifizierungsbedarfe und Künstliche Intelligenz – Ein webanalytischer Ansatz mittels Generativer KI) des Fraunhofer-Institut für Arbeitswirtschaft und Organisation IAO untersucht den Bedarf an KI-Kompetenzen bei Fachkräften, insbesondere im Kontext neuer Technologien wie generativer KI. Es konzentriert sich auf Expertenanforderungen, im Gegensatz zu allgemeiner KI-Literatur, und nutzt eine neuartige GenAI-basierte Webanalyse von Stellenanzeigen, um
Mehr erfahren -
KI in der Anwaltskanzlei: Chancen verantwortungsvoll nutzen
KI-Anwendungen bieten vielfältige Möglichkeiten für den Einsatz in Anwaltskanzleien, bringen jedoch auch berufsrechtliche Herausforderungen mit sich. Insbesondere „große“ Sprachmodelle wie ChatGPT, bieten vielfältige Einsatzmöglichkeiten – von Recherche- und Analyse-Tools bis hin zur automatisierten Übersetzung von Rechtsdokumenten. Ein neuer Leitfaden der Bundesrechtsanwaltskammer (BRAK) unterstützt Anwältinnen und Anwälte dabei, KI-Tools rechtssicher und berufsrechtskonform zu nutzen Sprachmodelle generieren
Mehr erfahren
