KI im Justizbetrieb: Leitlinien für verantwortlichen Einsatz
Im Februar 2025 veröffentlicht die Sedona Conference Journal-Edition Volume 26 die Leitlinien „Navigating AI in the Judiciary“, verfasst von fünf Richterpersönlichkeiten und einer KI-Expertin. Sie richten sich an gerichtliche Entscheidungsträger*innen und ihr Umfeld in den US-amerikanischen Bundes- und Landesgerichten. Ziel ist es, einen praxisnahen Orientierungsrahmen für den KI- und insbesondere GenAI-Einsatz im Justizbetrieb zu etablieren.
Grundprinzipien für den Einsatz
Die Leitlinien betonen, dass gerichtliche Autorität ausschließlich bei Richter:innen liegt – KI darf diese nicht ersetzen. Sie soll die Justiz unterstützen, nicht deren Unabhängigkeit oder Integrität gefährden. Richter:innen bleiben fachliche und ethische Verantwortungsträger:innen, einschließlich der kritischen Überprüfung von KI-generierten Ergebnissen.
Grenzen der KI und Risikobewusstsein
Generative KI erzeugt Inhalte auf Grundlage komplexer Trainingsdaten – allerdings ohne juristische Urteilskraft oder Verlässlichkeit. Der Text weist auf typische Fehlerquellen wie „Halluzinationen“ (plausibel klingende, aber unzutreffende Ausgabe), Automationsbias (Blindes Vertrauen in KI-Ergebnisse) sowie Bestätigungsfehler (Fokus auf Informationen, die eigene Vorannahmen bestätigen) hin. Auch Vertraulichkeit, Datenschutz und das Potenzial zur Offenlegung sensibler Informationen über Prompts müssen berücksichtigt werden.
Zulässige Einsatzbereiche unter Aufsicht
Trotz der Einschränkungen dürfen KI-Technologien nach Auffassung der Autoren unterstützend genutzt werden – stets unter menschlicher Kontrolle – etwa für:
- Legal Research (mit zuverlässiger Datenbasis)
- Zusammenfassungen von Schriftsätzen, Zeugenaussagen, Akten oder Beweismitteln
- Entwürfe für Routinebeschlüsse
- Korrekturlesen und Formatkontrolle
- Erstellung von Zeitplänen, Dokumentenorganisation oder Barrierefreiheitshilfen
Dynamischer Orientierungsrahmen
Die Leitlinien sind als lebendes Dokument konzipiert: Sie sollen regelmäßig angepasst werden, um mit technologischen Fortschritten, besserer Zuverlässigkeit von KI-Tools und neuen rechtlichen bzw. ethischen Erkenntnissen Schritt zu halten. Zentral bleibt dabei: Jede KI-Ausgabe muss letztlich vom Menschen verifiziert werden.
(Foto: asadykov – stock.adpobe.com)
Verwandte Produkte
-
0,00 € Mehr erfahren
-
0,00 € Mehr erfahren
-
0,00 € Mehr erfahren
Das könnte Sie auch interessieren
-
Tätigkeitsbericht als Steuerungsinstrument für Datenschutzbeauftragte
Die französische Datenschutzbehörde CNIL jüngst eine Empfehlung samt Mustervorlage für den Tätigkeitsbericht des Datenschutzbeauftragten veröffentlicht. Die Empfehlungen decken sich weitgehend mit der deutschen Praxis – mit einer bemerkenswerten Ausnahme. Obwohl weder DS-GVO noch BDSG einen Tätigkeitsbericht für betriebliche Datenschutzbeauftragte vorschreiben, empfiehlt die CNIL diesen als zentrale Best Practice. Das entspricht der gelebten Praxis auch im
Mehr erfahren -
Praxisnahe Handreichung zum Datenpannenmanagement
Passend zur jüngsten Verwarnung der BVG durch die BlnBDI hat das Unabhängige Landeszentrum für Datenschutz Schleswig-Holstein (ULD) eine strukturierte Handreichung zum Vorgehen bei Datenpannen veröffentlicht – ein nützliches Referenzdokument für Datenschutzverantwortliche, das die wesentlichen Pflichten kompakt und praxisorientiert aufbereitet. Meldepflicht und Risikobewertung als Ausgangspunkt Die Meldepflicht nach Art. 33 DS-GVO liegt stets beim Verantwortlichen –
Mehr erfahren -
LLM-gestützte Chatbots in der öffentlichen Verwaltung
Der Bayerische Landesbeauftragte für den Datenschutz (BayLfD) hat mit „AI in a Nutshell 3“ eine praxisorientierte Kurzinformation zum datenschutzkonformen Einsatz von LLM-gestützten Chatbots in bayerischen Behörden veröffentlicht. Das Dokument strukturiert die relevanten Anforderungen entlang der drei Phasen Beschaffung, Implementierung und Nutzung. Beschaffung: Vorabprüfung als Pflichtprogramm Bereits im Vorfeld der Beschaffung ist umfassend zu klären, ob
Mehr erfahren
