Praxisleitfaden zu KI-Systemen mit geringem Risiko

Der Landesbeauftragte für Datenschutz und Informationsfreiheit Mecklenburg-Vorpommern (LfDI MV) hat im Juli 2026 einen praxisorientierten Leitfaden zum datenschutzkonformen und digital-souveränen Einsatz Künstlicher Intelligenz vorgelegt. Adressiert werden explizit Verantwortliche in kleineren Verwaltungen sowie KMU, die KI-Systeme mit begrenztem oder minimalem Risiko im Sinne der KI-VO einsetzen – etwa interne Chatbots oder Text-Zusammenfassungstools. Damit schließt der LfDI bewusst eine Lücke zu bestehenden Orientierungshilfen, die sich überwiegend auf komplexere Hochrisiko-Systeme konzentrieren.

Grundlegender Managementprozess statt Einzelmaßnahmen

Kernempfehlung ist die Etablierung eines kontinuierlichen KI-Management-Prozesses nach dem Plan-Do-Check-Act-Prinzip, angelehnt an den Datenschutzmanagement-Prozess des Standard-Datenschutzmodells (SDM). Darauf aufbauend schlägt der Leitfaden ein sechsstufiges Vorgehen vor: Bestandsaufnahme und Dokumentation des KI-Systems, Bestimmung der Akteursrolle (Anbieter oder Betreiber) nach Art. 3 Nr. 8 KI-VO, Risikoeinstufung gemäß den vier Risikostufen der Verordnung, Prüfung der DS-GVO-Anforderungen bei Verarbeitung personenbezogener Daten, geeignete technische Umsetzung sowie abschließende Dokumentation samt Aktualisierung von Verarbeitungsverzeichnis und Datenschutzerklärung. Eine beigefügte Checkliste im Anhang führt Verantwortliche schrittweise durch diesen Prozess.

Datenschutzrechtliche und KI-rechtliche Doppelspur

Der Leitfaden betont, dass DS-GVO und KI-VO parallel zu prüfen sind: Für die Datenverarbeitung braucht es stets eine Rechtsgrundlage und ggf. eine Schwellwertanalyse zur Frage einer Datenschutz-Folgenabschätzung; unabhängig davon gelten nach Art. 4 KI-VO KI-Kompetenz-Pflichten für alle Risikostufen sowie nach Art. 50 KI-VO Transparenzpflichten für Systeme mit begrenztem Risiko. Bei Fine-Tuning oder RAG-Erweiterungen mit personenbezogenen Daten verweist der Leitfaden auf zusätzliche Risiken wie die Extraktion von Trainingsdaten.

Souveränität und KI-Agenten als Schwerpunktthemen

Ausdrücklich empfohlen wird ein interner (on-premise), möglichst quelloffener Betrieb gegenüber Cloud-Lösungen, um Abhängigkeiten von Drittanbietern zu minimieren; die DSK-Kriterien für souveräne Clouds dienen dabei als Referenzrahmen. Ein eigener Anhang widmet sich autonomen KI-Agenten und warnt vor der „tödlichen Dreifaltigkeit“ aus Zugriff auf interne Daten, Zugriff auf nicht vertrauenswürdige Internetinhalte und autonomer externer Kommunikationsfähigkeit – eine Kombination, die Prompt-Injection-Angriffe und Manipulationsrisiken begünstigt. Der Leitfaden fordert, ungemanagte KI-Agenten grundsätzlich nicht einzusetzen und die menschliche Letztentscheidung sicherzustellen.

Der Leitfaden eignet sich insbesondere für Organisationen, die einen ersten strukturierten Einstieg in die KI-Compliance suchen, ohne sich mit den komplexeren Hochrisiko-Vorgaben der Art. 6 ff. KI-VO befassen zu müssen.

(Foto: Gorodenkoff – stock.adobe.com)