KI-Agenten: BayLDA beantwortet zwölf Datenschutzfragen

KI-Agenten erledigen Aufgaben zunehmend selbstständig: Sie recherchieren, schreiben E-Mails, greifen auf Unternehmensanwendungen zu und merken sich Informationen über längere Zeit. Das Bayerische Landesamt für Datenschutzaufsicht (BayLDA) hat dazu zwölf FAQ veröffentlicht. Ihr Kern: Die Selbstständigkeit des Agenten entbindet den Verantwortlichen von keiner Pflicht.

Das BayLDA versteht unter KI-Agenten Systeme, die mehrere Arbeitsschritte weitgehend eigenständig planen und ausführen, dabei andere Anwendungen nutzen und teilweise über eine dauerhafte Speicherfunktion („Memory“) verfügen. Dadurch steigen die Risiken: Agenten greifen auf mehr Daten zu, verknüpfen sie und können sie unbeabsichtigt weitergeben. Hinzu kommen fehlerhafte oder erfundene Ergebnisse, Angriffe durch manipulierte Anweisungen (Prompt Injection) und Abläufe, die schwer nachvollziehbar sind.

Kein Zugriff auf alles

Ausdrücklich verneint das BayLDA die Frage, ob Agenten auf sämtliche verfügbaren Unternehmensdaten zugreifen dürfen: „Die technische Möglichkeit eines Datenzugriffs bedeutet nicht, dass dieser auch datenschutzrechtlich zulässig ist.“ Nach dem Grundsatz der Datenminimierung (Art. 5 Abs. 1 lit. c DS-GVO) sind Einsatzbereiche und Zugriffsrechte vor dem Einsatz auf das Erforderliche zu begrenzen. Sollen vorhandene Daten für neue Aufgaben genutzt werden, etwa zur Leistungsbewertung von Beschäftigten, kann eine Zweckänderung nach Art. 6 Abs. 4 DS-GVO vorliegen.

Memory ist nicht gleich Training

Bei Memory-Funktionen sind Speicherzweck und Speicherdauer festzulegen, Informationen verschiedener Personen und Zwecke zu trennen sowie Berichtigung und Löschung sicherzustellen. Das BayLDA stellt klar, dass eine Speicherung im Memory nicht zwangsläufig bedeutet, dass mit den Daten auch das Modell trainiert wird. Protokolle, Memory-Inhalte und vom Agenten erzeugte Bewertungen können personenbezogen sein und damit unter die Betroffenenrechte der Art. 15 bis 21 DS-GVO fallen.

Trifft ein Agent Entscheidungen über Personen, etwa automatisierte Absagen im Bewerbungsverfahren, kann Art. 22 DS-GVO greifen. Eine lediglich formale Bestätigung durch einen Menschen reicht nicht aus. Verantwortlich bleibt das einsetzende Unternehmen; bei externen Anbietern ist die Rolle nach Art. 26 oder 28 DS-GVO zu klären und bei Drittlandbezug Kapitel V zu beachten. Eine Datenschutz-Folgenabschätzung ist nicht automatisch Pflicht. Sie ist aber besonders zu prüfen bei umfangreicher Datenverknüpfung, besonderen Kategorien personenbezogener Daten, der Bewertung von Beschäftigten oder Entscheidungen mit erheblicher Wirkung.

Was vor dem Agenten-Rollout festzulegen ist

Wer Agenten einführen will, auch als Funktion bestehender Office- oder CRM-Lösungen, sollte vorab Einsatzzweck, Zugriffsrechte, Memory-Regeln und Freigabestufen schriftlich festlegen. Das BayLDA nennt als Maßnahmen unter anderem begrenzte Zugriffsrechte, eine nach Zweck getrennte Speicherung, befristete Memory-Inhalte, eine datensparsame Protokollierung, Schutz vor manipulierten Anweisungen, eine menschliche Freigabe risikoreicher Aktionen und die Möglichkeit, Verarbeitungsschritte zu unterbrechen. Ergänzend sind die Informationspflichten nach Art. 13 und 14 DS-GVO sowie mögliche Transparenzpflichten aus der KI-Verordnung zu prüfen. Parallel hat das BayLDA auf derselben Seite den Entwurf einer Checkliste „Datenschutz und KI“ zur Konsultation gestellt; Anmerkungen nimmt es unter ki@lda.bayern.de entgegen.

(Foto: Studio KN – stock.adobe.com)