AI-Act: Weltweit erstes KI-Gesetz beschlossen

Das Europäische Parlament hat nach langem Ringen das erste Gesetz für Künstliche Intelligenz (KI) beschlossen, das darauf abzielt, Grundrechte, Demokratie, Rechtsstaatlichkeit und ökologische Nachhaltigkeit zu schützen. Zugleich soll die Verordnung Innovationen fördern und Europa als führenden Standort für KI etablieren. 

Die neuen Bestimmungen legen Verpflichtungen für KI basierend auf potenziellen Risiken und Auswirkungen fest. Unter anderem werden bestimmte KI-Anwendungen verboten, die Bürgerrechte gefährden könnten, darunter biometrische Klassifizierungssysteme und die willkürliche Sammlung von Gesichtsbildern aus dem Internet.  Des Weiteren sind Emotionserkennung am Arbeitsplatz und in Schulen, soziale Bewertung, vorausschauende Polizeiarbeit und KI, die menschliches Verhalten manipuliert, untersagt. Der Einsatz biometrischer Identifikationssysteme durch Strafverfolgungsbehörden ist grundsätzlich untersagt, außer in eng definierten Situationen.  Zusätzlich müssen künstliche oder manipulierte Inhalte eindeutig gekennzeichnet werden. Auf nationaler Ebene werden regulatorische Sandboxen und Tests eingerichtet, um innovativen KI-Entwicklungen den Weg auf den Markt zu ebnen.

Der Bundesbeauftragte für den Datenschutz und die Informationsfreiheit (BfDI) begrüßte die KI-Verordnung als Ergänzung zur Datenschutz-Grundverordnung (DS-GVO). Bei vielen der Vorgaben für Hochrisiko-KI-Systeme sieht der BfDI in der Verordnung einen engen Bezug zum Datenschutz. So werde beispielsweise der Schutz vor automatisierter Entscheidung aus der DSGVO gestärkt und durch das Erfordernis menschlicher Aufsicht bei KI-unterstützten Entscheidungsfindungen erweitert.
Gleichzeitig bedauert der BfDI, dass einige der vom Europäischen Datenschutzausschuss (EDSA) und dem Europäischen Datenschutzbeauftragten (EDSB) in einer gemeinsamen Stellungnahme in 2021 geäußerten Kritikpunkte nicht umgesetzt wurden:
Das Fehlen eines klaren Verbots biometrischer Fernerkennung im öffentlichen Raum bewertet der BfDI als Versäumnis. Die Bundesregierung solle die Öffnungsklausel daher für striktere nationale Verbote nutzen.

(Foto: Alexander Limbach – stock.adobe.com)