Praxisleitfaden: Rechtliche Fragen zur KI im Unternehmenseinsatz

Die „Künstliche Intelligenz“ (KI) ist in unserem Alltag angekommen. Egal ob in Wirtschaft, Wissenschaft oder im gesellschaftlichen Diskurs – wir kommen kaum noch um sie herum. Unternehmen nutzen KI um Effizienzgewinne oder Wettbewerbsvorteile zu erlangen. Auf der anderen Seite gibt es angesichts der technischen Komplexität und der undurchsichtigen Datenverarbeitung aber auch kritische Stimmen.

Die Datenethikkommission der Bundesregierung versteht KI als Sammelbegriff für Technologien und Anwendungen. Diese greifen auf digitale Methoden zurück, die mit potenziell sehr großen und heterogenen Datensätzen arbeiten. Damit ermitteln sie einem komplexen und die menschliche Intelligenz gleichsam nachahmenden maschinellen Verarbeitungsprozess ein Ergebnis.

Schließlich gibt es auch abseits dessen Hürden für die Nutzung Künstlicher Intelligenz. Der Einsatz von KI als Teilgebiet der Informatik ist nicht nur aus technischer Sicht eine Herausforderung. Hinzu kommt eine starke Unsicherheit über den (datenschutz-)rechtlichen Rahmen.

Das Datenschutzrecht stellt bereits ohne die Anwendung von KI eine enorme Herausforderung für jede datenverarbeitende Stelle dar. Spätestens seit der Datenschutz-Grundverordnung (DS-GVO) kann sich kein Unternehmen aufgrund der drakonischen Bußgelder mehr erlauben den Datenschutz nicht ordentlich umzusetzen. Häufig werden beim Einsatz Künstlicher Intelligenz personenbezogene Daten in komplexer Art und Weise verarbeitet. Dies potenziert die vielfältigen Anforderungen des Datenschutzrechts noch weiter.

Die automatisierte Verarbeitung sehr großer und heterogener Datensätze kollidiert mit dem Zweckbindungsgrundsatz und vor allem mit dem Prinzip der Datenminimierung. Aus den Regelungen der DS-GVO und des Bundesdatenschutzgesetzes (BDSG) ergeben sich beim Einsatz von Künstlicher Intelligenz aufgrund der großen Datenmengen, die möglicherweise aus verschiedenen Datenquellen stammen, Fragen nach den Verantwortlichkeiten für die Datenverarbeitungen. Auch die durch Datenschutzerklärung bekannten Transparenzanforderungen der DS-GVO sind bei Anwendungen mit KI schwer zu erfüllen. Datenschutzrechtliche Regelungen sind also für den optimalen Einsatz Künstlicher Intelligenz von enormer Relevanz.

Eine aktuelle Veröffentlichung der Bertelsmann Stiftung möchte („KI in Unternehmen – Ein Praxisleitfaden zu rechtlichen Fragen“) eine handlungsorientierte Unterstützung zu diesem Thema geben. Sie richtet sich an Projektverantwortliche und Praktiker:innen in KMU, die Systeme speziell des Maschinellen Lernens in die betrieblichen Abläufe einfügen wollen. Eine rechtliche Grundorientierung wird als wichtig erachtet, weil viele rechtliche Aspekte möglichst frühzeitig im Projekt adressiert und damit die Weichen richtig gestellt werden müssen.
Darin beschäftigen sich die Autoren nicht nur mit Fragen wie
„Wann darf ich Inhalte für Trainingszwecke verwenden? Wem gehören die Arbeitsergebnisse einer KI?“, sondern auch mit datenschutzrechtlichen Fragestellungen:
„Welche Anforderungen bestehen an das System bei Umgang mit personenbezogenen Daten? Welche Daten darf ich für Trainingszwecke verwenden? Wie vermeide ich Diskriminierungen durch das System?)“.

Abgerundet werden diesen sind im mi Fragen, die sich im Bereich der Haftungsrisiken und arbeitsrechtlichen Aspekte bewegen.

Bertelsmann Stiftung

(Foto: RS-Studios – Stock.adobe.com)




Letztes Update:16.02.21

  • Online-Schulung: DS-GVO und Künstliche Intelligenz

    Online-Schulung: DS-GVO und Künstliche Intelligenz

    Online-Schulung

    678.60 € Mehr erfahren
  • Datenschutz International – wirksame Umsetzung bei grenzüberschreitenden Datentransfers

    Wirksamer Datenschutz muss auch den internationalen Datentransfer berücksichtigen. Deutsche Unternehmen sind häufig stark exportorientiert und global tätig. In der Konsequenz werden auch große Mengen an Daten ausgetauscht. Bei grenzüberschreitenden Datentransfers innerhalb und außerhalb des Unternehmens oder des Konzerns sind eine Vielzahl gesetzlicher Anforderungen zu erfüllen. Dies stellt für viele Unternehmen eine große Herausforderung dar. Die

    Mehr erfahren
  • GDD sammelt Datenpannen

    Der Europäische Datenschutzausschuss hat eine Konsultation zu Beispielsfällen einer Datenschutzverletzung initiiert (Guidelines 01/2021 on Examples regarding Data Breach Notification). Die GDD möchte durch eine Umfrage weitere Fallkonstellationen aus der Praxis sammeln und an den Europäischen Datenschutzausschuss über eine Stellungnahme von CEDPO zurückspielen. Immerhin besteht bei den datenverarbeitenden Stellen die große Herausforderung, eine Meldepflicht zu identifizieren. Dies zeigt

    Mehr erfahren
  • Korrekt Löschen nach DS-GVO

    Die Datenschutz-Grundverordnung (DS-GVO) als gesetzliche Regelung zur Verarbeitung personenbezogener Daten hat den Datenschutz nachhaltig verändert und geprägt. Sie verpflichtet jedes Unternehmen – unabhängig von seiner Größe – zur Implementierung eines Datenschutzmanagementsystems (DSMS). Jeder Verantwortliche hat deswegen eine Datenschutzorganisation vorzuweisen, die in der Lage ist, die Einhaltung datenschutzrechtlicher Pflichten zu gewährleisten. Eine der maßgeblichen Anforderungen ist

    Mehr erfahren