Erste Regelungen der KI-Verordnung in Kraft getreten

Für Arbeitgeber gilt es daher folgende Neuerungen zu beachten: Nach Art. 5 KI-VO sind solche KI-Systeme grundsätzlich verboten, die ein unannehmbar hohes Risiko beinhalten. Gemeint sind damit KI-Systeme, von denen eine eindeutige Bedrohung ausgeht, weil sie z. B. manipulieren, täuschen oder Merkmale von Personen (Alter, Geschlecht, Herkunft etc.) kalkuliert ausnutzen können. Die KI-VO katalogisiert diese verbotenen KI-Systeme in Art. 5, darunter z. B. solche, die ein sogenanntes social scoring vornehmen, KI-gestützte Kriminalitätsvorhersagen, Emotionserkennungen in Schulen und an Arbeitsplätzen oder Systeme zur biometrischen Identifizierung. Das Verbot nach Art. 5 KI-VO ist grundsätzlich sanktionsbewährt nach Art. 99 KI-VO. Danach können Bußgelder von bis zu 7,5 Millionen Euro oder bis zu 1 Prozent des Jahresumsatzes verhängt werden – je nachdem, welcher Betrag höher ist. Nach Art. 4 KI-VO müssen Arbeitgeber außerdem als sogenannte Betreiber Maßnahmen ergreifen, um sicherzustellen, dass alle Beschäftigten, die mit der Nutzung von KI-Anwendungen befasst sind, über ein ausreichendes Maß an KI-Kompetenz verfügen. Dabei sind technische Vorkenntnisse, Erfahrungen, Qualifikation sowie der Kontext, in dem die KI-Systeme eingesetzt werden, individuell zu berücksichtigen. KI-Kompetenzen sind nach der Legaldefinition des Art. 3 Nr. 56 KI-VO „die Kenntnisse und das Verständnis, die es Anbietern, Betreibern und Betroffenen unter Berücksichtigung ihrer jeweiligen Rechte und Pflichten im Rahmen dieser Verordnung ermöglichen, KI-Systeme sachkundig einzusetzen sowie sich der Chancen und Risiken von KI und möglicher Schäden, die sie verursachen kann, bewusst zu werden.“ Dabei ist die Vorschrift leider wenig konkretisiert. Welche Maßnahmen erforderlich sind, hängt im Einzelfall von der eingesetzten KI und den Beschäftigten ab. Zudem gilt die Pflicht zum Ergreifen von Maßnahmen für die Kompetenzvermittlung grundsätzlich für alle KI-Anwendungen, unabhängig von der Risikoklassifizierung nach Art. 5, 6, 50 oder 95 KI-VO. Das Unterlassen von Maßnahmen nach Art. 4 KI-VO stellt eine Sorgfaltspflichtverletzung dar, die bei Eintritt eines Schadens eine Schadensersatzpflicht auslösen kann. Daher gilt es, jetzt zu reagieren und Maßnahmen zu ergreifen.