Das Gesetz über künstliche Intelligenz

Das Thema

Die KI-VO ist der weltweit erste gesetzliche Rahmen für die Anwendung künstlicher Intelligenz.

Auch im Arbeitsverhältnis werden immer mehr Software-Tools eingesetzt, die Elemente künstlicher Intelligenz enthalten. Daher müssen sich Arbeitgeber frühzeitig mit ihren neuen Pflichten auseinandersetzen, wenn sie KI einsetzen wollen.

Was ist KI?

Der Begriff „künstliche Intelligenz“ wurde erstmals in den 50er-Jahren benutzt. Ein einheitliches Verständnis davon, was künstliche Intelligenz ist, gibt es bis heute nicht. Auch als der deutsche Gesetzgeber 2021 im Rahmen des Betriebsrätemodernisierungsgesetzes den Begriff „künstliche Intelligenz“ an drei Stellen in das Betriebsverfassungsgesetz aufgenommen hat, hat er auf eine Definition verzichtet.

Der Europäische Gesetzgeber hat sich bei der KI-VO an die Definition der OECD angelehnt (Art. 3 Nr. 1 KI-VO). Danach ist ein KI-System ein maschinengestütztes System,

1. das für einen in wechselndem Maße autonomen Betrieb ausgelegt ist,
2. das nach seiner Einführung anpassungsfähig sein kann und
3. das aus den erhaltenen Eingaben Ergebnisse wie etwa Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen hervorbringt, die physische oder virtuelle Umgebungen beeinflussen können.

Anwendungsbereich

Ähnlich wie wir es auch aus der DSGVO kennen, erstreckt sich der Anwendungsbereich der KI-VO nicht nur auf Anbieter und Betreiber, die ihren Sitz in der EU haben, sondern auch auf Anbieter und Betreiber, wenn das vom System hervorgebrachte Ergebnis in der Union verwendet wird.

Auch Arbeitgeber, die ihren Sitz in der EU haben oder in der EU Personen beschäftigen, können damit in den Anwendungsbereich der KI-VO fallen, wenn sie KI-Systeme nutzen.

Einteilung der Systeme

Der Gesetzgeber verfolgt in der KI-VO einen risikobasierten Ansatz. Danach werden KI-Systeme wie folgt eingeteilt:

• KI-Systeme mit unannehmbarem Risiko (verbotene Praktiken)
• KI-Systeme mit hohem Risiko (Hochrisiko-KI-Systeme)
• Sonstige KI-Systeme

Verbotene KI-Praktiken

Art. 5 KI-VO verbietet den Einsatz von verbotenen Praktiken. Welche Bedeutung hat dieses Verbot im Beschäftigungskontext?

Art. 5 verbietet ausdrücklich die Verwendung von KI-Systemen zur Erkennung von Emotionen einer natürlichen Person am Arbeitsplatz.

Zu den verbotenen Praktiken gehören aber Systeme der unterschwelligen Beeinflussung. Das kann z.B. bei Anreizsystemen der Fall sein und damit in gewissen Bereichen auch Arbeitsverhältnisse betreffen.

Hochrisiko-KI-Systeme

Anhang III der KI-VO enthält eine Liste mit Hochrisiko-KI-Systemen. Ziffer 4 dieser Liste hat die Überschrift „Beschäftigung, Personalmanagement und Zugang zur Selbständigkeit“. Danach zählen zu Hochrisiko-KI-Systemen

• KI-Systeme, die bestimmungsgemäß für die Einstellung oder Auswahl natürlicher Personen verwendet werden sollen, insbesondere um gezielte Stellenanzeigen zu schalten, Bewerbungen zu sichten oder zu filtern und Bewerber zu bewerten;
• KI, die bestimmungsgemäß für Entscheidungen, die die Bedingungen von Arbeitsverhältnissen, Beförderungen und Kündigungen von Arbeitsvertragsverhältnissen beeinflussen, für die Zuweisung von Aufgaben aufgrund des individuellen Verhaltens oder persönlicher Merkmale oder Eigenschaften oder für die Beobachtung und Bewertung der Leistung und des Verhaltens von Personen in solchen Beschäftigungsverhältnissen verwendet werden soll.

Pflichten für Anbieter und Betreiber

Die meisten Pflichten treffen die Anbieter von Hochrisiko-KI-Systemen. Arbeitgeber werden in aller Regel Betreiber solcher Systeme und nicht Anbieter sein. Aber auch Betreiber treffen Pflichten. So müssen die Hochrisiko-KI-Systeme in Übereinstimmung mit der mitgelieferten Gebrauchsanweisung verwendet werden. Betreiber müssen natürlichen Personen, die über die erforderliche Kompetenz verfügen, die Aufsicht übertragen und ihnen die erforderliche Unterstützung zukommen lassen. Protokolle, die von einem Hochrisiko-KI-System automatisch erzeugt werden, sind für mindestens sechs Monate aufzubewahren.

Vor der Inbetriebnahme oder Verwendung eines Hochrisiko-KI-Systems müssen Betreiber Arbeitnehmervertreter und Arbeitnehmer darüber informieren, dass sie Gegenstand des Einsatzes des Hochrisiko-KI-Systems sein werden.

Die Informationspflicht der Arbeitnehmervertretungen kennen wir in Deutschland bereits aus § 80 BetrVG, die Information der Arbeitnehmer hingegen ist neu und geht über das hinaus, worüber Beschäftigten nach Art. 13 / 14 DSGVO zu informieren sind.

Wann tritt die KI-VO in Kraft?

Die KI-VO wird 20 Tage nach der Veröffentlichung im Amtsblatt der Europäischen Union in Kraft treten.

Sie gilt dann grundsätzlich zwei Jahre nach dem Inkrafttreten. Einige Bestimmungen werden aber schon früher anwendbar sein. Dazu zählen die Regelungen über verbotene Systeme, die bereits nach sechs Monaten anwendbar sein werden.

Was ändert sich bei der Mitbestimmung?

Rechtliche Änderungen im Rahmen der betrieblichen Mitbestimmung bei der Nutzung von KI-Systemen wird es keine geben. Dennoch werden KI-Systeme Arbeitgeber und Betriebsräte vor neue Herausforderungen stellen. Verarbeiten KI-Systeme personenbezogene Daten, werden sie in aller Regel der Mitbestimmung des § 87 Abs. 1 Nr. 6 BetrVG unterliegen. Die Entscheidung des ArbG Hamburg zur Mitbestimmung bei Chat-GPT dürfte nicht verallgemeinerungsfähig sein (Beschl. v. 16.01.2024 – 24 BVGa 1/24, vgl. dazu den EFAR-Beitrag „Künstliche Intelligenz und Mitbestimmung des Betriebsrats: Einsatz von ChatGPT im Unternehmen“). Der Arbeitgeber hatte seinen Beschäftigten die Nutzung von ChatGPT über private Accounts gestattet und von daher keinen Zugriff auf etwaig in dem System verarbeiteten personenbezogenen Daten der Beschäftigten. Bei der Nutzung von vom Arbeitgeber bereitgestellten Accounts wäre die Entscheidung sicherlich anders ausgefallen.

Die ohnehin schon komplexen Verhandlungen bei der Einführung und Anwendung von IT-Systemen werden dadurch nicht einfacher werden. Aber auch andere Mitbestimmungsrechte können betroffen sein. Zu denken ist hier z.B. an § 87 Abs. 1 Nr. 7 BetrVG. KI-Systeme können aber auch erhebliche Auswirkungen auf die Arbeitsabläufe haben. Das kann dazu führen, dass die Einführung interessenausgleichspflichtig ist und – wenn damit auch ein Abbau von Arbeitsplätzen einhergeht – sogar sozialplanpflichtig.

Die Einbeziehung der Arbeitnehmervertretungen sollte angesichts der Komplexität zu einem frühen Zeitpunkt erfolgen, damit die notwendigen Verhandlungen rechtzeitig zum Abschluss gebracht werden können und die Einführung von KI-Systemen nicht verzögern.

Was können Arbeitgeber jetzt tun?

Der Zeitpunkt des Inkrafttretens der meisten Regelungen, vor allem zu den Hochrisiko-KI-Systemen irgendwann im Jahr 2026 scheint weit in der Zukunft zu liegen. Arbeitgeber sollten sich aber bereits jetzt mit den Auswirkungen der KI-VO befassen und die erforderlichen Schritte frühzeitig einleiten.

(Anm. d. Red.: Vgl. zum Thema auch die EFAR-Beiträge „ChatGPT und arbeitsrechtliche Aspekte“, „Rechtliche Aspekte von künstlicher Intelligenz in der Arbeitswelt“, „ChatGPT im Visier der Datenschutzbehörden: Droht ein Verbot?“ und „Künstliche Intelligenz, Arbeitsrecht und HR: Was ist beim Einsatz zu beachten?“)