„Künstliche Intelligenz“ (KI) gewinnt immer mehr an Bedeutung für die deutsche Wirtschaft. Sie wird vermehrt von Unternehmen entweder bereits in der Produktentwicklung oder innerhalb der Unternehmen selbst eingesetzt, um Prozesse zu vereinfachen und zu beschleunigen. Insbesondere ihr Einsatz im HR-Bereich, etwa der Einsatz von Chatbots im Rahmen von Bewerbungsprozessen, hat deutlich zugenommen. Während die Technik stetig voranschritt, „stolperte das Recht“ bislang noch hinterher. Doch besonders in den letzten Monaten hat der Gesetzgeber wichtige Schritte getan, KI zu regulieren.
Dazu zählt der Entwurf einer europäischen KI-Verordnung sowie das Betriebsrätemodernisierungsgesetz, letzteres zu neuen Mitbestimmungsrechten des BR im Bereich der KI. Welchen Einfluss die neuen Gesetze haben werden, wie die Rechtslage zur KI grundsätzlich aussieht und welche ethischen Gesichtspunkte es zu bedenken gilt, wird im Folgenden erörtert.
EU-Kommission nimmt Anwender in die Pflicht
Das Recht lässt im gewissen Rahmen den Einsatz von intelligenten Recruiting-Tools zu. Wichtig hierbei ist, dass zum einen die Datenerhebung, welche die Grundlage für die Entscheidung der KI bildet, und zum anderen die hierauf basierende Schlussfolgerung der KI zulässig sind. Besonders im Recruiting-Bereich war es keine Seltenheit, dass die KI fehlerhafte Entscheidungen traf. Dadurch kam es oftmals zur Benachteiligung bestimmter Bewerbergruppen, wie z.B. Frauen.
In solchen Fällen stellen sich vielerlei Fragen: Ist der Anwender verpflichtet, einzuschreiten oder sogar die KI abzuschalten, wenn diese gegen das Recht verstößt? Haftet der Anwender für etwaige Schäden?
Das deutsche Haftungsregime kann einige Fragen davon beantworten. Es kennt die Haftung für technische Systeme. Ein Anwender haftet, wenn durch das Betreiben der KI fahrlässig oder vorsätzlich eine Rechtsgutsverletzung an einem absoluten Recht (Leben, Körper, Gesundheit, Eigentum, sonstiges Recht) eingetreten ist, die zu einem Schaden geführt hat. In der Praxis ist ein vorwerfbares Fehlverhalten des Anwenders aber nur schwer nachweisbar. Außerdem mangelt es am vorwerfbaren Fehlverhalten dann, wenn die KI durch den Anwender beispielsweise ordnungsgemäß betrieben und gewartet worden ist und die KI dennoch auf Basis des Erlernten „Fehlschlüsse“ zieht. Dies birgt Haftungslücken.
Für den Bereich des autonomen Fahrens hat der deutsche Gesetzgeber bereits Maßnahmen ergriffen. 2017 wurde im Straßenverkehrsgesetz klargestellt, dass der Mensch Fahrzeugführer bleibt, auch wenn er die Funktion zum autonomen Fahren aktiviert hat und nicht mehr eigenhändig das Fahrzeug steuert. Derartige Regelungen gab es für den HR-Bereich bis jetzt nicht. Allerdings soll dies sich in näherer Zukunft ändern.
EU-Kommission legt Entwurf einer KI-Verordnung vor
Am 21. April 2021 hat die EU-Kommission einen Entwurf einer KI-Verordnung vorgelegt. Diese sieht vor, dass ein Anwender beim Einsatz von KI-Systemen mit hohem Risiko (wie z. B. bei Software zur Auswertung von Lebensläufen im Bewerbungsverfahren) eine Konformitätsbewertung durchführen muss, um nachzuweisen, dass die KI die verbindlichen Anforderungen an vertrauenswürdiger KI entspricht.
Diese Anforderungen bestehen beispielsweise in Bezug auf Datenqualität, Dokumentation und Rückverfolgbarkeit, Transparenz, menschliche Aufsicht, Genauigkeit und Robustheit. Eine Bewertung muss erneut vorgenommen werden, wenn die KI später selbst oder ihr Zweck wesentlich geändert werden. Verstöße gegen die Verordnung sollen – je nach Schwere – mit Bußgeldern bis zu 30 Millionen Euro oder sechs Prozent des gesamten weltweiten Vorjahresumsatzes geahndet werden.
Zusätzlich müssen Anwender die datenschutzrechtlichen Anforderungen der Datenschutzgrundverordnung (DSGVO) einhalten, allen voran, die Prinzipien der Datenminimierung und Transparenz. Auch wenn eine Datenminimierung zunächst der Nutzung von KI widersprechen könnte, da sie mit einem großen Umfang von Daten versorgt werden muss, um zu „lernen“, kann der Grundsatz nicht übergangen werden. Der Anwender muss deswegen technische und organisatorische Maßnahmen zum Schutz der personenbezogenen Daten implementieren und sicherstellen, dass der Mensch nicht zum Objekt herabgewürdigt oder diskriminiert wird.
Arbeitsrechtliche Fallstricke beim Einsatz von KI: Zuletzt Stärkung der Beteiligungsrechte des Betriebsrats
Der Einsatz von KI wird aus arbeitsrechtlicher Sicht vor allem mit Blick auf die Beteiligungsrechte des Betriebsrates sowie ggf. bestehender Entschädigungsansprüche von Bewerbern oder Mitarbeitern aufgrund des Einsatzes diskriminierender Algorithmen diskutiert.
Mit dem Betriebsrätemodernisierungsgesetz, das am 28. Juni 2021 in Kraft getreten ist, sollen nach dem Willen des Gesetzgebers die Beteiligungsrechte des Betriebsrates beim Einsatz von KI gestärkt werden.
Neu eingefügt wurde in § 80 Abs. 3 BetrVG, dass der Betriebsrat beim Einsatz von KI einen Sachverständigen beauftragen kann, ohne dass es auf die Erforderlichkeit der Beauftragung ankommt. Der Einwand, dass der Betriebsrat selbst die erforderlichen Kenntnisse besitzt oder die Angelegenheit nicht die Einbindung eines teuren Sachverständigen rechtfertigt, ist dem Arbeitgeber damit verwehrt.
Diese Änderung kann zu einer nicht unerheblichen Kostenlast für den Arbeitgeber führen. Zudem finden nun § 90 BetrVG (Unterrichtungsrecht bei der Planung von Arbeitsverfahren und Arbeitsabläufen) und § 95 BetrVG (Aufstellung von Auswahlrichtlinien) ausdrücklich auch dann Anwendung, wenn dabei KI zum Einsatz kommt.
Es bleibt zudem bei der zwingenden Mitbestimmung nach § 87 Abs. 1 Nr. 6 BetrVG bei der Einführung und Anwendung von technischen Einrichtungen (hierzu zählt Hard- und Software), die objektiv geeignet ist, das Verhalten oder die Leistung der Arbeitnehmer zu überwachen. Ist die Anwendung/Einführung von KI geplant, ist daher stets daran zu denken, den Betriebsrat entsprechend zu beteiligen.
Leider fehlt sowohl im Betriebsrätemodernisierungsgesetz als auch in den zugehörigen Begründungen der Neuregelungen durch den Gesetzgeber jedwede valide und nachprüfbare Begriffsdefinition für “künstliche Intelligenz”, sodass Arbeitgeber und Betriebsräte hier sicherlich trefflich in Zukunft über “KI-Systeme” diskutieren können und werden.
Individualrechtliche Ebene: Diskriminierung durch Algorithmen?
Aber auch auf individualrechtlicher Ebene sind beim Einsatz von KI arbeitsrechtliche Fallstricke zu beachten. Arbeitgeber versprechen sich durch den Einsatz von KI im HR-Bereich eine Objektivierung des Auswahlprozesses. Allerdings kann diese Art der Mitarbeitersuche in einem Spannungsverhältnis zum Antidiskriminierungsrecht (AGG) stehen.
Algorithmen können durchaus „voreingenommen“ und diskriminierend sein. Aufgrund einer fehlerhaften Datenbasis oder falscher Programmierung oder falscher „Schlussfolgerungen“ können Algorithmen zu einer mittelbaren Benachteiligung von Bewerbern führen, z. B. wegen ihres Geschlechts. Kommt es zu unzulässigen Diskriminierungen aufgrund des Einsatzes von Algorithmen, ist im Ergebnis der Arbeitgeber hierfür verantwortlich. Unzulässige Benachteiligungen können zu Schadensersatzansprüchen der Betroffenen nach dem AGG führen. So kann ein aufgrund einer unzulässigen Diskriminierung abgelehnter Bewerber bis zu drei Monatsgehälter als Entschädigung geltend machen (§ 15 Abs. 2 S. 2 AGG).
Entscheidungen von KI sollten kontrolliert werden
Der Einsatz von KI birgt nicht nur rechtliche Herausforderungen. Er kann auch unter ethischen und praktischen Gesichtspunkten fragwürdig sein. Dabei sind ethische und rechtliche Aspekte nicht immer trennscharf. So ist eine Diskriminierung von Bewerbern aufgrund von AGG-Merkmalen sowohl rechtswidrig als auch unethisch.
Zwar kann auch die menschliche Auswertung von Bewerbungen zu Diskriminierungen führen. Der Unterschied zwischen menschlicher und „technischer Diskriminierung“ liegt jedoch darin, dass KI aufgrund eines fehlerhaften Designs strukturell diskriminieren kann. Fehlerhaft ist ein Design, wenn die KI auf Grundlage von Daten lernt und entscheidet, die bestehende soziale Ungleichheit abbilden. Belegen historische Daten etwa, dass die durchschnittliche Führungskraft in Deutschland männlich, weiß und älter als 45 Jahre ist, so könnte KI unter Auswertung dieser Daten zu der Entscheidung gelangen, dass Bewerber, die weiblich, dunkelhäutig oder jünger als 45 Jahre sind, für die Besetzung einer Führungsposition ungeeignet sind. Die KI könnte in Folge dessen entscheiden, Bewerber allein aufgrund dieser AGG-relevanten Merkmalen nicht für eine Führungsposition zu empfehlen. Es ist evident, dass ein solcher auf AGG-relevante Merkmale verengter Entscheidungsprozess nicht nur unethisch ist, sondern auch zu Fehlentscheidungen führen kann.
Auch künstliche Intelligenz ist fehlbar
Wie menschliche Intelligenz ist auch künstliche Intelligenz fehlbar, was Absicherungen gegen Fehlentscheidungen von KI erforderlich macht. Zu berücksichtigen ist insoweit, dass zum einen die Grundannahmen von KI falsch sein und zum anderen Menschen die KI durch Anpassungen ihres Verhaltens überlisten können.
Als Beispiel hierfür kann eine KI-Anwendung dienen, welche die Sprache von Bewerbern auswertet und aus dieser Auswertung auf die Persönlichkeit der Bewerber schließt. Die Grundannahme dieser KI, dass die verwendete Sprache Rückschlüsse auf die Persönlichkeit eines Menschen erlaube, trifft nicht zwingend zu, zumal nicht in Bewerbungsverfahren, in denen ein Anreiz zur Verstellung besteht. Es macht aus Bewerbersicht Sinn, die eigene Sprache so anzupassen, dass diese vermeintlich dem Stellenprofil entspricht.
Daher muss damit gerechnet werden, dass Bewerber unabhängig von ihrem Charakter und Verhalten Begriffe wie „durchsetzungsstark“, „dynamisch“ oder „handlungsstark“ verwenden, wenn sie sich auf Führungspositionen oder mit Maskulinität assoziierte Stellen bewerben. In diesem Fall würden Bewerber durch eine Anpassung ihrer Sprache die KI überlisten und deren Grundannahme ad absurdum führen.
Fazit: KI sollte auf rechtliche und ethische Anforderungen hin geprüft werden
Der Einsatz von KI muss unter Berücksichtigung zivil-, datenschutz- und arbeitsrechtlicher Vorgaben erfolgen. Unternehmen sollten sich darüber hinaus der ethischen Implikationen und der Grenzen von KI bewusst sein.
Der Einsatz von KI kann zu Haftungen und Fehlentscheidungen führen. Nicht nur das Gesetz (z.B. Art. 22 DSGVO) setzt einer automatisierten Entscheidung durch KI Grenzen. Vor allem auch aus ethischen Gründen sollten Entscheidungen im HR-Bereich nicht nur auf KI beruhen. Vielmehr sollte KI den Menschen bei seiner Entscheidung unterstützen und so auch zugleich zu mehr Objektivität der menschlichen Entscheidung führen.
Vor dem Erwerb oder der Erstellung von KI sollten deshalb sowohl rechtliche als auch ethische Anforderungen abgefragt und sichergestellt werden. Neben einer offenen Kommunikation mit dem Entwickler des KI-Tools empfiehlt sich deshalb eine enge Abstimmung mit der Rechtsabteilung oder mit im KI-Bereich versierten Rechtsanwälten.
