• Skip to primary navigation
  • Skip to main content
  • Skip to primary sidebar
  • Skip to footer
Expertenforum Arbeitsrecht (#EFAR)
Expertenforum
Arbeitsrecht (#EFAR)

Expertenforum Arbeitsrecht (#EFAR)

Themen der arbeitsrechtlichen Blogosphäre

  • #EFAR-Beiträge
    • #EFAR-News
    • ArbeitsRecht Kurios
    • #EFAR–Suche
  • Live–Log
    • Registrierte Blogs
    • Blog registrieren
  • #EFAR-Stellenmarkt
  • Arbeitsrechts-Experten
    • #EFAR–Autoren
    • #EFAR–Fokusseiten
    • #EFAR-Webinare
LinkedIn
Twitter
Xing
Facebook
  • ArbG Koblenz: „Wir suchen coole Typen“ ist nicht diskriminierend
    Quelle : Beck-Blog 27.05.2022 - 15:20 Von stoffels
  • AI that detects your emotions: issues for employment?
    Quelle : KLIEMT.blog 27.05.2022 - 07:00 Von Ius Laboris
  • Weitere Fallstricke einer krankheitsbedingten Kündigung – nach dem bEM ist vor dem bEM
    Quelle : CMSHS 27.05.2022 - 06:44 Von Carsten Domke
  • Wer zu spät kommt, ... - kein Anspruch des erstmalig gewählten Betriebsrats auf Sozialplan
    Quelle : VAHLE KÜHNEL BECKER (Blog: Arbeitsrecht FreshUp) 26.05.2022 - 16:47
  • ArbG Bonn: Kein Versand von Gewerkschaftsinformationen per E-Mail
    Quelle : Beck-Blog 25.05.2022 - 16:55 Von stoffels
  • „Wir suchen coole Typen“: AGG-konforme Stellenanzeige oder Diskriminierung?
    Quelle : KLIEMT.blog 25.05.2022 - 10:29 Von Tobias Klaus
  • Die Auswirkungen der elektronischen Arbeitsunfähigkeitsbescheinigung auf das Arbeitsverhältnis
    Quelle : ADVANT Beiten 24.05.2022 - 14:00 Von Dr. Anne Dziuba, Benedikt Holzapfel
  • Alles bleibt beim Alten: Überstunden muss weiterhin der Arbeitnehmer beweisen
    Quelle : KLIEMT.blog 24.05.2022 - 09:29 Von Cornelius Ziegler
  • Betriebsratswahlen 2022: Ermittlung der gewählten Kandidaten.
    Quelle : Buse 24.05.2022 - 08:00 Von Tobias Grambow
  • BAG zur Massenentlassungsanzeige: Soll-Angaben werden nun doch keine Muss-Angaben
    Quelle : Esche 24.05.2022 - 00:00
  • BAG zu Massenentlassungsanzeigen: „Soll“ ist doch nicht gleich „muss“!
    Quelle : Beck-Blog 23.05.2022 - 17:35 Von stoffels
  • „Einrichtungsbezogenen Impfpflicht“ verfassungsgemäß? BVerfG: verfassungsgemäß!
    Quelle : ADVANT Beiten 23.05.2022 - 14:00 Von Dr. Erik Schmid
  • Keine wirksame Befristung eines Arbeitsvertrags bei eingescannter Unterschrift
    Quelle : ADVANT Beiten 23.05.2022 - 14:00
  • Betriebliche Mitbestimmung bei Carve-Outs – ein Überblick
    Quelle : KLIEMT.blog 23.05.2022 - 08:00 Von Laura Louise Schmidt, LL.B.
  • Umsetzung der sog. Arbeitsbedingungenrichtlinie – Arbeitgeber müssen handeln
    Quelle : CMSHS 23.05.2022 - 06:30 Von Alexander Bissels
  • Kein Arbeitsverhältnis zum Entleiher trotz fehlender Überlassungserlaubnis des (ausländischen) Verleihers
    Quelle : ADVANT Beiten 20.05.2022 - 14:00 Von Dr. Gerald Peter Müller-Machwirth
  • Urteile zur einrichtungsbezogenen Impflicht
    Quelle : Beck-Blog 20.05.2022 - 08:55 Von stoffels
  • What are the new green reporting duties in France?
    Quelle : KLIEMT.blog 20.05.2022 - 07:00 Von Ius Laboris
  • Doch keine Freistellung ungeimpfter Beschäftigter im Gesundheitswesen?
    Quelle : CMSHS 19.05.2022 - 12:11 Von Alexander Bissels
  • Stellungnahme des DAV zum geplanten Hinweisgeberschutzgesetz
    Quelle : Beck-Blog 19.05.2022 - 11:09 Von stoffels

Künstliche Intelligenz, Arbeitsrecht und HR: Was ist beim Einsatz zu beachten?

  • 13. Juli 2021 |
  • Dr. Anne Förster
  • - Christiane Ecker

Der Einsatz von KI muss unter Berücksichtigung zivil-, datenschutz- und arbeitsrechtlicher Vorgaben erfolgen. Unternehmen sollten sich darüber hinaus der ethischen Implikationen und der Grenzen von KI bewusst sein.

  • twittern 
  • teilen 
  • mitteilen 
  • teilen 
  • E-Mail 

„Künstliche Intelligenz“ (KI) gewinnt immer mehr an Bedeutung für die deutsche Wirtschaft. Sie wird vermehrt von Unternehmen entweder bereits in der Produktentwicklung oder innerhalb der Unternehmen selbst eingesetzt, um Prozesse zu vereinfachen und zu beschleunigen. Insbesondere ihr Einsatz im HR-Bereich, etwa der Einsatz von Chatbots im Rahmen von Bewerbungsprozessen, hat deutlich zugenommen. Während die Technik stetig voranschritt, „stolperte das Recht“ bislang noch hinterher. Doch besonders in den letzten Monaten hat der Gesetzgeber wichtige Schritte getan, KI zu regulieren.

Dazu zählt der Entwurf einer europäischen KI-Verordnung sowie das Betriebsrätemodernisierungsgesetz, letzteres zu neuen Mitbestimmungsrechten des BR im Bereich der KI. Welchen Einfluss die neuen Gesetze haben werden, wie die Rechtslage zur KI grundsätzlich aussieht und welche ethischen Gesichtspunkte es zu bedenken gilt, wird im Folgenden erörtert.

EU-Kommission nimmt Anwender in die Pflicht

Das Recht lässt im gewissen Rahmen den Einsatz von intelligenten Recruiting-Tools zu. Wichtig hierbei ist, dass zum einen die Datenerhebung, welche die Grundlage für die Entscheidung der KI bildet, und zum anderen die hierauf basierende Schlussfolgerung der KI zulässig sind. Besonders im Recruiting-Bereich war es keine Seltenheit, dass die KI fehlerhafte Entscheidungen traf. Dadurch kam es oftmals zur Benachteiligung bestimmter Bewerbergruppen, wie z.B. Frauen.

In solchen Fällen stellen sich vielerlei Fragen: Ist der Anwender verpflichtet, einzuschreiten oder sogar die KI abzuschalten, wenn diese gegen das Recht verstößt? Haftet der Anwender für etwaige Schäden?

Das deutsche Haftungsregime kann einige Fragen davon beantworten. Es kennt die Haftung für technische Systeme. Ein Anwender haftet, wenn durch das Betreiben der KI fahrlässig oder vorsätzlich eine Rechtsgutsverletzung an einem absoluten Recht (Leben, Körper, Gesundheit, Eigentum, sonstiges Recht) eingetreten ist, die zu einem Schaden geführt hat. In der Praxis ist ein vorwerfbares Fehlverhalten des Anwenders aber nur schwer nachweisbar. Außerdem mangelt es am vorwerfbaren Fehlverhalten dann, wenn die KI durch den Anwender beispielsweise ordnungsgemäß betrieben und gewartet worden ist und die KI dennoch auf Basis des Erlernten „Fehlschlüsse“ zieht. Dies birgt Haftungslücken.

Für den Bereich des autonomen Fahrens hat der deutsche Gesetzgeber bereits Maßnahmen ergriffen. 2017 wurde im Straßenverkehrsgesetz klargestellt, dass der Mensch Fahrzeugführer bleibt, auch wenn er die Funktion zum autonomen Fahren aktiviert hat und nicht mehr eigenhändig das Fahrzeug steuert. Derartige Regelungen gab es für den HR-Bereich bis jetzt nicht. Allerdings soll dies sich in näherer Zukunft ändern.

EU-Kommission legt Entwurf einer KI-Verordnung vor

Am 21. April 2021 hat die EU-Kommission einen Entwurf einer KI-Verordnung vorgelegt. Diese sieht vor, dass ein Anwender beim Einsatz von KI-Systemen mit hohem Risiko (wie z. B. bei Software zur Auswertung von Lebensläufen im Bewerbungsverfahren) eine Konformitätsbewertung durchführen muss, um nachzuweisen, dass die KI die verbindlichen Anforderungen an vertrauenswürdiger KI entspricht.

Diese Anforderungen bestehen beispielsweise in Bezug auf Datenqualität, Dokumentation und Rückverfolgbarkeit, Transparenz, menschliche Aufsicht, Genauigkeit und Robustheit. Eine Bewertung muss erneut vorgenommen werden, wenn die KI später selbst oder ihr Zweck wesentlich geändert werden. Verstöße gegen die Verordnung sollen – je nach Schwere – mit Bußgeldern bis zu 30 Millionen Euro oder sechs Prozent des gesamten weltweiten Vorjahresumsatzes geahndet werden.

Zusätzlich müssen Anwender die datenschutzrechtlichen Anforderungen der Datenschutzgrundverordnung (DSGVO) einhalten, allen voran, die Prinzipien der Datenminimierung und Transparenz. Auch wenn eine Datenminimierung zunächst der Nutzung von KI widersprechen könnte, da sie mit einem großen Umfang von Daten versorgt werden muss, um zu „lernen“, kann der Grundsatz nicht übergangen werden. Der Anwender muss deswegen technische und organisatorische Maßnahmen zum Schutz der personenbezogenen Daten implementieren und sicherstellen, dass der Mensch nicht zum Objekt herabgewürdigt oder diskriminiert wird.

Arbeitsrechtliche Fallstricke beim Einsatz von KI: Zuletzt Stärkung der Beteiligungsrechte des Betriebsrats

Der Einsatz von KI wird aus arbeitsrechtlicher Sicht vor allem mit Blick auf die Beteiligungsrechte des Betriebsrates sowie ggf. bestehender Entschädigungsansprüche von Bewerbern oder Mitarbeitern aufgrund des Einsatzes diskriminierender Algorithmen diskutiert.

Mit dem Betriebsrätemodernisierungsgesetz, das am 28. Juni 2021 in Kraft getreten ist, sollen nach dem Willen des Gesetzgebers die Beteiligungsrechte des Betriebsrates beim Einsatz von KI gestärkt werden.

Neu eingefügt wurde in § 80 Abs. 3 BetrVG, dass der Betriebsrat beim Einsatz von KI einen Sachverständigen beauftragen kann, ohne dass es auf die Erforderlichkeit der Beauftragung ankommt. Der Einwand, dass der Betriebsrat selbst die erforderlichen Kenntnisse besitzt oder die Angelegenheit nicht die Einbindung eines teuren Sachverständigen rechtfertigt, ist dem Arbeitgeber damit verwehrt.

Diese Änderung kann zu einer nicht unerheblichen Kostenlast für den Arbeitgeber führen. Zudem finden nun § 90 BetrVG (Unterrichtungsrecht bei der Planung von Arbeitsverfahren und Arbeitsabläufen) und § 95 BetrVG (Aufstellung von Auswahlrichtlinien) ausdrücklich auch dann Anwendung, wenn dabei KI zum Einsatz kommt.

Es bleibt zudem bei der zwingenden Mitbestimmung nach § 87 Abs. 1 Nr. 6 BetrVG bei der Einführung und Anwendung von technischen Einrichtungen (hierzu zählt Hard- und Software), die objektiv geeignet ist, das Verhalten oder die Leistung der Arbeitnehmer zu überwachen. Ist die Anwendung/Einführung von KI geplant, ist daher stets daran zu denken, den Betriebsrat entsprechend zu beteiligen.

Leider fehlt sowohl im Betriebsrätemodernisierungsgesetz als auch in den zugehörigen Begründungen der Neuregelungen durch den Gesetzgeber jedwede valide und nachprüfbare Begriffsdefinition für “künstliche Intelligenz”, sodass Arbeitgeber und Betriebsräte hier sicherlich trefflich in Zukunft über “KI-Systeme” diskutieren können und werden.

Individualrechtliche Ebene: Diskriminierung durch Algorithmen?

Aber auch auf individualrechtlicher Ebene sind beim Einsatz von KI arbeitsrechtliche Fallstricke zu beachten. Arbeitgeber versprechen sich durch den Einsatz von KI im HR-Bereich eine Objektivierung des Auswahlprozesses. Allerdings kann diese Art der Mitarbeitersuche in einem Spannungsverhältnis zum Antidiskriminierungsrecht (AGG) stehen.

Algorithmen können durchaus „voreingenommen“ und diskriminierend sein. Aufgrund einer fehlerhaften Datenbasis oder falscher Programmierung oder falscher „Schlussfolgerungen“ können Algorithmen zu einer mittelbaren Benachteiligung von Bewerbern führen, z. B. wegen ihres Geschlechts. Kommt es zu unzulässigen Diskriminierungen aufgrund des Einsatzes von Algorithmen, ist im Ergebnis der Arbeitgeber hierfür verantwortlich. Unzulässige Benachteiligungen können zu Schadensersatzansprüchen der Betroffenen nach dem AGG führen. So kann ein aufgrund einer unzulässigen Diskriminierung abgelehnter Bewerber bis zu drei Monatsgehälter als Entschädigung geltend machen (§ 15 Abs. 2 S. 2 AGG).

Entscheidungen von KI sollten kontrolliert werden

Der Einsatz von KI birgt nicht nur rechtliche Herausforderungen. Er kann auch unter ethischen und praktischen Gesichtspunkten fragwürdig sein. Dabei sind ethische und rechtliche Aspekte nicht immer trennscharf. So ist eine Diskriminierung von Bewerbern aufgrund von AGG-Merkmalen sowohl rechtswidrig als auch unethisch.

Zwar kann auch die menschliche Auswertung von Bewerbungen zu Diskriminierungen führen. Der Unterschied zwischen menschlicher und „technischer Diskriminierung“ liegt jedoch darin, dass KI aufgrund eines fehlerhaften Designs strukturell diskriminieren kann. Fehlerhaft ist ein Design, wenn die KI auf Grundlage von Daten lernt und entscheidet, die bestehende soziale Ungleichheit abbilden. Belegen historische Daten etwa, dass die durchschnittliche Führungskraft in Deutschland männlich, weiß und älter als 45 Jahre ist, so könnte KI unter Auswertung dieser Daten zu der Entscheidung gelangen, dass Bewerber, die weiblich, dunkelhäutig oder jünger als 45 Jahre sind, für die Besetzung einer Führungsposition ungeeignet sind. Die KI könnte in Folge dessen entscheiden, Bewerber allein aufgrund dieser AGG-relevanten Merkmalen nicht für eine Führungsposition zu empfehlen. Es ist evident, dass ein solcher auf AGG-relevante Merkmale verengter Entscheidungsprozess nicht nur unethisch ist, sondern auch zu Fehlentscheidungen führen kann.

Auch künstliche Intelligenz ist fehlbar

Wie menschliche Intelligenz ist auch künstliche Intelligenz fehlbar, was Absicherungen gegen Fehlentscheidungen von KI erforderlich macht. Zu berücksichtigen ist insoweit, dass zum einen die Grundannahmen von KI falsch sein und zum anderen Menschen die KI durch Anpassungen ihres Verhaltens überlisten können.

Als Beispiel hierfür kann eine KI-Anwendung dienen, welche die Sprache von Bewerbern auswertet und aus dieser Auswertung auf die Persönlichkeit der Bewerber schließt. Die Grundannahme dieser KI, dass die verwendete Sprache Rückschlüsse auf die Persönlichkeit eines Menschen erlaube, trifft nicht zwingend zu, zumal nicht in Bewerbungsverfahren, in denen ein Anreiz zur Verstellung besteht. Es macht aus Bewerbersicht Sinn, die eigene Sprache so anzupassen, dass diese vermeintlich dem Stellenprofil entspricht.

Daher muss damit gerechnet werden, dass Bewerber unabhängig von ihrem Charakter und Verhalten Begriffe wie „durchsetzungsstark“, „dynamisch“ oder „handlungsstark“ verwenden, wenn sie sich auf Führungspositionen oder mit Maskulinität assoziierte Stellen bewerben. In diesem Fall würden Bewerber durch eine Anpassung ihrer Sprache die KI überlisten und deren Grundannahme ad absurdum führen.

Fazit: KI sollte auf rechtliche und ethische Anforderungen hin geprüft werden

Der Einsatz von KI muss unter Berücksichtigung zivil-, datenschutz- und arbeitsrechtlicher Vorgaben erfolgen. Unternehmen sollten sich darüber hinaus der ethischen Implikationen und der Grenzen von KI bewusst sein.

Der Einsatz von KI kann zu Haftungen und Fehlentscheidungen führen. Nicht nur das Gesetz (z.B. Art. 22 DSGVO) setzt einer automatisierten Entscheidung durch KI Grenzen. Vor allem auch aus ethischen Gründen sollten Entscheidungen im HR-Bereich nicht nur auf KI beruhen. Vielmehr sollte KI den Menschen bei seiner Entscheidung unterstützen und so auch zugleich zu mehr Objektivität der menschlichen Entscheidung führen.

Vor dem Erwerb oder der Erstellung von KI sollten deshalb sowohl rechtliche als auch ethische Anforderungen abgefragt und sichergestellt werden. Neben einer offenen Kommunikation mit dem Entwickler des KI-Tools empfiehlt sich deshalb eine enge Abstimmung mit der Rechtsabteilung oder mit im KI-Bereich versierten Rechtsanwälten.

Kategorien: #EFAR-Beiträge Tags: Digitalisierung

  • Dr. Anne Förster

    RAin/FAinArbR, Salary Partner bei Taylor Wessing (Büro Düsseldorf) #EFAR - Profil #EFAR - Fokusseite LinkedIn Xing
  • Christiane Ecker

    Compliance Officer, MAN Energy Solutions (Oberhausen) #EFAR - ProfilLinkedIn Xing
  • Mareike Christine Gehrmann

    RAin/FAin IT-Recht, Salary Partner bei Taylor Wessing (Büro Düsseldorf) #EFAR - Profil #EFAR - Fokusseite LinkedIn Xing

Ähnliche Beiträge

Arbeitsvertrag
4. November 2021 - Anne Lachmund

Digitale Unterschrift bei befristeten Arbeitsverträgen führt zur Unwirksamkeit: Und nun?

Ein in einfacher elektronischer Form unterschriebener befristeter Arbeitsvertrag genügt nicht den Formvorschriften für eine wirksame Befristung. Zur Erfüllung der Schriftform hätte es einer handschriftlichen Unterschrift oder einer qualifiziert elektronischen Signatur (qeS) bedurft, urteilen Arbeitsgerichte.
Lesen
Betriebsratswahl
13. August 2021 - Jonas Türkis, LL.M. (UCT)

RefE zum BetrVG: Anpassung der Wahlordnung

Das BMAS hat am 28.07.2021 den Referentenentwurf einer Verordnung zur Änderung der geltenden Wahlordnungen für die Wahl des Betriebsrats vorgelegt. Eine Verabschiedung des Regierungsentwurfs und eine Verkündung der Verordnung steht noch aus.
Lesen
Arbeitnehmerfreizügigkeit
20. Juli 2021 - Dr. Sebastian Klaus

Digitalisierung im Ausländerbeschäftigungsrecht: Inhalt der Neuregelungen und Vorteile

Mit ab Mitte Juli 2021 geltenden Neuregelungen treibt der Gesetzgeber die Digitalisierung im Ausländerbeschäftigungsrecht voran. Welche Vorteile bringt das neue Vorabzustimmungsverfahren und in welchen Szenarien sollte es angewendet werden?
Lesen

Primary Sidebar

Mehr Informationen

  • Anzeige schalten
  • #EFAR-Beiträge
  • #EFAR-News
  • ArbeitsRecht kurios
  • Live–Log
  • #EFAR-Stellenmarkt
  • #EFAR–Autoren
  • #EFAR–Fokusseiten
Anzeige

#EFAR–Fokusseiten

Dynamische Profilseiten namhafter Kanzleien mit Fokus Arbeitsrecht

Aktuelle Beiträge

  • Kündigungsgrund gefälschter Genesenennachweis
  • Kein Versand von Gewerkschaftsinformationen per E-Mail
  • Unwirksame Rückzahlungsklausel in Fortbildungsvereinbarung
  • Corona-Arbeitsschutzverordnung wird nicht verlängert
  • Massenentlassungsanzeige – Fehlen der sog. Soll-Angaben

#EFAR – Jobs

  • Küttner Arbeitsrechtler (m/w/d) mit Berufserfahrung Köln
  • DLR Volljuristin oder Volljurist (w/m/d) Bonn - Bad Godesberg
  • Hays Volljurist/ Inhouse Counsel (m/w/d) Mannheim
  • ADVANT Beiten RECHTSANWÄLTE MIT BERUFSERFAHRUNG (W/M/D) FÜR DEN BEREICH ARBEITSRECHT MÜNCHEN

#EFAR – Newsletter

* indicates required

Vorherige Kampagnen ansehen.

Sie können sich jederzeit abmelden, indem Sie auf den Link in der Fußzeile unserer E-Mails klicken. Informationen zu unseren Datenschutzpraktiken finden Sie auf unserer Website.

Footer

Das #EFAR in den sozialen Medien
  • Über das #EFAR
  • Datenschutz
  • Haftungsauschluss
  • Mediadaten
  • Kontakt
  • Impressum
Blogverzeichnis - Bloggerei.de Cookie Einstellungen

Handcrafted with by Jung und Wild design.