• Skip to primary navigation
  • Skip to main content
  • Skip to primary sidebar
  • Skip to footer
Expertenforum Arbeitsrecht (#EFAR)
Expertenforum
Arbeitsrecht (#EFAR)

Expertenforum Arbeitsrecht (#EFAR)

Themen der arbeitsrechtlichen Blogosphäre

  • #EFAR-Beiträge
    • #EFAR-News
    • #ArbeitsRechtKurios
    • #EFAR–Suche
  • Live–Log
    • Registrierte Blogs
    • Blog registrieren
  • #EFAR-Stellenmarkt
  • Arbeitsrechts-Experten
    • #EFAR–Autoren
    • #EFAR–Fokusseiten
    • #EFAR-Webinare
LinkedIn
Twitter
Xing
Facebook
  • AI at work: tips on battling bias
    Quelle : KLIEMT.blog 13.06.2025 - 08:00 Von Ius Laboris
  • The Best Lawyers in Germany™: Ogletree Deakins Anwälte in der Ausgabe 2026 gelistet.
    Quelle : 12.06.2025 - 15:59 Von By: Dr. Ulrike Conradi
  • Kein Verzicht auf Mindesturlaub im Rahmen eines Tatsachenvergleichs
    Quelle : RA Blaufelder 12.06.2025 - 12:07 Von Thorsten Blaufelder
  • Arbeitgeber muss Chancen für schwerbehinderte Bewerber wahren – Vermittlungsauftrag nach § 164 SGB IX notwendig
    Quelle : RA Blaufelder 12.06.2025 - 10:40 Von Thorsten Blaufelder
  • Neues zur Beweislast bei Korrektur der Betriebsratsvergütung
    Quelle : KLIEMT.blog 12.06.2025 - 09:01 Von Lena Fersch
  • Videokonferenzen im Unternehmen – Worauf Arbeitgeber achten sollten
    Quelle : KLIEMT.blog 11.06.2025 - 08:48 Von Dr. Jessica Jacobi 
  • Virtuelle Mitarbeiterbeteiligung: Regelungen zum Verfall bei vorzeitigem Ausscheiden auf dem Prüfstand
    Quelle : Küttner Feed 10.06.2025 - 15:26
  • 7 MIN. Arbeitsrecht für Entscheider (m/w/d) – Episode 62 ab sofort verfügbar!
    Quelle : KLIEMT.blog 10.06.2025 - 14:16 Von KLIEMT.Arbeitsrecht
  • Meet your Business Professional: Erik Gottschall
    Quelle : PWWL 10.06.2025 - 11:00 Von Pusch Wahlig Workplace Law
  • Anrechnung von böswillig unterlassenem anderweitigen Verdienst – ein Update
    Quelle : KLIEMT.blog 10.06.2025 - 08:49 Von Dr. Marius Brockfeld
  • Observation krankgeschriebener Mitarbeiter ist möglich
    Quelle : Buse 10.06.2025 - 08:00 Von Thomas Geißler
  • Tatsachenvergleiche zum Urlaub: nicht mehr so einfach
    Quelle : VAHLE KÜHNEL BECKER (Blog: Arbeitsrecht FreshUp) 08.06.2025 - 11:33
  • Was ist alles Arbeitszeit und wann ist sie zu vergüten? | Checkliste für eine schnelle Einordnung typischer Fallgruppen
    Quelle : ArbRB-Blog 06.06.2025 - 14:46 Von Sarah Maria Fröhlingsdorf
  • ADVANT Beiten berät Banyan Software bei Übernahme von star/trac
    Quelle : ADVANT Beiten 06.06.2025 - 09:27
  • Electronic Travel Authorisation: How we can help
    Quelle : KLIEMT.blog 06.06.2025 - 08:50 Von Ius Laboris
  • Kein Verzicht auf gesetzlichen Urlaub durch gerichtlichen Vergleich im laufenden Arbeitsverhältnis
    Quelle : 05.06.2025 - 18:04 Von By: Julia Kulmegies, LL.M. (Tongji Shanghai 同济大学)
  • Verlängerung der Stufenlaufzeit durch § 4 Abs. 1 Buchst. b ETV-DP AG - Fortgang des Verfahrens
    Quelle : bundesarbeitsgericht 05.06.2025 - 16:09 Von Das Bundesarbeitsgericht
  • Crypto kills the Cash-Star? Das BAG zur Krypto-Vergütung
    Quelle : KLIEMT.blog 05.06.2025 - 08:45 Von Alisa Liebchen, LL.M.
  • Keine Abmahnung für den Vorwurf tarifwidrigen Verhaltens
    Quelle : RA Blaufelder 05.06.2025 - 06:00 Von Thorsten Blaufelder
  • Begegnung der wissenschaftlichen Mitarbeiterinnen und Mitarbeiter des Bundesverfassungsgerichts, der obersten Gerichtshöfe des Bundes und des Generalbundesanwalts im Bundesarbeitsgericht
    Quelle : bundesarbeitsgericht 04.06.2025 - 10:56 Von Das Bundesarbeitsgericht

Künstliche Intelligenz, Arbeitsrecht und HR: Was ist beim Einsatz zu beachten?

  • 13. Juli 2021 |
  • Dr. Anne Förster
  • - Mareike Christine Gehrmann

Der Einsatz von KI muss unter Berücksichtigung zivil-, datenschutz- und arbeitsrechtlicher Vorgaben erfolgen. Unternehmen sollten sich darüber hinaus der ethischen Implikationen und der Grenzen von KI bewusst sein.

  • teilen 
  • teilen 
  • teilen 
  • teilen 
  • E-Mail 

„Künstliche Intelligenz“ (KI) gewinnt immer mehr an Bedeutung für die deutsche Wirtschaft. Sie wird vermehrt von Unternehmen entweder bereits in der Produktentwicklung oder innerhalb der Unternehmen selbst eingesetzt, um Prozesse zu vereinfachen und zu beschleunigen. Insbesondere ihr Einsatz im HR-Bereich, etwa der Einsatz von Chatbots im Rahmen von Bewerbungsprozessen, hat deutlich zugenommen. Während die Technik stetig voranschritt, „stolperte das Recht“ bislang noch hinterher. Doch besonders in den letzten Monaten hat der Gesetzgeber wichtige Schritte getan, KI zu regulieren.

Dazu zählt der Entwurf einer europäischen KI-Verordnung sowie das Betriebsrätemodernisierungsgesetz, letzteres zu neuen Mitbestimmungsrechten des BR im Bereich der KI. Welchen Einfluss die neuen Gesetze haben werden, wie die Rechtslage zur KI grundsätzlich aussieht und welche ethischen Gesichtspunkte es zu bedenken gilt, wird im Folgenden erörtert.

EU-Kommission nimmt Anwender in die Pflicht

Das Recht lässt im gewissen Rahmen den Einsatz von intelligenten Recruiting-Tools zu. Wichtig hierbei ist, dass zum einen die Datenerhebung, welche die Grundlage für die Entscheidung der KI bildet, und zum anderen die hierauf basierende Schlussfolgerung der KI zulässig sind. Besonders im Recruiting-Bereich war es keine Seltenheit, dass die KI fehlerhafte Entscheidungen traf. Dadurch kam es oftmals zur Benachteiligung bestimmter Bewerbergruppen, wie z.B. Frauen.

In solchen Fällen stellen sich vielerlei Fragen: Ist der Anwender verpflichtet, einzuschreiten oder sogar die KI abzuschalten, wenn diese gegen das Recht verstößt? Haftet der Anwender für etwaige Schäden?

Das deutsche Haftungsregime kann einige Fragen davon beantworten. Es kennt die Haftung für technische Systeme. Ein Anwender haftet, wenn durch das Betreiben der KI fahrlässig oder vorsätzlich eine Rechtsgutsverletzung an einem absoluten Recht (Leben, Körper, Gesundheit, Eigentum, sonstiges Recht) eingetreten ist, die zu einem Schaden geführt hat. In der Praxis ist ein vorwerfbares Fehlverhalten des Anwenders aber nur schwer nachweisbar. Außerdem mangelt es am vorwerfbaren Fehlverhalten dann, wenn die KI durch den Anwender beispielsweise ordnungsgemäß betrieben und gewartet worden ist und die KI dennoch auf Basis des Erlernten „Fehlschlüsse“ zieht. Dies birgt Haftungslücken.

Für den Bereich des autonomen Fahrens hat der deutsche Gesetzgeber bereits Maßnahmen ergriffen. 2017 wurde im Straßenverkehrsgesetz klargestellt, dass der Mensch Fahrzeugführer bleibt, auch wenn er die Funktion zum autonomen Fahren aktiviert hat und nicht mehr eigenhändig das Fahrzeug steuert. Derartige Regelungen gab es für den HR-Bereich bis jetzt nicht. Allerdings soll dies sich in näherer Zukunft ändern.

EU-Kommission legt Entwurf einer KI-Verordnung vor

Am 21. April 2021 hat die EU-Kommission einen Entwurf einer KI-Verordnung vorgelegt. Diese sieht vor, dass ein Anwender beim Einsatz von KI-Systemen mit hohem Risiko (wie z. B. bei Software zur Auswertung von Lebensläufen im Bewerbungsverfahren) eine Konformitätsbewertung durchführen muss, um nachzuweisen, dass die KI die verbindlichen Anforderungen an vertrauenswürdiger KI entspricht.

Diese Anforderungen bestehen beispielsweise in Bezug auf Datenqualität, Dokumentation und Rückverfolgbarkeit, Transparenz, menschliche Aufsicht, Genauigkeit und Robustheit. Eine Bewertung muss erneut vorgenommen werden, wenn die KI später selbst oder ihr Zweck wesentlich geändert werden. Verstöße gegen die Verordnung sollen – je nach Schwere – mit Bußgeldern bis zu 30 Millionen Euro oder sechs Prozent des gesamten weltweiten Vorjahresumsatzes geahndet werden.

Zusätzlich müssen Anwender die datenschutzrechtlichen Anforderungen der Datenschutzgrundverordnung (DSGVO) einhalten, allen voran, die Prinzipien der Datenminimierung und Transparenz. Auch wenn eine Datenminimierung zunächst der Nutzung von KI widersprechen könnte, da sie mit einem großen Umfang von Daten versorgt werden muss, um zu „lernen“, kann der Grundsatz nicht übergangen werden. Der Anwender muss deswegen technische und organisatorische Maßnahmen zum Schutz der personenbezogenen Daten implementieren und sicherstellen, dass der Mensch nicht zum Objekt herabgewürdigt oder diskriminiert wird.

Arbeitsrechtliche Fallstricke beim Einsatz von KI: Zuletzt Stärkung der Beteiligungsrechte des Betriebsrats

Der Einsatz von KI wird aus arbeitsrechtlicher Sicht vor allem mit Blick auf die Beteiligungsrechte des Betriebsrates sowie ggf. bestehender Entschädigungsansprüche von Bewerbern oder Mitarbeitern aufgrund des Einsatzes diskriminierender Algorithmen diskutiert.

Mit dem Betriebsrätemodernisierungsgesetz, das am 28. Juni 2021 in Kraft getreten ist, sollen nach dem Willen des Gesetzgebers die Beteiligungsrechte des Betriebsrates beim Einsatz von KI gestärkt werden.

Neu eingefügt wurde in § 80 Abs. 3 BetrVG, dass der Betriebsrat beim Einsatz von KI einen Sachverständigen beauftragen kann, ohne dass es auf die Erforderlichkeit der Beauftragung ankommt. Der Einwand, dass der Betriebsrat selbst die erforderlichen Kenntnisse besitzt oder die Angelegenheit nicht die Einbindung eines teuren Sachverständigen rechtfertigt, ist dem Arbeitgeber damit verwehrt.

Diese Änderung kann zu einer nicht unerheblichen Kostenlast für den Arbeitgeber führen. Zudem finden nun § 90 BetrVG (Unterrichtungsrecht bei der Planung von Arbeitsverfahren und Arbeitsabläufen) und § 95 BetrVG (Aufstellung von Auswahlrichtlinien) ausdrücklich auch dann Anwendung, wenn dabei KI zum Einsatz kommt.

Es bleibt zudem bei der zwingenden Mitbestimmung nach § 87 Abs. 1 Nr. 6 BetrVG bei der Einführung und Anwendung von technischen Einrichtungen (hierzu zählt Hard- und Software), die objektiv geeignet ist, das Verhalten oder die Leistung der Arbeitnehmer zu überwachen. Ist die Anwendung/Einführung von KI geplant, ist daher stets daran zu denken, den Betriebsrat entsprechend zu beteiligen.

Leider fehlt sowohl im Betriebsrätemodernisierungsgesetz als auch in den zugehörigen Begründungen der Neuregelungen durch den Gesetzgeber jedwede valide und nachprüfbare Begriffsdefinition für „künstliche Intelligenz“, sodass Arbeitgeber und Betriebsräte hier sicherlich trefflich in Zukunft über „KI-Systeme“ diskutieren können und werden.

Individualrechtliche Ebene: Diskriminierung durch Algorithmen?

Aber auch auf individualrechtlicher Ebene sind beim Einsatz von KI arbeitsrechtliche Fallstricke zu beachten. Arbeitgeber versprechen sich durch den Einsatz von KI im HR-Bereich eine Objektivierung des Auswahlprozesses. Allerdings kann diese Art der Mitarbeitersuche in einem Spannungsverhältnis zum Antidiskriminierungsrecht (AGG) stehen.

Algorithmen können durchaus „voreingenommen“ und diskriminierend sein. Aufgrund einer fehlerhaften Datenbasis oder falscher Programmierung oder falscher „Schlussfolgerungen“ können Algorithmen zu einer mittelbaren Benachteiligung von Bewerbern führen, z. B. wegen ihres Geschlechts. Kommt es zu unzulässigen Diskriminierungen aufgrund des Einsatzes von Algorithmen, ist im Ergebnis der Arbeitgeber hierfür verantwortlich. Unzulässige Benachteiligungen können zu Schadensersatzansprüchen der Betroffenen nach dem AGG führen. So kann ein aufgrund einer unzulässigen Diskriminierung abgelehnter Bewerber bis zu drei Monatsgehälter als Entschädigung geltend machen (§ 15 Abs. 2 S. 2 AGG).

Entscheidungen von KI sollten kontrolliert werden

Der Einsatz von KI birgt nicht nur rechtliche Herausforderungen. Er kann auch unter ethischen und praktischen Gesichtspunkten fragwürdig sein. Dabei sind ethische und rechtliche Aspekte nicht immer trennscharf. So ist eine Diskriminierung von Bewerbern aufgrund von AGG-Merkmalen sowohl rechtswidrig als auch unethisch.

Zwar kann auch die menschliche Auswertung von Bewerbungen zu Diskriminierungen führen. Der Unterschied zwischen menschlicher und „technischer Diskriminierung“ liegt jedoch darin, dass KI aufgrund eines fehlerhaften Designs strukturell diskriminieren kann. Fehlerhaft ist ein Design, wenn die KI auf Grundlage von Daten lernt und entscheidet, die bestehende soziale Ungleichheit abbilden. Belegen historische Daten etwa, dass die durchschnittliche Führungskraft in Deutschland männlich, weiß und älter als 45 Jahre ist, so könnte KI unter Auswertung dieser Daten zu der Entscheidung gelangen, dass Bewerber, die weiblich, dunkelhäutig oder jünger als 45 Jahre sind, für die Besetzung einer Führungsposition ungeeignet sind. Die KI könnte in Folge dessen entscheiden, Bewerber allein aufgrund dieser AGG-relevanten Merkmalen nicht für eine Führungsposition zu empfehlen. Es ist evident, dass ein solcher auf AGG-relevante Merkmale verengter Entscheidungsprozess nicht nur unethisch ist, sondern auch zu Fehlentscheidungen führen kann.

Auch künstliche Intelligenz ist fehlbar

Wie menschliche Intelligenz ist auch künstliche Intelligenz fehlbar, was Absicherungen gegen Fehlentscheidungen von KI erforderlich macht. Zu berücksichtigen ist insoweit, dass zum einen die Grundannahmen von KI falsch sein und zum anderen Menschen die KI durch Anpassungen ihres Verhaltens überlisten können.

Als Beispiel hierfür kann eine KI-Anwendung dienen, welche die Sprache von Bewerbern auswertet und aus dieser Auswertung auf die Persönlichkeit der Bewerber schließt. Die Grundannahme dieser KI, dass die verwendete Sprache Rückschlüsse auf die Persönlichkeit eines Menschen erlaube, trifft nicht zwingend zu, zumal nicht in Bewerbungsverfahren, in denen ein Anreiz zur Verstellung besteht. Es macht aus Bewerbersicht Sinn, die eigene Sprache so anzupassen, dass diese vermeintlich dem Stellenprofil entspricht.

Daher muss damit gerechnet werden, dass Bewerber unabhängig von ihrem Charakter und Verhalten Begriffe wie „durchsetzungsstark“, „dynamisch“ oder „handlungsstark“ verwenden, wenn sie sich auf Führungspositionen oder mit Maskulinität assoziierte Stellen bewerben. In diesem Fall würden Bewerber durch eine Anpassung ihrer Sprache die KI überlisten und deren Grundannahme ad absurdum führen.

Fazit: KI sollte auf rechtliche und ethische Anforderungen hin geprüft werden

Der Einsatz von KI muss unter Berücksichtigung zivil-, datenschutz- und arbeitsrechtlicher Vorgaben erfolgen. Unternehmen sollten sich darüber hinaus der ethischen Implikationen und der Grenzen von KI bewusst sein.

Der Einsatz von KI kann zu Haftungen und Fehlentscheidungen führen. Nicht nur das Gesetz (z.B. Art. 22 DSGVO) setzt einer automatisierten Entscheidung durch KI Grenzen. Vor allem auch aus ethischen Gründen sollten Entscheidungen im HR-Bereich nicht nur auf KI beruhen. Vielmehr sollte KI den Menschen bei seiner Entscheidung unterstützen und so auch zugleich zu mehr Objektivität der menschlichen Entscheidung führen.

Vor dem Erwerb oder der Erstellung von KI sollten deshalb sowohl rechtliche als auch ethische Anforderungen abgefragt und sichergestellt werden. Neben einer offenen Kommunikation mit dem Entwickler des KI-Tools empfiehlt sich deshalb eine enge Abstimmung mit der Rechtsabteilung oder mit im KI-Bereich versierten Rechtsanwälten.

Kategorien: #EFAR-Beiträge Tags: Digitalisierung

  • Dr. Anne Förster

    RAin/FAinArbR, Salary Partner bei Taylor Wessing (Büro Düsseldorf) #EFAR - Profil #EFAR - Fokusseite LinkedIn Xing
  • Mareike Christine Gehrmann

    RAin/FAin IT-Recht, Salary Partner bei Taylor Wessing (Büro Düsseldorf) #EFAR - Profil #EFAR - Fokusseite LinkedIn Xing

Ähnliche Beiträge

Vergütung Vergütung
7. Mai 2025 - Maximilian Schreiner

BAG zu Entgeltabrechnungen als elektronisches Dokument

Die fortschreitende Digitalisierung macht auch vor der Lohnabrechnung nicht Halt. Mit einem aktuellen Urteil hat das BAG klargestellt, dass Arbeitgeber ihrer gesetzlichen Pflicht zur Entgeltabrechnung auch ausschließlich digital nachkommen können.
Lesen
Digitalisierung KI
6. Mai 2025 - EFAR Redaktion

Gemischte Gefühle gegenüber KI am Arbeitsplatz

KI verändert die Arbeitswelt. Aus diesem Grund hatte die Internationale Arbeitsorganisation (ILO) in diesem Jahr den Internationalen Tag für Sicherheit und Gesundheit bei der Arbeit unter das Motto KI und Digitalisierung gestellt. KI-Anwendungen können neue oder verstärkte Belastungen für Beschäftigte schaffen, sie können sie aber auch sinnvoll unterstützen und den Arbeitsschutz stärken. Beispiele dafür sind computergesteuerte Fahrzeuge oder KI-gestützte Vorrichtungen, die helfen, Unfälle an Maschinen zu vermeiden. Aber wie viel Vertrauen haben Erwerbstätige in Anwendungen mit KI an ihrem eigenen Arbeitsplatz?
Lesen
Digitalisierung Kommunikation
30. April 2025 - Dr. Julia Fiedler, LL.B.

Kein digitales Zugangsrecht der Gewerkschaft

Das BAG hat in einer neuen Entscheidung dem digitalen Zugangsrecht der Gewerkschaft eine Absage erteilt. Der Arbeitgeber ist nicht verpflichtet, aktiv E-Mail-Adressen der Beschäftigten herauszugeben oder Zugang zu internen Kommunikationsplattformen zu ermöglichen.
Lesen

Primary Sidebar

#EFAR – Newsletter

* indicates required

Vorherige Kampagnen ansehen.

Sie können sich jederzeit abmelden, indem Sie auf den Link in der Fußzeile unserer E-Mails klicken. Informationen zu unseren Datenschutzpraktiken finden Sie auf unserer Website.

#EFAR–Fokusseiten

Dynamische Profilseiten namhafter Kanzleien mit Fokus Arbeitsrecht

Aktuelle Beiträge

  • Langzeiterkrankungen: Ausschluss der Inflationsausgleichsprämie?
  • Broschüre „Arbeitswelt im Wandel 2025“ erschienen
  • Personalabbau in Unternehmen mit Betriebsräten
  • BAG: Weitere „Orientierungshilfen“ zur Vergütung (teil-)freigestellter Betriebsratsmitglieder
  • Befürchtungen über Kontrollverlust begründen keinen Schadensersatzanspruch nach DSGVO

#EFAR – Jobs

  • Universitätsmedizin Greifswald KöR Arbeitsrechtler*in im Geschäftsbereich Personal 17475 Greifswald
  • Osborne Clarke Rechtsanwalt (w/m/d) Arbeitsrecht München
  • Amadeus Fire AG (Senior) Legal Counsel (m/w/d) Frankfurt am Main

#EFAR Feeds (X & LinkedIN)

Footer

Das #EFAR in den sozialen Medien
  • Über das #EFAR
  • Datenschutz
  • Haftungsauschluss
  • Mediadaten
  • Kontakt
  • Impressum
Blogverzeichnis - Bloggerei.de Cookie Einstellungen

Handcrafted with by Jung und Wild design.