Das Thema
Das Kapitel 1 enthält in 4 Artikeln „Allgemeine Bestimmungen“. Dabei handelt es sich um den Gegenstand der KI-VO (Art. 1 KI-VO), den Geltungsbereich (Art. 2 KI-VO) und Begriffsbestimmungen (Art. 3 KI-VO). Daneben findet sich in Kapitel 1 eine Regelung zu den Schulungspflichten.
KI-Kompetenz (Art. 4 KI-VO)
Eine der zentralen Neuerungen, die seit dem 02.02.2025 anwendbar sind, ist die Schulungspflicht für Anbieter und Betreiber von KI-Systemen. Gemäß Art. 4 KI-VO müssen diese sicherstellen, dass ihr Personal und andere Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind, über ein ausreichendes Maß an KI-Kompetenz verfügen.
Diese Schulungspflicht soll dazu beitragen, die Kompetenz im Umgang mit KI-Systemen zu erhöhen und die Einhaltung der rechtlichen Rahmenbedingungen zu gewährleisten.
Verbote gemäß Artikel 5 KI-VO
Art. 5 KI-VO (die einzige Norm in Kapitel 2) listet spezifische Praktiken auf, die im Bereich der KI verboten sind. Diese Verbote zielen darauf ab, den Missbrauch von KI-Systemen zu verhindern und den Schutz der Grundrechte zu gewährleisten (vgl. ErwG 28 KI-VO).
Wobei handelt es sich um verbotene Praktiken?
Unterschwellige Beeinflussung und Manipulation
Das Inverkehrbringen, die Inbetriebnahme oder die Verwendung von KI-Systemen, die Techniken der unterschwelligen Beeinflussung oder absichtlich manipulative oder täuschende Techniken einsetzen, um das Verhalten von Personen wesentlich zu verändern, ist verboten. Dies gilt insbesondere, wenn die Fähigkeit der betroffenen Personen, eine fundierte Entscheidung zu treffen, beeinträchtigt und ihnen dadurch erheblicher Schaden zugefügt wird.
Ausnutzung von Schutzbedürftigkeit
Verboten ist auch der Einsatz von KI-Systemen, die die Schutzbedürftigkeit von Personen aufgrund ihres Alters, einer Behinderung oder einer bestimmten sozialen oder wirtschaftlichen Situation ausnutzen, um ihr Verhalten wesentlich zu verändern und ihnen dadurch Schaden zuzufügen.
Soziale Bewertung und Diskriminierung
KI-Systeme, die zur Bewertung oder Einstufung von Personen auf der Grundlage ihres sozialen Verhaltens oder persönlicher Eigenschaften verwendet werden und zu ungerechtfertigter oder unverhältnismäßiger Benachteiligung führen, sind ebenfalls verboten.
Risikobewertungen im Strafrecht
Die Verwendung von KI-Systemen zur Durchführung von Risikobewertungen, um das Risiko einer Straftat ausschließlich auf der Grundlage des Profilings vorherzusagen, ist untersagt. Ausnahmen bestehen nur, wenn die Bewertung auf objektiven und überprüfbaren Tatsachen beruht.
Phasenweise Umsetzung
Die KI-VO wird in mehreren Phasen umgesetzt. Während die Schulungspflichten und die Verbote in Art. 5 KI-VO bereits seit dem 02.02.2025 gelten, treten weitere Regelungen, vor allem zu den Hochrisiko-KI-Systemen und anderen Aspekten erst später in Kraft, nämlich am 02.08.2026. Unter die Hochrisiko-KI-Systeme werden etliche Systeme fallen, die im Bereich der Beschäftigung von Arbeitnehmern eingesetzt werden (vgl. zum Thema auch den EFAR-Beitrag „Das Gesetz über künstliche Intelligenz“).
Die gestaffelte Umsetzung soll den betroffenen Unternehmen ausreichend Zeit geben, sich auf die neuen Anforderungen vorzubereiten und entsprechende Maßnahmen zu ergreifen. Die Zeit ist aber nicht mehr lang, sodass man sich bereits jetzt vorbereiten sollte.
Weitere wichtige Regelungen der KI-VO
Neben den bereits erwähnten Schulungspflichten und Verboten gibt es weitere wichtige Regelungen, die im Laufe der nächsten Jahre anwendbar werden. Diese betreffen u.a. die Produktsicherheit, die Transparenzanforderungen und die Haftung für Schäden, die durch KI-Systeme verursacht werden.
Produktsicherheit
KI-Systeme müssen bestimmten Sicherheitsanforderungen entsprechen, um auf den Markt gebracht werden zu dürfen. Diese Anforderungen umfassen z.B. die Gewährleistung der Robustheit und Genauigkeit der Systeme sowie Maßnahmen zur Vermeidung von Fehlfunktionen.
Transparenzanforderungen
Anbieter von KI-Systemen müssen sicherstellen, dass die Nutzer über die Funktionsweise und die möglichen Risiken der Systeme informiert sind. Dies umfasst auch die Offenlegung der verwendeten Datenquellen und der Algorithmen.
Haftung für Schäden
Die KI-VO sieht vor, dass Anbieter und Betreiber von KI-Systemen für Schäden haften, die durch den Einsatz ihrer Systeme verursacht werden. Dies soll sicherstellen, dass betroffene Personen angemessen entschädigt werden und die Anbieter Anreize haben, sichere und zuverlässige Systeme zu entwickeln.
Auswirkungen auf Unternehmen und Gesellschaft
Die neuen Regelungen der KI-VO werden erhebliche Auswirkungen auf Unternehmen und die Gesellschaft insgesamt haben. Unternehmen müssen ihre Prozesse und Systeme an die neuen Anforderungen anpassen und sicherstellen, dass sie die gesetzlichen Vorgaben einhalten. Dies ist mit Kosten und Aufwand verbunden, bietet jedoch auch Chancen für Innovation und Wettbewerbsvorteile.
Für die Gesellschaft bieten die neuen Regelungen einen verbesserten Schutz der Grundrechte und eine höhere Sicherheit im Umgang mit KI-Systemen. Durch die Einführung einheitlicher Standards wird zudem das Vertrauen in KI-Technologien gestärkt, was deren Akzeptanz und Verbreitung fördern kann.
Herausforderungen bei der Umsetzung
Die Umsetzung der neuen Regelungen stellt Unternehmen vor verschiedene Herausforderungen. Dazu gehören u.a.:
- Technische Anpassungen:
Unternehmen müssen ihre bestehenden KI-Systeme ggf. an die neuen Sicherheits- und Transparenzanforderungen anpassen. - Schulung und Weiterbildung:
Die Schulungspflichten erfordern, dass Unternehmen ihre Mitarbeiter regelmäßig schulen und weiterbilden. Dies kann zeit- und kostenintensiv sein, ist jedoch notwendig, um die gesetzlichen Vorgaben zu erfüllen. - Rechtliche Unsicherheiten:
Da die KI-VO neue und teilweise komplexe Regelungen einführt, können rechtliche Unsicherheiten und Interpretationsfragen auftreten. Unternehmen sollten sich daher rechtzeitig damit befassen, um sicherzustellen, dass sie die Anforderungen korrekt umsetzen.
Fazit
Das Inkrafttreten der ersten Regelungen der EU-VO KI am 02.02.2025 stellt einen wichtigen Meilenstein in der Regulierung von KI dar. Unternehmen sollten sich frühzeitig mit den neuen Anforderungen auseinandersetzen und sicherstellen, dass ihre Mitarbeiter entsprechend geschult sind, um den gesetzlichen Vorgaben gerecht zu werden. Die neuen Regelungen bieten nicht nur Herausforderungen, sondern auch Chancen für Innovation und Wettbewerbsvorteile.
