EU beschließt weltweit erste KI-Verordnung
Catharina Scharrer
ChatGPT, Gesichtserkennung, Smart Home und Co sind aus unserem Alltag nicht mehr wegzudenken. Auch in die Arbeitswelt hält KI in großen Schritten Einzug. Die Integration und Anwendung von KI in Unternehmen bietet Chancen, die Arbeitsorganisation effizienter und dynamischer zu gestalten. Mit großer Mehrheit hat nun das EU-Parlament am 13. März 2024 die sogenannte KI-Verordnung („AI Act“) – die weltweit erste umfassende KI-Regulierung – beschlossen. Der AI Act tritt 20 Tage nach der Veröffentlichung im Amtsblatt der EU in Kraft, welche im Mai oder Juni 2024 erwartet wird. In Gänze kommt der AI Act zwei Jahre nach seiner Veröffentlichung zur Anwendung. Einige Bestimmungen gelten jedoch bereits früher.
Der AI Act basiert im Grundsatz auf einem Risikobewertungsmodell, das KI-Systeme je nach Risikoniveau klassifiziert und abhängig vom Risiko unterschiedliche Anforderungen an das jeweilige KI-System vorsieht:
KI-Systeme mit inakzeptablen Risiken: KI-Systeme dieser Kategorie sind künftig verboten und müssen innerhalb der EU vom Markt genommen werden. Dies betrifft z.B. KI-Systeme, die Emotionen von Arbeitnehmern am Arbeitsplatz erkennen und erfassen oder Menschen auf Grundlage ihrer biometrischen Daten kategorisieren, um Rückschlüsse etwa auf ihre sexuelle Orientierung, politische oder religiöse Überzeugungen oder ihre Gewerkschaftszugehörigkeit zu ziehen.
Hoch-Risiko-Systeme: Die Verwendung von KI-Systemen dieser Kategorie unterliegt hohen technischen und organsisatorischen Compliance-Anforderungen, s. hierzu noch unten.
Weitere KI-Systeme, die nicht in die zuvor genannten Kategorien fallen, werden ebenfalls durch den AI Act reguliert. Die diesbezüglichen Verpflichtungen richten sich in erster Linie an die Anbieter.
Eine Vielzahl von im Personalwesen eingesetzten KI-Systemen wird als Hoch-Risiko-System einzuordnen sein, die auch umfassende Pflichten für die Verwender nach sich ziehen. Der AI Act ordnet KI-Systeme etwa in diese Kategorie ein, wenn sie dazu genutzt werden, Entscheidungen über Arbeitsverhältnisse zu treffen, z.B. über Beförderungen oder Kündigungen, oder wenn sie Arbeitnehmern Aufgaben je nach individuellem Verhalten oder persönlichen Merkmalen zuweisen. Hoch-Risiko-Systeme sind auch KI-Systeme, die Bewerbungen analysieren oder filtern oder Bewerber bewerten, sowie Systeme, die die Leistung oder das Verhalten von Mitarbeitern überwachen oder bewerten.
Für Unternehmen, die Hoch-Risiko-Systeme verwenden, gehen mit dem AI Act diverse Pflichten einher, z.B.:
- Überwachungspflichten: Unternehmen müssen prüfen, ob die Mitarbeiter die KI entsprechend den Gebrauchsanweisungen bedienen.
- Transparenzpflichten: Ferner müssen Unternehmen den Einsatz dieser Systeme gegenüber den Personen, die dem KI-System unterliegen werden, etwa Mitarbeitern oder Bewerbern, offenlegen.
- Schulungspflichten: Auch sind Unternehmen verpflichtet, sicherzustellen, dass Mitarbeiter, die Kontrolle über Hoch-Risiko-Systeme ausüben, ausreichende Kompetenzen im Umgang mit dieser KI aufweisen und entsprechende Schulungen erhalten.
Diese Verpflichtungen sollten auch ernst genommen werden: Wie auch die DSGVO setzt der AI Act auf drakonische Strafandrohungen bei Verstößen. Geldbußen können in Höhe von bis zu EUR 35 Millionen oder 7 Prozent des weltweiten Umsatzes verhängt werden.
Die Verwendung von KI bringt neben den zahlreichen Vorteilen und Chancen für Unternehmen aufgrund des AI Acts künftig weitere Pflichten mit sich. Unternehmen sind also gut beraten, mögliche Risiken frühzeitg zu identifizieren, den AI Act bei der Einführung von KI-Systemen bereits heute mitzudenken und beispielsweise unternehmensinterne Richtlinien zur Nutzung von KI aufzustellen.
