Immer mehr Unternehmen setzen im Zuge der Digitalisierung auf Künstliche Intelligenz (KI), also IT-Systeme, die weitestgehend eigenständig Schlussfolgerungen ziehen und Lösungen entwickeln. Auch vor dem Personalbereich macht diese Entwicklung nicht Halt. Hier erhoffen sich viele Arbeitgeber*innen, unterstützt durch KI bessere Personalentscheidungen zu treffen und personelle Ressourcen zielgenauer einsetzen zu können. Damit eine solche KI arbeiten kann, muss sie zunächst mit aktuellen Daten „gefüttert" werden. Diese Daten werden unter anderem durch Befragungen von Mitarbeiter*innen gewonnen.

Ein im vergangenen Jahr in die öffentliche Diskussion geratenes Beispiel ist die App „Zonar", mit der sich Mitarbeiter*innen einer bekannten Online-Plattform für Mode untereinander bewerten sollen. Diese Bewertungen haben Einfluss auf Gehalt und Aufstiegschancen im Unternehmen. Dem Grunde nach handelt es sich um eine Peer-Review-Software, die unter anderem 360-Grad-Feedback-Methoden nutzt, um Empfehlungen für die Leistungsbeurteilung einzelner Mitarbeiter*innen zu erstellen. Ob und inwieweit diese Bewertung tatsächlich mit KI-Unterstützung erstellt wird, blieb in der Berichterstattung unklar – zumindest die abschließende Entscheidung wird offenbar weiterhin durch Menschen getroffen. Die datenschutzrechtliche Zulässigkeit der App war aufgrund ihrer konkreten Ausgestaltung zweifelhaft (wir berichteten: https://www.mhl.de/artikel/dsgvo-1/). Die Berliner Beauftragte für Datenschutz und Informationsfreiheit hatte damals eine Überprüfung von „Zonar" angekündigt und hat zwischenzeitlich rechtliche Kriterien für eine zulässige Nutzung erarbeitet. Darüber berichtet sie in ihrem unlängst veröffentlichten Jahresbericht.

Auch der Gesetzgeber greift das Thema „KI im Betrieb" mit dem Betriebsrätemodernisierungsgesetz auf, dessen Entwurf sich gerade im Gesetzgebungsverfahren befindet und der aller Voraussicht nach noch vor der im September anstehenden Bundestagswahl endgültig verabschiedet werden soll.

In unserem Beitrag geben wir einen Überblick über diese aktuellen Entwicklungen.

1. Rechtliche Rahmenbedingungen für Personal-Beurteilungssysteme

Die Zulässigkeit der Nutzung von Personal-Beurteilungssystemen – ob mit oder ohne KI-Unterstützung – hängt insbesondere davon ab, dass dadurch kein dauerhafter Überwachungsdruck für die bewerteten Mitarbeiter*innen entsteht.

Um einen solchen Überwachungsdruck zu vermeiden, sollen nach Auffassung der Berliner Datenschutzbeauftragten die Bewertungen nur innerhalb eines im Vorfeld bekanntgemachten begrenzten Zeitraums – empfohlen wurden laut Presseveröffentlichungen vier Wochen – erhoben und ausgewertet werden. Auch die Anzahl der Personen, die eine*n Mitarbeiter*in bewerten, soll auf das notwendige Maß – im konkret beurteilten Fall drei Personen – begrenzt werden. Eine Bewertung durch alle in Betracht kommenden Personen scheidet damit grundsätzlich aus. Zudem sollen Mitarbeiter*innen vorab erfahren, von wem sie bewertet werden und bei der Auswahl der sie bewertenden Personen ein Mitsprache- bzw. Vetorecht haben. Im konkret beurteilten Fall erfolgte die Teilnahme an der Bewertung von vornherein freiwillig, sowohl für die Beurteilten als auch für die Bewertenden. Ob dies ebenfalls eine Voraussetzung für die datenschutzrechtliche Zulässigkeit ist bzw. ob bei einer verpflichtenden Teilnahme strengere Grundsätze gelten würden, lässt der Bericht der Berliner Datenschutzbeauftragten offen.

Dem Grundsatz der Datenminimierung nach Art. 5 Abs. 1 lit. c) DSGVO folgend sollen die erhobenen Datensätze nur solange wie notwendig gespeichert werden. Nach Auffassung der Berliner Datenschutzbeauftragten soll es zulässig sein, die Daten aus der jeweils vorherigen Bewertungsperiode zu speichern, um Entwicklungen oder Unstimmigkeiten nachvollziehen zu können. Das Endergebnis eines Beurteilungsprozesses soll hingegen wie ein reguläres Arbeitszeugnis zu behandeln sein und dauerhaft zur Personalakte gespeichert werden können.

Um den Grundsatz der Transparenz nach Art. 5 Abs. 1 lit. a) DSGVO zu wahren, sollen Mitarbeiter*innen zumindest nach Abschluss der Bewertungsperiode Einsicht in die erhobenen und gespeicherten Daten nehmen können. Bewertete Mitarbeiter*innen sollen also Zugriff auf die Bewertungen erhalten, die ihre Kolleg*innen abgegeben haben. Nach Auffassung der Berliner Datenschutzbeauftragten überwiegt insofern das Interesse der bewerteten Mitarbeiter*innen an der Einsichtnahme gegenüber den Interessen der bewertenden Mitarbeiter*innen. Allerdings müsse Führungskräften keine Auskunft über ihre Bewertung durch untergeordnete Mitarbeiter*innen gegeben werden, da diese sonst Bedenken haben könnten, eine Bewertung abzugeben.

Neben diesen sehr speziellen Anforderungen – die man im Einzelnen wohl durchaus kritisch sehen kann – sind ergänzend die allgemeinen Anforderungen der Datenschutzgrundverordnung und des Bundesdatenschutzgesetzes zu beachten.

Ob diese von der Berliner Datenschutzbeauftragten für „Zonar" entwickelten Anforderungen auch auf andere Formen der softwaregestützten Mitarbeiterbefragung zu übertragen sind, bleibt abzuwarten. So könnte sich z.B. die Frage stellen, ob regelmäßige kurze Umfragen zur Mitarbeiterzufriedenheit und -motivation, sogenannte „Pulse Checks", mit dem Erfordernis eines begrenzten Bewertungszeitraums vereinbar sind oder ob daraus ein dauerhafter Überwachungsdruck für Führungskräfte entsteht, wenn die ihnen unterstellten Mitarbeiter*innen regelmäßig – zumindest mittelbar – deren Leistung beurteilen.

Vor diesem Hintergrund sollten Arbeitgeber*innen vor einer Anschaffung entsprechender Systeme für den Personalbereich nicht nur deren Funktionalitäten und Sicherheit prüfen, sondern auch eine umfassende rechtliche Prüfung vornehmen.

2. KI und der Betriebsrat

Eine Software wie „Zonar" stellt zweifelsohne eine technische Einrichtung dar, die der Überwachung des Verhaltens und der Leistung von Mitarbeiter*innen dient. Dem Betriebsrat steht daher bei der Einführung solcher Systeme ein Mitbestimmungsrecht nach § 87 Abs. 1 Nr. 6 BetrVG zu.

Auch das aktuell im Gesetzgebungsverfahren befindliche „Betriebsrätemodernisierungsgesetz" – dessen Entwurf am 1. April 2021 vom Bundeskabinett verabschiedet wurde – befasst sich unter anderem mit dem Thema KI. Nach Auffassung der Bundesregierung stärken die betriebliche Mitbestimmung und eine frühzeitige Einbindung der Betriebsräte das Vertrauen und die Akzeptanz der Beschäftigten bei der Einführung und der Anwendung von KI. Dies sei Voraussetzung für eine positive Haltung zu KI allgemein sowie für eine erfolgreiche Implementierung von KI-Anwendungen auf betrieblicher Ebene. Die Bundesregierung beabsichtige deshalb, die Möglichkeit zu verbessern, externen Sachverstand im Bereich KI hinzuzuziehen, die Gestaltungsmöglichkeiten der Betriebsräte beim Einsatz von KI zu sichern und für mehr Rechtsklarheit bei den Betriebspartnern zu sorgen.

Im Hinblick auf die Einbindung des Betriebsrats beim Einsatz von KI wird im „Betriebsrätemodernisierungsgesetz"

• festgelegt, dass die Hinzuziehung eines Sachverständigen beim Einsatz von KI für den Betriebsrat als erforderlich gilt;
• klargestellt, dass die Rechte des Betriebsrates bei der Planung von Arbeitsverfahren und -abläufen auch dann gelten, wenn der Einsatz von KI im Betrieb vorgesehen ist;
• sichergestellt, dass die Rechte des Betriebsrates bei der Festlegung von Richtlinien über die personelle Auswahl auch dann Anwendung finden, wenn diese Richtlinien ausschließlich oder mit Unterstützung von KI erstellt werden.

Insbesondere die geplante Festlegung, dass die Hinzuziehung von IT-Sachverständigen pauschal als erforderlich gelten soll, wenn der Betriebsrat die Einführung oder Anwendung von KI im Rahmen seiner Aufgaben zu beurteilen hat, erscheint problematisch. Die Begründung des Gesetzentwurfes lautet insoweit: „Diskussionen über die Erforderlichkeit eines Sachverständigen hierzu sollen daher zukünftig entfallen. Arbeitgeber und Betriebsrat haben sich in diesem Fall dann nur noch über die Kosten und die Person des Sachverständigen zu einigen." Arbeitgeber*innen hätten dementsprechend die Kosten des Sachverständigen zu tragen, ohne dass es auf eine Prüfung der Erforderlichkeit im Einzelfall und die vorrangige Nutzung innerbetrieblichen Sachverstandes ankäme

Fraglich ist, was als KI im Sinne dieser neuen Regelungen zu verstehen sein soll. Immer mehr Softwarehersteller werben inzwischen damit, dass in ihren Programmen – zumindest im Hintergrund – KI zum Einsatz komme. Damit könnten die Regelungen bald für fast jede Software gelten. Leider geben weder das Gesetz noch die Gesetzesbegründung insoweit konkrete Hilfestellung. Jedenfalls Software, die durch die Auswertung von Datensätzen mit Hilfen von Algorithmen zu eigenen Schlussfolgerungen, Einschätzungen und Bewertungen gelangt, dürfte wohl als KI in diesem Sinne zu qualifizieren sein. Ob dagegen Software, die etwa Arbeitszeiten erfasst und vergleicht, also lediglich Daten erhebt und zusammenfasst, hinreichend „intelligent" ist, um als KI zu gelten, dürfte eher zweifelhaft sein. Da Betriebsräte schon jetzt im Rahmen von § 87 Abs. 1 Nr. 6 BetrVG regelmäßig IT-Sachverständige hinzuziehen, wenn komplexere Systeme mit entsprechendem Überwachungspotential eingeführt werden, würde die geplante Neuregelung zur Hinzuziehung von IT-Sachverständigen in der Praxis wohl nur dann eine spürbare Wirkung entfalten, wenn der Begriff der KI großzügig ausgelegt wird. In einem solchen Fall könnten allerdings die Ausgaben von Arbeitgeber*innen für IT-Sachverständige des Betriebsrates künftig deutlich steigen.

Hintergrund der geplanten Klarstellung zum Mitbestimmungsrecht des Betriebsrates bei der Erstellung von Richtlinien nach § 95 Abs. 1 BetrVG über die personelle Auswahl bei Einstellungen, Versetzungen, Umgruppierungen und Kündigungen sind offenbar Befürchtungen, dass Arbeitgeber*innen versuchen könnten, dieses Mitbestimmungsrecht durch den Einsatz von KI zu umgehen. Die Begründung erwähnt konkret sogenannte Algorithmic-Decision-Making-Systeme (ADM-Systeme), auf die bei der Personalauswahl zurückgegriffen wird. Der Betriebsrat sei dabei im Rahmen seiner bestehenden gesetzlichen Rechte zu beteiligen, so dass die bei der Personalauswahl zu berücksichtigenden Belange, wie etwa die Gleichstellung von Frauen und Männern, gewahrt blieben. Sicherzustellen sei, dass die Rechte des Betriebsrates auch dann gelten, wenn eine KI selbst Auswahlrichtlinien für die Personalauswahl entwickelt.

In der Praxis würde die geplante Regelung wohl bedeuten, dass der Betriebsrat darüber mitbestimmen darf, welche Kriterien, wie z.B. Alter, Geschlecht, Qualifikation, von der KI zu Grunde gelegt und wie diese Kriterien gewichtet werden dürfen. Dies kann den Einsatz von KI insofern erschweren, als „maßgeschneiderte" Software-Lösungen häufig zu erheblichen Mehrkosten führen. Zum anderen erscheint fraglich, ob die Anbieter solcher Systeme bereit sein werden, entsprechende Informationen preiszugeben, die ggf. essentielle Geschäftsgeheimnisse darstellen können.

Schließlich soll durch die geplanten Regelungen klargestellt werden, dass Arbeitgeber*innen den Betriebsrat im Rahmen von § 90 Abs. 1. Nr. 3 BetrVG rechtzeitig über den geplanten Einsatz von KI im Betrieb zu unterrichten und darüber mit ihm zu beraten haben. Dies gilt nicht nur für den Einsatz von KI im Personalbereich, sondern umfassend für alle Arbeitsbereiche.

3. Fazit

Der Fall „Zonar" zeigt, dass der Einsatz von KI-gestützten Systemen im Personalbereich sorgfältige Vorbereitung erfordert. Bereits auf Grund der datenschutzrechtlichen Anforderungen können solche Systeme nicht ohne weiteres in Betrieb genommen werden. Besteht ein Betriebsrat, sind zudem bereits jetzt dessen Mitbestimmungs- und Beteiligungsrechte nach § 87 Abs. 1 Nr. 6 und § 90 Abs. 1 Nr. 3 BetrVG zu beachten. Das geplante „Betriebsrätemodernisierungsgesetz" wird die Einführung von KI-gestützten Systemen ebenfalls nicht vereinfachen.

Arbeitgeber*innen müssen sich daher vor der Anschaffung eines KI-gestützten Systems stets die Frage stellen, ob die Ziele, die mit dessen Einsatz erreicht werden sollen, noch realistisch sind, wenn die datenschutz- und arbeitsrechtlichen Vorgaben einschließlich ggf. zu erwartender Anpassungswünsche des Betriebsrates berücksichtigt werden. Vor diesem Hintergrund sollte die in Aussicht genommene Software nicht nur von der Fachabteilung hinsichtlich ihrer Anwenderfreundlichkeit und Effektivität bewertet, sondern frühzeitig auch von der IT-Abteilung auf Datensicherheit und von der Rechtsabteilung oder externen Spezialisten auf datenschutz- und arbeitsrechtliche Fallstricke geprüft werden.

Sprechen Sie uns gern an, wenn Sie zu diesen Themen weitere Fragen haben oder Unterstützung benötigen.