Algorithmisches Management: Kann ein Algorithmus Ihre Leistung bewerten?

Algorithmisches Management, also der Einsatz von KI-Systemen zur Überwachung, Bewertung und Steuerung von Mitarbeitern, ist in den Niederlanden zwar zulässig, jedoch nur in begrenztem Umfang. Ein Algorithmus kann eine Leistungsbeurteilung unterstützen; er darf aber nicht die alleinige Grundlage für Entscheidungen mit erheblichen Auswirkungen auf Sie sein, wie etwa Kündigung, Degradierung oder die Verweigerung eines Bonus. Denn Artikel 22 der DSGVO sieht vor, dass solche Entscheidungen von einem Menschen getroffen und geprüft werden. Darüber hinaus stuft das EU-KI-Gesetz Systeme zur Überwachung und Bewertung von Mitarbeitern als risikoreich ein und verbietet den Einsatz von KI zur Ermittlung der Emotionen von Mitarbeitern am Arbeitsplatz gänzlich.

Was algorithmisches Management eigentlich ist

Algorithmisches Management bezeichnet den Fall, dass Software anstelle eines Vorgesetzten die Beobachtung, Messung und oft auch die Bewertung übernimmt. Es findet Anwendung in Lagern und Logistikzentren, Kundenservicecentern, bei Plattformarbeit und zunehmend auch in alltäglichen Bürotätigkeiten, wo Produktivitätstools in die bereits genutzten Systeme integriert werden. Der Arbeitgeber muss kein Produkt namens „KI-Manager“ erwerben, damit sich rechtliche Fragen ergeben; ein Dashboard, das Mitarbeiter anhand automatisch erfasster Daten bewertet, genügt.

Was ein solches System gut kann, ist zählen. Es erfasst erledigte Aufgaben, Bearbeitungszeiten, Reaktionszeiten, die Einhaltung von Vorgaben und die in einer Anwendung erfassten Stunden. Was es jedoch nicht kann, ist zu verstehen, warum sich eine Zahl verändert hat. Eine Mitarbeiterin, deren Leistung sinkt, weil sie drei Wochen lang einen neuen Kollegen eingearbeitet hat, weil dieser den einen Kunden betreut hat, den sonst niemand betreuen konnte, oder weil die Arbeit in diesem Zeitraum ungewöhnlich komplex war, erscheint in den Daten genauso wie eine Mitarbeiterin, die einfach weniger geleistet hat. Diese Diskrepanz zwischen Messung und Interpretation ist die Ursache nahezu aller Rechtsstreitigkeiten in diesem Bereich.

Es geht nicht darum, dass Leistungsmessung ungesetzlich ist. Arbeitgeber haben ein Recht darauf zu erfahren, wie die Arbeit läuft, und eine angemessene Überwachung ist ein normaler Bestandteil der Unternehmensführung. Vielmehr geht es darum, dass niederländisches und europäisches Recht Bedingungen an die Durchführung dieser Messung und vor allem an die Verwendung ihrer Ergebnisse knüpft.

Wie diese Systeme Ihre Leistung bewerten

Es ist wichtig, die Abläufe zu verstehen, da Ihre Rechte an bestimmte Verfahrensschritte geknüpft sind. Im Wesentlichen laufen drei Dinge ab: Daten werden erhoben, ein Modell wandelt diese Daten in eine Bewertung um, und jemand oder etwas handelt entsprechend.

Was das System erfasst

Die Datenerfassung erfolgt in der Regel unauffällig und kontinuierlich. Im Kundenservice erfasst das System beispielsweise die Anzahl der bearbeiteten Kontakte, die durchschnittliche Bearbeitungszeit, die Lösungsquote beim ersten Kontakt, die Wartezeit zwischen Anrufen und die Einhaltung des vorgegebenen Gesprächsleitfadens. Darüber hinaus analysiert es Inhalte: Mithilfe von Natural Language Processing (NLP) werden E-Mails und Gesprächsprotokolle ausgewertet, Schlüsselwörter erkannt und die Stimmungslage der Kundenseite bewertet. In der Logistik werden Scanraten und Kommissioniergeschwindigkeit erfasst, im Büro die Nutzung von Kollaborationstools.

Jeder dieser Datenpunkte stellt personenbezogene Daten über Sie dar und muss gerechtfertigt sein. Gemäß der DSGVO darf ein Arbeitgeber nicht alle Daten erfassen, die ein System erfassen kann; die Verarbeitung muss für einen bestimmten Zweck erforderlich und verhältnismäßig sein. Ein System, das Tastatureingaben aufzeichnet oder regelmäßig Screenshots erstellt, um festzustellen, wer fleißig arbeitet, lässt sich kaum als verhältnismäßig rechtfertigen, und die niederländische Datenschutzbehörde (Autoriteit Persoonsgegevens) hat diese Art der flächendeckenden Überwachung wiederholt kritisiert.

Von Regeln zu Modellen und der Blackbox

Die einfachsten Systeme basieren auf Regeln. Überschreitet die durchschnittliche Bearbeitungszeit einen festgelegten Schwellenwert mehr als eine bestimmte Anzahl von Malen pro Woche, wird der Mitarbeiter markiert. Ein solches System ist starr und berücksichtigt den Kontext nicht, hat aber einen entscheidenden Vorteil: Man kann die Regel nachlesen und genau erkennen, warum man markiert wurde, was eine Diskussion darüber ermöglicht.

Maschinelle Lernmodelle funktionieren anders. Sie werden anhand historischer Daten trainiert, die Aufschluss darüber geben, wer gute und wer schlechte Leistungen erbracht hat, und leiten daraus Muster ab, die mit diesen Ergebnissen korrelieren. Dies ist zwar leistungsfähiger, aber deutlich weniger transparent. Das Modell kann sich auf etwas konzentrieren, das in keinerlei nachvollziehbarem Zusammenhang mit der Leistung steht, und weder der Arbeitgeber noch manchmal der Lieferant können genau erklären, warum ein bestimmtes Ergebnis erzielt wurde.

Diese Intransparenz wird gemeinhin als „Black-Box-Problem“ bezeichnet und ist im juristischen Kontext nicht nur lästig, sondern fatal. Ein Arbeitgeber, der die Grundlage einer Beurteilung nicht erläutern kann, erfüllt nicht seine Pflicht, aussagekräftige Informationen über die zugrundeliegende Logik bereitzustellen, kann die Beurteilung im Falle einer Anfechtung nicht wirksam verteidigen und kann nicht nachweisen, dass sie frei von Diskriminierung ist. Kurz gesagt: Was man nicht erklären kann, ist unbrauchbar.

Was die DSGVO von einem KI-Performance-System verlangt

Die DSGVO ist das erste und nach wie vor das praktischste Instrument in diesem Bereich, da sie für jeden Arbeitgeber gilt, der Mitarbeiterdaten verarbeitet, und seit Jahren angewendet wird. Vier ihrer Regeln erledigen den Großteil der Arbeit.

Artikel 22: Keine bedeutende Entscheidung durch Maschine allein

Artikel 22 der DSGVO gewährt jeder Person das Recht, nicht einer ausschließlich auf automatisierter Verarbeitung – einschließlich Profiling – beruhenden Entscheidung unterworfen zu werden, die ihr gegenüber rechtliche Wirkung entfaltet oder sie in ähnlicher Weise erheblich beeinträchtigt. Kündigung, Nichtverlängerung eines Arbeitsvertrags, Degradierung, Einbehaltung eines Bonus und Verweigerung einer Beförderung fallen eindeutig unter diese Definition.

Zwei Wörter sind entscheidend. „Ausschließlich“ bedeutet, dass eine Person, die lediglich die Systemvorlage bestätigt, nicht unter Artikel 22 fällt; Aufsichtsbehörden haben seit Jahren klargestellt, dass bloßes Abnicken keine menschliche Beteiligung darstellt. Eine sinnvolle Beteiligung erfordert einen Gutachter mit der Befugnis, zu einem anderen Ergebnis zu gelangen, der Kompetenz, den Fall zu beurteilen, und der dafür benötigten Zeit. „Erhebliche Auswirkungen“ ist weit auszulegen und erfordert keine formelle rechtliche Konsequenz: Ein Punktesystem, das über die angebotenen Schichten oder Aufgaben entscheidet, kann einen so erheblich beeinflussen, dass der Artikel Anwendung findet.

Soweit Artikel 22 Anwendung findet, muss der Arbeitgeber in jedem Fall die darin vorgeschriebenen Schutzmaßnahmen gewährleisten: das Recht auf menschliches Eingreifen, das Recht, seinen Standpunkt zu äußern und das Recht, die Entscheidung anzufechten.

Transparenz, Zugang und die damit verbundene Logik

Die Beschäftigten müssen vorab über die Existenz und Funktionsweise des Systems informiert werden. Bei automatisierten Entscheidungen im Sinne von Artikel 22 muss der Arbeitgeber zudem aussagekräftige Informationen über die zugrundeliegende Logik sowie die Bedeutung und die voraussichtlichen Folgen der Datenverarbeitung bereitstellen. Dieselben Informationen können im Nachhinein über ein Auskunftsersuchen angefordert werden. Dieses berechtigt Sie auch zum Erhalt einer Kopie der über Sie verarbeiteten personenbezogenen Daten: der Ergebnisse, der zugrunde liegenden Messungen und der vom System zugewiesenen Kategorien.

Was als sinnvoll gilt, wurde eher auf den Inhalt als auf die Formalität ausgerichtet. Es handelt sich nicht um eine Beschreibung der Technologie, sondern um eine Erklärung der verwendeten Faktoren und ihrer Gewichtung – formuliert in einer für die betroffene Person verständlichen und umsetzbaren Weise.

Rechtsgrundlage, Einwilligung und die Datenschutz-Folgenabschätzung

Jede Datenverarbeitung bedarf einer Rechtsgrundlage. Im Arbeitsverhältnis ist eine Einwilligung selten ausreichend, gerade aufgrund des Abhängigkeitsverhältnisses zwischen Arbeitgeber und Arbeitnehmer: Eine Einwilligung, die nicht ohne Folgen verweigert werden kann, wird nicht freiwillig erteilt. Arbeitgeber stützen sich daher in der Regel auf die Notwendigkeit der Verarbeitung zur Erfüllung des Arbeitsvertrags, auf eine rechtliche Verpflichtung oder auf ein berechtigtes Interesse. Letzteres erfordert eine dokumentierte Abwägung des verfolgten Interesses gegenüber dem Datenschutz der Beschäftigten.

Da die Leistungsüberwachung in diesem Umfang eine systematische und umfassende Bewertung von Mitarbeitern auf Basis automatisierter Verfahren beinhaltet, ist eine Datenschutz-Folgenabschätzung unerlässlich. Sie muss vor der Inbetriebnahme des Systems durchgeführt werden und die Verarbeitung beschreiben, deren Notwendigkeit und Verhältnismäßigkeit begründen, die Risiken für die Beschäftigten identifizieren und die Maßnahmen zu deren Minderung darlegen. Arbeitgeber, die auf die Abschätzung verzichten, entdecken die Probleme meist erst später im Streitfall, wenn eine stillschweigende Korrektur nicht mehr möglich ist.

Wie weit darf ein Arbeitgeber bei der Überwachung gehen?

Die Leistungsbewertung ist untrennbar mit dem ihr zugrunde liegenden Monitoring verbunden, und auch das Monitoring hat seine Grenzen. Ein Arbeitnehmer gibt sein Privatleben nicht an der Bürotür auf: Der Europäische Gerichtshof für Menschenrechte urteilte im Fall Barbulescu gegen Rumänien, dass die Überwachung der Kommunikation eines Arbeitnehmers das Recht auf Achtung des Privatlebens und der Korrespondenz gemäß Artikel 8 der Konvention berührt und dass ein Arbeitgeber den Arbeitnehmer im Voraus über Art und Umfang der Überwachung informieren, ein legitimes Ziel verfolgen und das am wenigsten eingreifende Mittel wählen muss, um dieses Ziel zu erreichen. Verdeckte Überwachung der Belegschaft ist eine Ausnahme und erfordert einen konkreten Verdacht, eine begrenzte Dauer und eine dokumentierte Bewertung, die durch keine weniger einschneidende Maßnahme erreicht werden kann.

Übertragen auf ein algorithmisches Managementprojekt bedeutet dies, dass der Arbeitgeber zu jedem Datenstrom drei Fragen beantworten können muss: Warum werden diese Daten für den angegebenen Zweck benötigt? Warum würde eine weniger eingreifende Messmethode diesen Zweck nicht erfüllen? Und wurden die Mitarbeiter im Voraus darüber informiert? Kontinuierliche Bildschirmaufzeichnung, Tastaturprotokollierung und Standortverfolgung außerhalb der Arbeitszeit erfüllen diese Anforderungen in den meisten normalen Arbeitsumgebungen nicht.

Daten zu Abwesenheit, Krankheit und Sonderkategorien

Eine Kategorie erfordert besondere Vorsicht. Gesundheitsdaten fallen unter die DSGVO und dürfen grundsätzlich – vorbehaltlich enger Ausnahmen – gar nicht verarbeitet werden. Die niederländischen Regelungen zu Krankheitsabwesenheiten sind streng: Ein Arbeitgeber darf zwar die Abwesenheit eines Mitarbeiters und deren Dauer erfassen, Art der Erkrankung, Diagnose und Einschränkungen obliegen jedoch dem Betriebsarzt, nicht dem Arbeitgeber. Ein Leistungsbewertungssystem, das aus Abwesenheitsmustern, Tippgeschwindigkeit, Pausen oder Tonfall Rückschlüsse auf den Gesundheitszustand zieht, verarbeitet Gesundheitsdaten indirekt. Die Tatsache, dass niemand eine Diagnose eingegeben hat, ändert daran nichts.

Die gleiche Vorsicht gilt für Systeme, deren Ergebnisse durch geschützte Abwesenheiten wie Schwangerschaft, Elternzeit oder Pflegeurlaub beeinflusst werden. Wenn das Modell diese Zeiträume als Minderleistung wertet, verarbeitet der Arbeitgeber nicht nur sensible Daten, sondern wandelt ein gesetzliches Recht in einen Nachteil um.

Die oberste Durchsetzungsebene

Verstöße gegen die Grundprinzipien, die Rechtmäßigkeit der Datenverarbeitung und die Rechte der betroffenen Personen fallen unter die höchste Strafstufe gemäß Artikel 83 der DSGVO – die schwerste Kategorie der Verordnung. Ebenso wichtig für die tägliche Praxis: Eine unter Verstoß gegen diese Regeln erstellte Beurteilung ist in einem Arbeitsrechtsstreit kaum haltbar. Ein Gericht, das einen Arbeitsvertrag wegen mangelhafter Leistung beenden soll, wird prüfen wollen, wie diese mangelhafte Leistung festgestellt wurde.

Was das KI-Gesetz für Arbeitgeber und Arbeitnehmer bringt

Die EU-KI-Richtlinie ist in Kraft und wird stufenweise angewendet. Die Frage ist daher nicht mehr, ob sie in Kraft tritt, sondern welche ihrer Verpflichtungen bereits greifen. Zwei ihrer Aspekte sind hierbei relevant.

Die erste Liste verbotener Praktiken gilt seit der Anfangsphase des Gesetzes. Sie enthält eine Regelung, die sich direkt auf den Arbeitsplatz bezieht: KI-Systeme, die in Arbeitsstätten und Bildungseinrichtungen auf die Emotionen natürlicher Personen schließen, sind verboten, es sei denn, das System wird aus medizinischen oder sicherheitsrelevanten Gründen eingesetzt oder auf den Markt gebracht. Software, die Stimmung, Stresslevel, Engagement oder Aufrichtigkeit von Mitarbeitern anhand ihrer Stimme, ihres Gesichtsausdrucks oder ihrer schriftlichen Ausdrucksweise bewertet, stellt daher kein Compliance-Problem dar. Sie ist ausgeschlossen, und die enge Ausnahme für medizinische und sicherheitsrelevante Zwecke deckt kein Produktivitätsmanagement ab. Die Abgrenzung ist hierbei entscheidend: Die Stimmungsanalyse von Kundenaussagen ist etwas anderes als die Ermittlung der Emotionen von Mitarbeitern.

Die zweite Ebene bildet die Hochrisikoregelung. Anhang III des KI-Gesetzes stuft unter anderem KI-Systeme als Hochrisikosysteme ein, die zur Entscheidungsfindung in Bezug auf die Bedingungen von Arbeitsverhältnissen, deren Beförderung oder Beendigung, die Aufgabenverteilung auf Grundlage individuellen Verhaltens oder persönlicher Merkmale sowie die Überwachung und Bewertung der Leistung und des Verhaltens von Arbeitnehmern eingesetzt werden sollen. Ein KI-gestütztes Leistungsbewertungsinstrument fällt eindeutig unter diese Definition. Im Rahmen des Digitalisierungspakets wurden die Anwendungsfristen für die Hochrisikopflichten für Systeme aus Anhang III verschoben, sodass Arbeitgeber mehr Zeit zur Vorbereitung haben; die Verbote, die Regeln für allgemeine KI-Modelle und die Transparenzpflichten gemäß Artikel 50 gelten bereits.

Eine Verpflichtung verdient besondere Erwähnung, da sie von Arbeitgebern häufig übersehen wird. Arbeitgeber, die ein KI-System mit hohem Risiko einsetzen, müssen die Arbeitnehmervertreter und die betroffenen Arbeitnehmer gemäß den geltenden Informations- und Konsultationsvorschriften informieren, bevor sie ein solches System am Arbeitsplatz in Betrieb nehmen. Diese Informationspflicht besteht neben den Transparenzpflichten der DSGVO und den Rechten des Betriebsrats nach niederländischem Recht und ersetzt diese nicht. Ausführlichere Informationen zum Gesetz und seinem Zeitplan finden Sie in unserem Artikel zu den rechtlichen Aspekten der künstlichen Intelligenz und dem EU-KI-Gesetz.

Wer trägt die Verantwortung: der Lieferant oder der Arbeitgeber?

Arbeitgeber gehen häufig fälschlicherweise davon aus, dass der Anbieter das rechtliche Risiko trägt, nur weil die Software von einem spezialisierten Unternehmen bezogen wurde. Beide Rahmenwerke sehen die Verantwortungsverteilung jedoch anders vor.

Gemäß der DSGVO entscheidet der Arbeitgeber über Zweck und Art der Verarbeitung von Mitarbeiterdaten und ist somit der Verantwortliche. Der Dienstleister, der das System im Auftrag des Arbeitgebers betreibt, ist Auftragsverarbeiter; die Beziehung muss in einem Auftragsverarbeitungsvertrag geregelt werden. Die Pflichten zur Transparenz, Rechtmäßigkeit und menschlichen Aufsicht gegenüber den eigenen Mitarbeitern obliegen jedoch dem Arbeitgeber. Er ist der Datenschutzbehörde (Autoriteit Persoonsgegevens) und den Mitarbeitern selbst gegenüber rechenschaftspflichtig.

Das KI-Gesetz zieht eine vergleichbare Trennlinie zwischen dem Anbieter, der ein KI-System entwickelt und auf den Markt bringt, und dem Anwender, der es eigenverantwortlich einsetzt. Ein Arbeitgeber, der ein gekauftes Tool verwendet, ist in der Regel Anwender und trägt die damit verbundenen Pflichten. Dazu gehören die vorschriftsmäßige Nutzung des Systems, die Gewährleistung einer angemessenen menschlichen Aufsicht durch qualifiziertes und befugtes Personal, die Überwachung des Betriebs und die Information der Beschäftigten. Ein Arbeitgeber, der das System unter seinem eigenen Namen vertreibt, es wesentlich verändert oder seinen Verwendungszweck ändert, kann zum Anbieter werden und die damit verbundenen, weitaus umfassenderen Pflichten übernehmen.

Die praktische Konsequenz für die Beschaffung ist, dass der Vertrag unter Berücksichtigung dieser Rollen gelesen werden muss. Ein Arbeitgeber benötigt vom Lieferanten die Informationen, die die Einhaltung der Vorschriften ermöglichen, und sollte Produkten, die ihre eigenen Ergebnisse nicht erklären können, skeptisch gegenüberstehen, da die Erklärungspflicht unabhängig von den Lizenzbestimmungen beim Arbeitgeber liegt.

Plattformarbeit: eine zusätzliche Regelebene

Für Menschen, die über digitale Arbeitsplattformen arbeiten, ist ein weiteres Instrument in Vorbereitung. Die Richtlinie (EU) 2024/2831 zur Verbesserung der Arbeitsbedingungen in der Plattformarbeit widmet dem algorithmischen Management ein ganzes Kapitel. Sie verpflichtet Plattformen, Arbeitnehmer über automatisierte Überwachungs- und Entscheidungssysteme zu informieren, die ihre Arbeitsbedingungen erheblich beeinflussen, beschränkt die Verarbeitung bestimmter Datenkategorien, darunter Daten zum emotionalen und psychischen Zustand sowie Daten über private Gespräche, schreibt die menschliche Aufsicht über die Auswirkungen dieser Systeme vor und gibt Arbeitnehmern das Recht auf eine Erklärung und eine menschliche Überprüfung wichtiger Entscheidungen, wie beispielsweise der Einschränkung oder Sperrung eines Kontos. Bemerkenswerterweise gelten einige dieser Schutzmaßnahmen für alle Personen, die Plattformarbeit leisten, unabhängig davon, ob sie als Arbeitnehmer gelten oder nicht.

Die Mitgliedstaaten müssen die Richtlinie bis zum 2. Dezember 2026 in nationale Umsetzungsgesetze umsetzen. Bis dahin bleiben die DSGVO und das AI Act die maßgeblichen Regelungen, und ihre Anforderungen decken bereits einen Großteil der gleichen Sachlage ab.

Niederländisches Arbeitsrecht: Ein Algorithmus kann Ihren Vertrag nicht beenden

Europäische Datenschutz- und KI-Regeln regeln die Funktionsweise des Systems. Niederländisches Arbeitsrecht legt fest, was ein Arbeitgeber mit den Ergebnissen tun darf, und ist deutlich strenger als in den meisten Projekten zur algorithmischen Verwaltung angenommen.

In den Niederlanden kann ein Arbeitgeber einen Arbeitsvertrag nicht einfach kündigen. Eine Kündigung setzt einen triftigen Grund gemäß Artikel 7:669 des niederländischen Bürgerlichen Gesetzbuches voraus und erfordert je nach Grund die vorherige Genehmigung des Arbeitsamtes (UWV) oder eine Entscheidung des zuständigen Amtsgerichts (kantonrechter). Unzureichende Leistung ist ein solcher Grund und stellt hohe Anforderungen. Der Arbeitgeber muss nachweisen, dass der Arbeitnehmer für die Stelle ungeeignet ist, dass er rechtzeitig darüber informiert wurde und dass ihm eine echte Chance zur Verbesserung geboten wurde, gegebenenfalls mit Unterstützung. Eine bloße Überprüfung der Leistungsdaten reicht nicht aus, um einen Verbesserungsprozess zu gewährleisten. Das Gericht wird daher prüfen, was wann besprochen wurde und welche Unterstützung angeboten wurde. Unser Leitfaden zum niederländischen Arbeitsrecht erläutert den Kündigungsrahmen detaillierter.

Das Antidiskriminierungsrecht bezieht sich auf das Ergebnis, nicht auf die Absicht. Benachteiligt ein System Beschäftigte aufgrund von Merkmalen wie Geschlecht, Rasse, Alter, Religion, Behinderung oder chronischer Krankheit, ist es nach dem Allgemeinen Gleichbehandlungsgesetz (Algemene wet gelijke behandeling) und den spezifischen Gleichbehandlungsgesetzen zu Alter und Behinderung rechtswidrig, unabhängig davon, ob dieses Ergebnis beabsichtigt war. Häufig sind historische Schulungsdaten die Ursache: Ein Modell, das auf Basis vergangener Beförderungen trainiert wurde, reproduziert die Präferenzen der Vergangenheit. Systeme, die die Verfügbarkeit oder Leistung über einen bestimmten Zeitraum messen, benachteiligen tendenziell auch Beschäftigte, die Elternzeit genommen, Teilzeit gearbeitet oder krankheitsbedingt abwesend waren. Die Benachteiligung eines Beschäftigten für die Ausübung eines gesetzlichen Rechts verbietet genau das, was das Gleichbehandlungsrecht untersagt.

Der Betriebsrat muss zustimmen.

In einem Unternehmen mit Betriebsrat reicht guter Wille allein nicht aus. Artikel 27 des Betriebsratsgesetzes (Wet op de ondernemingsraden) schreibt die Zustimmung des Betriebsrats für die Annahme, Änderung oder Aufhebung von Regelungen vor, darunter solche zur Mitarbeiterbeurteilung, zur Verarbeitung und zum Schutz personenbezogener Daten der Beschäftigten sowie zu Einrichtungen, die der Beobachtung oder Überwachung der Anwesenheit, des Verhaltens oder der Leistung der Beschäftigten dienen oder dafür geeignet sind. Ein KI-gestütztes Leistungsmanagementsystem bezieht alle drei Aspekte gleichzeitig ein.

Die Zustimmung ist hier keine Formalität. Eine ohne die erforderliche Zustimmung getroffene Entscheidung kann vom Betriebsrat für ungültig erklärt werden, und der Arbeitgeber kann dann daran gehindert werden, sie anzuwenden. Für Arbeitnehmer, die das Gefühl haben, dass ihnen ein System aufgezwungen wurde, ist der Betriebsrat oft der schnellste und effektivste Weg, Veränderungen herbeizuführen – lange bevor jemand an eine Klage denkt.

Was die Gerichte bisher entschieden haben

Die Rechtsprechung entwickelt sich noch, aber zwei niederländische Urteile haben bereits die Richtung vorgegeben und werden beide weit über die Niederlande hinaus zitiert.

Die Urteile gegen Uber und Ola

Am 4. April 2023 der Gerechtshof Amsterdam (Amsterdam Das Berufungsgericht entschied in einer Reihe von Klagen, die Fahrer gegen Uber und Ola eingereicht hatten. Die Fahrer wollten wissen, warum ihre Konten deaktiviert worden waren und wie ihnen Aufträge und Preise zugeteilt wurden. Das Gericht gab ihnen in Bezug auf die Informationspunkte weitgehend Recht. Fahrer, die den Zugang zur Plattform und damit ihr Einkommen verloren, waren erheblich von automatisierten Entscheidungen betroffen, und die Unternehmen konnten eine Erklärung nicht unter Berufung auf Geschäftsgeheimnisse oder Manipulationsrisiken verweigern, ohne diese Einwände zu begründen.

Das Gericht verlangte konkrete Angaben: keine allgemeine Beschreibung der Technologie, sondern Informationen über die verwendeten Faktoren und deren Gewichtung, damit die betroffene Person das Ergebnis nachvollziehen und gegebenenfalls anfechten konnte. Arbeitgeber sollten diesen Standard auch für Leistungsalgorithmen anwenden. Wenn Ihre Antwort auf die Frage nach Ihrem schlechten Ergebnis lautet, dass das Modell dies bestimmt hat, erfüllen Sie diesen Standard nicht.

Das SyRI-Urteil

Der zweite Fall betraf zwar keinen Arbeitsrechtsstreit, seine Argumentation hat aber Auswirkungen auf den Arbeitsplatz. In seinem Urteil vom 5. Februar 2020 (ECLI:NL:RBDHA:2020:865) entschied das Gericht Den Haag, dass die dem SyRI zugrunde liegende Gesetzgebung – einem staatlichen Risikoindikatorsystem zur Aufdeckung von Sozialleistungs- und Steuerbetrug – gegen Artikel 8 der Europäischen Menschenrechtskonvention verstößt. Das System sei nicht ausreichend transparent und nachvollziehbar: Niemand von außen könne nachvollziehen, wie eine Person ins Visier der Behörden geraten sei, was eine Verteidigung unmöglich mache.

Der Grundsatz ist allgemein gültig. Ein System, dessen Funktionsweise nicht nachvollziehbar ist, kann nicht angefochten werden, und eine nicht anfechtbare Entscheidung ist nicht fair. Ein Arbeitgeber, der Beurteilungen auf einem Modell gründen will, das weder Arbeitnehmer noch Arbeitgeber erklären können, baut auf demselben Fundament, das in jenem Fall gescheitert ist. Diese Fragen der Verantwortung für automatisiertes Verhalten reichen weit über das Arbeitsrecht hinaus, wie unser Artikel über KI und Strafrecht zeigt.

Ihre Rechte, wenn ein Algorithmus Ihre Bewertung vornimmt

Wenn Sie mithilfe eines KI-Systems beurteilt werden, haben Sie konkrete und einklagbare Rechte, und Sie müssen nicht beweisen, dass das System falsch liegt, bevor Sie diese Rechte ausüben können.

Sie können Auskunft darüber verlangen, welche Daten über Sie gespeichert sind, und eine Kopie davon erhalten, einschließlich der Messwerte, die der Bewertung zugrunde liegen, und der daraus abgeleiteten Ergebnisse. Sie können aussagekräftige Informationen über die Systemlogik, die relevanten Faktoren und deren Gewichtung anfordern. Wurde eine weitreichende Entscheidung automatisiert getroffen, können Sie eine menschliche Überprüfung verlangen, Ihre Sichtweise darlegen und die Entscheidung anfechten. Sie können fehlerhafte Daten korrigieren lassen, was wichtiger ist, als es klingt: Viele der von diesen Systemen erfassten Daten sind schlichtweg falsch, von falsch protokollierten Abwesenheiten bis hin zu Arbeitsleistungen, die der falschen Person zugeordnet wurden.

Wie man eine automatisierte Bewertung in der Praxis anfechten kann

Dokumentieren Sie zunächst Ihre eigene Position, bevor Sie das Thema ansprechen. Notieren Sie die konkreten Arbeiten, die in der Beurteilung unberücksichtigt bleiben, die Zeiträume mit ungewöhnlichen Umständen sowie jegliche Abwesenheit, Urlaub oder Versetzung, die die Zahlen aus Gründen, die nichts mit Ihrer Leistung zu tun haben, negativ beeinflussen würden. Zeitnahe Aufzeichnungen sind weitaus wertvoller als eine Rekonstruktion sechs Monate später.

Richten Sie anschließend eine schriftliche Anfrage an Ihren Arbeitgeber, in der Sie Ihre Rechte gemäß der DSGVO geltend machen, die für Ihre Beurteilung verwendeten Daten und die Begründung der Beurteilung anfordern und eine Überprüfung durch eine Person beantragen, die befugt ist, zu einem anderen Ergebnis zu gelangen. Setzen Sie eine angemessene Frist; die DSGVO verpflichtet den Arbeitgeber zur Antwort innerhalb eines Monats, wobei diese Frist in komplexen Fällen verlängert werden kann. Formulieren Sie Ihre Anfrage sachlich, da diese Korrespondenz in der Regel als Beweismittel dient.

Reagiert der Arbeitgeber nicht angemessen, können Sie eine Beschwerde bei der italienischen Datenschutzbehörde (Autoriteit Persoonsgegevens) einreichen und den Streitfall vor Gericht bringen. Wird die Beurteilung zur Begründung einer Kündigung oder einer Änderung Ihrer Arbeitsbedingungen herangezogen, ist der Weg über das Arbeitsgericht in der Regel effektiver und mit kurzen Fristen verbunden. Lassen Sie sich daher frühzeitig beraten. Unser Artikel zum Datenschutz nach der DSGVO im Zeitalter von KI und Big Data erläutert die zugrundeliegenden Rahmenbedingungen.

Was ein Arbeitgeber vor der Aktivierung des Systems tun sollte

Für Arbeitgeber ist die Einhaltung der Vorschriften in diesem Bereich größtenteils eine Frage der Reihenfolge. Fast jedes schwerwiegende Problem entsteht dadurch, dass zunächst ein System beschafft und implementiert wurde und die rechtlichen Fragen erst im Nachhinein geklärt wurden.

Beginnen Sie mit dem Zweck. Halten Sie fest, was die Organisation tatsächlich erreichen will und welche Entscheidungen das System beeinflussen wird, denn alles Weitere ergibt sich daraus: die zu rechtfertigenden Daten, die Rechtsgrundlage, die Risikobewertung und der erforderliche Grad an menschlicher Aufsicht. Ein System, das zur Verbesserung der Terminplanung angeschafft und dann stillschweigend zur Erstellung einer Entlassungsakte genutzt wird, ist ein klassisches Beispiel für eine unrechtmäßige Datenverarbeitung.

Führen Sie die Datenschutz-Folgenabschätzung vor der Implementierung durch, nicht erst später als Dokument zur Rechtfertigung einer bereits getroffenen Entscheidung, und dokumentieren Sie das Ergebnis. Ermitteln und dokumentieren Sie die Rechtsgrundlage, wobei zu berücksichtigen ist, dass die Einwilligung der Beschäftigten selten ausreicht. Prüfen Sie, ob das System unter die Hochrisikokategorie des KI-Gesetzes fällt, und ermitteln Sie gegebenenfalls die Pflichten des Implementierers, einschließlich der Pflicht zur Information der Arbeitnehmervertretung und der betroffenen Beschäftigten. Holen Sie die Zustimmung des Betriebsrats ein, sofern Artikel 27 des Betriebsratsgesetzes Anwendung findet, und beziehen Sie ihn frühzeitig ein, damit dessen Input Einfluss nehmen kann.

Entwerfen Sie anschließend die in Artikel 22 geforderte Kontrollstruktur und prüfen Sie deren Wirksamkeit. Fragen Sie sich, wer die Ergebnisse prüft, ob diese Person die Entscheidung ohne Begründung gegenüber einem Vorgesetzten aufheben kann, ob sie über den nötigen Kontext für eine Beurteilung verfügt und ob ihr die Zeit dafür zur Verfügung steht. Lautet die ehrliche Antwort, dass der Prüfer hundert Fälle pro Nachmittag bearbeitet, verfügt die Organisation nicht über eine menschliche Kontrolle, sondern lediglich über eine Unterschrift.

Prüfen Sie abschließend die Ergebnisse und nicht die Absichten. Überprüfen Sie die Systemergebnisse nach geschützten Merkmalen und Arbeitszeitmustern und berücksichtigen Sie insbesondere Teilzeitbeschäftigte, Personen im Urlaub oder Kranke. Geben Sie den Beschäftigten die Möglichkeit, eine Beurteilung anzufechten, und dokumentieren Sie den Verlauf dieser Einsprüche. Bewahren Sie die Dokumentation auf, da die Beweislast für die Einhaltung der Vorschriften beim Arbeitgeber liegt und die Akte im Streitfall als Beweismittel dient.

Wohin führt Sie das nun?

Algorithmisches Management ist nicht verboten und wird auch in Zukunft relevant bleiben. Das Gesetz trennt lediglich Messung und Beurteilung. Systeme dürfen zählen, vergleichen und Signale ausgeben; Menschen müssen entscheiden, begründen und Verantwortung übernehmen. Beschäftigte haben das Recht zu erfahren, dass sie von einem solchen System bewertet werden, zu verstehen, was dieses System misst, und dass jede Entscheidung, die sie wesentlich betrifft, von einem Menschen überprüft wird. Arbeitgeber, die diese Arbeitsteilung akzeptieren, können diese Instrumente bedenkenlos einsetzen. Wer sich hingegen von einem Dashboard leiten lässt, wird feststellen, dass weder die italienische Datenschutzbehörde (Autoriteit Persoonsgegevens) noch der zuständige Landesrichter die Ergebnisse als Ersatz für eine ordnungsgemäße Beurteilung anerkennen.

Law & More Wir beraten Arbeitgeber beim Einsatz von KI im Leistungsmanagement – ​​von der Folgenabschätzung und dem Betriebsratsverfahren bis hin zur Gestaltung der menschlichen Kontrolle – und unterstützen Arbeitnehmer, die eine automatisierte Beurteilung als unfair empfinden. Wenn ein Algorithmus zur Beurteilung Ihrer Arbeit oder der Arbeit Ihrer Mitarbeiter eingesetzt wird, prüfen wir die Situation gerne mit Ihnen.

Häufig gestellte Fragen zu KI-Leistungsbewertungen