KI im niederländischen Arbeitsrecht unterliegt gleichzeitig vier Regelwerken: der EU-KI-Verordnung, die die meisten Systeme für Personalbeschaffung und -management als risikoreich einstuft; der DSGVO, die automatisierte Entscheidungen über Einzelpersonen einschränkt; dem niederländischen Gleichbehandlungsgesetz, das den Arbeitgeber für diskriminierende Ergebnisse haftbar macht, unabhängig davon, wer das Tool entwickelt hat; und dem Betriebsratsgesetz, das dem Betriebsrat ein Mitspracherecht vor der Einführung eines solchen Systems einräumt. Der Arbeitgeber, nicht der Softwareanbieter, trägt die Verantwortung für das Ergebnis. Dieser Artikel erläutert die Anforderungen der einzelnen Regelungen, wann die jeweiligen Verpflichtungen gelten und welche Maßnahmen zu ergreifen sind, bevor ein KI-Tool eine Einstellungs- oder Leistungsentscheidung beeinflusst.
Wie niederländische Arbeitgeber KI tatsächlich einsetzen
Die Einführung hat sich rasant entwickelt. Laut dem niederländischen Statistikamt (CBS) wird im Jahr 2025 jedes sechste niederländische Unternehmen künstliche Intelligenz einsetzen – das entspricht etwa 17 Prozent und ist damit doppelt so hoch wie im Jahr 2023. Von den Unternehmen, die sie nutzen, verwenden 35 Prozent sie für Marketing oder Vertrieb, 32 Prozent für administrative oder Managementaufgaben und ein Viertel für Forschung, Entwicklung und Innovation. Der Einsatz konzentriert sich auf Informations- und Kommunikationstechnologie, Finanzdienstleistungen und spezialisierte Unternehmensdienstleistungen und ist bei Kleinstunternehmen deutlich geringer.
Im Arbeitsverhältnis selbst lassen sich die Bewerbungen in wenige Gruppen einteilen. Bewerbermanagementsysteme sichten und bewerten Lebensläufe anhand vordefinierter Kriterien, und einige Plattformen gehen noch einen Schritt weiter und bewerten Videointerviews anhand von Sprachmustern. Leistungsbewertungssysteme aggregieren Produktivitätsdaten, Abschlussquoten und Kundenfeedback zu Bewertungen, die in Gehalts- und Beförderungsentscheidungen einfließen. Tools zur Personalplanung prognostizieren den Bedarf und teilen Schichten ein. Zutrittskontrolle und Zeiterfassung basieren zunehmend auf biometrischer Technologie. Und generative Tools werden mittlerweile für die Texterstellung, die interne Kommunikation und die Beantwortung von Mitarbeiterfragen zu den Vertragsbedingungen eingesetzt.
Die Rechtslage hängt nicht von der Beschreibung der Technologie ab. Entscheidend ist, ob das System eine Entscheidung über eine identifizierbare Person herbeiführt oder maßgeblich beeinflusst und inwieweit ein Mensch tatsächlich zu einer anderen Schlussfolgerung gelangen kann. Diese Frage zieht sich wie ein roter Faden durch alle nachfolgenden Abschnitte sowie durch unsere weiterführenden Materialien zu KI am Arbeitsplatz und zu algorithmischer Entscheidungsfindung.
Was die KI-Verordnung vorschreibt und ab wann
Die EU-KI-Verordnung trat im August 2024 in Kraft und wird stufenweise angewendet. Zwei Punkte werden häufig falsch dargestellt, und beide sind für die Planung relevant.
Erstens gelten die Verbote bereits. KI-Systeme, die Emotionen am Arbeitsplatz ableiten, sind verboten, außer für medizinische oder sicherheitsrelevante Zwecke. Dies umfasst einen Großteil dessen, was als Stimmungsanalyse und Engagement-Monitoring vermarktet wird. Auch Social Scoring, biometrische Kategorisierung, die sensible Merkmale wie ethnische Zugehörigkeit, politische Meinung, Gewerkschaftszugehörigkeit oder Gesundheitszustand ableitet, sowie manipulative Techniken, die das Verhalten maßgeblich verzerren, sind gänzlich verboten. Die Verpflichtungen für allgemeine KI-Modelle und die Transparenzpflichten gemäß Artikel 50, einschließlich der Pflicht zur Offenlegung, dass Inhalte künstlich generiert wurden und eine Person mit einer Maschine interagiert, sind ebenfalls bereits in Kraft.
Zweitens wurde die Hochrisikoregelung verschoben. Das Digitalisierungspaket hat lediglich diesen Teil des Zeitplans verschoben: Die Verpflichtungen für die Systeme in Anhang III, die Einstellung, Aufgabenverteilung, Beförderung, Kündigung und Leistungsüberwachung regeln, werden auf den 2. Dezember 2027 verschoben, die für die Produkte in Anhang I auf den 2. August 2028. Dies ist Zeit zur Vorbereitung, kein Grund zum Zögern, da die DSGVO, das Gleichbehandlungsgesetz und das Betriebsratsgesetz bereits gelten und viele der gleichen Bereiche abdecken.
Wenn die Pflichten im Zusammenhang mit hohem Risiko greifen, ist der Arbeitgeber in der Regel der Anwender und nicht der Anbieter. Die Pflichten des Anwenders sind praktischer Natur: das System gemäß den Anweisungen zu nutzen, die Aufsicht durch kompetente, geschulte und befugte Personen zu gewährleisten, sicherzustellen, dass die Eingangsdaten relevant und ausreichend repräsentativ sind, die automatisch generierten Protokolle zu führen, die Beschäftigten und ihre Vertreter vor der Inbetriebnahme des Systems zu informieren und die betroffenen Personen darüber aufzuklären, dass sie dem System unterliegen. Ein Arbeitgeber, der ein System unter seinem eigenen Namen vertreibt oder es wesentlich verändert, kann zum Anbieter werden und die volle Verantwortung für die Konformitätsbewertung und Dokumentation übernehmen. Zu beachten ist außerdem, dass die geplante KI-Haftungsrichtlinie zurückgezogen wurde. Schäden, die durch ein KI-System verursacht werden, fallen daher unter die allgemeinen niederländischen Haftungsbestimmungen und das Produkthaftungsrecht. Unsere Übersicht über die rechtlichen Aspekte der künstlichen Intelligenz in der EU folgt dem Zeitplan mit weiteren Details.
Diskriminierung: Die niederländischen Regeln, die für die algorithmische Auswahl gelten
Die Gleichbehandlung im niederländischen Arbeitsleben wird durch nationale Gesetze geregelt, die die EU-Gleichstellungsrichtlinien umsetzen. Diese gelten für algorithmisch getroffene Entscheidungen ebenso wie für Entscheidungen von Führungskräften. Das Allgemeine Gleichbehandlungsgesetz verbietet Diskriminierung aufgrund von Religion, Weltanschauung, politischer Meinung, Rasse, Geschlecht, Nationalität, sexueller Orientierung und Familienstand. Für Alter, Behinderung oder chronische Krankheit gelten gesonderte Gesetze. Das Bürgerliche Gesetzbuch verbietet die Diskriminierung von Männern und Frauen hinsichtlich der Beschäftigungsbedingungen und Beförderungen sowie die Diskriminierung aufgrund der Arbeitszeit und aufgrund eines befristeten im Vergleich zu einem unbefristeten Arbeitsvertrag. Diskriminierung ist unter bestimmten Umständen auch eine Straftat.
Zwei Merkmale dieses Rahmens sind für die Entscheidung von KI-Fällen entscheidend. Erstens werden sowohl direkte als auch indirekte Diskriminierung erfasst. Direkte Diskriminierung, bei der ein geschütztes Merkmal als Kriterium verwendet wird, ist – abgesehen von den wenigen gesetzlichen Ausnahmen – rechtswidrig. Indirekte Diskriminierung, bei der ein scheinbar neutrales Kriterium eine geschützte Gruppe unverhältnismäßig benachteiligt, ist rechtswidrig, es sei denn, sie ist objektiv durch ein legitimes Ziel gerechtfertigt und die Mittel sind angemessen und notwendig. Fast jedes Problem algorithmischer Diskriminierung fällt in diese Kategorie: Ein mit historischen Einstellungsdaten trainiertes Modell reproduziert das Muster dieser Daten, und Stellvertreterkriterien wie Postleitzahl, Abschlussjahr, Lücken im Lebenslauf oder die im Lebenslauf verwendete Sprache übernehmen die Funktion, die ein verbotenes Kriterium erfüllt hätte.
Der zweite Punkt ist die Beweislast. Sobald eine Person Tatsachen darlegt, die eine Diskriminierung vermuten lassen, obliegt es dem Arbeitgeber, das Gegenteil zu beweisen. Ein Bewerber, der eine statistische Ungleichbehandlung in den Ergebnissen eines automatisierten Auswahlverfahrens nachweist, hat ausreichend Beweise vorgelegt, um die Beweislast zu verlagern. Ein Arbeitgeber, der die angewandten Kriterien des Systems nicht erläutern kann, ist nicht in der Lage, diese Beweislast zu erfüllen. Der Kauf des Tools von einem Anbieter ändert daran nichts: Der Arbeitgeber ist dem Bewerber bzw. dem Arbeitnehmer gegenüber verantwortlich. Beschwerden können beim Niederländischen Institut für Menschenrechte eingereicht werden, dessen Stellungnahmen zwar nicht bindend, aber dennoch relevant sind, oder vor den ordentlichen Gerichten.
Es ist wichtig, klarzustellen, was nicht gilt. In den Niederlanden besteht keine gesetzliche Verpflichtung, ein dokumentiertes Verfahren für die Personalbeschaffung und -auswahl anzuwenden: Der Gesetzentwurf, der dies eingeführt und der Arbeitsbehörde eine Aufsichtsfunktion übertragen hätte, wurde am 26. März 2024 vom Senat abgelehnt, und eine spätere Volksinitiative zu diesem Thema wurde nicht umgesetzt. Das Fehlen eines solchen Gesetzes ändert nichts an der Haftung für das Ergebnis. Es bedeutet lediglich, dass der Arbeitgeber sein Verfahren selbst wählt und das damit verbundene Risiko trägt. Dies ist ein Grund, die Auswahlkriterien zu dokumentieren und zu überprüfen, und kein Grund, dies nicht zu tun.
In der Praxis bedeutet das dreierlei: Erstens sollten Sie im Voraus festlegen, welche Kriterien für die jeweilige Rolle relevant und begründbar sind, und das Tool entsprechend konfigurieren, anstatt sich an einer allgemeinen Vorstellung eines geeigneten Kandidaten zu orientieren. Zweitens sollten Sie die Ergebnisse regelmäßig, nicht nur bei der Implementierung, für verschiedene geschützte Gruppen testen und die Ergebnisse dokumentieren. Drittens müssen die Eingangsdaten und Gewichtungen des Modells in einer Form vorliegen, die vor Gericht oder gegenüber dem Institut nachvollziehbar ist, denn ein System, das niemand erklären kann, ist auch nicht zu verteidigen. Völlig externe Anbieter sollten das Recht auf diese Informationen und auf eine Überprüfung vertraglich mit dem Anbieter verankert werden.
Datenschutz: automatisierte Entscheidungen, Folgenabschätzungen und Überwachung
Die DSGVO ist das heute geltende Rechtsregime und wird voraussichtlich auch kurzfristig am häufigsten durchgesetzt. Drei ihrer Regeln spielen im Arbeitsrecht eine zentrale Rolle.
Die erste Regel betrifft automatisierte Einzelentscheidungen. Jede Person hat das Recht, keiner ausschließlich auf automatisierter Verarbeitung beruhenden Entscheidung unterworfen zu werden, die rechtliche Folgen hat oder sie in ähnlicher Weise erheblich beeinträchtigt, es sei denn, eine der wenigen Ausnahmen trifft zu. Selbst dann müssen geeignete Schutzmaßnahmen vorhanden sein, darunter menschliches Eingreifen, die Möglichkeit, einen Standpunkt zu äußern, und das Recht, die Entscheidung anzufechten. Die automatische Ablehnung eines Bewerbers oder die Festlegung einer Leistungsbewertung, die die Vergütung ohne menschliche Beurteilung bestimmt, fällt eindeutig unter diese Regel. Eine formale menschliche Beteiligung hebt eine Entscheidung nicht von dieser Regelung auf: Die prüfende Person muss die Befugnis und die Informationen haben, um zu einem anderen Ergebnis zu gelangen, und dies in der Praxis und nicht nur in der Theorie tun.
Der zweite Aspekt ist Transparenz. Bei automatisierten Entscheidungen dieser Art muss der Verantwortliche aussagekräftige Informationen über die zugrundeliegende Logik sowie die Bedeutung und die voraussichtlichen Folgen der Verarbeitung bereitstellen. Dies erfordert keine Offenlegung des Quellcodes, aber der Arbeitgeber muss darlegen können, welche Faktoren das System wie gewichtet. Beschäftigte und Bewerber behalten zudem ihre üblichen Rechte auf Auskunft, Berichtigung und Widerspruch. Unsere Übersicht zum niederländischen Datenschutzrecht und unsere Erläuterungen zum allgemeinen Datenschutzrahmen erläutern diese Rechte ausführlich.
Drittens ist die Datenschutz-Folgenabschätzung (DSFA) erforderlich. Eine DSFA ist dann notwendig, wenn die Verarbeitung voraussichtlich ein hohes Risiko für Einzelpersonen birgt. Die systematische und umfassende Auswertung personenbezogener Daten mithilfe automatisierter Verfahren sowie die systematische Überwachung von Personen am Arbeitsplatz sind genau die Fälle, die in der Verordnung genannt werden. Führen Sie die DSFA vor der Inbetriebnahme des Systems durch, beziehen Sie den Datenschutzbeauftragten ein und dokumentieren Sie die geprüften Alternativen und die gewählten Maßnahmen zur Risikominderung. Die niederländische Datenschutzbehörde kann die DSFA jederzeit anfordern; deren Fehlen stellt einen Verstoß dar.
Zwei weitere Punkte betreffen speziell das Arbeitsverhältnis. Die Einwilligung ist selten eine ausreichende Grundlage für die Verarbeitung von Mitarbeiterdaten, da das Ungleichgewicht zwischen Arbeitgeber und Arbeitnehmer dazu führt, dass sie selten freiwillig erteilt wird. Der Arbeitgeber muss sich in der Regel auf die Notwendigkeit der Verarbeitung zur Vertragserfüllung, auf eine gesetzliche Verpflichtung oder auf ein berechtigtes Interesse berufen. Ein berechtigtes Interesse erfordert eine dokumentierte Abwägung mit dem Datenschutz der betroffenen Personen. Ein Datenschutzanwalt kann hierzu vor der Inbetriebnahme des Systems beraten. Die Überwachung muss verhältnismäßig und so begrenzt wie möglich sein: Eine verdeckte oder flächendeckende Überwachung aller Mitarbeiter ist nicht zulässig. Der Zweck muss im Voraus definiert, die Speicherdauer kurz und die Mitarbeiter informiert werden. Verarbeitet der KI-Anbieter die Daten in Ihrem Auftrag, ist eine Auftragsverarbeitungsvereinbarung obligatorisch. Die Rollen von Verantwortlichem und Auftragsverarbeiter sollten vor Vertragsunterzeichnung festgelegt werden. Werden Mitarbeiterdaten zum Trainieren eines Modells verwendet oder zu diesem Zweck an einen Lieferanten weitergegeben, müssen Zweckbindung und die Regeln zur Datenweitergabe gesondert geprüft werden. Siehe dazu auch unsere Informationen zu Datenschutz, KI und Big Data.
Der Betriebsrat kommt zuerst.
In einem Unternehmen mit Betriebsrat ist die Angelegenheit keine bloße Formalität, die erst nach Vertragsunterzeichnung mit dem Lieferanten erledigt wird. Das Betriebsratsgesetz räumt dem Betriebsrat zwei unterschiedliche Befugnisse ein, die beide von KI am Arbeitsplatz genutzt werden.
Der Rat hat ein beratendes Recht bei wichtigen geplanten Entscheidungen, darunter die Einführung oder Änderung wichtiger technischer Anlagen und wesentliche Änderungen in der Arbeitsorganisation. Die Beratung muss zu einem Zeitpunkt eingeholt werden, an dem sie die Entscheidung noch beeinflussen kann. Weicht der Arbeitgeber von der Beratung ab, muss er die Umsetzung für einen Monat aussetzen. Innerhalb dieser Frist kann der Rat die Entscheidung der Unternehmenskammer vorlegen, da der Arbeitgeber sie nachvollziehbarerweise nicht hätte treffen können.
Der Rat hat weitreichendere Befugnisse, nämlich ein Zustimmungsrecht, hinsichtlich der Regeln für die Mitarbeiterbeurteilung und der Einrichtungen zur Beobachtung oder Überwachung der Anwesenheit, des Verhaltens oder der Leistung von Mitarbeitern. Nahezu jedes KI-gestützte Leistungs- oder Überwachungstool fällt in eine dieser Kategorien. Ohne die Zustimmung des Rates ist die Vereinbarung ungültig, und der Arbeitgeber kann sich nicht darauf berufen; der Rat kann diese Nichtigkeit geltend machen, und der Arbeitgeber, der fortfahren möchte, muss beim zuständigen Amtsgericht eine Ersatzzustimmung beantragen.
Konkret bedeutet dies, den Rat bereits in der Auswahlphase einzubeziehen. Geben Sie ihm die vollständigen Unterlagen anstelle einer Zusammenfassung, gestatten Sie ihm, auf Kosten des Arbeitgebers unabhängige technische Beratung einzuholen, und dokumentieren Sie die Vereinbarungen zu Prüfung, Bewertung und Überprüfung der Vereinbarung. Unsere Seiten zum niederländischen Arbeitsrecht und zu den Pflichten des Arbeitgebers nach niederländischem Arbeitsrecht erläutern die damit verbundenen Konsultationspflichten.
Algorithmisches Management und Plattformarbeit
Die intensivste Form algorithmischer Steuerung findet sich auf digitalen Arbeitsplattformen. Dort teilt Software die Arbeit zu, legt den Stundensatz fest und entscheidet, wer Zugriff auf die App behält. EU-Recht regelt dies nun direkt. Die Plattformarbeitsrichtlinie wurde im Oktober 2024 verabschiedet und muss von den Mitgliedstaaten bis zum 2. Dezember 2026 umgesetzt werden. Sie verpflichtet Plattformen, Arbeitnehmer und ihre Vertreter über automatisierte Überwachungs- und Entscheidungssysteme zu informieren, die die Arbeitsbedingungen erheblich beeinflussen, die menschliche Aufsicht über diese Systeme sicherzustellen und deren Auswirkungen auf Gesundheit und Sicherheit zu bewerten. Zudem erhalten Arbeitnehmer das Recht auf eine Erklärung und eine menschliche Überprüfung wichtiger Entscheidungen, wie beispielsweise die Einschränkung oder Sperrung eines Kontos. Die Richtlinie verbietet außerdem die Verarbeitung bestimmter Datenkategorien, darunter Daten über emotionale und psychische Zustände sowie über private Gespräche.
Für Arbeitgeber, die keine Plattformen betreiben, ergeben sich zwei Konsequenzen. Die Standards dieser Richtlinie beschreiben, was Aufsichtsbehörden und Gerichte zunehmend als normal für Arbeitgeber betrachten, die algorithmisches Management einsetzen. Deren Implementierung ist mittlerweile kostengünstig. Derselbe Sachverhalt wirft die Frage nach dem Beschäftigungsstatus auf. Wird eine Person von einem Algorithmus ähnlich stark geführt wie ein Angestellter von einem Vorgesetzten, kann das Verhältnis unabhängig von der Bezeichnung als Arbeitsvertrag gelten, mit entsprechenden Lohnsteuer-, Sozialversicherungs- und Kündigungsschutzpflichten. Die niederländischen Steuerbehörden beendeten das Moratorium zur Durchsetzung von Vorschriften zur Scheinselbstständigkeit am 1. Januar 2025. Es wurde eine gesetzliche Vermutung eines Arbeitsverhältnisses auf Stundenbasis eingeführt, deren Inkrafttreten per königlichem Dekret festgelegt wird. Grenzüberschreitende Vereinbarungen bringen eine weitere Ebene ins Spiel, die wir in unserem Beitrag zum Thema „ Grenzüberschreitendes Arbeiten in der digitalen Welt“ behandeln.
KI im Leistungsmanagement und bei Entlassungen
Das niederländische Kündigungsrecht ist ein geschlossenes System, das durch keine automatisierte Auswertung verkürzt wird. Ein Arbeitgeber, der einen unbefristeten Arbeitsvertrag aus persönlichen Gründen beenden möchte, muss das zuständige Amtsgericht davon überzeugen, dass ein gesetzlicher Kündigungsgrund vollständig vorliegt. Im Falle von Minderleistung bedeutet dies, dass dem Arbeitnehmer klar mitgeteilt wurde, was nicht in Ordnung war, ihm eine realistische Chance zur Verbesserung mit Unterstützung eingeräumt wurde und er für eine Versetzung in Betracht gezogen wurde. Ein von einer Software generierter Produktivitätswert ist lediglich ein Beweismittel. Er belegt weder, dass der Arbeitnehmer informiert wurde, noch, dass der Verbesserungsprozess fair war, noch dass die Messung die tatsächliche Arbeitsleistung widerspiegelte. Alle drei Punkte können anfechtet werden.
Drei Fehler treten immer wieder auf: Erstens wird die Leistung gemessen, ohne den Kontext zu berücksichtigen. Dadurch wird ein Mitarbeiter mit angepassten Aufgaben, reduzierter Arbeitszeit oder nach längerer Krankheit anhand eines Standards bewertet, der für ihn nicht gilt. Dies führt zu Verstößen gegen den Gleichbehandlungsgrundsatz und das Kündigungsverbot bei Krankheit. Zweitens wird ein System verwendet, dessen Kriterien nicht nachvollziehbar sind. Dadurch sind die Ergebnisse schwer überprüfbar und für den Mitarbeiter leicht angreifbar. Drittens wird eine menschliche Überprüfung als Bestätigung des algorithmischen Ergebnisses angesehen – genau das, was die DSGVO und die KI-Verordnung verhindern sollen.
Die entsprechende Vorgehensweise ist unkompliziert. Automatisierte Ergebnisse dienen als Grundlage für eine dokumentierte menschliche Bewertung. Die Begründung der Person, die die Entscheidung getroffen hat, ist festzuhalten, der Verbesserungsprozess ist schriftlich zu dokumentieren, und es ist nachvollziehbar, was das System über welchen Zeitraum gemessen hat. Arbeitgeber, die hier Fehler machen, verlieren in der Regel eher im Prozess als inhaltlich. Unsere Übersicht über die häufigsten Fehler bei der Einhaltung des Arbeitsrechts beschreibt dieses Muster, und aktuelle Änderungen im Arbeitsrecht sowie die Pflichten zur Information der Arbeitnehmer über ihre Arbeitsbedingungen werden separat erläutert. Wenn Automatisierung tatsächlich Stellen abbaut, läuft das Verfahren zur betriebsbedingten Kündigung über das UWV (niederländisches Arbeitsamt). Die Pflicht zur Prüfung von Umschulungs- und Versetzungsmöglichkeiten besteht, wie in unserem Leitfaden zum Arbeitsrecht in den Niederlanden erläutert.
Wem gehört, was die KI produziert?
Generative Werkzeuge werfen eine gesonderte Frage auf, mit der sich Arbeitgeber auseinandersetzen müssen, sobald Mitarbeiter sie für die eigentliche Arbeit nutzen. Das niederländische Urheberrecht schützt ein Werk nur dann, wenn es sich um eine eigene geistige Schöpfung des Urhebers handelt, was voraussetzt, dass ein Mensch kreative Entscheidungen trifft. Ergebnisse, die mithilfe einer Vorlage und ohne substanzielle menschliche Urheberschaft generiert werden, sind daher in der Regel nicht urheberrechtlich geschützt, was bedeutet, dass Wettbewerber sie frei kopieren können. Trifft ein Mitarbeiter jedoch mithilfe eines Werkzeugs echte kreative Entscheidungen, kann das Werk geschützt werden, und das Urheberrecht an Werken, die ein Mitarbeiter im Rahmen seines Arbeitsverhältnisses erstellt, geht kraft Gesetzes auf den Arbeitgeber über. Diese Regelung gilt nicht für Auftragnehmer; deren Rechte müssen schriftlich übertragen werden.
Daraus ergeben sich zwei praktische Konsequenzen. Schutzbedürftige Materialien, wie beispielsweise Markenrechte oder Produktdokumentationen, müssen einen nachweisbaren menschlichen Beitrag aufweisen, und der Prozess muss dokumentiert werden. Zudem müssen die Nutzungsbedingungen der KI-Plattform selbst gelesen werden, da sie festlegen, welche Rechte der Anbieter an den Eingaben und Ausgaben geltend macht und ob die übermittelten Materialien für Trainingszwecke verwendet werden. Die Eingabe vertraulicher Informationen oder personenbezogener Daten in ein öffentliches Tool kann sowohl gegen die Vertraulichkeitsverpflichtung als auch gegen die DSGVO verstoßen. Patente werfen einen ähnlichen Punkt auf: Ein KI-System kann nicht als Erfinder genannt werden, daher muss in der Anmeldung ein menschlicher Erfinder angegeben werden. Wir erörtern diese Fragen ausführlicher in unseren Artikeln zu Chatbots, Urheberrecht und Compliance sowie zur Entwicklung der Urheberrechte und in unserem Leitfaden zum niederländischen Urheberrecht . Möglichkeiten zur Durchsetzung von Urheberrechten bei Urheberrechtsverletzungen durch Dritte werden auf unserer Seite zur Durchsetzung von Rechten des geistigen Eigentums erläutert.
Haftung, Aufsicht und Durchsetzung
Die Belastung erfolgt aus mehreren Richtungen gleichzeitig und ist kumulativ statt alternativ.
Gemäß der KI-Verordnung sind die Bußgelder gestaffelt: bis zu 35 Millionen Euro oder sieben Prozent des weltweiten Jahresumsatzes, je nachdem, welcher Betrag höher ist, für verbotene Praktiken und bis zu 15 Millionen Euro oder drei Prozent für Verstöße gegen die Pflichten für Hochrisikokunden. Die Aufsicht in den Niederlanden ist aufgeteilt: Die niederländische Datenschutzbehörde und die Behörde für digitale Infrastruktur koordinieren den nationalen Rahmen, während die Branchenaufsichtsbehörden ihre jeweiligen Bereiche abdecken. Vor der vollständigen Implementierung steht eine Testumgebung (Sandbox) zur Verfügung. Nach der DSGVO beträgt die Höchststrafe für die schwersten Verstöße 20 Millionen Euro oder vier Prozent des weltweiten Jahresumsatzes. Betroffene können Schadensersatz für materielle und immaterielle Schäden geltend machen.
Neben den Aufsichtsbehörden stellen die üblichen Wege im Arbeitsverhältnis weiterhin die wahrscheinlichste Quelle für Klagen dar. Ein Arbeitnehmer kann eine Kündigung oder eine Leistungsbeurteilung vor dem Amtsgericht anfechten. Ein Bewerber oder Arbeitnehmer kann eine Diskriminierungsklage beim Niederländischen Institut für Menschenrechte oder vor den ordentlichen Gerichten einreichen, wobei die Beweislast umgekehrt ist. Ein Betriebsrat kann eine Entscheidung anfechten, die ohne die erforderliche Beratung oder Zustimmung getroffen wurde. Und ein Lieferantenvertrag, der dem Arbeitgeber keine Dokumentation, kein Prüfrecht oder keine Haftungsfreistellung gewährt, führt dazu, dass ein Versagen des Lieferanten zu einem Schaden für den Arbeitgeber wird. Lieferantenmanagement ist daher Teil der rechtlichen Arbeit und keine Nebensache im Beschaffungsprozess: Verlangen Sie die technische Dokumentation, Nachweise über Tests auf Voreingenommenheit, eine Verarbeitungsvereinbarung, die unverzügliche Meldung von Vorfällen, Prüfrechte und die Zusammenarbeit mit den Aufsichtsbehörden. Behandeln Sie einen Lieferanten, der die Funktionsweise seines Systems nicht erklären kann, als inakzeptables Risiko. Auf unserer Seite zu Arten der Einhaltung gesetzlicher Bestimmungen erfahren Sie, wie Sie dies in Ihre anderen Verpflichtungen integrieren können, und unser Hinweis zur Haftung für Fehler künstlicher Intelligenz behandelt die zivilrechtliche Lage.
Was jetzt umgesetzt werden sollte
Beginnen Sie mit einer Bestandsaufnahme. Listen Sie jedes System auf, das im Einsatz ist oder in Erwägung gezogen wird und eine Personalentscheidung beeinflusst. Dies schließt auch Tools ein, die von einzelnen Abteilungen ohne formelles Beschaffungsverfahren eingeführt wurden. Dokumentieren Sie für jedes System dessen Funktion, die verwendeten Daten, die beeinflusste Entscheidung und wer die Ergebnisse prüft. Die meisten Organisationen entdecken dabei mehr Erkenntnisse als erwartet, und diese Bestandsaufnahme bildet die Grundlage für alle weiteren Schritte.
Anschließend erfolgt die Klassifizierung. Für jedes System ist zu entscheiden, ob es unter die Verbote fällt, ob es gemäß Anhang III voraussichtlich ein hohes Risiko darstellt, ob es eine automatisierte Entscheidungsfindung im Sinne der DSGVO beinhaltet und ob es das Beratungs- oder Zustimmungsrecht des Betriebsrats auslöst. Diese Klassifizierung bestimmt die Reihenfolge: zuerst Betriebsrat, dann Folgenabschätzung vor der Einführung und Dokumentation von Anfang an statt nachträglich rekonstruiert.
Halten Sie die Governance in einer einzigen Richtlinie fest, die regelt, welche Entscheidungen stets einer menschlichen Prüfung bedürfen, wer befugt ist, das System zu übersteuern und auf welcher Grundlage, wie Mitarbeiter geschult werden, was und wie oft getestet wird, wie Mitarbeiter und Bewerber informiert werden und wie sie gegen eine Entscheidung vorgehen können, und was bei einer Systemstörung geschieht. Die Richtlinie sollte mit den übrigen Personalunterlagen abgestimmt sein und nicht als separates Dokument zur Einhaltung der Vorschriften betrachtet werden. Überprüfen Sie die Richtlinie, sobald die schrittweisen Verpflichtungen der KI-Verordnung in Kraft treten.
Abschließend sollten Sie testen und die Ergebnisse dokumentieren. Führen Sie Ergebnistests für alle geschützten Gruppen durch, führen Sie die von der Verordnung geforderten Protokolle, informieren Sie den Betriebsrat über die Ergebnisse und betrachten Sie jede Beschwerde über eine automatisierte Entscheidung als Warnsignal für das System und nicht nur für den Einzelfall. Ein Arbeitgeber, der die Bestandsaufnahme, die Folgenabschätzung, die Betriebsratsakte, die Testergebnisse und eine begründete menschliche Entscheidung vorlegen kann, ist in jeder Rechtsfrage gut aufgestellt.
Law and More Wir beraten Arbeitgeber bei der Einführung von KI und Automatisierung am Arbeitsplatz: Klassifizierung gemäß der KI-Verordnung, Datenschutz-Folgenabschätzungen und Verarbeitungsvereinbarungen, Verfahren im Betriebsrat, Risiken der Gleichbehandlung bei Einstellung und Beurteilung, Lieferantenverträge sowie die Verteidigung von Entscheidungen vor dem Amtsgericht oder dem Niederländischen Institut für Menschenrechte. Wenn Sie ein solches System einführen oder ein Mitarbeiter dagegen Einspruch erhoben hat, kontaktieren Sie uns.
Häufig gestellte Fragen
Die Implementierung von KI und Automatisierung in niederländischen Betrieben erfordert die sorgfältige Beachtung der Rechte der Betriebsräte , der Datenschutzbestimmungen und der sich entwickelnden EU-Vorschriften.
Arbeitgeber müssen den technologischen Fortschritt mit den rechtlichen Verpflichtungen in Bezug auf Arbeitnehmerschutz, Überwachungspraktiken und Veränderungen der Belegschaft in Einklang bringen.
Welche rechtlichen Aspekte sind bei der Implementierung von KI und Automatisierung am niederländischen Arbeitsplatz vorrangig zu berücksichtigen?
Sie müssen Ihren Betriebsrat konsultieren, bevor Sie ein KI- oder Automatisierungssystem einführen, das Auswirkungen auf die Beschäftigten hat. Gemäß dem Betriebsratsgesetz hat der Betriebsrat ein beratendes Recht bei der Einführung wichtiger technischer Anlagen sowie ein Zustimmungsrecht zu den Regeln für die Mitarbeiterbeurteilung und zu den Einrichtungen, die zur Überwachung von Anwesenheit, Verhalten oder Leistung eingesetzt werden.
Dies gilt für KI-Systeme, die bei der Personalauswahl, Leistungsbeurteilung oder Personalplanung eingesetzt werden. Die EU-KI-Verordnung trat im August 2024 in Kraft und stuft die meisten KI-Systeme am Arbeitsplatz als risikoreich ein, obwohl die entsprechenden Verpflichtungen erst später als die bereits geltenden Verbote eingeführt werden.
Sie müssen sicherstellen, dass Ihre KI-Systeme strenge Anforderungen an Risikomanagement, Datenqualität, Transparenz und menschliche Aufsicht erfüllen. Systeme, die zur schädlichen Manipulation, unfairen sozialen Bewertung oder Emotionserkennung im Arbeitsumfeld eingesetzt werden, sind vollständig verboten.
Ihre KI-Systeme müssen den DSGVO-Vorschriften zur automatisierten Entscheidungsfindung entsprechen. Wichtige Personalentscheidungen dürfen nicht ausschließlich auf Basis von Algorithmen ohne menschliche Beteiligung getroffen werden.
Dies umfasst Entlassungen, Beförderungen und Leistungsbeurteilungen.
Wie können niederländische Arbeitgeber die Einhaltung der Arbeitsgesetze bei der Einführung von Automatisierung sicherstellen?
Sie sollten zunächst Ihren Betriebsrat über geplante Automatisierungs- oder KI-Einführungen informieren. Der Betriebsrat hat das Recht, detaillierte Informationen darüber zu erhalten, wie die Technologie funktioniert, welche Daten sie erfasst und wie sie sich auf die Beschäftigten auswirkt.
Ohne deren Beratung können Sie nicht fortfahren. Sie müssen eine Datenschutz-Folgenabschätzung durchführen, wenn Ihr KI-System personenbezogene Daten von Mitarbeitern in großem Umfang verarbeitet.
Diese Bewertung soll Risiken für die Privatsphäre der Mitarbeiter aufzeigen und Maßnahmen zur Risikominderung darlegen. Die niederländische Datenschutzbehörde kann diese Dokumentation jederzeit anfordern.
Führen Sie detaillierte Aufzeichnungen darüber, wie Ihre KI-Systeme Entscheidungen treffen. Das KI-Gesetz verpflichtet Sie zur Führung von Protokollen, die dokumentieren, wie Algorithmen zu Schlussfolgerungen über Mitarbeiter gelangen.
Sie müssen in der Lage sein, diese Entscheidungen auf Nachfrage gegenüber Mitarbeitern und Aufsichtsbehörden zu erläutern.
Welche Rechte haben Arbeitnehmer in den Niederlanden, wenn sie aufgrund von KI und Automatisierung von ihrem Arbeitsplatz verdrängt werden?
Ihre Mitarbeiter haben das Recht auf Information über technologische Änderungen , die ihre Arbeit betreffen. Gemäß Ihrer gesetzlichen Pflicht, Mitarbeiter über wesentliche Aspekte ihrer Tätigkeit zu informieren, müssen Sie sie über Änderungen unterrichten, die ihre Beschäftigungsbedingungen erheblich beeinflussen.
Mitarbeiter können Erläuterungen zu automatisierten Entscheidungen anfordern, die sie betreffen. Empfiehlt Ihr KI-System eine Kündigung, eine Versetzung oder Änderungen der Arbeitsbedingungen, müssen Sie nachvollziehbar darlegen, wie diese Entscheidung zustande gekommen ist.
Die Entscheidung darf nicht allein auf algorithmischen Ergebnissen beruhen. Betriebsratsmitglieder können im Namen aller Beschäftigten technische Details zu KI-Systemen anfordern.
Sie haben das Recht, externe Experten hinzuzuziehen, um zu beurteilen, ob die Technologie mit niederländischem Recht vereinbar ist und die Interessen der Arbeitnehmer schützt.
Welche Verpflichtungen haben Arbeitgeber in den Niederlanden hinsichtlich der Umschulung oder Versetzung von Arbeitnehmern, die von KI und Automatisierung betroffen sind?
Sie sind verpflichtet, Alternativen zu prüfen, bevor Sie Mitarbeiter entlassen, deren Aufgaben automatisiert werden. Das niederländische Arbeitsrecht schreibt vor, dass Sie untersuchen müssen, ob die betroffenen Mitarbeiter für andere Positionen innerhalb Ihres Unternehmens umgeschult werden können.
Dies gilt auch dann, wenn durch Automatisierung bestimmte Tätigkeiten überflüssig werden. Sie müssen Mitarbeitern, denen der Arbeitsplatzverlust droht, angemessene Umschulungsmöglichkeiten anbieten.
Im Fokus sollten Kompetenzen stehen, die es Arbeitnehmern ermöglichen, sich an technologische Veränderungen anzupassen oder in andere Rollen zu wechseln. Die alleinige Angabe von Automatisierung als Kündigungsgrund ohne Prüfung dieser Alternativen kann Kündigungen rechtswidrig machen.
Ihr Betriebsrat muss Sie bei allen Umstrukturierungsplänen im Zusammenhang mit Automatisierung beraten. Dies umfasst Entscheidungen darüber, welche Mitarbeiter umgeschult werden, wie die Versetzung erfolgt und welche Unterstützung Sie während der Übergangsphase leisten.
Wie steht die niederländische Datenschutzbehörde (autoriteit persoonsgegevens) zum Einsatz von KI und Mitarbeiterüberwachung?
Die Behörde stuft die Mitarbeiterüberwachung mittels KI als risikoreiche Datenverarbeitungstätigkeit im Sinne der DSGVO ein. Für jede Überwachung ist eine klare Rechtsgrundlage erforderlich. Im Arbeitsverhältnis ist dies in der Regel ein berechtigtes Interesse, das die Privatsphäre der Mitarbeiter überwiegt, und nicht deren Einwilligung, da diese selten freiwillig erteilt wird.
Die Verarbeitung sensibler Mitarbeiterdaten mithilfe von KI ist nur unter strengen Auflagen zulässig. Das EU-KI-Gesetz verbietet Plattformen ausdrücklich die Verarbeitung personenbezogener Daten über den emotionalen Zustand, die Überzeugungen oder die psychologischen Daten von Arbeitnehmern.
Dieses Verbot erstreckt sich auch auf Überwachungssysteme am Arbeitsplatz, die versuchen, diese Merkmale abzuleiten. Die Behörde erwartet von Ihnen, dass Sie in allen KI-Systemen die Grundsätze des Datenschutzes durch Technikgestaltung implementieren.
Das bedeutet, Datenschutzmechanismen von Anfang an in die Technologie zu integrieren, anstatt sie nachträglich hinzuzufügen. Sie müssen die am wenigsten eingreifenden Überwachungsmethoden einsetzen, um Ihre Geschäftsziele zu erreichen.
Welchen potenziellen Haftungsrisiken könnten niederländische Arbeitgeber durch den Missbrauch von KI und Automatisierung bei Einstellungsentscheidungen ausgesetzt sein?
Bei Nichteinhaltung des KI-Gesetzes drohen Ihnen erhebliche finanzielle Strafen. Verbotene KI-Praktiken können mit Geldbußen von bis zu 35 Millionen Euro oder 7 % des weltweiten Jahresumsatzes geahndet werden, je nachdem, welcher Betrag höher ist.
Bei der Nichterfüllung der Anforderungen durch risikoreiche KI-Systeme können Geldstrafen von bis zu 15 Millionen Euro oder 3 % des weltweiten Umsatzes verhängt werden.
Arbeitnehmer können gegen ungerechtfertigte Kündigungen, die auf automatisierten Entscheidungen beruhen, vorgehen. Gerichte haben entschieden, dass Geschäftsführer und Arbeitgeber die menschliche Aufsicht über die Sicherheit am Arbeitsplatz und über Personalentscheidungen aufrechterhalten müssen.
Sich ausschließlich auf automatisierte Ergebnisse ohne echte menschliche Beurteilung zu verlassen, macht eine Abweisung vor dem Unterbezirksgericht erheblich schwieriger zu rechtfertigen.
Bei unsachgemäßer Verwendung von KI zur Bestimmung des Arbeitnehmerstatus riskieren Sie rückwirkende Einstufungsprobleme. Ab Januar 2025 hat die niederländische Steuerbehörde die Durchsetzung der Vorschriften gegen Scheinselbstständigkeit wieder aufgenommen.
Wenn Ihre KI-Systeme Mitarbeiter falsch einstufen, könnten Korrekturen bis zu mehreren Jahren rückwirkend erforderlich werden. Auch Strafen für vorsätzliche Fehlklassifizierung sind möglich.
Verstöße gegen den Datenschutz können zu Ansprüchen einzelner Mitarbeiter und zu Untersuchungen durch die niederländische Datenschutzbehörde führen.
Mitarbeiter, deren personenbezogene Daten durch KI-Systeme missbräuchlich verarbeitet wurden, können Schadensersatz verlangen. Die Behörde kann je nach Schwere und Umfang der Verstöße Korrekturmaßnahmen und Bußgelder verhängen.
