Hochrisiko-KI-Systeme stehen im Mittelpunkt der europäischen KI-Verordnung ( Verordnung (EU) 2024/1689 ), allgemein als KI-Gesetz bekannt. Diese Verordnung führt einen risikobasierten Rahmen für die Entwicklung, Bereitstellung und Nutzung von Systemen künstlicher Intelligenz (KI) ein. Je höher das Risiko für Gesundheit, Sicherheit und Grundrechte ist, desto umfangreicher sind die Verpflichtungen.
Für Organisationen beginnt Compliance daher nicht mit der Erstellung technischer Dokumentationen, sondern mit der korrekten Klassifizierung. Zunächst muss ermittelt werden, welche KI-Systeme in der Organisation entwickelt, erworben oder eingesetzt werden. Anschließend ist zu prüfen, ob ein System verboten , risikoreich oder transparentkeitspflichtig ist oder ob es keinen spezifischen Verpflichtungen unterliegt.
Dieser Artikel erläutert, wann ein KI-System als risikoreich eingestuft werden kann, welche Pflichten für Anbieter und Anwender gelten und welche Schritte Organisationen jetzt unternehmen können. Er behandelt außerdem den aktuellen Zeitplan, einschließlich der Änderungen im Rahmen des Digital Omnibus-Prozesses. Stichtag für diesen Artikel ist der 25. Juli 2026.
Wann birgt ein KI-System ein hohes Risiko?
Die Bewertung von KI-Systemen mit hohem Risiko erfolgt hauptsächlich gemäß Artikel 6 und den Anhängen I und III des KI-Gesetzes. Es gibt zwei Wege.
Der erste Ansatz betrifft KI-Systeme, die Bestandteil von Produkten sind, die unter die europäische Produktgesetzgebung gemäß Anhang I fallen und eine Konformitätsbewertung durch Dritte erfordern. Beispiele hierfür sind bestimmte Medizinprodukte, Maschinen, Aufzüge und Spielzeuge. Für diese Systeme baut das KI-Gesetz auf dem bestehenden Konformitätsbewertungsverfahren auf.
Der zweite Ansatz betrifft KI-Systeme, die in den in Anhang III aufgeführten Bereichen eingesetzt werden: Biometrie, kritische Infrastrukturen, Bildung und Berufsausbildung, Beschäftigung und Personalmanagement, Zugang zu grundlegenden privaten und öffentlichen Dienstleistungen, Strafverfolgung, Migration, Asyl und Grenzkontrolle sowie Justizverwaltung und demokratische Prozesse. Nicht jede Nutzung in einem solchen Bereich führt automatisch zu einer Einstufung als KI-System mit hohem Risiko: Die spezifische Funktion des Systems und die Bedingungen von Artikel 6 müssen ebenfalls geprüft werden.
Die Ausnahme in Artikel 6(3)
Ein System, das unter Anhang III fällt, wird nicht automatisch zu den KI-Systemen mit hohem Risiko gezählt: Diese Einstufung findet keine Anwendung, wenn es kein signifikantes Risiko für die Gesundheit, Sicherheit oder Grundrechte von Personen darstellt und das Ergebnis von Entscheidungen nicht wesentlich beeinflusst. Dies kann beispielsweise der Fall sein, wenn das System lediglich eine eng definierte Verfahrensaufgabe erfüllt, eine bereits von einem Menschen durchgeführte Tätigkeit verbessert, Abweichungen von früheren menschlichen Entscheidungen lediglich aufzeigt, ohne diese Bewertung zu ersetzen, oder ausschließlich eine vorbereitende Aufgabe durchführt.
Die Inanspruchnahme dieser Ausnahme muss sorgfältig begründet und dokumentiert werden. Die Organisation dokumentiert nicht nur die Schlussfolgerung, sondern auch die Fakten und die Bewertung, auf denen diese Schlussfolgerung beruht. Ein Anbieter, der der Ansicht ist, dass ein System gemäß Anhang III nicht zu den KI-Systemen mit hohem Risiko zählt, muss diese Bewertung dokumentieren, bevor das System in Verkehr gebracht oder in Betrieb genommen wird, und unterliegt darüber hinaus der Registrierungspflicht gemäß Artikel 49 Absatz 2.
In einem Punkt ist die Verordnung absolut. Artikel 6 Absatz 3 sieht vor, dass ein in Anhang III genanntes KI-System, das Profile von natürlichen Personen erstellt, stets zu den KI-Systemen mit hohem Risiko gezählt wird. Die Ausnahme kann in diesem Fall nicht geltend gemacht werden.
Welche Rolle spielt Ihre Organisation?
Das KI-Gesetz unterscheidet verschiedene Rollen in der Wertschöpfungskette. Zwei davon sind für die meisten Organisationen relevant. Ein Unternehmen, das ein KI-System entwickelt oder es unter eigenem Namen oder eigener Marke auf den Markt bringt, gilt als Anbieter. Ein Unternehmen, das ein KI-System im Rahmen seiner Geschäftstätigkeit nutzt, ohne es selbst entwickelt zu haben, gilt in der Regel als Anwender.
Diese Rollenverteilung ist nicht statisch. Eine Organisation, die ein erworbenes System wesentlich modifiziert, es unter eigenem Namen oder eigener Marke weitervertreibt oder dessen Zweck ändert, kann weiterhin als Anbieter gelten und unterliegt somit den strengeren Pflichten. Ermitteln Sie für jedes System, welche Rolle Sie einnehmen, und dokumentieren Sie diese Einschätzung.
Die wichtigsten Verpflichtungen
Anbieter von KI-Systemen mit hohem Risiko unterliegen Verpflichtungen, unter anderem solchen gemäß den Artikeln 8 bis 17, 43 und 47 bis 49:
- ein Risikomanagementsystem, das den gesamten Lebenszyklus abdeckt
- Daten-Governance, einschließlich der Erkennung und Korrektur von Verzerrungen in den verwendeten Daten, einschließlich Trainings-, Validierungs- und Testdaten.
- technische Dokumentation gemäß Anhang IV und Ereignisprotokollierung
- klare Gebrauchsanweisungen für die Anwender
- ein Design, das eine effektive menschliche Aufsicht ermöglicht
- Anforderungen an Genauigkeit, Robustheit und Cybersicherheit
- ein Qualitätsmanagementsystem, eine Konformitätsbewertung, eine EU-Konformitätserklärung, CE-Kennzeichnung und Registrierung in der EU-Datenbank
Für KI-Systeme mit hohem Risiko, die zur biometrischen Fernidentifizierung gemäß Anhang III, Punkt 1 Buchstabe a, eingesetzt werden, sieht Artikel 14 Absatz 5 eine zusätzliche Anforderung an die menschliche Aufsicht vor: Auf Grundlage der Identifizierung dürfen keine Maßnahmen ergriffen oder Entscheidungen getroffen werden, es sei denn, diese wurden von mindestens zwei natürlichen Personen mit der erforderlichen Kompetenz, Ausbildung und Befugnis unabhängig voneinander überprüft und bestätigt. Dies ist als Vier-Augen-Prinzip bekannt.
Die Anwender unterliegen den weniger strengen, aber nicht weniger wichtigen Pflichten der Artikel 26 und 27: Verwendung gemäß der Gebrauchsanweisung, sachkundige Aufsicht, Überwachung des Systembetriebs, Meldung von Risiken und schwerwiegenden Vorfällen sowie Aufbewahrung der Protokolle für mindestens sechs Monate. Mitarbeiter, die mit dem System arbeiten, und die Personen, für die es bestimmt ist, müssen im Voraus informiert werden.
Bestimmte Anbieter müssen außerdem eine Folgenabschätzung für die Grundrechte durchführen, die Folgenabschätzung für die Grundrechte gemäß Artikel 27. Dies gilt in jedem Fall für öffentlich-rechtliche Einrichtungen, private Anbieter öffentlicher Dienstleistungen und Anbieter, die Systeme zur Bonitätsbewertung oder zur Beurteilung von Versicherungsrisiken in der Lebens- und Krankenversicherung verwenden.
Zeitleiste und aktueller Status
Das KI-Gesetz trat am 1. August 2024 in Kraft und wird schrittweise angewendet. In der Praxis ist es wichtig, zwischen bereits geltenden Verpflichtungen, Verpflichtungen mit einem zukünftigen Anwendungsdatum und angekündigten Änderungen, deren formelles Inkrafttreten noch nicht abgeschlossen ist, zu unterscheiden.
Verbotene Praktiken (Artikel 5): Anwendbar ab dem 2. Februar 2025
KI-Kompetenz (Artikel 4): Anwendbar ab dem 2. Februar 2025
Allgemeine KI-Modelle: Anwendbar ab dem 2. August 2025
Transparenzpflichten (Artikel 50): Anwendbar ab dem 2. August 2026; nicht aufgeschoben
Hochrisikogebiet gemäß Anhang III: Formell weiterhin 2. August 2026; nach Inkrafttreten des Omnibusgesetzes spätestens 2. Dezember 2027.
Hochrisikogebiet gemäß Anhang I: Formell weiterhin 2. August 2027; nach Inkrafttreten des Omnibusgesetzes spätestens 2. August 2028.
Am 19. November 2025 veröffentlichte die Europäische Kommission das Digitalpaket, in dem sie vorschlug, die Anwendung der Verpflichtungen für KI-Systeme mit hohem Risiko aufzuschieben. Am 7. Mai 2026 wurde eine vorläufige politische Einigung erzielt. Das Europäische Parlament gab am 16. Juni 2026 seine Zustimmung, und der Rat erteilte am 29. Juni 2026 seine endgültige Zustimmung.
Zum Zeitpunkt der Veröffentlichung dieses Artikels war die Veröffentlichung im Amtsblatt der Europäischen Union jedoch noch nicht abgeschlossen. Die Änderung tritt am dritten Tag nach dieser Veröffentlichung in Kraft. Bis dahin gilt weiterhin der ursprüngliche Zeitplan des KI-Gesetzes, wobei der 2. August 2026 als Anwendungsdatum für die Hochrisikoverpflichtungen gemäß Anhang III vorgesehen ist. Eine Veröffentlichung vor diesem Datum wird allgemein erwartet, ist aber noch nicht bestätigt.
Die Verschiebung ist zudem an Bedingungen geknüpft. Die Anwendung der Verpflichtungen für KI-Systeme mit hohem Risiko ist an einen Beschluss der Kommission gebunden, der die Verfügbarkeit der erforderlichen harmonisierten Standards und unterstützenden Instrumente bestätigt. Darauf folgt eine Übergangsfrist. Die Termine 2. Dezember 2027 und 2. August 2028 dienen als Ausweichtermine und stellen keine bloße Verschiebung dar.
Zwei Punkte verdienen besondere Beachtung. Erstens wurden die Transparenzpflichten gemäß Artikel 50 und die Pflicht zur KI-Kompetenz gemäß Artikel 4 nicht verschoben; sie bleiben weiterhin in Kraft. Zweitens ergänzt das Paket Artikel 5 um ein neues Verbot, das sich gegen KI-Anwendungen richtet, die nicht einvernehmliche intime Bilder oder Material mit sexuellem Kindesmissbrauch erzeugen.
Für Organisationen bedeutet dies, dass eine Planung bis Dezember 2027 sinnvoll ist, die Buchführung aber vorerst so erfolgen sollte, als ob noch August 2026 bindend wäre, bis im Amtsblatt etwas anderes festgelegt wird.
Aufsicht und Strafen
In den Niederlanden fehlt zum Zeitpunkt der Veröffentlichung dieses Artikels noch die Umsetzungsgesetzgebung zum KI-Gesetz. Die niederländische Behörde für digitale Infrastruktur und die niederländische Datenschutzbehörde werden voraussichtlich eine zentrale Koordinierungsrolle übernehmen, während die sektoralen Aufsichtsbehörden weiterhin für ihre jeweiligen Bereiche zuständig bleiben. Die genaue Aufgabenverteilung und ihre gesetzliche Grundlage müssen jedoch auf Grundlage der endgültigen niederländischen Umsetzungsgesetzgebung festgelegt werden.
Artikel 99 des KI-Gesetzes sieht mehrere Höchststrafenkategorien vor. Die Höhe der Strafe richtet sich nach der Art des Verstoßes und gegebenenfalls nach dem weltweiten Jahresumsatz des Unternehmens. Die höchste Höchststrafe gilt für Verstöße gegen die in Artikel 5 genannten verbotenen Praktiken; eine niedrigere Höchststrafe gilt für Verstöße gegen die übrigen Pflichten, einschließlich derer für Anbieter und Anwender von KI-Systemen mit hohem Risiko; und die niedrigste Strafe gilt für die Übermittlung unrichtiger, unvollständiger oder irreführender Informationen an die Behörden. Für kleine und mittlere Unternehmen (KMU), einschließlich Start-ups, gelten günstigere Regelungen. Die tatsächliche Strafe wird unter Berücksichtigung der anwendbaren Strafbestimmungen und der Umstände des Einzelfalls festgelegt.
Praktischer Fahrplan
- Erstellen Sie eine Liste aller KI-Systeme, die Ihr Unternehmen entwickelt, kauft oder einsetzt.
- Legen Sie für jedes System fest, welche Rolle Sie einnehmen: Anbieter oder Implementierer.
- Ermitteln Sie die Risikokategorie für jedes System und dokumentieren Sie diese Bewertung, einschließlich der Inanspruchnahme der Ausnahme in Artikel 6(3).
- Richten Sie eine KI-Governance ein und ernennen Sie einen verantwortlichen Beauftragten.
- Sorgen Sie für ausreichende KI-Kenntnisse bei den Mitarbeitern, die mit diesen Systemen arbeiten; diese Verpflichtung besteht bereits.
- Die Transparenzmaßnahmen gemäß Artikel 50 sollen mit Blick auf den 2. August 2026 vorbereitet werden.
- Beginnen Sie rechtzeitig mit der Erstellung der technischen Dokumentation und, falls erforderlich, mit der Bewertung der Auswirkungen auf die Grundrechte.
- Prüfen Sie die Lieferantenverträge hinsichtlich der Aufgabenverteilung, der Informationsbereitstellung und der Prüfrechte.
- Verfolgen Sie die Veröffentlichung des Omnibus-Pakets im Amtsblatt und passen Sie Ihre Planung entsprechend an.
Fazit
Das KI-Gesetz hat grundlegende Auswirkungen darauf, wie Organisationen KI entwickeln, erwerben und einsetzen. Die angekündigte Verschiebung der Verpflichtungen für risikoreiche Systeme schafft zwar zusätzliche Zeit, ist aber noch nicht geltendes Recht. Die bereits bestehenden oder ab dem 2. August 2026 geltenden Verpflichtungen bleiben davon unberührt. Es empfiehlt sich daher, die Planung auf die neuen Termine auszurichten und gleichzeitig auf die alten vorbereitet zu bleiben. Einen umfassenderen Überblick über die Verordnung bietet unser vollständiger Leitfaden zum EU-KI-Gesetz , der den Fokus dieses Artikels auf risikoreiche KI-Systeme ergänzt.
Law & More Wir unterstützen Organisationen bei der Bestandsaufnahme und Klassifizierung ihrer KI-Systeme, der Bestimmung ihrer Rolle als Anbieter oder Anwender, der Prüfung und Erstellung von Verträgen mit KI-Lieferanten sowie der Einrichtung einer KI-Governance. Möchten Sie wissen, welche Verpflichtungen aktuell für Ihre Organisation gelten und welche Schritte Priorität haben? Kontaktieren Sie uns gerne für ein unverbindliches Gespräch.
Häufig gestellte Fragen
Im Folgenden beantworten wir die am häufigsten gestellten Fragen zu diesem Thema.
Was ist das KI-Gesetz?
Die europäische KI-Verordnung (Verordnung (EU) 2024/1689) trat am 1. August 2024 in Kraft und ist stufenweise anwendbar, wobei die Verpflichtungen mit zunehmendem Risiko durch ein KI-System steigen.
Wann birgt ein KI-System ein hohes Risiko?
Es gibt zwei Wege: entweder als Bestandteil eines Produkts, das unter die in Anhang I aufgeführten Produktgesetze fällt, oder durch Verwendung in einem der in Anhang III aufgeführten Anwendungsbereiche. Im letzteren Fall ist der Anwendungsbereich allein nicht ausschlaggebend; die spezifische Funktion und die Bedingungen des Artikels 6 sind ebenfalls zu berücksichtigen.
Kann ein unter Anhang III fallendes System dennoch nicht in die Hochrisikokategorie fallen?
Ja, sofern kein signifikantes Risiko besteht und die Entscheidungsfindung nicht wesentlich beeinflusst wird, beispielsweise bei einer eng begrenzten verfahrenstechnischen oder rein vorbereitenden Aufgabe. Diese Bewertung muss dokumentiert werden. Die Ausnahme gilt jedoch nicht, wenn das System Profile von natürlichen Personen erstellt.
Bin ich ein Anbieter oder ein Implementierer?
Sie gelten als Anbieter, wenn Sie das System selbst entwickeln oder unter Ihrem eigenen Namen oder Ihrer eigenen Marke vermarkten, und in der Regel als Anwender, wenn Sie ein gekauftes System nutzen. Auch wenn Sie ein gekauftes System wesentlich modifizieren oder unter Ihrem eigenen Namen weiterverbreiten, können Sie als Anbieter gelten.
Welche Verpflichtungen gelten für Anbieter?
Unter anderem Risikomanagement, Datenverwaltung, technische Dokumentation, Protokollierung, Gebrauchsanweisungen, menschliche Aufsicht, Anforderungen an Genauigkeit und Cybersicherheit, ein Qualitätsmanagementsystem, eine Konformitätsbewertung, CE-Kennzeichnung und Registrierung in der EU-Datenbank.
Welche Verpflichtungen gelten für die Einsatzunternehmen?
Die Nutzung erfolgt gemäß den Anweisungen, unter fachkundiger Aufsicht, Überwachung, Meldung von Risiken und schwerwiegenden Vorfällen sowie Aufbewahrung der Protokolle für mindestens sechs Monate. Die beteiligten Mitarbeiter und die Personen, für die das System gilt, müssen im Voraus informiert werden.
Wann muss eine Folgenabschätzung für Grundrechte durchgeführt werden?
Artikel 27 verlangt dies unter anderem von öffentlich-rechtlichen Einrichtungen, privaten Anbietern öffentlicher Dienstleistungen und Anwendern von Systemen zur Bonitätsbewertung oder zur Beurteilung von Versicherungsrisiken in der Lebens- und Krankenversicherung.
Wurden die risikoreichen Verbindlichkeiten aufgeschoben?
Durch einen angenommenen Änderungsantrag wird die Anwendung für Anhang III auf spätestens den 2. Dezember 2027 und für Anhang I auf den 2. August 2028 verschoben. Da dieser Änderungsantrag zum Zeitpunkt der Veröffentlichung dieses Artikels noch nicht im Amtsblatt veröffentlicht wurde, gilt formal weiterhin der ursprüngliche Termin vom 2. August 2026.
Was gilt bereits heute?
Die in Artikel 5 genannten verbotenen Praktiken und die Verpflichtung zur KI-Kompetenz gelten seit dem 2. Februar 2025, die Regeln für allgemeine KI-Modelle seit dem 2. August 2025. Die Transparenzpflichten gemäß Artikel 50 treten am 2. August 2026 in Kraft und wurden nicht verschoben.
Wer überwacht das KI-Gesetz in den Niederlanden?
Die Durchführungsgesetzgebung fehlt noch. Die niederländische Behörde für digitale Infrastruktur und die niederländische Datenschutzbehörde werden voraussichtlich neben den sektoralen Aufsichtsbehörden eine zentrale Koordinierungsrolle übernehmen. Die endgültige Zuständigkeitsverteilung wird sich aus der niederländischen Durchführungsgesetzgebung ergeben.
Was sollte meine Organisation jetzt tun?
Erstellen Sie zunächst eine Bestandsaufnahme aller von Ihnen entwickelten, erworbenen oder genutzten KI-Systeme. Dokumentieren Sie für jedes System Ihre Rolle, die zugehörige Risikokategorie und die damit verbundenen Verpflichtungen. Richten Sie außerdem eine KI-Governance ein, stellen Sie KI-Kompetenz sicher und überprüfen Sie die Lieferantenverträge hinsichtlich Rollenverteilung, Informationsbereitstellung und Prüfrechten.
