Nach niederländischem und europäischem Recht kann ein Algorithmus nicht strafrechtlich verantwortlich gemacht werden. Strafrechtliche Verantwortlichkeit setzt einen Täter voraus, den das Gesetz als Person anerkennt, und Art. 51 Sr dehnt diesen Status ausschließlich auf natürliche und juristische Personen aus. Ein KI-System ist ein Objekt, kein Verdächtiger. Die entscheidende Frage ist daher nicht, ob der Algorithmus eine Teilschuld trägt, sondern welcher Mensch oder welches Unternehmen die volle Verantwortung für sein Handeln trägt.
Diese Frage ist im niederländischen Strafrecht bereits umfassend beantwortet. Die Doktrinen der funktionalen Täterschaft und der strafrechtlichen Haftung von Unternehmen wurden genau für solche Fälle entwickelt: Schäden, die durch ein Instrument, eine Organisation oder einen Prozess und nicht durch das eigene Handeln des Angeklagten verursacht werden. Dieser Artikel erläutert, wie diese Doktrinen auf KI Anwendung finden, wie der EU-KI-Act den Sorgfaltsstandard verändert, wie algorithmische Ergebnisse als Beweismittel behandelt werden und wie eine Verteidigung und ein Compliance-Programm aussehen sollten. Zur weitergehenden Frage der Verantwortungsverteilung entlang einer Lieferkette von Entwicklern, Anbietern und Nutzern verweisen wir auf unseren Begleitartikel zur Frage, wer verantwortlich ist, wenn eine Maschine eine Straftat begeht.
Warum ein Algorithmus kein Verdächtiger sein kann
Eine Straftat nach niederländischem Recht erfordert eine menschliche Handlung oder Unterlassung, die der gesetzlichen Definition einer Straftat entspricht, rechtswidrig ist und dem Täter zur Last gelegt werden kann. Jedes dieser Elemente setzt einen handelnden Menschen mit Willen voraus. Ein Algorithmus erzeugt Ergebnisse durch die Ausführung von Code auf Daten; er hat keinen eigenen Willen, keine Schuldzuweisung und nichts, was strafrechtlich verfolgt werden könnte. Art. 51 Sr. räumte der juristischen Person neben dem Individuum Raum ein, gerade weil eine juristische Person durch Personen handelt; eine vergleichbare Bestimmung für Software existiert nicht, und deren Schaffung würde die Erfindung einer neuen Kategorie juristischer Personen erfordern.
Es würde auch keinem vom Strafrecht anerkannten Zweck dienen. Ein Urteil dient der Bestrafung, der Abschreckung und, wenn möglich, der Besserung. Keine dieser Funktionen kann ein Modell erfüllen. Das Löschen der Gewichte eines neuronalen Netzes bestraft dessen Besitzer, nicht das Netzwerk selbst. Alles, was das Strafrecht im Falle eines Schadens durch ein KI-System erreichen will, muss durch die dahinterstehenden Personen und Organisationen erreicht werden. Daher betrachtet die niederländische Praxis dies nicht als Gesetzeslücke.
Die nachstehende Tabelle verdeutlicht die Diskrepanz zwischen den Elementen einer Straftat und dem, was ein KI-System tatsächlich ist.
| Element | Was das Strafrecht erfordert | Position eines KI-Systems |
|---|---|---|
| Ein Täter | Eine natürliche Person oder eine juristische Person im Sinne von Art. 51 Sr. | Weder noch. Das System ist ein Objekt, das jemand anderem gehört und von jemand anderem betrieben wird. |
| Ein Verhalten | Eine Handlung oder ein schuldhaftes Unterlassen, das dem Täter zuzurechnen ist. | Eine vom Code erzeugte Ausgabe. Das zurechenbare Verhalten ist die Entscheidung, ihn zu kompilieren, bereitzustellen oder laufen zu lassen. |
| Vorsatz oder Fahrlässigkeit | Opzet, einschließlich bedingter Absicht, oder culpa im Sinne von erheblicher Fahrlässigkeit. | Kein geistiger Zustand. Vorsatz und Fahrlässigkeit liegen, wenn überhaupt, bei den Menschen, die das System konfiguriert und überwacht haben. |
| Eine Sanktion | Freiheitsstrafe, Geldstrafe, gemeinnützige Arbeit oder eine andere Maßnahme. | Für Software können keine Sanktionen verhängt werden. Sanktionen fallen dem Betreiber in die Hände. |
Wer haftet stattdessen: die funktionelle Begehung und Art. 51 Sr.
Das niederländische Strafrecht kennt zwei Mechanismen, um jemanden für Handlungen zur Rechenschaft zu ziehen, die er nicht selbst ausgeführt hat. Beide wurden lange vor der Entwicklung des maschinellen Lernens entwickelt und lassen sich ohne Anpassungen auf Fälle mit KI-Unterstützung übertragen.
Funktionale Persönlichkeit
Die funktionelle Tatbegehung ermöglicht es, eine Person als Täter einer Straftat anzusehen, die physisch von jemand anderem oder etwas anderem ausgeführt wurde. Die vom Hoge Raad im IJzerdraad-Urteil formulierten Kriterien bleiben maßgebend: Der Angeklagte muss die Macht gehabt haben, über das Geschehene zu entscheiden (beschikken), und muss es hingenommen oder ein solches Verhalten gewohnheitsmäßig hingenommen haben (aanvaarden).
Angewendet auf ein KI-System ist das erste Kriterium in der Regel unkompliziert, das zweite hingegen ausschlaggebend. Die Verfügungsmacht zeigt sich in der Fähigkeit, das System zu konfigurieren, seine Betriebsgrenzen festzulegen, es zu aktualisieren oder neu zu trainieren und vor allem abzuschalten. Nur wenige Bediener können glaubhaft behaupten, diese Macht nicht gehabt zu haben. Die Akzeptanz ist die schwierigere Frage, und hier liegt der Schlüssel zur Beweisführung: Was wusste der Bediener über die Fehlermodi des Systems, was ergaben Tests oder frühere Vorfälle, was sagte die Risikobewertung aus und welche Maßnahmen wurden ergriffen? Akzeptanz erfordert keinen Wunsch nach dem Ergebnis. Es genügt, dass der Bediener wissentlich ein erhebliches Risiko akzeptiert hat, was dem üblichen niederländischen Standard für bedingte Absicht (voorwaardelijk opzet) entspricht.
Unternehmenshaftung und tatsächliche Führung
Ist der Betreiber ein Unternehmen, findet Art. 51 Sr Anwendung. Die Straftat kann der juristischen Person zugerechnet werden, wenn die Handlung in ihrem Zuständigkeitsbereich stattfand. Der Hohe Rat (Hoge Raad) hat dies anhand der im Urteil Drijfmest dargelegten Kriterien erläutert: Die Handlung wurde von einem Mitarbeiter des Unternehmens ausgeführt, sie gehört zu dessen normaler Geschäftstätigkeit, sie war für das Unternehmen nützlich, und das Unternehmen konnte feststellen, ob die Handlung stattfand und billigte sie bzw. billigte sie gewohnheitsmäßig. Ein von einem Unternehmen zur Erledigung seiner Aufgaben eingesetztes KI-System erfüllt definitionsgemäß die meisten dieser Kriterien.
Art. 51 Sr. erlaubt auch die Strafverfolgung derjenigen, die die Straftat angeordnet und die tatsächliche Führung übernommen haben. Diese Bestimmung betrifft Geschäftsführer und leitende Angestellte persönlich. Es genügt nicht, lediglich eine Position im Organigramm zu haben: Die Person muss von dem verbotenen Verhalten gewusst haben, zumindest in dem Sinne, dass sie ein erhebliches Risiko für dessen Stattfinden in Kauf genommen hat, und es versäumt haben, die ihr zustehenden und vernünftigerweise gebotenen Maßnahmen zu ergreifen. Im Bereich der KI bedeutet dies konkret, dass Beweise dafür vorliegen müssen, wer den Bericht zur Modellvalidierung erhalten, wer die Implementierung freigegeben und wer entschieden hat, dass eine bekannte Verzerrung oder Fehlerrate akzeptabel ist.
Fahrlässigkeitsdelikte erledigen den größten Teil der Arbeit
In der Praxis beruhen Strafverfolgungen im Zusammenhang mit automatisierten Systemen weitaus häufiger auf Fahrlässigkeit als auf Vorsatz. Verursacht ein KI-gesteuertes Fahrzeug, eine Maschine oder ein medizinisches Gerät den Tod eines Menschen, so ist die relevante Straftat fahrlässige Tötung gemäß Art. 307 Sr.; verursacht es schwere Verletzungen, Art. 308 Sr. „Culpa“ bedeutet im niederländischen Strafrecht grobe Fahrlässigkeit, gemessen an dem, was ein vernünftiger Bediener in dieser Position hätte tun sollen. Genau auf dieser Grundlage wird ein KI-Verfahren geführt, denn der Sorgfaltsstandard für den Einsatz eines automatisierten Systems wird zunehmend schriftlich festgehalten: im KI-Gesetz, in Branchenvorschriften, in technischen Normen und in den eigenen Verfahren des Betreibers. Ein dokumentierter Verstoß gegen einen vom Betreiber selbst festgelegten Standard ist der stärkste Beweis für Fahrlässigkeit.
Diskriminierung ist die zweite wiederkehrende Kategorie. Diskriminierung im Geschäfts- oder Berufsleben ist nach dem niederländischen Strafgesetzbuch (Wetboek van Strafrecht) eine Straftat, wobei es sowohl vorsätzliche als auch fahrlässige Formen gibt. Ein Modell, das eine geschützte Gruppe systematisch benachteiligt, stellt daher nicht nur ein verwaltungsrechtliches Problem im Hinblick auf Datenschutz und Gleichbehandlung dar; in schwerwiegenden Fällen handelt es sich um ein strafrechtliches. Unser Leitfaden zum Strafverfahren in den Niederlanden erläutert den Ablauf eines solchen Verfahrens von der Ermittlung bis zum Urteil.
Das KI-Gesetz legt den Sorgfaltsstandard fest, nicht die Sanktion.
Der EU-Gesetzentwurf zur künstlichen Intelligenz ist eine Verwaltungsvorschrift. Er begründet keine Straftatbestände und macht niemanden zum Verdächtigen. Seine Bedeutung für die strafrechtliche Haftung ist indirekt und beträchtlich: Er legt verbindlich fest, was von einem sorgfältigen Anbieter oder Anwender eines KI-Systems erwartet wird. Sobald ein Sorgfaltsstandard kodifiziert ist, gilt ein Verstoß dagegen als Fahrlässigkeit, die Einhaltung hingegen als Sorgfaltspflicht.
Das Gesetz stuft Systeme nach Risiko ein. Einige wenige Praktiken sind gänzlich verboten, darunter Social Scoring durch Behörden, das ungerichtete Sammeln von Gesichtsbildern zum Aufbau von Erkennungsdatenbanken, die Emotionserkennung am Arbeitsplatz und im Bildungsbereich sowie – vorbehaltlich enger Ausnahmen – die biometrische Echtzeit-Fernidentifizierung im öffentlichen Raum für Strafverfolgungsbehörden. Eine größere Gruppe wird als Hochrisiko eingestuft. Dies umfasst Sicherheitskomponenten regulierter Produkte und die im Anhang des Gesetzes aufgeführten Anwendungen, darunter Personalbeschaffung, Kreditwürdigkeitsprüfung und Anwendungen in den Bereichen Strafverfolgung, Migration und Justizverwaltung. Systeme, die mit Personen interagieren oder synthetische Inhalte generieren, unterliegen Transparenzpflichten. Der Rest ist im Wesentlichen unreguliert.
Anbieter oder Implementierer: Die Rollen bestimmen die Aufgaben
Das Gesetz verteilt die Pflichten rollenspezifisch, und eine falsche Rollenzuordnung ist einer der häufigsten Compliance-Fehler. Ein Anbieter entwickelt oder lässt ein System entwickeln und bringt es unter eigenem Namen auf den Markt; ein Anwender nutzt ein System im Rahmen seiner Tätigkeit in eigener Verantwortung. Anbieter tragen die hohen Designpflichten, Anwender die Pflichten für die korrekte Nutzung, die menschliche Aufsicht und die Überwachung. Die Gefahr besteht darin, dass ein Anwender zum Anbieter wird und alle damit verbundenen Pflichten übernimmt, wenn er das System unter seinem eigenen Namen versieht, es wesentlich modifiziert oder seinen Zweck so ändert, dass es in die Hochrisikokategorien fällt. Die Feinabstimmung eines gekauften Modells mit eigenen Daten und dessen anschließende Nutzung für einen vom Anbieter nie vorgesehenen Zweck kann ein Unternehmen unbemerkt in diese Lage bringen. In strafrechtlichen Ermittlungen stellt sich dieselbe Frage nach der Verfügungsbefugnis, weshalb die Rollen schriftlich festgehalten und im Vertrag dokumentiert werden sollten.
Was gilt jetzt?
Der Zeitplan hat sich verschoben, und es ist wichtig, den aktuellen Stand genau zu kennen. Die Verbote von Praktiken mit inakzeptablem Risiko und die Verpflichtung zur Sicherstellung von KI-Kompetenz gelten bereits. Auch die Regeln für allgemeine KI-Modelle sind bereits in Kraft. Die Transparenzpflichten gemäß Art. 50, einschließlich der Pflicht, offenzulegen, dass Inhalte künstlich generiert oder manipuliert wurden, gelten ebenfalls bereits. Verschoben durch das digitale Gesamtpaket ist die Regelung für Hochrisikosysteme: Die Verpflichtungen für die in Anhang III aufgeführten Systeme treten nun am 2. Dezember 2027 in Kraft, die für die in Anhang I erfassten Systeme am 2. August 2028. Die vorgeschlagene KI-Haftungsrichtlinie wurde zurückgezogen, sodass die zivilrechtliche Haftung für KI-Schäden weiterhin dem nationalen Recht unterliegt, in den Niederlanden also den allgemeinen Regeln des Delikts- und Produkthaftungsrechts.
Die Strafen nach dem Gesetz sind administrativer Natur und betragen bis zu 35 Millionen Euro oder sieben Prozent des weltweiten Jahresumsatzes, je nachdem, welcher Betrag höher ist, für verbotene Praktiken. Für andere Verstöße gelten niedrigere Höchststrafen. Die Aufsicht in den Niederlanden ist in bestehende Regulierungsbehörden integriert, wobei die Autoriteit Persoonsgegevens (Private Datenschutzbehörde) und die Rijksinspectie Digitale Infrastructuur (Reiche Inspektion für Digitale Infrastruktur) eine koordinierende Rolle einnehmen. Unsere Artikel zu verbotenen KI-Praktiken und zu risikoreichen KI-Systemen gemäß dem KI-Gesetz erläutern die Pflichten im Detail, und unsere Übersicht zum EU-KI-Gesetz bietet einen umfassenden Überblick über den Rahmen.
Wie ein Staatsanwalt es verwenden wird
Stellen Sie sich einen Anwender vor, der ein Screening-Tool einsetzt, ohne die Trainingsdaten auf Verzerrungen zu prüfen, ohne die gesetzlich vorgeschriebene menschliche Aufsicht und ohne die erforderliche Dokumentation. Trägt dieses Tool dann zu einem strafbaren Ergebnis bei, muss die Staatsanwaltschaft nicht von Grund auf argumentieren, welche Sorgfaltspflicht bestand. Die Pflichten sind klar definiert, der Verstoß ist dokumentiert, und die stillschweigende Duldung der Straftat ergibt sich aus der Entscheidung, das Tool trotzdem einzusetzen. Das Umgekehrte gilt ebenso, und genau diesen Punkt übersehen Vorstände am häufigsten: Ein Unternehmen, das seine Risikobewertung, seine Validierungsergebnisse, sein Aufsichtsprotokoll und sein Vorfallsprotokoll vorlegen kann, hat den Kern seiner eigenen Verteidigung geschaffen, noch bevor etwas schiefgeht.
Algorithmische Ausgabe als Beweis
Die zweite Art und Weise, wie KI in Strafgerichtssäle Einzug hält, ist nicht als Schadensursache, sondern als Beweismittel. Gesichtserkennung, automatische Kennzeichenerkennung, Netzwerkanalyse von Kommunikationsdaten, Betrugsrisikomodelle, Stimmvergleich und die zunehmend automatisierte Auswertung beschlagnahmter Daten liefern Material, auf das sich die Staatsanwaltschaft stützen möchte. Das niederländische Strafverfahren arbeitet mit einem geschlossenen System von Beweiskategorien, und algorithmische Ergebnisse bilden keine eigene Kategorie. Sie gelangen als Teil eines offiziellen Berichts oder durch das Gutachten eines Sachverständigen an das Gericht und unterliegen derselben Prüfung wie alle anderen Beweismittel.
Diese genaue Prüfung steht im Mittelpunkt der Verteidigungsarbeit. Drei Fragen entscheiden über die Beweiskraft des Materials: Ist die Methode validiert, und wenn ja, von wem? Unter welchen Bedingungen versagt sie, und waren diese Bedingungen gegeben? Und kann die Verteidigung sie testen, d. h. sie benötigt ausreichend Informationen über das System, seine Trainingsdaten, seine Fehlerraten und seine Konfiguration, um einen aussagekräftigen Einspruch zu erheben? Ein als Fakt präsentierter Treffer ohne Angabe einer Fehlerrate und ohne Möglichkeit der Überprüfung ist kein Beweis, auf dessen Grundlage ein Gericht eine Verurteilung vornehmen sollte. Dies zu betonen ist eine legitime und oft wirksame Verteidigung.
Sachverständigengutachten unterliegen einem eigenen Rahmen. Das Gericht kann einen Sachverständigen bestellen, die Verteidigung kann einen beantragen, und das Register der gerichtlich bestellten Sachverständigen dient der Festlegung von Qualitätsstandards für die jeweiligen Fachgebiete. Fällt eine KI-Methode in kein anerkanntes Fachgebiet, wirft dies Fragen hinsichtlich der Zuverlässigkeit des Ergebnisses auf. Es ist außerdem zu beachten, dass das neue Wetboek van Strafvordering (Gesetzbuch der Strafverteidigung), das von der Ersten Kammer am 24. Februar 2026 verabschiedet und im März 2026 im Staatsblad veröffentlicht wurde, satzweise per königlichem Dekret in Kraft tritt; bis dahin gelten die bisherigen Bestimmungen und ihre Artikelnummern weiterhin.
Der Datenschutzaspekt
Wird eine Entscheidung, die eine Person betrifft, ausschließlich automatisiert getroffen, räumt die DSGVO dieser Person das Recht ein, dieser Entscheidung nicht unterworfen zu werden, sowie das Recht auf aussagekräftige Informationen über die zugrunde liegende Logik. Im Strafrecht gelten die entsprechenden Bestimmungen des Gesetzes zur Umsetzung der Polizeidatenschutzrichtlinie. Dies ist in zweierlei Hinsicht relevant: Für einen Verdächtigen eröffnet es den Zugang zu Informationen über ein System, das die Behörden möglicherweise lieber nicht erläutern möchten. Für ein Unternehmen stellt der Einsatz automatisierter Entscheidungsfindung ohne Rechtsgrundlage und ohne die erforderlichen Schutzmaßnahmen einen Verstoß gegen die Vorschriften dar, der im Zusammenhang mit einem etwaigen Strafverfahren geahndet wird.
Verteidigung in einem Fall, in dem KI involviert ist
Die instinktive Verteidigung, das System sei eine Blackbox gewesen und niemand habe dessen Funktion vorhersehen können, ist schwächer als sie scheint. Sie beantwortet die falsche Frage. Das niederländische Strafrecht fragt nicht, ob der Angeklagte das genaue Ergebnis vorhergesehen hat, sondern ob er die Macht hatte, über das Handeln zu entscheiden und das damit verbundene Risiko akzeptierte. Intransparenz kann sich negativ auf den Angeklagten auswirken: Der Einsatz eines Systems, dessen Verhalten nicht erklärbar ist, in einem Umfeld, in dem es schweren Schaden anrichten kann, ist an sich schon eine Entscheidung, die ein Gericht als Akzeptanz des Risikos werten kann.
Die erfolgversprechenden Verteidigungsstrategien sind enger gefasst und beweisbasiert. Die erste ist die tatsächliche Kontrolllosigkeit: Das System wurde als fertiges Produkt beschafft, vom Anbieter konfiguriert und gewartet, und der Angeklagte hatte weder die Informationen noch die technischen Möglichkeiten, einzugreifen. Dieses Argument lenkt die Aufmerksamkeit auf den Anbieter und steht und fällt mit dem Vertrag und den tatsächlichen Meldungen an den Anwender. Die zweite Verteidigungsstrategie ist, dass der Betreiber sorgfältig gehandelt hat: dokumentierte Risikobewertung, Validierung vor der Inbetriebnahme, definierte menschliche Aufsicht durch eine Person mit der entsprechenden Befugnis und Kompetenz, Überwachung nach der Inbetriebnahme und unverzügliches Handeln bei Vorfällen. Die dritte Verteidigungsstrategie ist der Kausalzusammenhang, der häufig vernachlässigt wird. In einer Kette von Trainingsdaten über ein Modell und eine menschliche Entscheidung bis hin zu einem Ergebnis muss die Staatsanwaltschaft nachweisen, dass das Verhalten des Angeklagten das Ergebnis verursacht hat, und komplexe Ketten brechen ab.
Zwei praktische Hinweise folgen. Sichern Sie frühzeitig alle relevanten Daten: Protokolle, Modellversionen, Konfigurationen, Vorfallberichte und die Korrespondenz zu Bereitstellungsentscheidungen dienen beiden Seiten als Beweismittel und werden regelmäßig überschrieben. Beachten Sie außerdem, dass die üblichen Schutzmechanismen des Strafverfahrens auch in technisch komplexen Fällen uneingeschränkt gelten, einschließlich des Aussageverweigerungsrechts. Unser Artikel zum Aussageverweigerungsrecht in Strafsachen erläutert dessen Funktionsweise in niederländischen Ermittlungen. Bei Vorwurf des Betrugs mit automatisierten Tools finden Sie in unserem Leitfaden zu Betrug und Finanzkriminalität in den Niederlanden Informationen zu den entsprechenden Straftatbeständen.
Was die Affäre um die Kinderbetreuungsgelder tatsächlich zeigt
Die „Toeslagenaffäre“, der niederländische Skandal um die Kinderbetreuungsgelder, ist der immer wiederkehrende Fall in der Diskussion um algorithmische Verantwortlichkeit in den Niederlanden – und wird meist aus dem falschen Grund angeführt. Ihre Lehre ist nicht, dass ein Algorithmus etwas Kriminelles getan hat. Sie ist vielmehr, dass ein System automatisierter Risikoselektion, gepaart mit der institutionellen Weigerung, dessen Ergebnisse zu hinterfragen, jahrelang Zehntausenden von Familien schweren Schaden zugefügt hat, ohne dass jemand strafrechtlich zur Verantwortung gezogen wurde.
Die Steuerverwaltung nutzte Risikoklassifizierungen, um Leistungsanträge für Prüfungen auszuwählen. Dabei flossen auch Indikatoren ein, die niemals hätten verwendet werden dürfen, darunter die Staatsangehörigkeit. Schon eine geringfügige administrative Unregelmäßigkeit konnte den Verdacht des vorsätzlichen Betrugs und die Rückzahlung der gesamten Leistung zur Folge haben. Die betroffenen Familien konnten nicht nachvollziehen, warum sie ausgewählt worden waren. Die Beamten behandelten die Klassifizierung als endgültige Schlussfolgerung statt als Warnsignal, und die Beweislast für eine Anschuldigung, die niemand erklären wollte, lag bei den Beschuldigten. Die niederländische Datenschutzbehörde erklärte die Verarbeitung der Staatsangehörigkeitsdaten für rechtswidrig und verhängte eine Geldbuße. Die Regierung trat im Januar 2021 zurück.
Was nicht geschah, ist aufschlussreich. Niemand wurde strafrechtlich verfolgt. Die Verantwortung verteilte sich auf eine Organisation, eine Richtlinie, eine Software und einen Rechtsrahmen, der die Rückforderung von Leistungen als Verwaltungsangelegenheit behandelte. Genau dieser Verantwortungsverteilung sollen die Regelungen zur funktionalen Begehung und Art. 51 Sr entgegenwirken. Dies erklärt, warum das KI-Gesetz auf einer identifizierbaren menschlichen Aufsicht und Dokumentation besteht. Verantwortlichkeit erfordert eine Person, die die Tat hätte verhindern können, und einen Nachweis über deren Wissen.
Drei Fehler sind besonders hervorzuheben, da sie für jede Organisation unmittelbar rechtliche Konsequenzen nach sich ziehen. Entscheidungen waren nicht nachvollziehbar und konnten daher nicht angefochten werden. Menschliche Aufsicht war zwar formal vorgesehen, aber in der Praxis nicht gegeben, da die Beteiligten weder die Befugnis noch die Informationen besaßen, das System zu übersteuern. Die Auslösung einer Warnung führte faktisch, wenn auch nicht rechtlich, zur Umkehr der Beweislast. Jede KI-Implementierung, die diese drei Merkmale aufweist, birgt ein potenzielles rechtliches Problem, unabhängig von der zugrundeliegenden Technologie. Die Reaktion der Regierung, einschließlich Leitlinien zur Nichtdiskriminierung durch Design und zu Algorithmenregistern für öffentliche Einrichtungen, zielt genau auf diese drei Punkte ab.
Ein Compliance-Programm, das gleichzeitig als Verteidigung dient
Alles, was ein Unternehmen zur Einhaltung des KI-Gesetzes unternimmt, liefert gleichzeitig die notwendigen Nachweise für den Fall, dass etwas schiefgeht. Dieser doppelte Nutzen spricht dafür, die Vorgaben gründlich und nicht nur oberflächlich zu erfüllen, und macht die folgenden Schritte lohnenswert.
Beginnen Sie mit einer Bestandsaufnahme. Was nicht erfasst ist, lässt sich nicht klassifizieren. Die meisten Organisationen stellen fest, dass KI eher über den Beschaffungsprozess als über ein Projekt Einzug gehalten hat: beispielsweise eine Screening-Funktion in einer Rekrutierungsplattform, ein Scoring-Modul in einem Kreditantrag oder eine Überwachungsfunktion in einer Sicherheitssoftware. Klassifizieren Sie jedes System gemäß dem Gesetz, dokumentieren Sie die Begründung und überprüfen Sie die Klassifizierung erneut, sobald sich ein System wesentlich ändert, da eine Zweckänderung eine Einstufung in eine andere Kategorie zur Folge haben kann.
Weisen Sie die Verantwortung dann namentlich benannten Personen statt Abteilungen zu. Sowohl die tatsächliche Täterschaft als auch die tatsächliche Führung hängen davon ab, wer hätte entscheiden können, ob das betreffende Verhalten stattgefunden hat. Eine Organisation, in der niemand als verantwortlich identifiziert werden kann, entgeht nicht der Haftung; sie deckt lediglich die Verantwortung derjenigen auf, die an der Spitze der Hierarchie stehen. Legen Sie fest, wer für welches System zuständig ist, wer die Bereitstellung genehmigen, wer die Aufsicht führen und wer es abschalten darf, und stellen Sie sicher, dass die benannte Person über die entsprechende Befugnis und die technische Kompetenz verfügt.
Die menschliche Kontrolle muss Realität werden. Erforderlich ist nicht nur eine Person, die direkt im Prozessablauf mitwirkt, sondern eine Person, die die Ergebnisse versteht, sie ablehnen kann und deren Leistung nicht anhand des Durchsatzes gemessen wird, sodass eine Ablehnung praktisch unmöglich ist. Überschreibungen müssen protokolliert werden, denn ein Protokoll, das die tatsächliche Nutzung der Kontrollfunktion belegt, ist wertvoller als jedes Richtliniendokument.
Dokumentieren Sie die technische Situation: Woher die Trainingsdaten stammen und wie sie geprüft wurden, welche Tests durchgeführt wurden und welche Ergebnisse sie lieferten, welche Fehlerraten und Ausfallbedingungen bekannt sind und welche Entscheidungen diesbezüglich getroffen wurden. Falls eine Bewertung der Auswirkungen auf den Datenschutz oder Grundrechte erforderlich ist, führen Sie diese vor der Bereitstellung durch und halten Sie sie aktuell. Überwachen Sie die Bereitstellung, protokollieren Sie Vorfälle und reagieren Sie darauf so, dass dies in der Dokumentation nachvollziehbar ist.
Schließlich ist es wichtig, dass die Verträge stimmen. Wird ein System gekauft statt selbst entwickelt, bestimmt die Aufteilung der Verantwortlichkeiten zwischen Anbieter und Anwender, wer das Risiko trägt. Fordern Sie die gesetzlich vorgeschriebene technische Dokumentation, die Bedienungsanleitung, Informationen zu bekannten Einschränkungen sowie das Recht an, über Vorfälle und wesentliche Änderungen informiert zu werden. Unser IT-Rechtsteam kümmert sich um diese Angelegenheiten.
Wenn KI eher das Werkzeug des Täters als das Versagen eines Unternehmens ist
Bislang befasste sich dieser Artikel mit Schäden, die durch ein KI-System verursacht wurden, das ein Unternehmen für einen legitimen Zweck einsetzte. Die andere Seite der Medaille ist der vorsätzliche Einsatz von KI zur Begehung einer Straftat. Hier ist die Antwort einfacher: Die Straftat ist die Straftat, und die Technologie stellt eher einen erschwerenden Umstand als ein rechtliches Problem dar. Das niederländische Strafrecht ist ergebnis- und handlungsbezogen, nicht instrumentenbezogen. Daher waren nur sehr wenige neue Bestimmungen erforderlich.
Betrug mit einer geklonten Stimme oder einem synthetischen Video, in dem ein Geschäftsführer eine Zahlung anweist, stellt Betrug gemäß Art. 326 Sr. dar, genau wie ein gefälschter Brief. Ein durch ein Algorithmus generiertes Dokument zur Untermauerung einer falschen Behauptung ist Urkundenfälschung gemäß Art. 225 Sr. Die Verwendung personenbezogener Daten einer Person, um sich als diese auszugeben, ist eine eigenständige Straftat gemäß Art. 231b Sr. Die Verbreitung sexuell expliziter Bilder einer Person ohne deren Einwilligung ist strafbar, und das Gesetz über sexuelle Belästigung (Wet seksuele misdrijven), das seit dem 1. Juli 2024 in Kraft ist, hat diesen Teil des Strafgesetzbuches modernisiert; ein synthetisches Bild fällt nicht darunter, da es generiert und nicht aufgezeichnet wurde. Anhaltende Belästigung durch automatisierte Konten kann Beleidigung gemäß Art. 285b Sr. darstellen, die nur auf Anzeige des Opfers verfolgt wird.
Künstliche Intelligenz verändert den Umfang, die Glaubwürdigkeit und die Beweisführung. Eine überzeugende synthetische Stimme beseitigt die Hürde, die bisher vor Zahlungsbetrug schützte, und die Echtheit einer Aufnahme kann nicht mehr vorausgesetzt werden. Daraus ergeben sich zwei praktische Konsequenzen: Für Opfer und Unternehmen sind Verifizierungsverfahren, die nicht auf der Erkennung von Stimme oder Gesicht beruhen, nun Standard und keine bloße Verfeinerung mehr. Im Strafverfahren muss die Echtheit von Audio- und Videomaterial bewiesen werden, anstatt sie zu vermuten, und die Verteidigung hat das Recht, sie zu überprüfen.
Regulierungen beginnen zu helfen. Die Transparenzpflichten gemäß Art. 50 des KI-Gesetzes, die bereits gelten, verpflichten Anbieter, synthetische Inhalte maschinenlesbar zu kennzeichnen und Betreiber von Inhalten, die reale Personen oder Ereignisse darstellen, offenzulegen, wenn ein Bild, eine Audio- oder Videodatei künstlich erzeugt oder manipuliert wurde. Die Einhaltung dieser Vorschriften hält entschlossene Täter zwar nicht auf, stärkt aber die Position aller anderen: Nicht gekennzeichnete synthetische Inhalte stellen einen eigenständigen Verstoß gegen die Vorschriften dar und geben Ermittlern und Gerichten einen Anhaltspunkt, nach dem sie suchen sollten. Unser Artikel zum Nachweis digitaler Täuschung in den Niederlanden befasst sich mit den Beweisaspekten solcher Fälle.
Häufig gestellte Fragen zu KI und strafrechtlicher Haftung
Kann ein Unternehmen strafrechtlich zur Verantwortung gezogen werden, wenn seine KI diskriminierend wirkt?
Ja, das ist durchaus möglich. Zwar wird kein KI-System selbst vor Gericht stehen, doch das Unternehmen, das es einsetzt, kann nach niederländischem Unternehmensstrafrecht wegen diskriminierender Ergebnisse strafrechtlich verfolgt werden. Wenn die Unternehmensführung um das Verzerrungspotenzial der KI wusste und nichts unternahm oder grob fahrlässig handelte, ist eine Strafverfolgung sehr wahrscheinlich. Auch die EU-KI-Gesetzgebung legt strenge Regeln gegen Verzerrungen für Hochrisikosysteme fest. Die Nichteinhaltung dieser Standards wäre in jedem Strafverfahren ein starkes Indiz für Fahrlässigkeit. Im Fokus der Justiz stehen stets die menschlichen Entscheidungen, die bei der Entwicklung, dem Training und dem Einsatz der KI getroffen wurden.
Was ist das Black-Box-Problem bei KI?
Das „Black-Box“-Problem bezeichnet komplexe KI-Modelle, deren Entwickler nicht vollständig nachvollziehen können, wie ein bestimmtes Ergebnis zustande gekommen ist. Dies stellt ein gravierendes Problem dar, wenn KI und Strafrecht aufeinandertreffen. Vor Gericht kann dies sogar zum Eckpfeiler der Verteidigung werden. Ein Anwalt könnte argumentieren, dass ein schädliches Ergebnis völlig unvorhersehbar war, was bedeutet, dass dem Angeklagten der erforderliche Vorsatz fehlte. Die Argumentation ist einfach: Wie hätte er ein Ergebnis beabsichtigen können, das er unmöglich vorhersehen konnte? Die Staatsanwaltschaft hat jedoch ein starkes Gegenargument. Sie kann argumentieren, dass der Einsatz eines leistungsstarken, unvorhersehbaren Systems ohne angemessene Sicherheitsvorkehrungen an sich schon ein Akt der Rücksichtslosigkeit oder groben Fahrlässigkeit ist. Und das kann ausreichen, um das für die Strafbarkeit erforderliche subjektive Element zu erfüllen. Damit ist der Boden für einen hochbrisanten Rechtsstreit über Vorhersehbarkeit und Sorgfaltspflicht bereitet.
Wie können Entwickler das rechtliche Risiko am besten begrenzen?
Der wirksamste Schutz vor rechtlichen Risiken für Entwickler ist die sorgfältige und transparente Dokumentation aller Phasen des KI-Lebenszyklus. Stellen Sie sich das wie einen detaillierten Prüfpfad vor, der Ihr wichtigstes Beweismittel sein kann. Diese Dokumentation muss wirklich alles von Anfang bis Ende abdecken: Datenquellen: Woher stammen die Trainingsdaten und wie wurden sie auf Qualität und Verzerrungen geprüft? Maßnahmen zur Vermeidung von Verzerrungen: Welche konkreten Schritte wurden unternommen, um Verzerrungen in den Datensätzen zu finden und zu entfernen? Designbegründung: Welche Logik steckte hinter den wichtigsten Architekturentscheidungen und Algorithmen? Testergebnisse: Ein vollständiges Protokoll jedes Testlaufs, einschließlich Fehlern und deren Behebung. Ebenso wichtig ist ein klarer Rahmen für die menschliche Aufsicht. Im Falle einer Untersuchung dient diese Dokumentation als unbestreitbarer Beweis für die gebotene Sorgfalt. Sie hilft zu belegen, dass ein entstandener Schaden ein wirklich unvorhersehbarer Unfall und nicht das Ergebnis von Fahrlässigkeit war – und das bildet das Fundament einer soliden Rechtsverteidigung.
Kann ein Algorithmus nach geltendem niederländischem und EU-Recht strafrechtlich für eine Straftat verantwortlich gemacht werden?
Nein. Nach geltendem Recht kann ein Algorithmus nicht strafrechtlich zur Verantwortung gezogen werden. Zentrale Rechtsbegriffe wie Vorsatz und Rechtspersönlichkeit sind Menschen und in bestimmten Fällen Unternehmen vorbehalten.
Warum kann ein KI-System nicht einfach wie ein Mensch vor Gericht gestellt werden?
Einem Algorithmus fehlen die grundlegenden Eigenschaften, die für eine Gerichtsverhandlung erforderlich sind: Er hat kein Bewusstsein, kein persönliches Vermögen, das beschlagnahmt werden könnte, und keine Freiheit, die ihm genommen werden kann, im Gegensatz zu einer natürlichen Person oder einer als juristische Person anerkannten Körperschaft.
Bedeutet das, dass KI in Strafverfahren irrelevant ist?
Nein, ganz im Gegenteil. Auch wenn der Algorithmus selbst nicht schuldig sein kann, spielen seine Aktionen eine zentrale Rolle bei der Beurteilung der Schuld oder Unschuld derjenigen, die ihn entwickeln, einsetzen und überwachen.
Welches Rechtskonzept lässt sich am schwierigsten auf KI-Systeme anwenden?
Die kriminelle Absicht (opzet) ist besonders schwer nachzuweisen, da die Staatsanwaltschaft normalerweise einen schuldigen Geist wie Vorsatz, Fahrlässigkeit oder Kenntnis des Unrechts beweisen muss, während ein Algorithmus einfach auf der Grundlage seiner Programmierung und der eingegebenen Daten arbeitet und kein Bewusstsein, keine Überzeugungen oder Wünsche besitzt.
Wie Law & More kann helfen
Law & More Wir beraten Unternehmen, Führungskräfte und Privatpersonen zur strafrechtlichen Haftung im Zusammenhang mit automatisierten Systemen. Wir bewerten das Haftungsrisiko gemäß Art. 51 Sr und der Doktrin der funktionalen Zulässigkeit, entwickeln und überprüfen KI-Governance-Richtlinien, die als Nachweis der Sorgfaltspflicht dienen, hinterfragen algorithmische Beweismittel in Strafverfahren und verteidigen Unternehmen und deren Verantwortliche in Ermittlungsverfahren der Staatsanwaltschaft und von Aufsichtsbehörden. Setzt Ihr Unternehmen KI in einem Umfeld ein, in dem Fehler Konsequenzen haben, kontaktieren Sie uns, bevor ein Vorfall diese Frage aufwirft.
