Die Regel: Was die Richtlinie sagt und ab wann
Ein KI-Agent handelt, erzeugt Wirkungen, verursacht einen Schaden. Die Haftung für Schäden, die ein KI-Agent verursacht, hat jetzt einen präzisen europäischen Rahmen: die Richtlinie (EU) 2024/2853 vom 23. Oktober 2024, die die Richtlinie 85/374/EWG aufhebt.
Artikel 2 Absatz 1 legt den zeitlichen Anwendungsbereich fest: Die Regelung gilt für Produkte, die nach dem 9. Dezember 2026 in Verkehr gebracht oder in Betrieb genommen werden. Artikel 22 verpflichtet die Mitgliedstaaten zur Umsetzung bis zu demselben Datum, wie sich aus dem von der Union veröffentlichten amtlichen Text[1] ergibt.
Zwei Bezugspunkte laufen auf eine einzige Frist zu. Der 9. Dezember 2026 ist Umsetzungsfrist und Trennlinie zwischen alter und neuer Regelung in einem.
Die Regelung von 1985 dachte in physischen Gegenständen. Die von 2024 spricht von Software, von Updates und von Systemen, die lernen. Genau das ist der regulatorische Unterschied, und er gilt für jedes Unternehmen, das ein digitales Produkt auf den Unionsmarkt bringt.
Software ist ein Produkt: Artikel 4
Artikel 4 nimmt Software in die Produktdefinition auf. Die Einordnung gilt unabhängig vom Trägermedium: in ein Gerät eingebettete Software, eigenständig vertriebene Software, als verbundener digitaler Dienst bereitgestellte Software.
Die praktische Folge betrifft die Fehlerdogmatik. Ein Modell, ein Agent, eine Empfehlungsmaschine: jedes wird zum Gegenstand, der am Sicherheitsstandard gemessen wird, den die Öffentlichkeit erwartet.
Artikel 2 Absatz 2 schneidet eine Ausnahme heraus. Freie und Open-Source-Software, die außerhalb einer Geschäftstätigkeit entwickelt oder bereitgestellt wird, bleibt von der Regelung unberührt, und die Ausnahme ist eng auszulegen.
Wer eine Open-Source-Bibliothek in ein kommerzielles Produkt integriert und dieses in Verkehr bringt, fällt für das in Verkehr gebrachte Produkt unter die Regelung. Die Analyse der Kanzlei Dreyfus zur Richtlinie rekonstruiert diesen Schritt aus Sicht der Softwarehersteller (Dreyfus[2]).
Der Umfang des ersatzfähigen Schadens: Artikel 6
Hier liegt der Punkt, den die meisten internen Präsentationen falsch darstellen. Artikel 6, gelesen mit Erwägungsgrund 24, zählt die ersatzfähigen Schäden abschließend auf.
Erfasst sind drei Kategorien:
- Tod und Körperverletzung, einschließlich medizinisch anerkannter Gesundheitsschäden
- Schäden an Sachen, die nicht ausschließlich beruflich genutzt werden
- Vernichtung oder Beschädigung von Daten, die nicht beruflich genutzt werden
Reine Vermögensschäden bleiben außen vor. Die Richtlinie schützt die Integrität von Personen, Sachen und privaten Daten und überlässt den Rest dem Vertragsrecht.
Leserinnen und Leser erwarten das Gegenteil, und es lohnt, es klar zu sagen: Ein Agent, der eine Zahlung zwischen zwei Unternehmen falsch ausführt, bleibt außerhalb dieser Regelung. Eine falsche Abstimmung, eine doppelte Bestellung, eine durch einen fehlerhaft berechneten Preis erodierte Marge: das sind Vermögensschäden zwischen Unternehmern.
Wer entscheidet dann in diesen Fällen? Der Vertrag zwischen den Parteien und das anwendbare nationale Recht, mit den Haftungsbeschränkungsklauseln, den Service Levels, den Garantien und dem Leistungsstörungsrecht.
Kontinuierliches Lernen wird Teil der Fehlerbeurteilung: Artikel 7
Artikel 7 Absatz 2 Buchstabe c) führt ein neues Kriterium ein. Bei der Beurteilung der Fehlerhaftigkeit eines Produkts ist die Auswirkung der Fähigkeit des Produkts zu berücksichtigen, nach dem Inverkehrbringen weiterzulernen.
Die Tragweite ist groß. Ein System, das sich aktualisiert, neu trainiert oder seine Parameter anpasst, bleibt auch nach der Lieferung mit demjenigen verbunden, der es in Verkehr gebracht hat.
Der Verkaufszeitpunkt verliert damit seine Funktion als Grenze. Der Fehler wird auch danach beurteilt, wie sich das Produkt eigenständig verändert hat.
Ein Compliance-Dispositiv, das auf das statische Produkt zugeschnitten ist, ist für einen lernenden Agenten deshalb unterdimensioniert. Der Rahmen verlangt eine dokumentierte Marktbeobachtung nach dem Inverkehrbringen: was hat sich geändert, wann, mit welcher Prüfung, unter welcher Unterschrift.
Wer haftet: Artikel 8
Artikel 8 benennt die haftenden Akteure und ordnet sie in einer Kette. Der Hersteller des fehlerhaften Produkts oder der fehlerhaften Komponente steht an erster Stelle.
Die Kette setzt sich fort über denjenigen, der ein bereits in Verkehr gebrachtes Produkt wesentlich verändert, dann den Einführer, den Bevollmächtigten, den Fulfilment-Dienstleister und schließlich den Händler, wenn die vorgenannten Akteure nicht auffindbar sind.
Die Regel belohnt Nachvollziehbarkeit. Ein europäisches Unternehmen, das ein Modell eines Dritten integriert und unter eigener Marke vertreibt, nimmt eine Position innerhalb dieser Kette ein.
Die Frage, die der General Counsel klären muss, trägt einen Namen: Welche interne Rolle verantwortet die Einordnung des Produkts entlang der Kette des Artikels 8, schriftlich, vor dem Deployment? Ein Rahmen ohne einen Namen produziert Dokumentation, geordnet und wirkungslos.
Das Protokoll des Agenten als Beweismittel: Artikel 9 und 10
Die Artikel 9 und 10 verschieben das Gewicht der Beweislast. Das nationale Gericht ordnet dem Beklagten die Offenlegung der einschlägigen Beweismittel an, über die er verfügt.
Unterlässt der Beklagte die Offenlegung, greift die Vermutung der Fehlerhaftigkeit des Produkts. Der Mechanismus ist geradlinig und streng: Wer die Logs hat und sie verschließt, verliert den Beweisvorteil.
Für einen KI-Agenten haben die einschlägigen Elemente einen präzisen technischen Namen: Audit Trail. Prompt, Modellversion, aufgerufene Werkzeuge, gelesene Daten, ausgeführte Aktion, vorgeschaltete menschliche Freigabe.
Ein verkettetes und unveränderliches Audit Trail wird damit zu einem Verteidigungsasset. Sein Fehlen nährt eine Vermutung zulasten des Unternehmens. Architekturen, die jeden Aufruf des Agenten protokollieren, bewahren die Möglichkeit, die Konformität vor Gericht nachzuweisen.
Versicherungen, die die Leistung der KI abdecken
Der Versicherungsmarkt hat sich vor den nationalen Gesetzgebern bewegt. Neben den traditionellen Produkthaftpflichtdeckungen sind Policen erschienen, die die Leistung des Systems versichern: Garantien auf das Performance-Niveau, eigene Erweiterungen für den Algorithmusfehler, affirmative Deckungen für den KI-Einsatz.
Die Unterscheidung zählt für den Chief Risk Officer. Die Richtlinie deckt Schäden an Personen, Sachen und privaten Daten; die Leistungspolice greift auf dem Feld, das die Richtlinie unbesetzt lässt, dem der Vermögensschäden zwischen Unternehmen.
Die beiden Schutzebenen arbeiten auf verschiedenen Ebenen und sind zusammen zu lesen. Ein Versicherungsprogramm, das um das physische Produkt herum gebaut ist, deckt einen entscheidenden Agenten schlecht ab.
Die sinnvolle Prüfung ist punktgenau: Schließt die Police Software in den Produktbegriff ein? Deckt sie den Datenschaden? Schließt sie den Modellfehler aus? Macht sie Logging-Pflichten zur Wirksamkeitsvoraussetzung der Deckung?
Drei Entscheidungen für den Aufsichtsrat
Das Gremium hat drei Entscheidungen vor sich, nach Dringlichkeit geordnet.
- Das digitale Portfolio klassifizieren: welche Produkte das Unternehmen nach dem 9. Dezember 2026 in Verkehr bringt und welche lernende Software enthalten.
- Schriftlich die Rolle benennen, die für die Marktbeobachtung nach dem Inverkehrbringen und die Aufbewahrung des Audit Trails verantwortet.
- Das Versicherungsprogramm und die Vertragsklauseln mit Lieferanten und Kunden überarbeiten und dabei die von der Richtlinie gedeckten Schäden von den Vermögensschäden trennen.
Der Prüfungsausschuss hat zudem ein Offenlegungsthema. Eine neue Exposition, die zu einem feststehenden Datum eintritt, gehört in die Karte der wesentlichen Risiken, mit derselben Bedeutung wie ein Steuerstreit.
Für den CEO ist die Beschränkung eine des Kalenders. Ein Produkt, das für das erste Quartal 2027 auf der Roadmap steht, entsteht innerhalb der neuen Regelung, und die heute gewählte Architektur bestimmt die Verteidigungsfähigkeit von damals an.
Organisationen, die Risikoklassifizierung, Namen des Verantwortlichen und Audit Trail vor der Frist aufbauen, gewinnen Monate Vorsprung auf den Moment, in dem die Durchsetzung konkret wird.
Regulatorischer Horizont
Stand der Norm: Die Richtlinie ist als Unionsrechtsakt in Kraft, und die Anwendung auf Produkte läuft ab dem 9. Dezember 2026. Die nationale Umsetzung befindet sich in den Mitgliedstaaten in der Durchführungsphase.
Italien: Nach Prüfung am 28. September 2026 weist diese Redaktion den innerstaatlichen Umsetzungsakt als ausstehend aus. Die zu konsultierende Quelle bleibt das Gesetzblatt (Gazzetta Ufficiale), und die Prüfung ist zu dem Zeitpunkt zu wiederholen, an dem das Unternehmen entscheidet.
Zuständigkeitsbereich: alle Mitgliedstaaten der Europäischen Union, mit der einheitlichen Frist des Artikels 22.
Was ein europäisches Unternehmen vor dem 9. Dezember 2026 tut: Inventar der Softwareprodukte, Kette der Akteure des Artikels 8 zu Papier gebracht, Logging des Agenten aktiv und aufbewahrt, Policen mit dem Umfang des Artikels 6 verglichen. Das sind vier Baustellen und ein Datum.
Dieser Artikel wurde von einem redaktionellen KI-Autor unter menschlicher Aufsicht erstellt, in Übereinstimmung mit den Transparenzpflichten der Verordnung (EU) 2024/1689 (KI-Verordnung, Art. 50). Die Quellen sind im Text verlinkt.
Article by ATLAS
Quellen
- von der Union veröffentlichten amtlichen Text (publications.europa.eu)
- Dreyfus (dreyfus.fr)