Software und KI sind jetzt Produkte

Die EU-Produkthaftungsrichtlinie (EU) 2024/2853 ist in Kraft getreten und muss von den Mitgliedstaaten bis zum 9. Dezember 2026 umgesetzt werden. Erstmals gilt Software als Produkt, ob eingebettet in ein Gerät, heruntergeladen oder als Dienst bereitgestellt, und KI-Systeme werden als eine Form von Software behandelt. Das Regime der verschuldensunabhängigen Haftung, das seit jeher für eine defekte Bremse oder ein fehlerhaftes Gerät gilt, gilt nun für das Modell und die Anwendung, die Sie ausliefern.

Damit schließt sich eine Lücke, auf die sich Hersteller jahrelang verlassen haben. Die Europäische Kommission hat ihre gesonderte KI-Haftungsrichtlinie Anfang 2025 zurückgezogen, sodass die Produkthaftungsrichtlinie nun der zentrale zivilrechtliche Weg für jeden ist, der durch ein KI-System geschädigt wird. Die Regeln gelten für Produkte, die nach dem Stichtag in Verkehr gebracht oder in Betrieb genommen werden, was bedeutet, dass das Regime, das Sie heute gestalten, dasjenige ist, nach dem ein Gericht Sie morgen beurteilen wird.

Komplexität schützt Sie nicht mehr

Die wichtigste Änderung ist verfahrensrechtlicher Natur. Ein Anspruchsteller muss weiterhin einen Fehler, den Schaden und den Zusammenhang zwischen beiden nachweisen, doch die Richtlinie erleichtert diese Beweislast genau dort, wo KI am schwersten anzugreifen ist. Wo der Nachweis wegen der technischen oder wissenschaftlichen Komplexität des Produkts übermäßig schwierig ist und ein Fehler zumindest wahrscheinlich erscheint, kann das Gericht sowohl den Fehler als auch den ursächlichen Zusammenhang vermuten.

Lesen Sie das vor dem Hintergrund, wie sich KI tatsächlich verhält. Die Undurchsichtigkeit eines Modells war früher eine informelle Verteidigung, da kein Außenstehender beweisen konnte, wie ein Ergebnis zustande kam. Unter dem neuen Regime löst genau diese Undurchsichtigkeit die Vermutung aus. Das Argument, niemand könne beweisen, dass das System versagt habe, wirkt nun gegen den Hersteller, nicht für ihn.

Offenlegung ist die neue Front

Die Richtlinie verbindet die Vermutung mit einer Offenlegungspflicht. Wenn ein Anspruchsteller einen plausiblen Fall vorträgt, muss der Wirtschaftsakteur die erforderlichen und verhältnismäßigen Beweise in seiner Kontrolle offenlegen, vorbehaltlich des Schutzes echter Geschäftsgeheimnisse. Verweigern Sie dies, kann das Gericht vermuten, dass das Produkt fehlerhaft war. Das Zurückhalten Ihrer Protokolle, Modelldokumentation und Testaufzeichnungen ist kein neutraler Akt mehr; es wird zum Beweis gegen Sie.

Für jedes Unternehmen, das KI entwickelt, integriert oder einsetzt, macht dies Dokumentation zu einem rechtlichen Vermögenswert. Die Aufzeichnungen, die belegen, wie ein System trainiert, getestet, überwacht und korrigiert wurde, sind das, was Sie vorlegen werden, wenn ein Anspruch eintrifft, und ihr Fehlen ist das, was ein Gericht Ihnen anlasten wird. Deutschland bewegt sich in dieselbe Richtung mit einer Reform seines Produkthaftungsgesetzes, seiner ersten grundlegenden Überarbeitung seit 1989, die direkt auf Software und KI abzielt.

Weiterlesen: Wenn Apple zu dem Schluss kam, keine eigene KI bauen zu können, warum glauben Sie, Sie könnten es?  ·  Ihr KI-Anbieter ist gerade zu Ihrem Wettbewerber geworden. Und jetzt?