Die Verteidigung, der Agent habe eigenständig gehandelt, fällt weg

Eine Zeit lang war die bequeme Annahme, ein autonomes System sei niemandes klare Verantwortung. Diese Lücke wird geschlossen. Das kalifornische AB 316, seit dem 1. Januar 2026 in Kraft, untersagt einem Beklagten, der ein KI-System entwickelt, verändert oder genutzt hat, das Argument, das System habe den Schaden autonom verursacht. Das Gesetz erfindet keine neue verschuldensunabhängige Haftung - ein Kläger muss weiterhin nachweisen, dass die KI einen vorhersehbaren Schaden verursacht hat - aber es nimmt den Notausgang, die Maschine als eigenständigen Akteur verantwortlich zu machen.

Das Vereinigte Königreich kam auf schlichterem Weg zum selben Ziel. Am 9. März 2026 veröffentlichte die Competition and Markets Authority eine Leitlinie, wonach dieselben Regeln gelten, ob Sie KI oder menschliche Mitarbeiter einsetzen, und wonach Sie für das Handeln eines KI-Agenten genauso verantwortlich sind wie für das Handeln eines Mitarbeiters. Entscheidend ist der Zusatz, dass dies auch dann gilt, wenn jemand anderes den Agenten in Ihrem Auftrag entworfen hat oder bereitstellt. Zwei verschiedene Rechtssysteme, eine einheitliche Botschaft für das einsetzende Unternehmen.

Ein Angriff Dritter verschiebt den Schaden nicht aus Ihren Büchern

Der schwierigere Fall liegt vor, wenn der Agent nicht bloß falsch liegt, sondern manipuliert wird. Juristische Analysten beschreiben die Steuerung per Prompt Injection, bei der manipulierte Angebote, Anzeigen, Bewertungen oder Seiteninhalte einen Agenten zum falschen Anbieter, zu überhöhten Mengen oder einem höheren Preis lenken. Es ist verlockend, dies als Schuld eines Dritten zu behandeln. Nach der Auslegung der Aufsichtsbehörden funktioniert das so nicht: Wenn der von Ihnen eingesetzte Agent etwas tut, das gegen Verbraucherrecht verstößt, liegt die Verantwortung dafür bei Ihnen - genauso wie Sie für einen Mitarbeiter einstehen würden, der im Dienst getäuscht wurde.

Deshalb ist Aufsicht heute eine echte Pflicht und kein nettes Extra. Die CMA-Leitlinie erwartet einen Menschen, der wirklich in der Kontrollschleife ist und aktiv prüft, dass der Agent sich wie vorgesehen verhält und das Recht einhält, samt regelmäßiger Überwachung seiner Leistung. Ein Agent, der Zahlungen ausführt oder mit Kunden spricht, ohne dass eine Person seine Fehler erkennen und rückgängig machen kann, ist nicht nur ein operatives Risiko - er ist ein Risiko, das Sie auf der kundennahen Seite akzeptiert haben.

Ihr Anbieter hat die Kosten wahrscheinlich schon ausgeschlossen

Hier werden viele Eigentümer überrascht. Das Unternehmen, das Ihren Agenten gebaut hat oder bereitstellt, hat seinen Vertrag in der Regel so verfasst, dass es das Risiko abwälzt. Clifford Chance merkte im Februar 2026 an, dass Anbieter Software typischerweise auf wie besehen-Basis bereitstellen und Richtigkeit, Zuverlässigkeit und Eignung für den Zweck ausschließen, und dass viele KI-Bedingungen festhalten, man solle sich nicht auf die Ergebnisse verlassen. Wenn der Agent ein Produkt falsch bepreist, eine Lieferantenzahlung irrtümlich freigibt oder eine irreführende Nachricht versendet, entlasten die Haftungsausschlüsse des Anbieters diesen oft - während die Aufsichtsbehörden die Verantwortung fest bei Ihnen belassen.

Die Ausschlüsse decken meist genau jene Schäden ab, die ein fehlerhafter Agent erzeugt: entgangener Gewinn, behördliche Bußgelder, Betriebsunterbrechung und Reputationsschaden. Vor einem Vorfall lohnt es sich daher, drei Dinge in klaren Worten zu prüfen. Wer den Schaden über die gesamte Vertragskette tatsächlich trägt, wenn der Agent irrt. Ob Ihre Aufsicht real genug ist, um eine Aufsichtsbehörde zu überzeugen. Und ob Sie belegen können, was geschehen ist - Herkunft der Bestellung, Bestätigungsschritte, Liefernachweis - wenn ein Kunde später bestreitet, was der Agent in seinem Namen getan hat.

Weiterlesen: Ihre KI-Rechnung kennt keine Obergrenze mehr  ·  Modellstufe zur Aufgabe passen