Ein Gericht hat soeben entschieden, dass die Antworten Ihrer KI Ihre eigenen Worte sind. Die Haftung liegt jetzt bei Ihnen.

Was das Münchner Gericht tatsächlich entschieden hat

Jahrelang galt die Annahme, dass ein KI-Assistent lediglich das wiedergibt, was ohnehin schon im Netz steht, und dass die Verantwortung bei der ursprünglichen Quelle bleibt. Das Landgericht München hat dem widersprochen. Es entschied, dass Googles AI Overviews eigenständige, neue, inhaltliche Aussagen erzeugen, indem sie fremde Inhalte auswerten und kombinieren, und dass nur Google diese Aussagen prüfen kann, bevor sie erscheinen. Das Gericht erließ eine einstweilige Verfügung, die Google untersagt, falsche Behauptungen über zwei Verlagshäuser zu wiederholen, unter Androhung eines Ordnungsgeldes von bis zu 250.000 Euro.

Die Unterscheidung wiegt schwerer als die beteiligten Parteien. Eine Liste von Links mit Zitaten verweist auf etwas anderes. Eine KI-Antwort spricht mit eigener Stimme. In dem Moment, in dem ein System eine neue Behauptung formuliert, behandelte das Gericht den Betreiber als Urheber dieser Behauptung. Genau auf dieser Grenze stehen die meisten Unternehmen, die KI einsetzen, heute standardmäßig auf der falschen Seite.

Warum das weit über Google hinausreicht

Das Urteil ist eines der ersten in Europa, das einen KI-Betreiber unmittelbar für von KI erzeugte Inhalte haftbar macht, und die Logik hängt nicht an Google. Ein Support-Chatbot, der einen Wettbewerber als betrügerisch bezeichnet, ein Vertriebsassistent, der eine Produkteigenschaft erfindet, ein internes Werkzeug, das etwas Falsches über einen Lieferanten behauptet: Jedes davon erzeugt eine neue Aussage, die nur der Betreiber kontrollieren kann. Nach der Münchner Begründung steht der Betreiber dafür ein.

Google argumentierte, jeder könne die Aussage durch weitere Recherche widerlegen. Das Gericht befand, dass die Möglichkeit, eine Behauptung zu widerlegen, die Haftung für das Aufstellen dieser Behauptung in der Regel nicht beseitigt. Für jedes Unternehmen, das einen KI-Assistenten in der Annahme ausgeliefert hat, dass das Modell und nicht das Unternehmen das Risiko trägt, ist diese Annahme nun ein belegtes Haftungsrisiko.

Was ein seriöses Unternehmen jetzt tun sollte

Behandeln Sie jede kundenorientierte KI-Ausgabe als veröffentlichten Inhalt, denn ein europäisches Gericht tut das nun ebenfalls. Das bedeutet, genau zu wissen, wo Ihre KI freie Behauptungen über Personen, Unternehmen oder Tatsachen erzeugt, welche Schutzmechanismen vor diesen Ausgaben stehen und wer verantwortlich ist, wenn eine davon falsch ist. Die meisten Organisationen können diese drei Fragen heute nicht beantworten, und genau das ist die eigentliche Lücke, die das Urteil offenlegt.

Die Lösung besteht nicht darin, den Assistenten abzuschalten. Sie besteht darin, das Risiko zu kartieren: die Systeme zu erfassen, die in Ihrem Namen sprechen, sie dort zu begrenzen, wo die Kosten einer falschen Antwort hoch sind, und die Kontrollen so zu dokumentieren, dass die Haftung gesteuert wird, statt vor Gericht entdeckt zu werden. Früh angegangen ist dies eine Governance-Aufgabe. Spät angegangen ist es eine Lektion über 250.000 Euro.

Weiterlesen: Ihr KI-Agent kann jetzt Ihr Geld ausgeben. Schwierig wird alles, was danach passiert.  ·  Es gibt jetzt eine gemeinsame Referenz für KI-Sicherheit. Hier ist, warum sie Ihre Beschaffung erreicht.