Hvad domstolen i München faktisk afgjorde
I årevis var antagelsen, at en AI-assistent blot fremhævede det, der allerede lå på nettet, og at ansvaret forblev hos den oprindelige kilde. Landesgericht München afviste det. Domstolen fastslog, at Googles AI Overviews genererer selvstændige, nye, substantielle udsagn ved at vurdere og kombinere tredjeparts indhold, og at kun Google kan kontrollere disse udsagn, før de vises. Domstolen udstedte et foreløbigt forbud, der forbyder Google at gentage falske påstande om to forlag, under trussel om en bøde på op til 250.000 euro.
Sondringen betyder mere end de involverede parter. En liste over links med citater peger andetsteds hen. Et AI-svar taler med sin egen stemme. I det øjeblik et system formulerer en ny påstand, behandlede domstolen operatøren som forfatter til den påstand. Det er den grænse, de fleste virksomheder, der udruller AI, nu står på den forkerte side af som udgangspunkt.
Hvorfor dette rækker langt ud over Google
Afgørelsen er en af de første i Europa, der holder en AI-operatør direkte ansvarlig for AI-genereret indhold, og logikken afhænger ikke af Google. En supportchatbot, der kalder en konkurrent svigagtig, en salgsassistent, der opfinder en produktpåstand, et internt værktøj, der fremsætter noget falsk om en leverandør: hver enkelt frembringer et nyt udsagn, som kun operatøren kan styre. Efter Münchens begrundelse svarer operatøren for det.
Google argumenterede for, at enhver kunne modbevise udsagnet med yderligere research. Domstolen fandt, at muligheden for at gendrive en påstand normalt ikke fjerner ansvaret for at fremsætte den. For enhver virksomhed, der har lanceret en AI-assistent ud fra antagelsen om, at modellen og ikke virksomheden bærer risikoen, er den antagelse nu en dokumenteret eksponering.
Hvad en seriøs virksomhed bør gøre nu
Behandl ethvert kundevendt AI-output som offentliggjort indhold, for en europæisk domstol gør det nu. Det betyder at vide præcis hvor din AI genererer fritformulerede påstande om personer, virksomheder eller fakta, hvilke værn der står foran disse output, og hvem der er ansvarlig, når et af dem er forkert. De fleste organisationer kan ikke besvare de tre spørgsmål i dag, og det er det reelle hul, afgørelsen blotlægger.
Løsningen er ikke at slukke for assistenten. Det er at kortlægge eksponeringen: registrer de systemer, der taler i dit navn, begræns dem, hvor omkostningen ved et forkert svar er høj, og dokumenter kontrollerne, så ansvaret bliver håndteret i stedet for opdaget i retten. Gjort tidligt er dette en governance-opgave. Gjort sent er det en lektie til 250.000 euro.
Læs videre: Din AI-agent kan nu bruge dine penge. Det svære er alt det, der sker bagefter. · Der findes nu en fælles reference for AI-sikkerhed. Her er hvorfor den når helt frem til dit indkøb.