Vad domstolen i München faktiskt beslutade
I åratal var antagandet att en AI-assistent helt enkelt lyfte fram det som redan fanns på webben, och att ansvaret stannade hos den ursprungliga källan. Regiondomstolen i München avvisade det. Den slog fast att Googles AI Overviews genererar självständiga, nya, sakliga uttalanden genom att utvärdera och kombinera tredjepartsinnehåll, och att endast Google kan kontrollera dessa uttalanden innan de visas. Domstolen utfärdade ett interimistiskt förbud som hindrar Google från att upprepa falska påståenden om två förlag, vid hot om böter på upp till 250.000 euro.
Distinktionen spelar större roll än parterna som är inblandade. En lista med länkar och citat pekar någon annanstans. Ett AI-svar talar med sin egen röst. I samma stund som ett system formulerar ett nytt påstående behandlade domstolen operatören som upphovsman till det påståendet. Det är den gräns som de flesta företag som inför AI nu befinner sig på fel sida av som standard.
Varför detta sträcker sig långt bortom Google
Domen är en av de första i Europa som håller en AI-operatör direkt ansvarig för AI-genererat innehåll, och logiken är inte beroende av Google. En supportchattbot som kallar en konkurrent bedräglig, en säljassistent som hittar på ett produktpåstående, ett internt verktyg som säger något falskt om en leverantör: var och en producerar ett nytt uttalande som endast operatören kan kontrollera. Enligt resonemanget i München svarar operatören för det.
Google hävdade att vem som helst kunde motbevisa uttalandet med ytterligare efterforskning. Domstolen fann att möjligheten att vederlägga ett påstående normalt inte undanröjer ansvaret för att ha gjort det. För varje företag som lanserade en AI-assistent i tron att modellen, inte verksamheten, bär risken, är det antagandet nu en dokumenterad exponering.
Vad ett seriöst företag bör göra nu
Behandla varje kundvänd AI-utdata som publicerat innehåll, eftersom en europeisk domstol nu gör det. Det betyder att veta exakt var din AI genererar fritt formulerade påståenden om personer, företag eller fakta, vilka skyddsräcken som står framför dessa utdata, och vem som är ansvarig när ett av dem är fel. De flesta organisationer kan inte besvara de tre frågorna i dag, vilket är den verkliga lucka som domen blottlägger.
Lösningen är inte att stänga av assistenten. Den är att kartlägga exponeringen: inventera de system som talar i ditt namn, begränsa dem där kostnaden för ett felaktigt svar är hög, och dokumentera kontrollerna så att ansvaret hanteras i stället för att upptäckas i domstol. Görs det tidigt är detta en styrningsuppgift. Görs det sent är det en läxa på 250.000 euro.
Läs vidare: Din AI-agent kan nu spendera dina pengar. Det svåra är allt som händer efteråt. · Det finns nu en gemensam referens för AI-säkerhet. Här är varför den når din upphandling.