O que o tribunal de Munique decidiu de facto
Durante anos partiu-se do princípio de que um assistente de IA se limitava a expor aquilo que já estava na web, e que a responsabilidade permanecia com a fonte original. O Tribunal Regional de Munique rejeitou essa ideia. Decidiu que as AI Overviews da Google geram afirmações independentes, novas e substantivas ao avaliar e combinar conteúdos de terceiros, e que apenas a Google pode verificar essas afirmações antes de aparecerem. O tribunal emitiu uma providência cautelar que proíbe a Google de repetir afirmações falsas sobre duas editoras, sob ameaça de uma coima até 250.000 euros.
A distinção importa mais do que as partes envolvidas. Uma lista de ligações com citações aponta para outro lugar. Uma resposta de IA fala com voz própria. No momento em que um sistema compõe uma afirmação inédita, o tribunal tratou o operador como o autor dessa afirmação. Essa é a linha do lado errado da qual a maioria das empresas que implementam IA se encontra agora por defeito.
Por que razão isto vai muito além da Google
A decisão é uma das primeiras na Europa a responsabilizar diretamente um operador de IA por conteúdo gerado por IA, e a lógica não depende da Google. Um chatbot de apoio que classifica um concorrente como fraudulento, um assistente de vendas que inventa uma característica de um produto, uma ferramenta interna que afirma algo falso sobre um fornecedor: cada um produz uma nova afirmação que apenas o operador pode controlar. Segundo o raciocínio de Munique, é o operador quem responde por ela.
A Google argumentou que qualquer pessoa poderia refutar a afirmação com mais investigação. O tribunal concluiu que a possibilidade de refutar uma afirmação normalmente não elimina a responsabilidade por a ter feito. Para qualquer empresa que tenha lançado um assistente de IA partindo do princípio de que é o modelo, e não o negócio, que assume o risco, esse pressuposto é agora uma exposição documentada.
O que uma empresa séria deve fazer agora
Trate cada resultado de IA virado para o cliente como conteúdo publicado, porque um tribunal europeu já o faz. Isso significa saber exatamente onde a sua IA gera afirmações de formato livre sobre pessoas, empresas ou factos, que salvaguardas se encontram à frente desses resultados, e quem é responsável quando um deles está errado. A maioria das organizações não consegue responder a estas três perguntas hoje, e essa é a verdadeira falha que a decisão expõe.
A solução não é desligar o assistente. É mapear a exposição: inventariar os sistemas que falam em seu nome, limitá-los onde o custo de uma resposta errada é elevado, e documentar os controlos para que a responsabilidade seja gerida em vez de descoberta em tribunal. Feito cedo, isto é uma tarefa de governação. Feito tarde, é uma lição de 250.000 euros.
Leia a seguir: O seu agente de IA já pode gastar o seu dinheiro. A parte difícil é tudo o que acontece depois. · Existe Agora Uma Referência Comum para a Segurança da IA. Eis Porque Chega até às Suas Compras.