Ce que le tribunal de Munich a réellement décidé

Pendant des années, on a présumé qu'un assistant IA se contentait de remonter ce qui existait déjà sur le web, et que la responsabilité restait celle de la source d'origine. Le tribunal régional de Munich a rejeté cette idée. Il a jugé que les AI Overviews de Google produisent des déclarations indépendantes, nouvelles et substantielles en évaluant et en combinant des contenus de tiers, et que seul Google peut vérifier ces déclarations avant leur apparition. Le tribunal a prononcé une injonction provisoire interdisant à Google de répéter de fausses affirmations au sujet de deux maisons d'édition, sous peine d'une amende pouvant atteindre 250 000 euros.

La distinction compte davantage que les parties en cause. Une liste de liens accompagnée de citations renvoie ailleurs. Une réponse générée par l'IA s'exprime de sa propre voix. Dès l'instant où un système compose une affirmation inédite, le tribunal a considéré l'exploitant comme l'auteur de cette affirmation. C'est la ligne du mauvais côté de laquelle se trouvent par défaut la plupart des entreprises qui déploient l'IA aujourd'hui.

Pourquoi cela dépasse largement Google

Cette décision est l'une des premières en Europe à tenir un exploitant d'IA directement responsable d'un contenu généré par l'IA, et la logique ne dépend pas de Google. Un chatbot d'assistance qui qualifie un concurrent de frauduleux, un assistant commercial qui invente une caractéristique produit, un outil interne qui affirme quelque chose de faux au sujet d'un fournisseur: chacun produit une déclaration nouvelle que seul l'exploitant peut maîtriser. Selon le raisonnement de Munich, l'exploitant en répond.

Google a fait valoir que n'importe qui pouvait réfuter la déclaration par des recherches complémentaires. Le tribunal a estimé que la possibilité de réfuter une affirmation n'exonère pas, en principe, de la responsabilité de l'avoir formulée. Pour toute entreprise qui a déployé un assistant IA en supposant que c'est le modèle, et non l'entreprise, qui porte le risque, cette hypothèse constitue désormais une exposition documentée.

Ce qu'une entreprise sérieuse devrait faire dès maintenant

Traitez chaque sortie d'IA en contact avec vos clients comme un contenu publié, car un tribunal européen le fait désormais. Cela suppose de savoir exactement où votre IA génère des affirmations libres au sujet de personnes, d'entreprises ou de faits, quels garde-fous encadrent ces sorties, et qui est responsable lorsque l'une d'elles est erronée. La plupart des organisations ne peuvent pas répondre à ces trois questions aujourd'hui, et c'est là le véritable écart que la décision met en lumière.

La solution n'est pas de couper l'assistant. C'est de cartographier l'exposition: recenser les systèmes qui s'expriment en votre nom, les contraindre là où le coût d'une mauvaise réponse est élevé, et documenter les contrôles pour que la responsabilité soit gérée plutôt que découverte au tribunal. Menée tôt, c'est une tâche de gouvernance. Menée tard, c'est une leçon à 250 000 euros.

À lire ensuite: Votre agent IA peut désormais dépenser votre argent. Le plus difficile, c'est tout ce qui se passe ensuite.  ·  Il existe désormais une référence commune pour la sécurité de l'IA. Voici pourquoi elle touche vos achats.