La phrase que personne ne devait voir
En juin, une collaboratrice du bureau de la représentante Anna Paulina Luna, républicaine de Floride, a ajouté du texte généré par IA pour corriger le résumé d'un amendement. La version publiée contenait encore les mots "Claude responded", la réponse même du chatbot, en plein texte public.
Luna a ensuite reconnu les faits sans détour: son équipe a utilisé l'IA pour corriger un brouillon et n'a pas édité le résultat avant sa publication. L'erreur est devenue publique parce que personne n'a lu la version finale d'assez près pour repérer trois mots qui n'avaient rien à faire dans un texte législatif fédéral.
Pourquoi le service juridique législatif est submergé
L'incident est un symptôme visible d'un schéma bien plus large au sein du House Office of Legislative Counsel, les juristes non partisans qui transforment des idées politiques en texte de loi. Selon des entretiens avec huit responsables actuels et anciens rapportés par Politico, des bureaux du Congrès et des groupes de pression externes vont désormais de plus en plus directement voir Claude ou ChatGPT pour rédiger le texte législatif lui-même, avant de le transmettre au service pour relecture.
L'IA peut générer ce texte bien plus vite qu'aucune équipe de juristes ne pourrait l'écrire, ce qui signifie que les juristes du service passent désormais bien plus de temps à réécrire des brouillons défectueux qu'ils n'en passaient jamais à écrire depuis zéro, et le retard s'accumule chaque fois qu'un nouveau brouillon assisté par IA arrive avec le même type d'erreur déjà à l'intérieur.
Ce que l'IA ne peut pas juger
Les défaillances signalées ne sont pas des coquilles, ce sont des erreurs de catégorie juridique qui changent la manière dont une loi fonctionne une fois adoptée. Les relecteurs ont décrit des brouillons d'IA incapables de distinguer si une enveloppe devait être structurée juridiquement comme un crédit d'impôt, une déduction fiscale, une exonération fiscale ou une subvention, quatre instruments aux règles d'éligibilité différentes, appliqués par des agences différentes, avec des conséquences différentes pour les personnes que la loi est censée aider.
Des textes mal cités et des définitions juridiques incorrectes dans une loi ne restent pas confinés à la page, ils peuvent déclencher des poursuites, retarder l'adoption d'une loi, ou n'être découverts qu'une fois la loi déjà en vigueur, moment où la corriger exige une toute nouvelle procédure législative.
La décision que chaque équipe ignore
La leçon dépasse largement le Congrès. Toute organisation ayant adopté l'IA générative pour la rédaction juridique, contractuelle ou de conformité mène la même expérience: l'outil rend la production d'un premier brouillon presque gratuite, et cette vitesse pousse silencieusement les relecteurs à passer moins de temps à vérifier, précisément quand la vérification compte le plus.
L'incident du bureau Luna est la version bon marché de cet échec, une correction publique gênante mais survivable. Dans un contrat, un dépôt réglementaire ou une loi déjà adoptée, la même étape de relecture sautée produit une erreur que personne ne repère avant qu'elle ne coûte cher. La décision qui compte n'est pas de savoir s'il faut utiliser l'IA pour rédiger, c'est de savoir si la relecture garde la même rigueur qu'avant que rédiger ne devienne gratuit.
À lire ensuite: Google a jeté un modèle d'IA presque fini | Le prompt qui pilote votre entreprise n'a pas de propriétaire
