La frase que nadie debía ver

En junio, una asistente en la oficina de la representante Anna Paulina Luna, republicana de Florida, añadió texto generado por IA para corregir el resumen de una enmienda. La versión publicada todavía llevaba las palabras "Claude responded", la propia respuesta del chatbot, dentro del texto público.

Luna reconoció después lo ocurrido sin rodeos: su equipo usó IA para corregir un borrador y no editó el resultado antes de publicarlo. El error se hizo público porque nadie leyó la versión final con suficiente atención para detectar tres palabras que no pintaban nada en un texto legislativo federal.

Por qué la Oficina de Asesoría Legislativa está desbordada

El incidente es un síntoma visible de un patrón mucho más amplio dentro de la House Office of Legislative Counsel, los abogados no partidistas que convierten ideas políticas en texto legal. Según entrevistas con ocho funcionarios actuales y antiguos recogidas por Politico, oficinas del Congreso y grupos de presión externos acuden cada vez más directamente a Claude o ChatGPT para redactar el propio texto legislativo, antes de entregarlo a la oficina para su revisión.

La IA puede generar ese texto mucho más rápido de lo que cualquier equipo de abogados podría escribirlo, lo que significa que los abogados de la oficina pasan ahora mucho más tiempo reescribiendo borradores defectuosos del que pasaban escribiendo desde cero, y el atasco crece cada vez que llega un nuevo borrador asistido por IA con el mismo tipo de error ya dentro.

Lo que la IA no puede juzgar

Los fallos reportados no son erratas, son errores de categoría legal que cambian cómo funciona una ley una vez aprobada. Los revisores describieron borradores de IA incapaces de distinguir si una partida de fondos debía estructurarse legalmente como crédito fiscal, deducción fiscal, exención fiscal o subvención, cuatro instrumentos con reglas de elegibilidad distintas, agencias distintas que los aplican y consecuencias distintas para las personas a las que la ley pretende ayudar.

Los estatutos mal citados y las definiciones legales incorrectas dentro de una ley no se quedan en el papel, pueden desencadenar demandas, retrasar la aprobación de una ley, o descubrirse solo cuando la ley ya está en vigor, momento en el que corregirla exige un proceso legislativo completamente nuevo.

La decisión que todo equipo ignora

La lección se extiende mucho más allá del Congreso. Cualquier organización que haya adoptado IA generativa para redacción legal, contractual o de cumplimiento está haciendo el mismo experimento: la herramienta hace que producir un primer borrador sea casi gratis, y esa velocidad presiona en silencio a los revisores para dedicar menos tiempo a comprobarlo, justo cuando comprobarlo importa más.

El incidente en la oficina de Luna es la versión barata de este fallo, una corrección pública embarazosa pero superable. En un contrato, una notificación regulatoria o una ley ya aprobada, el mismo paso de revisión saltado produce un error que nadie detecta hasta que sale caro. La decisión que importa no es si usar IA para redactar, es si la revisión mantiene el mismo rigor que tenía antes de que redactar se volviera gratis.

Leer a continuación: Google desechó un modelo de IA casi terminado  |  El prompt que dirige su negocio no tiene dueño