A frase que ninguém devia ver

Em junho, uma assessora no gabinete da representante Anna Paulina Luna, republicana da Florida, acrescentou texto gerado por IA para corrigir o resumo de uma emenda. A versão publicada ainda continha as palavras "Claude responded", a própria resposta do chatbot, dentro do texto público.

Luna reconheceu depois o sucedido sem rodeios: a sua equipa usou IA para corrigir um rascunho e não editou o resultado antes da publicação. O erro tornou-se público porque ninguém leu a versão final com atenção suficiente para detetar três palavras que não tinham lugar num texto legislativo federal.

Porque o Legislative Counsel está sobrecarregado

O incidente é um sintoma visível de um padrão muito mais amplo dentro do House Office of Legislative Counsel, os juristas não partidários que transformam ideias políticas em texto de lei. Segundo entrevistas com oito funcionários atuais e antigos citadas pela Politico, gabinetes do Congresso e grupos de pressão externos recorrem cada vez mais diretamente ao Claude ou ao ChatGPT para redigir o próprio texto legislativo, antes de o entregar ao gabinete para revisão.

A IA consegue gerar esse texto muito mais depressa do que qualquer equipa de juristas conseguiria escrevê-lo, o que significa que os juristas do gabinete passam agora muito mais tempo a reescrever rascunhos falhados do que alguma vez passaram a escrever do zero, e o atraso acumula-se cada vez que chega um novo rascunho assistido por IA com o mesmo tipo de erro já dentro.

O que a IA não consegue avaliar

As falhas relatadas não são gralhas, são erros de categoria jurídica que mudam a forma como uma lei funciona depois de aprovada. Os revisores descreveram rascunhos de IA incapazes de distinguir se uma verba devia ser estruturada legalmente como crédito fiscal, dedução fiscal, isenção fiscal ou subsídio, quatro instrumentos com regras de elegibilidade diferentes, agências diferentes a aplicá-los e consequências diferentes para as pessoas que a lei pretende ajudar.

Diplomas mal citados e definições legais incorretas dentro de uma lei não ficam confinados ao papel, podem desencadear ações judiciais, atrasar a aprovação de uma lei, ou só ser descobertos quando a lei já está em vigor, altura em que corrigi-la exige um processo legislativo totalmente novo.

A decisão que toda a equipa ignora

A lição vai muito além do Congresso. Qualquer organização que tenha adotado IA generativa para redação jurídica, contratual ou de conformidade está a fazer a mesma experiência: a ferramenta torna produzir um primeiro rascunho quase gratuito, e essa rapidez pressiona silenciosamente os revisores a dedicar menos tempo à verificação, precisamente quando a verificação mais importa.

O incidente no gabinete de Luna é a versão barata desta falha, uma correção pública embaraçosa mas superável. Num contrato, numa comunicação regulatória ou numa lei já aprovada, o mesmo passo de revisão saltado produz um erro que ninguém deteta até se tornar caro. A decisão que importa não é se se deve usar IA para redigir, é se a revisão mantém o mesmo rigor que tinha antes de redigir se tornar gratuito.

Leia a seguir: A Google deitou fora um modelo de IA quase pronto  |  O prompt que gere o seu negócio não tem dono