Um veto antes do lançamento, sindicável em tribunal

O líder da maioria John Thune, o presidente da Comissão de Comércio Ted Cruz e a senadora Amy Klobuchar negoceiam um projeto que criaria um dever de diligência legal para as empresas que constroem os modelos de IA mais avançados, obrigando-as a conceber os produtos com o objetivo explícito de prevenir riscos catastróficos. O mecanismo em discussão é invulgar: o governo dos EUA obteria o poder de bloquear o lançamento de um modelo que considerasse inseguro, podendo a empresa contestar essa decisão apenas depois, num tribunal federal. Os negociadores ainda debatem quanto poder de bloqueio o governo obterá na prática.

O projeto nomeia a Google, a Anthropic e a OpenAI como as empresas cujos sistemas mais capazes seriam testados, especificamente quanto a saber se um modelo poderia ajudar um ator mal-intencionado a realizar um ciberataque sofisticado ou a conceber uma arma biológica ou nuclear.

Um mecanismo diferente do da UE

A Lei da IA da UE não funciona assim. O seu artigo 55 obriga os fornecedores de modelos de risco sistémico a notificar incidentes graves ao Gabinete de IA, que realiza avaliações de conformidade e vigilância do mercado, mas não detém um poder permanente para bloquear o lançamento de um modelo antecipadamente, apoiado apenas por um recurso judicial posterior. O que o Senado está a negociar assemelha-se mais a um portal de aprovação prévia ao mercado do que a qualquer coisa atualmente em vigor em Bruxelas, um instrumento mais forte no papel, ainda que o seu alcance permaneça mais estreito, limitado ao punhado de empresas que constroem sistemas à escala de ponta.

O que é retirado no mesmo projeto

A proposta inclui também uma cláusula de prevalência que impediria os estados dos EUA de aplicar as suas próprias leis de IA, uma disposição que anularia regras já em vigor, incluindo a SB 1119 da Califórnia, a lei de divulgação para proteção infantil em chatbots. Para uma empresa europeia ou britânica que opere nos EUA, ou que observe a rapidez com que os seus próprios fornecedores de IA se adaptam a regras em mudança, a lição prática é que mesmo um projeto construído em torno de um novo poder federal forte pode, ao mesmo tempo, eliminar proteções que já existem noutro ponto do mesmo mercado. A aprovação não está próxima: a Câmara dos Representantes reúne apenas uma semana antes das eleições intercalares de 3 de novembro, o Senado três, e os negociadores ainda não fixaram os termos centrais do projeto.

Leia a seguir: Lei da Califórnia sobre Chatbots para Crianças Ultrapassa as Regras da UE  |  O quarto incidente da Anthropic chegou com um número: 79 contra 1