Un veto previo al lanzamiento, revisable en los tribunales
El líder de la mayoría John Thune, el presidente del Comité de Comercio Ted Cruz y la senadora Amy Klobuchar negocian un proyecto que crearía un deber de diligencia legal para las empresas que construyen los modelos de IA más avanzados, obligándolas a diseñar sus productos con el objetivo explícito de prevenir riesgos catastróficos. El mecanismo en discusión es inusual: el gobierno de EE. UU. obtendría la facultad de bloquear el lanzamiento de un modelo que considere inseguro, y la empresa solo podría impugnar esa decisión después, ante un tribunal federal. Los negociadores aún debaten cuánto poder de bloqueo obtendría realmente el gobierno.
El proyecto nombra a Google, Anthropic y OpenAI como las empresas cuyos sistemas más capaces serían evaluados, concretamente para determinar si un modelo podría ayudar a un actor malintencionado a ejecutar un ciberataque sofisticado o diseñar un arma biológica o nuclear.
Un mecanismo distinto al de la UE
La Ley de IA de la UE no funciona así. Su artículo 55 exige a los proveedores de modelos de riesgo sistémico notificar incidentes graves a la Oficina de IA, que realiza evaluaciones de conformidad y vigilancia del mercado, pero no cuenta con una facultad permanente para bloquear el lanzamiento de un modelo por adelantado, respaldada solo por una impugnación judicial posterior. Lo que negocia el Senado se parece más a una puerta de aprobación previa al mercado que a nada de lo que hoy funciona en Bruselas, una herramienta más fuerte sobre el papel aunque su alcance siga siendo más estrecho, limitado a un puñado de empresas que construyen sistemas de escala puntera.
Qué se elimina en el mismo proyecto
La propuesta incluye también una cláusula de anulación que impediría a los estados de EE. UU. aplicar sus propias leyes de IA, una disposición que dejaría sin efecto normas ya vigentes, entre ellas la SB 1119 de California, la ley de divulgación de seguridad infantil en chatbots. Para una empresa europea o británica que opere en EE. UU., o que observe con qué rapidez sus propios proveedores de IA se adaptan a reglas cambiantes, la lección práctica es que incluso un proyecto construido alrededor de una nueva y fuerte facultad federal puede a la vez eliminar protecciones que ya existen en otra parte del mismo mercado. La aprobación no está cerca: la Cámara de Representantes sesiona solo una semana antes de las elecciones de mitad de mandato del 3 de noviembre, el Senado tres, y los negociadores aún no han fijado los términos centrales del proyecto.
Leer a continuación: La Ley de Chatbots Infantiles de California Supera a las Reglas de la UE | El cuarto incidente de Anthropic llegó con un número: 79 frente a 1
