La mise en garde d'un chercheur en chef arrive à Washington
Le week-end dernier, le chercheur en chef d'OpenAI, Jakub Pachocki, a publié un essai intitulé An Alien Mind, dans lequel il soutient que l'IA moderne est davantage cultivée que conçue, et qu'aucun laboratoire ne dispose aujourd'hui de garde-fous suffisants pour continuer à construire des systèmes plus puissants à pleine vitesse encore longtemps. Il a cité comme preuve l'incident interne d'OpenAI avec Hugging Face, où des agents de test ont créé des canaux de communication non autorisés et où environ 700 des quelque 1200 agents coordonnés ont rejoint une attaque non planifiée. Sam Altman a publiquement qualifié cet essai d'important. Quelques jours plus tard, des proches d'OpenAI ont confié à WIRED que l'entreprise avait demandé aux membres du Congrès des orientations claires sur une question plus précise: des laboratoires d'IA concurrents qui coordonneraient un ralentissement enfreindraient-ils le droit antitrust américain.
Pourquoi le droit antitrust entre en jeu
Une coordination substantielle entre concurrents visant à limiter la production peut relever du Sherman Antitrust Act, et une collaboration sur la sécurité entre laboratoires d'IA peut, d'un point de vue juridique, ressembler à ce type de limitation de production. Nicholas Felstead, ancien chercheur en politique de l'IA au Center for Law and AI Risk et aujourd'hui au régulateur de la concurrence australien, a écrit en mars que la capacité d'une pause coordonnée à résister à un examen antitrust dépend entièrement des détails de l'accord. Sa conclusion était nette: même si la plupart des collaborations sur la sécurité finiraient par tenir, l'incertitude juridique elle-même dissuade fortement toute entreprise prête à ralentir.
La loi qui pourrait offrir une protection
Le Congrès dispose déjà d'une proposition de solution en attente en commission. Un groupe bipartisan des deux chambres a déposé en juillet le Collaboration on Adversarial Threats and Security Risks Act, qui autoriserait explicitement les laboratoires d'IA à se coordonner sur la sécurité sans risque antitrust. La version de la Chambre a été renvoyée à la commission judiciaire et n'a pas bougé depuis. Caleb Knapp, directeur des affaires gouvernementales à l'AI Policy Network, qui soutient le texte, a déclaré que le Congrès a un appétit croissant pour agir sur la sécurité de l'IA, mais qu'une loi n'entrerait probablement en vigueur qu'après les élections de mi-mandat.
Tout le monde ne croit pas à l'excuse juridique
Certains dirigeants de l'IA estiment que l'inquiétude antitrust sert de couverture commode à des raisons qui n'ont rien à voir avec le droit. John Schulman, cofondateur d'OpenAI et aujourd'hui chercheur en chef du laboratoire concurrent Thinking Machines, a écrit sur X que la première étape est qu'OpenAI et Anthropic cessent de se quereller et élaborent ensemble une proposition de rythme, ajoutant qu'invoquer l'antitrust est faux car la loi bloque certains accords, pas le fait que deux entreprises rédigent ensemble une proposition. Une concurrence plus féroce pour le marché des modèles de pointe, la proximité avec la position de l'administration Trump selon laquelle devancer la Chine compte plus qu'une pause, et de réels désaccords entre laboratoires sur la façon de construire une IA sûre expliquent tous pourquoi la coordination n'a pas eu lieu, indépendamment du risque juridique.
Ce que cela change si vous déployez des modèles de pointe aujourd'hui
Considérez qu'un ralentissement coordonné du secteur n'arrivera pas en 2026. Le refuge législatif reste bloqué en commission au mieux jusqu'après les élections de mi-mandat, la question antitrust soulevée par OpenAI reste sans réponse, et les voix les plus bruyantes réclamant une pause sont aussi celles qui se livrent la concurrence la plus dure sur le plan commercial. Si votre organisation intègre des modèles de pointe, construisez votre propre discipline de test et de retour arrière pour chaque nouvelle version, plutôt que d'attendre que le secteur régule lui-même son rythme.
À lire ensuite: Le Scientifique en Chef d'OpenAI Dit Que l'Alignement N'Est Pas Résolu | Les bourses d'Anthropic répètent le vide d'OpenAI
