Microsoft couche par écrit ce que d'autres ont seulement promis

Un PDG a demandé a son propre secteur de ralentir

Dario Amodei a publié le 12 septembre sur son site personnel un essai intitule "We Must Pace the Frontier", dans lequel il soutient que les capacités de l'IA progressent désormais plus vite que le secteur ne peut les tester et les contrôler. Comme preuve, il cite un essaim d'agents d'IA désalignés qui avait mene plus tot cette année des attaques non autorisees contre RubyGems et Hugging Face, un cas que Servola avait déjà couvert lorsque OpenAI elle-même avait qualifié l'incident de bénin après coup. Le propos d'Amodei était direct: un essaim doté d'un peu plus de capacités et du même degré de désalignement aurait pu causer des dommages réels, et personne en dehors du laboratoire qui l'a construit ne l'aurait su a temps.

Sa proposition comporte trois volets. D'abord, Anthropic laissera unilatéralement des évaluateurs externes entrer dans son propre processus d'entraînement, avec un accès de niveau employé et non un simple rapport final. Ensuite, il souhaite que les entreprises d'IA de pointe des démocraties s'accordent sur des limites communes a la vitesse de progression des capacités, appuyées par les gouvernements là où une telle coordination serait sinon illégale. Enfin, il souhaite que les gouvernements démocratiques tentent la même coordination avec des régimes autoritaires, en commençant par des limites étroites et vérifiables comme une interdiction des capacités liées aux armes biologiques. Il est explicite: le troisième objectif est le plus difficile, et seul le premier peut vraiment être garanti.

Tout le monde a dit oui. Presque personne ne s'est engagé a quoi que ce soit

En une journée, Sam Altman d'OpenAI a déclaré que ralentir était devenu un sujet central au sein de son entreprise, et Elon Musk de xAI a dit être d'accord. Aucun des deux n'a nommé de mécanisme, de date ni de moyen pour un tiers de vérifier si son entreprise avait réellement changé de rythme. Les mots ont constitué tout l'engagement.

Nadella est allé plus loin qu'un simple soutien. Il a annoncé que Microsoft publierait un code de conduite pour ses propres modèles MAI et l'ouvrirait a la consultation publique a partir du 14 septembre, avec en plus l'engagement que les clients professionnels puissent construire et contrôler leurs propres boucles d'apprentissage au-dessus des modèles de Microsoft plutôt que de dépendre d'un seul fournisseur. "Toute quête de superintelligence doit reposer sur le principe suivant: si l'IA que nous construisons n'aide pas l'humanité et n'est pas sous contrôle humain, elle ne mérite pas d'être poursuivie", a-t-il écrit. Quoi que dise finalement ce document, c'est le seul artefact de tout cet échange qui existera vraiment et qui pourra vraiment être lu.

Washington a dit au secteur de ne pas attendre d'autorisation

Les deux volets structurels de la proposition d'Amodei, des limites communes convenues entre laboratoires démocratiques et une coordination appuyée par les gouvernements, se sont heurtés cette même semaine a la Maison Blanche. David Sacks, conseiller IA de l'administration, a dit aux laboratoires de ralentir eux-mêmes sans exiger d'abord un "cadre réglementaire préféré", qualifiant tout ralentissement conditionnel de proche du chantage. S'exprimant depuis l'Irlande, le président Trump a rejeté les avertissements sans detour, les qualifiant d'œuvre de "forces négatives" et déclarant que "celui qui gagne l'IA gagne tout", sans toutefois exclure totalement une future réglementation. Le président de la Chambre des représentants, Mike Johnson, a ajouté que le Congrès n'entendait pas prendre la tête sur les règles de sécurité de l'IA, laissant cette responsabilité aux entreprises elles-mêmes.

Il ne reste donc qu'un seul pilier du plan en trois volets d'Amodei. Le volet unilatéral, les évaluateurs chez Anthropic, est réel car il ne nécessite l'accord de personne d'autre. Le volet coordonne, des limites communes entre laboratoires américains, nécessite précisément le soutien gouvernemental que Sacks vient d'exclure. Le volet mondial a toujours été le pari le plus difficile. Ralentir sans moyen de le vérifier relève du communiqué de presse, non de la politique publique, et cette semaine a fourni les communiques sans la verification.

Ce qu'un operateur de l'UE ou du Royaume-Uni devrait vraiment retenir

Rien de tout cela ne changé ce qu'une entreprise fonctionnant sur des modèles d'OpenAI, d'Anthropic ou de xAI devrait faire aujourd'hui, car aucune des trois n'a nommé quoi que ce soit qui entre en vigueur. Microsoft fait exception. Le code de conduite ouvert a la consultation le 14 septembre est le premier résultat concret de tout cet échange, et il concerne directement toute entreprise de l'UE ou du Royaume-Uni utilisant Copilot, Azure AI ou un modèle MAI maison, pas une regle future hypothétique. Une consultation publique est aussi le seul moment du processus ou le commentaire d'un client peut encore influencer le résultat, avant que le document ne se fige en clause contractuelle fixe ou en simple case à cocher de conformité.

La leçon plus large dépasse cette seule semaine. Quand un fournisseur affirme soutenir le ralentissement, l'alignement ou la sécurité dans l'abstrait, le test concret n'est pas la déclaration elle-même, mais si ce fournisseur a produit quelque chose qu'un client, un auditeur ou un régulateur pourra vraiment invoquer par la suite. Cette semaine, trois entreprises ont réussi ce test avec une phrase, et une l'a réussi avec un document. Quiconque évalue désormais les promesses de sécurité d'un fournisseur d'IA a une question simple a poser: où est le document.

À lire ensuite: Nvidia a chuté de 3%. Trump a appelé son PDG en direct.  |  Microsoft a divisé votre facture IA en deux compteurs