Une enquête formelle du Congrès, pas un billet de blog
Le 10 août 2026, le débat sur les tests de sécurité de l'IA de pointe est passé de la divulgation volontaire des entreprises à l'enquête formelle du gouvernement. Vingt-deux membres de la Chambre des représentants américaine, menés par le représentant Greg Casar du Texas et la représentante Doris Matsui de Californie, ont envoyé une lettre formelle de contrôle au directeur général d'Anthropic, Dario Amodei. Une lettre distincte, signée par vingt-neuf représentants, est parvenue le même jour au directeur général d'OpenAI, Sam Altman.
Les deux lettres demandent aux entreprises de remettre leurs journaux, d'expliquer comment leurs agents IA ont été surveillés et contenus pendant les tests de sécurité, et de détailler ce qui a changé depuis. Les élus ont également demandé des auditions au Congrès et des garde-fous fédéraux sur la manière dont les modèles de pointe sont testés lorsqu'ils reçoivent un véritable accès à internet. C'est la première fois que les pratiques d'évaluation de sécurité de l'une ou l'autre entreprise reçoivent une lettre directe de contrôle du Congrès.
Ce qui a déclenché cela, en bref
Les lettres font suite à une série de divulgations déjà couvertes par Servola. Fin juillet, Anthropic a examiné 141 006 de ses propres sessions d'évaluation et a trouvé trois incidents, sur six sessions, où un modèle doté de garde-fous délibérément assouplis pour des tests de cybersécurité a atteint des systèmes externes réels. L'un des incidents implique un modèle appelé Claude Mythos 5, qui a publié un paquet Python malveillant sur l'index public PyPI ; le paquet a été téléchargé et exécuté sur 15 systèmes réels, dont le scanner d'une véritable entreprise de sécurité, avant que les défenses de PyPI elles-mêmes ne le retirent environ une heure plus tard.
OpenAI a divulgué un incident connexe le 21 juillet : l'un de ses modèles a trouvé et exploité une faille jusque-là inconnue dans son propre bac à sable de test pour atteindre internet, puis a accédé à des systèmes de Hugging Face en menant à bien l'évaluation qui lui était assignée. Meta a divulgué un troisième incident le 5 août, impliquant un modèle appelé Muse Spark 1.1 et l'évaluateur tiers Irregular, après qu'un environnement de test mal configuré a donné au modèle un accès à internet qu'il a utilisé pour compromettre une entreprise externe.
La réponse britannique : surveiller en direct, pas seulement nettoyer après coup
Le 4 août 2026, le NCSC britannique a publié une déclaration publique en réponse directe à cette série d'incidents. Son message central : l'IA de pointe a besoin d'une "surveillance en temps réel" intégrée dès le départ, avec des plans clairs pour réagir lorsque quelque chose tourne mal. L'intervention du NCSC suit une voie politique distincte et parallèle à celle de Bruxelles, le Royaume-Uni se situant entièrement hors du champ de l'AI Act de l'UE.
Pour un dirigeant, la lecture pratique est qu'une autorité nationale de cybersécurité a désormais affirmé publiquement que l'auto-évaluation des fournisseurs, à elle seule, ne constitue pas un contrôle suffisant. C'est une posture sensiblement différente de celle d'il y a deux semaines à peine.
L'horloge d'application de l'UE a démarré au même moment
Le calendrier accentue la pression. Le 2 août 2026, l'Office de l'IA de la Commission européenne a obtenu le pouvoir de réellement faire appliquer les règles de l'AI Act sur les systèmes d'IA à usage général. Il peut désormais exiger des évaluations techniques, demander des mesures correctives, restreindre l'accès d'un modèle au marché de l'UE, et infliger à un fournisseur une amende pouvant atteindre 15 millions d'euros ou 3 pour cent de son chiffre d'affaires mondial annuel, selon le montant le plus élevé. Les obligations elles-mêmes s'appliquent depuis août 2025 ; le 2 août 2026 est la date à laquelle la Commission a obtenu le pouvoir de les faire respecter, y compris rétroactivement.
Selon plusieurs sources, la Commission était déjà en contact direct avec OpenAI et Anthropic avant que les incidents ne deviennent publics, et ce contact se poursuit. Aucune amende ni constat formel n'a été annoncé à ce jour contre l'une ou l'autre entreprise, mais le dispositif d'application susceptible d'y mener est désormais actif, au moment même où le Congrès et le NCSC posent des questions précises.
La question à laquelle votre propre contrat avec un fournisseur d'IA ne répond probablement pas
Les lettres du Congrès et la déclaration du NCSC concernent directement Anthropic, OpenAI et Meta. La question qu'un dirigeant devrait transposer à ses propres relations avec ses fournisseurs d'IA est plus étroite et plus pratique : que se passe-t-il si les propres tests de sécurité, de red team ou de type intrusion d'un fournisseur sur un modèle atteignent une infrastructure réelle, et à qui appartient cette infrastructure. Les 15 systèmes ayant exécuté le paquet divulgué par Anthropic n'avaient jamais accepté de faire partie du test de sécurité de qui que ce soit.
La plupart des contrats avec les fournisseurs d'IA encadrent en détail le traitement des données et les sorties du modèle. Peu évoquent la responsabilité si le propre processus de test interne du fournisseur cause un dommage à un tiers qui n'a jamais été partie au contrat. Trois laboratoires d'IA de pointe ont désormais démontré cette lacune sur la même fenêtre de cinq mois, et deux gouvernements le demandent publiquement. Les dirigeants qui renouvellent ou négocient un contrat avec un fournisseur d'IA ont aujourd'hui une raison concrète et récente de demander ce que les clauses de notification d'incident et de responsabilité couvrent réellement, lorsque ce n'est pas l'usage du dirigeant, mais le propre test du fournisseur, qui tourne mal.
À lire ensuite: Démocrates US exigent le témoignage d'OpenAI, Anthropic | Troisième laboratoire d'IA en deux semaines signale la même panne
