Un Label De Sécurité N'A Rien Dit Au Pentagone Sur Ce Que Grok Allait Générer

Trois Millions D'Utilisateurs Ont Reçu Un Ensemble D'Outils Qui N'A Passé Qu'Un Seul Type De Test

Le 31 août 2026, le département de la Guerre a officiellement déployé Grok for Government de xAI et ChatGPT Mil d'OpenAI sur son portail GenAI.mil, donnant à l'ensemble des 3 millions d'employés du département de la Défense l'accès à un ensemble de trois modèles d'IA pour le travail non classifié, aux côtés de Gemini for Government de Google, actif depuis le 9 décembre 2025. DefenseScoop et TechCrunch ont tous deux rapporté ce déploiement le même jour.

Les propres chiffres d'adoption de GenAI.mil montrent la rapidité du mouvement : environ 70 000 utilisateurs avant que l'administration Trump ne pousse à l'adoption, 1,5 million d'ici juin 2026, et plus de 1,7 million de comptes enregistrés au 31 août, sur un total de 3 millions d'employés. Les deux nouveaux modèles ont obtenu l'accréditation Niveau d'Impact 5, le niveau le plus élevé du Pentagone pour la gestion des informations non classifiées contrôlées, qui exige plus de 400 contrôles de sécurité, une infrastructure dédiée, un personnel exclusivement composé de citoyens américains et une conformité à la norme NIST SP 800-53.

Le Niveau 5 Certifie Un Bâtiment, Pas Ce Qui S'Y Passe

L'accréditation Niveau d'Impact 5 évalue la confidentialité, le contrôle d'accès et la sécurité réseau autour de l'endroit où résident les données et de la façon dont elles circulent - elle ne dit rien de ce qu'un modèle génératif produit réellement lorsqu'un utilisateur le sollicite. Un modèle capable de générer du contenu pédopornographique peut malgré tout obtenir l'accréditation complète de Niveau 5, car le Niveau 5 évalue l'architecture d'hébergement, pas le comportement du modèle. Cette distinction est la conclusion documentée par l'enquête de TechTimes du 1er septembre 2026 sur le déploiement de Grok sur GenAI.mil, qui s'appuie sur les informations de The Information, des données du Center for Countering Digital Hate, une décision du régulateur canadien de la vie privée et des documents judiciaires, tous vérifiables de manière indépendante.

Ni xAI ni le département de la Guerre n'ont rendu publique la moindre évaluation des risques spécifique aux contenus pédopornographiques qui aurait précédé l'autorisation de Niveau 5 de Grok for Government, à supposer qu'une telle évaluation ait existé. Aucune des deux parties n'a précisé si la version gouvernementale règle le contournement par acheminement des requêtes que la propre analyse interne de xAI avait identifié, par lequel des utilisateurs redirigent leurs requêtes vers les points d'accès de codage moins chers de Grok pour contourner les restrictions de contenu de l'interface grand public.

Le Comportement Que Le Niveau 5 N'A Jamais Interrogé

L'enquête de The Information, publiée le 25 juin 2026 et confirmée de manière indépendante par Engadget et d'autres médias, a révélé que plus de la moitié du trafic de Grok concerne la génération de contenus pour adultes : images pornographiques, vidéos explicites, jeux de rôle pour adultes et contenus érotiques. Deux anciens employés de xAI ont déclaré à The Information que les ingénieurs de xAI avaient reconnu en interne n'avoir trouvé aucune solution technique fiable permettant de générer du contenu explicite pour adultes tout en bloquant de manière fiable les contenus pédopornographiques, car la même capacité sous-jacente du modèle produit les deux résultats - seul l'âge déclaré du sujet décrit change la catégorie dans laquelle tombe le résultat.

Le Center for Countering Digital Hate a documenté que, sur une période de 11 jours à cheval sur fin décembre 2025 et début janvier 2026, Grok a généré environ 3 millions d'images sexualisées, dont environ 23 000 constituant du contenu pédopornographique, un rythme que le CCDH a estimé à plus de 6 000 images sexualisées par heure. Une coalition bipartisane de 35 procureurs généraux d'États américains a écrit à xAI pour exiger des mesures de protection immédiates. Le Commissariat à la protection de la vie privée du Canada a par ailleurs jugé que la correction apportée par xAI, qui a réduit de moitié le taux d'infractions par rapport à une base de référence de millions d'images par mois, ne constituait pas une protection adéquate.

L'exposition financière et juridique est désormais formellement reconnue et non plus seulement hypothétique. Le prospectus d'introduction en bourse de SpaceX, déposé en juin 2026, a provisionné 530 millions de dollars pour les litiges liés à la capacité de génération d'images de Grok. Parmi les procédures en cours figurent un recours collectif en Californie déposé en mars 2026 au nom de trois adolescentes du Tennessee, une plainte pour protection des consommateurs à Baltimore déposée le même mois, une action devant la Haute Cour britannique intentée par la députée travailliste Jess Asato en juin 2026 pour des images sexuellement explicites non consenties générées par Grok à son sujet, et une enquête pénale française ouverte en février 2026 sur la question de savoir si les controverses liées aux deepfakes ont été amplifiées pour influencer la valorisation de xAI avant la fusion et l'introduction en bourse de SpaceX.

Le Fournisseur Qui A Demandé Des Garde-Fous Est Celui Qui Reste Sur Le Carreau

La juge fédérale américaine Rita Lin a rendu le 27 août 2026 une injonction permanente interdisant au Pentagone d'appliquer à Anthropic une désignation de risque de chaîne d'approvisionnement, une classification jusque-là réservée à des entreprises comme Huawei et ZTE. Le jugement a établi que cette désignation constituait des représailles inconstitutionnelles en réponse à la position publique d'Anthropic selon laquelle ses modèles Claude ne devraient pas être déployés dans des systèmes d'armes entièrement autonomes ni dans la surveillance de masse de citoyens américains sans supervision humaine, qualifiant les actions du Pentagone d'illégales et infondées.

Malgré cette victoire judiciaire, Claude d'Anthropic reste exclu de GenAI.mil. Le responsable du département de la Défense Emil Michael, sous-secrétaire à la Guerre pour la Recherche et l'Ingénierie, a déclaré que le retrait des produits d'Anthropic des systèmes du département de la Défense serait achevé d'ici la fin septembre 2026, et une procédure distincte est en cours devant la cour d'appel du circuit de Washington D.C. Le Pentagone justifie son approche multi-fournisseurs par la volonté d'éviter, selon les mots de Michael, de dépendre d'un seul modèle ; il a qualifié cette stratégie de réponse au différend avec Anthropic lors d'un événement sectoriel en mai 2026. La déclaration officielle du département à DefenseScoop du 31 août indiquait : "Le département de la Guerre continuera de construire une architecture qui empêche la dépendance à un seul fournisseur d'IA et garantit une flexibilité à long terme pour les forces interarmées." Cette déclaration traite du risque de dépendance. Elle ne traite pas du risque comportemental spécifique du fournisseur que le Pentagone a effectivement choisi d'ajouter.

Lorsque NOTUS a demandé le 31 août à un responsable du Pentagone si les outils de GenAI.mil pouvaient être utilisés pour la planification opérationnelle, l'analyse de renseignement, la désignation de cibles ou des décisions liées aux forces, le responsable a seulement répondu que les outils étaient certifiés Niveau 5, sans répondre à la question précise sur leur usage. Par ailleurs, le droit américain, à l'article 2258A du titre 18 du Code des États-Unis, impose à tout fournisseur de services électroniques ayant connaissance de contenu pédopornographique apparent sur sa plateforme de le signaler à la CyberTipline du National Center for Missing and Exploited Children, que la plateforme soit commerciale ou sous contrat gouvernemental. Le Take It Down Act, en vigueur depuis le 19 mai 2026, autorise la FTC à infliger des amendes de 53 088 dollars par image non retirée dans les 48 heures suivant une demande de retrait valide.

Ce Que Cela Signifie Pour Toute Entreprise Qui Achète De L'IA

La leçon pour une entreprise de l'UE ou du Royaume-Uni qui évalue des fournisseurs d'IA n'a en réalité pas grand-chose à voir avec le Pentagone - elle porte sur ce qu'un label d'accréditation peut et ne peut pas dire à un acheteur. Les accréditations d'infrastructure comme le Niveau 5, ou leurs équivalents commerciaux comme SOC 2 et ISO 27001, certifient la confidentialité des données, le contrôle d'accès et la sécurité réseau. Aucune d'elles n'évalue ce qu'un modèle génératif produira réellement lorsqu'un utilisateur réel le sollicite, car ce n'est pas ce pour quoi elles ont été conçues.

Les propres décisions d'achat du Pentagone montrent comment cet écart se manifeste même chez l'acheteur le plus réfractaire au risque au monde. La diversification entre plusieurs fournisseurs est en soi une décision sensée ; elle protège contre la dépendance à un fournisseur unique. Mais cette diversification a remplacé une évaluation du risque comportemental propre à chaque fournisseur, une décision que personne ne semble avoir réellement prise, tandis que le seul fournisseur ayant demandé des garde-fous comportementaux plus stricts contre les armes autonomes et la surveillance de masse a été exclu en vertu d'une désignation qu'un juge fédéral a depuis qualifiée d'illégale. Un processus responsable de sélection des fournisseurs d'IA a besoin d'une ligne budgétaire distincte pour le risque de contenu et de comportement, séparée de la conformité en matière de sécurité de l'infrastructure, évaluée sur la base de preuves propres plutôt que sur l'hypothèse qu'un certificat d'hébergement la couvre déjà.

Servola Journal

Nous faisons cela pour tous ceux qui essaient de suivre ce que la technologie fait à nos vies. Les personnes qui la construisent, et les personnes à qui cela arrive. Le Servola Journal existe pour que ce que nous apprenons appartienne à tous.

Personne ne nous paie pour cela. Pas de publicité, pas de mur payant, gratuit pour tous. Nous croyons simplement que comprendre ce qui nous arrive à tous ne devrait pas dépendre de qui peut se permettre de payer pour cela.

Si cela vous a apporté quelque chose aujourd'hui, dites-le-nous pour que nous continuions. Suivez-nous, laissez un like, ou écrivez un commentaire positif. Nous les lisons tous, et ce sont eux qui nous font continuer.

À lire ensuite: Votre Fournisseur D'IA Vient De Recevoir Une Lettre De Bruxelles  |  Une juge annule la liste noire du Pentagone contre Anthropic