Les vers d'IA pourraient viser d'abord l'IoT pas cher

Ce qu'Anthropic a mesuré et ce que l'étude ne montre pas

Le Frontier Red Team d'Anthropic a publié le 12 octobre un article de William Zhou et Daniel Freeman selon lequel de petits modèles d'IA pourraient être à quelques mois de pouvoir se copier sur des appareils commerciaux de l'internet des objets, comme des fours connectés et des box Android TV sans marque. Les chiffres ci-dessous viennent de l'article lui-même.

Qwen3.5-9B a installé ses serveurs sur du matériel allant des cartes Jetson Nano aux Mac et aux cartes RTX 4090. Les auteurs découpent la réplication en quatre étapes : trouver des cibles, obtenir l'exécution, mettre l'inférence en place et continuer depuis le nouvel hôte. Ils ont volontairement laissé les deux premières triviales. Le réseau de test exposait un port de débogage Android sans authentification, ce qui conduit Anthropic à qualifier son résultat de plafond du succès réel. La conclusion est modeste : l'article dit qu'il n'existe pas encore de réplicateur rebelle complet, seulement des 'signes de vie'.

Pourquoi les appareils bon marché sont les premiers hôtes probables

Les appareils des foyers et des petites entreprises pourraient être les premières cibles, écrivent les auteurs, car ils sont connectés à internet et ont historiquement peu de sécurité. Anthropic a acheté 15 box Android TV sans marque à environ 55 dollars pièce, les a mises en réseau et y a fait tourner le modèle Gemma4-26B-A4B à 0,39 token par seconde, chaque box portant quelques couches du modèle.

Les box de cette catégorie embarquent en général de 1 à 4 Go de mémoire. Avec 4 Go chacune et une compression à 4 bits, quatre box ou plus peuvent servir un modèle de 9B et dix ou plus un modèle de 26B, ce qui explique qu'un essaim d'appareils faibles puisse héberger quelque chose de capable.

La question suivante est l'échelle. Le botnet Kimwolf a infecté plus de 2 millions d'appareils, surtout des box Android TV sans marque. Si chaque groupe de 15 appareils de ce type faisait tourner une copie du modèle de 26B, Anthropic estime environ 133 000 copies et 80 000 tokens par seconde au total, soit à peu près l'inférence de 40 accélérateurs Nvidia H100. C'est peu de calcul, et un réplicateur se propagerait lentement, avec un temps de doublement de plusieurs jours. Le dommage, dans ce modèle, vient d'une empreinte sans interrupteur unique, car le calcul lui-même est faible. L'estimation repose sur une seule classe de matériel et un seul botnet passé, comme le notent les auteurs.

La date de fin 2026 vient d'une courbe de tendance

La date de fin 2026 d'Anthropic vient d'un ajustement linéaire sur les modèles ouverts de 30B paramètres ou moins, dont le score à l'Epoch Capabilities Index progresse d'environ 13,7 points par an, avec un R carré de 0,95.

Parmi les modèles ouverts testés, seul GLM-5.2 a accompli toute la chaîne, atteignant les 8 nœuds dans 4 essais sur 5 et 7 dans le cinquième. En le prenant comme plancher de capacité et une box TV de 4 Go comme plafond de taille, la courbe place un petit modèle à ce plancher vers la fin de cette année. Les auteurs décrivent l'indice comme un simple indicateur de la capacité de réplication et la date comme une estimation grossière.

Deux autres résultats vont dans les deux sens. Quand chaque copie de Qwen3.5-9B héritait des notes de la précédente, son taux de réussite pour mettre l'inférence en place passait de 45 pour cent à la première génération à une valeur comprise entre 61 et 84 pour cent aux suivantes. L'accès à un modèle conseiller plus fort, Opus 4.8, n'a apporté aucun gain mesurable.

Les avis extérieurs sont prudents. Al Jazeera, qui a rapporté l'article le 13 octobre, cite Roman Yampolskiy, de l'Université de Louisville, selon qui un ver d'IA pourrait raisonner sur des appareils inconnus et continuer à se propager sans opérateur humain, mais n'est pas aujourd'hui une menace existentielle. Anthropic n'a pas répondu aux questions d'Al Jazeera, envoyées en dehors des heures de bureau.

Quatre contrôles pour bureaux, boutiques et petits sites

Anthropic présente la défense comme une épidémie : ramener R0, le nombre de nouveaux appareils que contamine chaque appareil infecté, sous 1 pour que le réplicateur s'éteigne. Pour un dirigeant, cela donne quatre contrôles.

Premièrement, listez chaque appareil doté d'un processeur sur votre réseau, y compris box TV, caméras, équipements de visioconférence et boîtiers de stockage, fermez les ports de gestion entrants et remplacez les identifiants par défaut. Mirai s'est propagé grâce aux mots de passe d'usine des fabricants, et le ver du test n'avait besoin que d'un port de débogage Android sans authentification. Le régime britannique pour les produits grand public connectables, en vigueur depuis le 29 avril 2024, interdit les mots de passe par défaut universels et faciles à deviner, et Anthropic cite ce type de règle comme moyen de réduire le nombre de cibles.

Deuxièmement, demandez à votre fournisseur d'accès ou à votre prestataire réseau s'il surveille les données de flux. Un réplicateur laisserait des téléchargements de modèles de plusieurs gigaoctets et un trafic constant entre des machines qui ne se parlent pas d'ordinaire, et l'article indique que la surveillance côté fournisseur pourrait voir les deux. Troisièmement, demandez si les clients infectés sont mis en quarantaine et prévenus : lors du nettoyage de Mirai, un fournisseur qui l'a fait a éliminé 92 pour cent des infections en 14 jours, contre 74 pour cent sans avis.

Quatrièmement, demandez à vos fournisseurs d'appareils comment ils respecteront le Cyber Resilience Act de l'UE. La Commission européenne indique le 11 septembre 2026 pour les obligations de notification des vulnérabilités activement exploitées et le 11 décembre 2027 pour les obligations principales. Un fournisseur sans réponse est un fournisseur à remplacer au prochain renouvellement.

À lire ensuite: Failles de 2014 : un sous-traitant chinois s'en sert  |  OSS Scanner d'Anthropic : des rapports sans relecture