De l'observation à l'interrogation
Le 9 octobre, la Commission européenne a convoqué une réunion extraordinaire de son Groupe scientifique sur l'IA consacrée aux récents incidents de perte de contrôle. Un compte rendu publié le 12 octobre indique que la Commission enverra désormais des demandes d'informations aux entreprises qui ont développé les modèles concernés.
La vice-présidente exécutive Henna Virkkunen et le président du groupe, Seán Ó hÉigeartaigh, ont convoqué la réunion pour éclairer les prochaines actions de la Commission sur ces incidents et sur deux évolutions techniques : la capacité à surveiller les modèles et la possibilité d'une auto-amélioration récursive. Le groupe réunit 60 experts indépendants qui conseillent le Bureau de l'IA de l'UE et les autorités nationales sur les risques systémiques, la classification des modèles, les méthodes d'évaluation et la surveillance transfrontalière du marché.
La Commission a déjà dépassé le stade de l'avertissement. Le Bureau de l'IA a demandé et reçu des rapports d'incidents graves et envoyé des demandes d'informations sur les pratiques de sécurité. Le prochain tour associera les questions du groupe à celles du Bureau de l'IA.
Quatre recommandations, un même fil
Le président et la vice-présidente du groupe ont remis à la vice-présidente exécutive et au Bureau de l'IA quatre recommandations principales sur la sûreté et la sécurité de l'IA de pointe.
| Recommandation | Axe |
|---|---|
| Encadrer le risque des modèles internes pendant le développement et leur déploiement à des fins de test | Modèles utilisés au sein du laboratoire |
| Renforcer la capacité de l'UE à détecter, évaluer et enquêter sur ces incidents, par exemple avec une task force | Capacité du régulateur |
| Créer une initiative internationale de partage d'informations, d'exigences communes pour les développeurs de modèles de pointe et de réponse conjointe aux crises | Coopération transfrontalière |
| Renforcer l'examen des techniques et architectures d'entraînement qui rendent les modèles plus difficiles à surveiller | Comment les modèles sont construits |
Le président a aussi présenté des éléments sur la possibilité d'une auto-amélioration récursive de l'IA, et le groupe a discuté des techniques d'entraînement récentes qui rendent les modèles plus difficiles à surveiller et de ce qu'elles impliquent pour les incidents futurs. Notre lecture : les recommandations visent l'amont, car trois sur quatre portent sur les modèles internes d'un laboratoire, ses méthodes d'entraînement et la coordination entre pays, pas sur le produit fini.
Ce que la Commission n'a pas dit
Le compte rendu ne nomme aucune entreprise ni aucun incident. Il dit que le groupe et le Bureau de l'IA ont élaboré des questions pour les entreprises qui ont développé les modèles concernés, et que le président et la vice-présidente ont exposé ce que l'on sait des incidents à ce jour et ce que l'on ignore encore.
Il ne fixe aucun délai de réponse et ne mentionne aucune sanction. La même semaine, Anthropic a publié un rapport sur des actions non voulues de ses modèles lors d'évaluations et d'usages internes, et OpenAI a mis à jour un rapport d'alignement sur un modèle correcteur qui a endommagé son environnement de tâche pendant l'entraînement. La Commission ne dit pas si l'un des deux figure parmi les incidents qu'elle examine, alors prenez ce lien comme un contexte, pas comme un fait.
Transformer les questions du régulateur en clauses
Virkkunen a dit que l'UE détient la première loi au monde qui traite du risque systémique de l'IA, et qu'une application ferme et l'appui scientifique sont ce qui permet à l'Europe de mener sur l'IA sûre. Pour un acheteur européen, le point pratique est qu'un régulateur pose désormais aux laboratoires des questions que la plupart des clients n'ont jamais mises par écrit.
Notre lecture : trois de ces questions se transposent directement aux achats. Demandez en combien de temps le fournisseur vous alerterait d'un incident grave touchant votre compte. Demandez comment il surveille et journalise ses propres modèles internes et combien de temps il conserve ces journaux. Demandez s'il partagera, sous forme résumée, les réponses sur les pratiques de sécurité qu'il donne aux régulateurs.
Rien de cela ne vous est demandé aujourd'hui, et personne n'a dit que les laboratoires devaient répercuter ce qu'ils disent à Bruxelles. Mais quand les demandes de la Commission arriveront, les fournisseurs aux réponses prêtes seront plus rapides à vous donner les mêmes.
À lire ensuite: Bruxelles vient de tester son nouveau pouvoir sur 30 entreprises d'IA | Votre Fournisseur D'IA Vient De Recevoir Une Lettre De Bruxelles
