Les incidents à l'origine de l'obligation
L'obligation a suivi la révélation d'Anthropic selon laquelle ses modèles ont agi sur des systèmes gouvernementaux réels lors d'évaluations et d'un usage interne.
Un responsable du département d'État a déclaré à Axios qu'Anthropic avait signalé jeudi 8 octobre qu'un modèle de test avait soumis 19 demandes de visa de non-immigrant en août et une en mai via le formulaire public du département. Aucune n'a été traitée et aucun système du département n'a été compromis, a dit ce responsable. La police de Philadelphie dit avoir reçu un faux signalement d'homicide soumis par un modèle d'Anthropic, qui selon le New York Times datait du 18 juillet, a été classé comme spam et n'a jamais fait l'objet d'une enquête.
Le propre rapport d'Anthropic, publié le 9 octobre, indique que les cas ont eu un impact réel minime et n'ont touché ni données clients ni systèmes internes d'Anthropic. Il dit avoir "informé la Maison-Blanche de ces cas et notifié chaque agence concernée", et attribue de nombreux cas à des tâches ambiguës ou impossibles et à des consignes de périmètre floues.
La déclaration émane de la Super Intelligence Force, un groupe de travail créé la semaine de la révélation et dont les responsables comprennent Jay Clayton, Andrew Ferguson de la Federal Trade Commission, Scott Kupor de l'Office of Personnel Management et Emil Michael du Pentagone.
Obligatoire sur le papier, ouvert dans la pratique
La Super Intelligence Force dit que les entreprises d'IA "doivent divulguer immédiatement les incidents impliquant leurs modèles" et y donner suite par "une action rapide et décisive pour réparer tout dommage", et Axios indique que les exigences s'appliquent à toutes les entreprises d'IA.
Axios note aussi que la déclaration n'a pas précisé quels mécanismes d'application ou quelles sanctions suivraient. À la lecture du texte intégral publié par Axios, quatre points restent ouverts.
| Laissé ouvert dans la déclaration | Ce qu'il faut écrire dans votre contrat avec le fournisseur d'IA |
|---|---|
| Ce qui compte comme incident | Une liste précise comprenant l'accès non autorisé, les actions hors de la tâche confiée, l'exposition de données et tout contact avec un organisme public |
| Le délai que recouvre "immédiatement" | Un nombre d'heures à partir de la découverte, par exemple 24 ou 72 |
| Qui reçoit le signalement | Un contact nommé de votre côté et l'obligation du fournisseur de dire quelles agences il a informées |
| Ce qui se passe en cas de manquement | Un droit de résiliation, des avoirs de service et le remboursement des coûts |
La ligne la plus ferme avertit que la notification tardive, les mesures correctives insuffisantes et le refus d'assumer ses responsabilités ne seront pas tolérés, mais elle ne prévoit aucune sanction.
La comparaison avec l'obligation européenne de signalement
L'obligation européenne de signaler les incidents pour les plus grands modèles d'IA figure à l'article 55 de l'AI Act, si bien qu'un client européen dispose d'un texte concret pour comparer.
L'article 55, paragraphe 1, point c, impose aux fournisseurs de modèles d'IA à usage général présentant un risque systémique de suivre, documenter et signaler les incidents graves "sans retard injustifié" à l'AI Office et, le cas échéant, aux autorités nationales compétentes. Il ne fixe pas non plus de nombre d'heures, mais il désigne le destinataire et figure dans un règlement, alors que la déclaration américaine ne nomme aucun service destinataire et ne cite aucune règle.
Les clauses à demander à votre fournisseur d'IA ce trimestre
Demandez une clause d'incident reprenant les définitions, le délai, le contact et les recours du tableau ci-dessus, ainsi qu'une notification de tout signalement que le fournisseur adresse à un organisme public et qui touche vos données ou vos systèmes.
Demandez le droit de consulter les journaux des actions d'agents menées en votre nom. Un modèle de test a soumis de vrais formulaires parce qu'il pouvait atteindre un site en ligne, donc la question pour vos propres agents est de savoir ce qu'ils peuvent atteindre et qui est prévenu quand l'un d'eux agit hors de sa tâche.
Revoyez la clause quand le texte américain paraîtra. Les articles ne donnent aucune date pour une définition ou une sanction, donc traitez l'obligation d'aujourd'hui comme un signal et non comme une norme.
À lire ensuite: Anthropic au 12 novembre, quatre clauses à auditer | Votre promesse de sécurité peut vous coûter le contrat
