Le filtre d'OpenAI ne rend pas vos chats anonymes

Un filtre avec un taux d'erreur publié

Les notes de version de Privacy Filter, publiées par OpenAI le 22 avril 2026, indiquent le taux exact auquel le modèle ne détecte pas les données personnelles, et ce taux n'est pas nul. Le modèle étiquette le texte selon huit catégories, dont les noms, adresses, numéros de compte et secrets comme les mots de passe, puis masque ce qu'il trouve.

Sur la version corrigée du test public PII-Masking-300k, le modèle manque toujours environ 2 pour cent des segments de données personnelles testés. La documentation d'OpenAI décrit Privacy Filter comme 'un petit modèle à capacité de détection de données personnelles de pointe', pas comme une garantie, et prévient par ailleurs qu'un ajustement fin sur un nouveau domaine peut faire passer le score F1 de 54 à 96 pour cent, ce qui signifie que le même modèle de base se comporte très différemment selon le type de texte reçu.

Project Lily place de vraies discussions derrière ce même filtre

Une enquête de 404 Media publiée le 14 septembre 2026 a nommé Project Lily ce programme interne de relecture et a rapporté qu'OpenAI paie des centaines de prestataires externes, souvent plus de 50 dollars de l'heure via des agences d'intérim, pour lire de vraies requêtes ChatGPT et noter les réponses du modèle sur une échelle numérique.

Les relecteurs ne voient pas le nom d'utilisateur, mais selon 404 Media ils voient un résumé de mémoire au-dessus de la requête qui montre parfois à quoi la personne a déjà utilisé le chatbot et dans quelle partie du monde elle vit. OpenAI a déclaré au média qu'un modèle Privacy Filter retire d'abord les données personnelles, mais sa propre page sur ce modèle reconnaît qu'il 'peut faire des erreurs, manquer des identifiants rares et sous-masquer quand le contexte est limité'. Un prestataire a dit sans détour à 404 Media qu'un utilisateur ordinaire ne s'attendrait pas à ce qu'un inconnu soit en train de lire sa discussion.

Masquer n'est pas le même mot qu'anonyme

La documentation d'OpenAI indique clairement que Privacy Filter 'n'est pas un outil d'anonymisation, ni une certification de conformité, ni un substitut à une revue de politique dans des contextes à enjeux élevés', et cette distinction porte un poids juridique précis dans l'UE qu'une page produit n'a pas à détailler.

Selon l'article 4.5 et le considérant 26 du RGPD, des données pseudonymisées ou masquées qui peuvent encore être reliées à une personne restent des données personnelles à part entière, et non des données anonymes hors du champ du règlement. Une discussion où un nom est remplacé par un espace réservé est pseudonyme, pas anonyme, tant que le texte original ou le compte qui se trouve derrière existe encore quelque part sur les systèmes d'OpenAI. Cela maintient chaque conversation relue d'un utilisateur de l'UE entièrement dans le RGPD : il faut toujours une base légale pour qu'un prestataire la lise, les droits d'accès et d'effacement de la personne s'appliquent toujours, et une violation qui la concerne reste notifiable.

La question d'entreprise que personne n'a encore résolue

Ni la documentation de confidentialité d'OpenAI ni l'enquête de 404 Media ne disent où travaillent physiquement les prestataires de Project Lily, et ce seul fait décide si la conversation relue d'un utilisateur de l'UE a un jour quitté l'Espace économique européen, et selon quel mécanisme de transfert.

Pour une entreprise qui utilise ChatGPT Enterprise ou l'API justement pour tenir les conversations de ses clients à l'écart d'une relecture humaine, les révélations de cette enquête sur le niveau grand public ne s'étendent pas automatiquement à ce trafic. Les conditions entreprise d'OpenAI décrivent l'usage par défaut des données séparément du produit grand public, mais l'entreprise n'a pas dit publiquement si les conversations Enterprise ou de l'API entrent dans le même groupe de relecture que celui dont se nourrit Project Lily. Une entreprise qui a supposé que les deux niveaux étaient relus selon les mêmes règles devrait demander cette réponse par écrit à OpenAI plutôt que de la présumer.

À lire ensuite: L'IA De Meta A Profilé Une Enfant Sans Le Demander  |  La France Chiffre l'Absence de MFA à 500 000 Euros