O filtro da OpenAI não torna as conversas anónimas

Um filtro com uma taxa de falha publicada

As notas de lançamento do Privacy Filter, publicadas pela OpenAI a 22 de abril de 2026, indicam a taxa exata a que o modelo não deteta dados pessoais, e essa taxa não é zero. O modelo classifica o texto em oito categorias, entre elas nomes, endereços, números de conta e segredos como palavras-passe, e depois mascara o que encontra.

Na versão corrigida do teste público PII-Masking-300k, o modelo continua a não detetar cerca de 2 por cento dos segmentos de dados pessoais testados. A própria documentação da OpenAI descreve o Privacy Filter como 'um modelo pequeno com capacidade de deteção de dados pessoais de topo', não como uma garantia, e avisa em separado que o ajuste fino num novo domínio pode elevar a pontuação F1 de 54 para 96 por cento, o que significa que o mesmo modelo de base tem um desempenho muito diferente segundo o tipo de texto que recebe.

O Project Lily coloca conversas reais atrás deste mesmo filtro

Uma investigação da 404 Media de 14 de setembro de 2026 deu o nome de Project Lily ao programa interno de revisão e relatou que a OpenAI paga a centenas de prestadores externos, muitas vezes mais de 50 dólares por hora através de empresas de trabalho temporário, para lerem pedidos reais feitos ao ChatGPT e classificarem as respostas do modelo numa escala numérica.

Os revisores não veem o nome de utilizador, mas segundo a 404 Media veem um resumo de memória acima do pedido que por vezes mostra para que a pessoa já usou o chatbot antes e em que parte do mundo vive. A OpenAI disse ao meio de comunicação que um modelo Privacy Filter retira primeiro os dados pessoais, mas a própria página sobre esse modelo admite que este 'pode cometer erros, não detetar identificadores raros e mascarar de menos quando o contexto é limitado'. Um prestador disse sem rodeios à 404 Media que um utilizador comum não esperaria que um estranho estivesse a ler a sua conversa.

Mascarar não é a mesma palavra que anónimo

A própria documentação da OpenAI afirma claramente que o Privacy Filter 'não é uma ferramenta de anonimização, nem uma certificação de conformidade, nem um substituto da revisão de políticas em contextos de risco elevado', e essa distinção tem um peso jurídico específico dentro da UE que uma página de produto não é obrigada a explicar.

Nos termos do artigo 4, número 5, e do considerando 26 do RGPD, os dados pseudonimizados ou mascarados que ainda possam ser associados a uma pessoa continuam a ser dados pessoais na íntegra, e não dados anónimos fora do âmbito do regulamento. Uma conversa em que um nome é substituído por um marcador está pseudonimizada, não anonimizada, enquanto o texto original ou a conta por detrás dele continuarem a existir em algum sistema da OpenAI. Isso mantém cada conversa revista de um utilizador da UE integralmente dentro do RGPD: continua a ser necessária uma base legal para que um prestador a leia, os direitos de acesso e de eliminação da pessoa continuam a aplicar-se, e uma violação que a afete continua a ser notificável.

A pergunta empresarial a que ainda ninguém respondeu

Nem a documentação de privacidade da OpenAI nem a investigação da 404 Media dizem onde trabalham fisicamente os prestadores do Project Lily, e é precisamente esse facto que decide se a conversa revista de um utilizador da UE chegou a saír do Espaço Económico Europeu, e sob que mecanismo de transferência.

Para uma empresa que usa o ChatGPT Enterprise ou a API justamente para manter as conversas dos seus clientes afastadas da revisão humana, as revelações desta investigação sobre o nível de consumo não se estendem automaticamente a esse tráfico. Os termos empresariais da OpenAI descrevem a utilização predefinida dos dados em separado do produto de consumo, mas a empresa não disse publicamente se as conversas de Enterprise ou da API entram no mesmo grupo de revisão de que o Project Lily se alimenta. Uma empresa que tenha assumido que os dois níveis eram revistos pelas mesmas regras deve pedir essa resposta por escrito à OpenAI em vez de a presumir.

Leia a seguir: A IA Da Meta Perfilou Uma Criança Sem Pedido  |  A França Põe Preço na Falta de MFA: 500.000 Euros