OpenAIs filter gør ikke dine chats anonyme

Et filter med en offentliggjort fejlrate

OpenAIs egne release notes til Privacy Filter, offentliggjort 22. april 2026, nævner den præcise rate, hvormed modellen ikke opfanger personoplysninger, og den rate er ikke nul. Modellen mærker tekst i otte kategorier, blandt andet navne, adresser, kontonumre og hemmeligheder som adgangskoder, og maskerer derefter det, den finder.

På den korrigerede udgave af den offentlige PII-Masking-300k-benchmark overser modellen stadig omkring 2 procent af de testede personoplysningssegmenter. OpenAIs egen dokumentation kalder Privacy Filter 'en lille model med topklasse-evne til at opdage personoplysninger', ikke en garanti, og advarer samtidig om, at finjustering på et nyt domæne kan hæve F1-scoren fra 54 til 96 procent, hvilket betyder, at samme grundmodel opfører sig meget forskelligt afhængigt af, hvilken slags tekst den møder.

Project Lily lægger rigtige chats bag netop dette filter

En undersøgelse fra 404 Media den 14. september 2026 navngav det interne gennemgangsprogram Project Lily og rapporterede, at OpenAI betaler hundreder af eksterne kontraktmedarbejdere, ofte over 50 dollar i timen gennem vikarbureauer, for at læse rigtige ChatGPT-forespørgsler og vurdere modellens svar på en talskala.

Gennemlæserne ser ikke brugernavnet, men ifølge 404 Media ser de et hukommelsesresumé over forespørgslen, som nogle gange viser, hvad personen tidligere har brugt chatbotten til, og i hvilken del af verden personen bor. OpenAI sagde til mediet, at en Privacy Filter-model fjerner personoplysninger først, men selskabets egen side om den model indrømmer, at den 'kan begå fejl, overse sjældne identifikatorer og maskere for lidt, når konteksten er begrænset'. En kontraktmedarbejder sagde ligeud til 404 Media, at en almindelig bruger ikke ville forvente, at en fremmed overhovedet sad og læste chatten.

Maskering er ikke det samme ord som anonym

OpenAIs egen dokumentation siger klart, at Privacy Filter 'ikke er et anonymiseringsværktøj, ikke en overholdelsescertificering og ikke en erstatning for politikgennemgang i højrisikosituationer', og den skelnen har en specifik juridisk vægt inden for EU, som en produktside ikke er forpligtet til at forklare.

Efter GDPR-artikel 4, nummer 5, og betragtning 26 forbliver data, der er pseudonymiseret eller maskeret, men stadig kan kobles til en person, fuldt ud personoplysninger og ikke anonyme data uden for forordningens omfang. En chat, hvor et navn er skiftet ud med en pladsholder, er pseudonym, ikke anonym, så længe den oprindelige tekst eller kontoen bag den stadig findes et sted i OpenAIs systemer. Det holder hver gennemgået samtale fra en EU-bruger fuldt inden for GDPR: der kræves stadig et retsgrundlag, for at en kontraktmedarbejder kan læse den, personens ret til indsigt og sletning gælder stadig, og et sikkerhedsbrud, der rammer den, er stadig indberetningspligtigt.

Virksomhedsspørgsmålet, ingen har svaret på endnu

Hverken OpenAIs privatlivsdokumentation eller 404 Medias undersøgelse siger, hvor Project Lilys kontraktmedarbejdere fysisk arbejder, og netop det ene faktum afgør, om en gennemgået samtale fra en EU-bruger nogensinde har forladt Det Europæiske Økonomiske Samarbejdsområde, og under hvilken overførselsmekanisme.

For en virksomhed, der bruger ChatGPT Enterprise eller API'et netop for at holde kundesamtaler væk fra menneskelig gennemgang, gælder afsløringerne i denne rapport om forbrugerniveauet ikke automatisk for den trafik. OpenAIs virksomhedsbetingelser beskriver standardbrugen af data separat fra forbrugerproduktet, men selskabet har ikke offentligt sagt, om Enterprise- eller API-samtaler ligger i den samme gennemgangspulje, som Project Lily trækker på. En virksomhed, der har gået ud fra, at de to niveauer blev gennemgået efter identiske regler, bør bede OpenAI om det svar skriftligt i stedet for at antage det.

Læs videre: Metas AI Byggede En Profil Af Et Barn, Som Ingen Bad Om  |  Frankrig Sætter Pris på Manglende MFA: 500.000 Euro