OpenAIs Filter macht Ihre Chats nicht anonym

Ein Filter mit veröffentlichter Fehlerquote

OpenAIs eigene Release-Notes zum Privacy Filter, veröffentlicht am 22. April 2026, nennen die genaue Rate, mit der das Modell personenbezogene Daten nicht erkennt, und diese Rate liegt nicht bei null. Das Modell markiert Text in acht Kategorien, darunter Namen, Adressen, Kontonummern und Geheimnisse wie Passwörter, und maskiert anschließend, was es findet.

Auf der korrigierten Fassung des öffentlichen PII-Masking-300k-Benchmarks übersieht das Modell weiterhin rund 2 Prozent der getesteten personenbezogenen Datenabschnitte. OpenAIs eigene Dokumentation nennt Privacy Filter 'ein kleines Modell mit Spitzenleistung bei der Erkennung personenbezogener Daten', keine Garantie, und warnt zugleich, dass Fine-Tuning auf eine neue Domäne den F1-Wert von 54 Prozent auf 96 Prozent heben kann, das heißt dasselbe Basismodell verhält sich je nach Textart sehr unterschiedlich.

Project Lily legt echte Chats hinter genau diesen Filter

Eine Recherche von 404 Media vom 14. September 2026 nennt das interne Prüfprogramm Project Lily und berichtet, dass OpenAI Hunderte externe Vertragspartner bezahlt, oft mehr als 50 Dollar pro Stunde über Personaldienstleister, um echte ChatGPT-Prompts zu lesen und die Antworten des Modells auf einer Zahlenskala zu bewerten.

Die Prüfenden sehen keinen Nutzernamen, laut 404 Media aber eine Gedächtnis-Zusammenfassung über dem Prompt, die manchmal zeigt, wofür die Person den Chatbot schon genutzt hat und wo auf der Welt sie lebt. OpenAI erklärte gegenüber dem Magazin, ein Privacy-Filter-Modell entferne personenbezogene Daten zuerst, doch die eigene Produktseite dazu räumt ein, es 'kann Fehler machen, seltene Identifikatoren übersehen und bei begrenztem Kontext zu wenig schwärzen'. Ein Vertragspartner sagte 404 Media unumwunden, ein normaler Nutzer würde nicht erwarten, dass überhaupt ein Fremder seinen Chat liest.

Schwärzen ist nicht dasselbe wie anonym

OpenAIs eigene Dokumentation stellt klar, Privacy Filter sei 'kein Anonymisierungswerkzeug, keine Compliance-Zertifizierung und kein Ersatz für eine Richtlinienprüfung in kritischen Anwendungsfällen', und dieser Unterschied hat in der EU ein rechtliches Gewicht, das eine Produktseite nicht ausbuchstabieren muss.

Nach Artikel 4 Nummer 5 und Erwägungsgrund 26 der DSGVO bleiben Daten, die pseudonymisiert oder maskiert wurden, sich aber noch einer Person zuordnen lassen, vollständig personenbezogene Daten und keine anonymen Daten außerhalb des Anwendungsbereichs der Verordnung. Ein Chat, in dem ein Name durch einen Platzhalter ersetzt wurde, ist pseudonymisiert, nicht anonym, solange der Originaltext oder das dahinterstehende Konto irgendwo auf OpenAIs Systemen weiter existiert. Damit bleibt jede geprüfte Unterhaltung eines EU-Nutzers vollständig innerhalb der DSGVO: Es braucht weiterhin eine Rechtsgrundlage, damit ein Vertragspartner sie lesen darf, die Auskunfts- und Löschrechte der Person gelten weiterhin, und ein Vorfall damit bleibt meldepflichtig.

Die Enterprise-Frage, die noch niemand beantwortet hat

Weder OpenAIs Datenschutzdokumentation noch der Bericht von 404 Media nennt, wo die Vertragspartner von Project Lily physisch arbeiten, und genau diese Tatsache entscheidet, ob die geprüfte Unterhaltung eines EU-Nutzers je den Europäischen Wirtschaftsraum verlassen hat und über welchen Übermittlungsmechanismus.

Für ein Unternehmen, das ChatGPT Enterprise oder die API nutzt, um Kundengespräche von menschlicher Prüfung fernzuhalten, gelten die Offenlegungen dieses Berichts zur Verbraucherversion nicht automatisch für diesen Datenverkehr. OpenAIs Enterprise-Bedingungen beschreiben Standardnutzung der Daten getrennt vom Verbraucherprodukt, doch das Unternehmen hat öffentlich nicht gesagt, ob Enterprise- oder API-Unterhaltungen in demselben Prüfpool liegen, aus dem Project Lily schöpft. Ein Unternehmen, das angenommen hat, beide Stufen würden nach identischen Regeln geprüft, sollte diese Antwort schriftlich bei OpenAI einholen statt sie zu unterstellen.

Weiterlesen: Metas KI Baute Ein Profil, Das Niemand Wollte  |  Frankreich Beziffert Fehlende MFA auf 500.000 Euro