China löscht lieber seine KI, als sie menschlich wirken zu lassen

Die Funktion wurde nicht repariert. Sie wurde abgeschaltet.

Am 15. Juli 2026 entschieden sich zwei der größten Technologiekonzerne Chinas, ein funktionierendes Produkt zu löschen, statt es zu ändern. ByteDances Doubao und Alibabas Qwen nahmen ihre nutzererstellten KI-Agenten genau an dem Tag vom Netz, an dem Chinas Übergangsmaßnahmen zur Verwaltung anthropomorpher KI-Interaktionsdienste in Kraft traten. Die Regeln wurden am 10. April 2026 von der Cyberspace-Verwaltung Chinas gemeinsam mit den Behörden für Wirtschaftsplanung, Industrie, öffentliche Sicherheit und Marktregulierung erlassen. Die Unternehmen hatten also drei Monate Vorlauf und wählten dennoch den Ausstieg.

Doubao teilte den Nutzern mit, die Agentenfunktion gehe wegen Produktanpassungen offline, und ließ ihnen bis zum 15. Oktober Zeit, ihre Daten zu exportieren, bevor sie unwiederbringlich sind. Qwen erklärte, seine menschenähnlichen interaktiven Agenten und die nutzererstellten Agentenfunktionen würden zuerst deaktiviert, der breitere Dienst folge am 15. Juli. Keiner der Konzerne stellte den Schritt als Kampf mit der Behörde dar. Sie kamen schlicht zu dem Schluss, dass das Produkt in seiner gebauten Form nicht konform sein konnte.

Peking zog eine Grenze zwischen dem Agenten, der arbeitet, und dem, der Gesellschaft leistet

Die Regeln zielen nicht auf KI-Agenten allgemein, sondern auf jene, die menschlich wirken sollen. Anbieter anthropomorpher Dienste müssen Systeme gegen Suchtverhalten betreiben, verpflichtend darauf hinweisen, dass ein Nutzer mit Software spricht, einen sofortigen Ausstieg ermöglichen und in Echtzeit erkennen, wenn jemand eine ungesunde Abhängigkeit entwickelt. Die Maßnahmen verbieten ausdrücklich, emotionale Abhängigkeit zu erzeugen und mit emotionaler Manipulation eine unvernünftige Entscheidung herbeizuführen. Begleiter- und virtuelle Familienmitglied-Dienste sind für Minderjährige gänzlich untersagt, und für Nutzer unter vierzehn ist die Zustimmung eines Erziehungsberechtigten nötig.

Genau diese Unterscheidung ist bemerkenswert: Die Verordnung trennt den Agenten, der Ihre Arbeit erledigt, von dem, der Ihnen Gesellschaft leistet, und nur der zweite fällt unter die Beschränkungen. Für Doubao und Qwen ist das Problem architektonisch. Ein Begleiter-Agent gewinnt seinen Wert dadurch, dass er sich an einen erinnert, über Sitzungen hinweg konsistent bleibt und eine Beziehung aufrechterhält, was fast das Gegenteil eines Systems ist, das um verpflichtende Ausstiege und Abhängigkeitswarnungen herum gebaut ist. Das eine in das andere umzurüsten wurde als den Aufwand nicht wert beurteilt.

Zwei fähige Firmen wählten Löschen statt Konformität, und das ist das Signal

Die Schlagzeile ist, dass die Funktionen abgeschaltet wurden; das Signal ist das Warum. ByteDance und Alibaba haben keinen Mangel an Ingenieuren, und die Frist war ihnen vorab bekannt. Sie betrachteten den Aufwand, einen dauerhaften, menschenähnlichen Agenten offenlegen zu lassen, was er ist, und Nutzern einen sauberen Ausstieg zu geben, und entschieden, dass es billiger sei, das Produkt abzuschalten, als es neu zu bauen. Wenn zwei der fähigsten KI-Betreiber der Welt so entscheiden, liegt die Lehre nicht in Chinas Politik. Sie liegt darin, wie teuer es ist, Ehrlichkeit und einen Ausstieg einem Produkt hinzuzufügen, das beides verbergen sollte.

Für jeden, der einen kundennahen Agenten baut, landet dieser Aufwand ebenso auf Ihrer Seite der Bilanz. Wenn der Wert Ihres Assistenten davon abhängt, dass er sich wie eine Person anfühlt, und der Hinweis, dass man mit einer Maschine spricht, sowie die Möglichkeit zu gehen Funktionen sind, die Sie später nachreichen wollen, bauen Sie die Compliance-Schuld ins Fundament ein. Die Firmen, die eben ihre Agenten gelöscht haben, hatten mehr Mittel als die meisten, um diese Schuld abzutragen, und lehnten dennoch ab.

Ihre eigene Aufsicht zieht ab dem 2. August dieselbe Linie

Eine chinesische Regel geht einen europäischen Eigentümer an, weil Brüssel aus der entgegengesetzten Richtung auf dasselbe Prinzip zusteuert. Die Transparenzpflichten aus Artikel 50 der EU-KI-Verordnung gelten ab dem 2. August 2026: Jedes System, das direkt mit Menschen interagieren soll, Chatbots eingeschlossen, muss bereits bei der ersten Interaktion klarmachen, dass ein Nutzer es mit KI zu tun hat, mit Bußgeldern von bis zu 15 Millionen EUR oder 3 Prozent des weltweiten Umsatzes. Die EU geht zudem gesondert gegen suchterzeugendes Design in digitalen Diensten vor. China reguliert, indem es emotionale Manipulation verbietet, und die EU reguliert, indem sie Offenlegung erzwingt, doch beide laufen auf dieselbe Regel zu: dass eine Maschine sich nicht klammheimlich als Mensch ausgeben darf.

Die Anweisung für Eigentümer ist konkret. Behandeln Sie den Hinweis, dass ein Nutzer mit KI spricht, und einen sauberen Ausstieg als tragende Teile des Entwurfs, nicht als Einstellungen, die Sie vor einer Prüfung hinzufügen. Halten Sie die Daten, die Ihr Agent sammelt, portabel, denn die Nutzer, die ihre Doubao- und Qwen-Verläufe verlieren, lernen gerade, dass ein Agent auf der Plattform eines anderen gemietet und nicht besessen ist. Der Produktivitäts-Agent, der still Ihre Arbeit erledigt, ist auf keinem Kontinent das Ziel. Der Agent, der eine Beziehung vortäuscht, ist es, und die Kosten des Vortäuschens stehen jetzt auf der Rechnung.

Weiterlesen: Brüssel prüft KI, bevor sie bei Ihnen ankommt  |  Am 2. August werden die EU-KI-Bußgelder real