Kina raderar hellre sin AI än låter den spela människa

Funktionen lagades inte. Den stängdes av.

Den 15 juli 2026 valde två av Kinas största teknikbolag att radera en fungerande produkt i stället för att ändra den. ByteDances Doubao och Alibabas Qwen tog båda sina användarskapade AI-agenter offline samma dag som Kinas Provisoriska åtgärder för förvaltning av antropomorfa AI-interaktionstjänster trädde i kraft. Reglerna utfärdades den 10 april 2026 av Kinas Cyberrymdsförvaltning tillsammans med myndigheterna för ekonomisk planering, industri, allmän säkerhet och marknadsreglering, så bolagen hade tre månaders varsel och valde ändå utgången.

Doubao berättade för användarna att agentfunktionen skulle gå offline för produktjusteringar och gav dem till den 15 oktober att exportera sina data innan de blir oåterkalleliga. Qwen sade att dess människolika interaktiva agenter och de användarskapade agentfunktionerna skulle stängas av först, med den bredare tjänsten den 15 juli. Ingen av dem framställde steget som en strid med tillsynet. De drog helt enkelt slutsatsen att produkten, så som den var byggd, inte kunde följa reglerna.

Peking drog en linje mellan agenten som arbetar och den som håller dig sällskap

Reglerna riktar sig inte mot AI-agenter i allmänhet, utan mot dem som är utformade för att kännas mänskliga. Leverantörer av antropomorfa tjänster måste köra system mot beroende, utfärda obligatoriska meddelanden om att en användare har att göra med programvara, erbjuda en mekanism för omedelbar utgång och i realtid upptäcka när någon utvecklar ett ohälsosamt beroende. Åtgärderna förbjuder uttryckligen att odla emotionellt beroende och att använda emotionell manipulation för att driva en användare till ett orimligt beslut. Följeslagar- och virtuella familjemedlem-tjänster är helt förbjudna för minderåriga, och samtycke från en vårdnadshavare krävs för att betjäna någon under fjorton.

Det är den åtskillnaden som är värd att notera: regeln skiljer agenten som gör ditt arbete från den som håller dig sällskap, och bara den andra möter begränsningarna. För Doubao och Qwen är problemet arkitektoniskt. En följeslagaragent får sitt värde av att minnas dig, förbli konsekvent över sessioner och hålla en relation vid liv, vilket är nästan motsatsen till ett system byggt kring obligatoriska utgångar och beroendelarm. Att bygga om den ena till den andra bedömdes inte vara kostnaden värd.

Två kompetenta bolag valde radering framför efterlevnad, och det är signalen

Rubriken är att funktionerna slocknade; signalen är varför. ByteDance och Alibaba har inte brist på ingenjörer, och de kände till tidsfristen i förväg. De såg på det arbete som krävdes för att få en bestående, människolik agent att berätta vad den är och låta användare gå rent, och beslutade att det var billigare att stänga av produkten än att bygga om den. När två av världens skickligaste AI-operatörer fattar det beslutet handlar läxan inte om Kinas politik. Den handlar om hur dyrt det är att lägga till ärlighet och en utgång till en produkt som var utformad för att dölja båda.

För var och en som bygger en kundvänd agent landar den kostnaden också på din sida av balansräkningen. Om värdet på din assistent hänger på att den känns som en person, och att berätta att man talar med en maskin och att kunna gå är funktioner du tänker lägga till senare, bygger du in efterlevnadsskulden i grunden. Bolagen som just raderade sina agenter hade mer resurser än de flesta att betala av den skulden, och avböjde ändå.

Din egen tillsynsmyndighet börjar dra samma linje den 2 augusti

En kinesisk regel spelar roll för en europeisk ägare eftersom Bryssel styr mot samma princip från motsatt håll. Öppenhetskraven i artikel 50 i EU:s AI-förordning gäller från den 2 augusti 2026: varje system byggt för att interagera direkt med människor, chattbottar inkluderade, måste redan vid första interaktionen göra klart att en användare har att göra med AI, med böter upp till 15 miljoner EUR eller 3 procent av den globala omsättningen. EU agerar dessutom separat mot beroendefrämjande design i digitala tjänster. Kina reglerar genom att förbjuda emotionell manipulation och EU reglerar genom att tvinga fram upplysning, men båda närmar sig samma regel: att en maskin inte i det tysta får utge sig för att vara människa.

Instruktionen till ägare är konkret. Behandla upplysningen om att en användare talar med AI, och en ren utgång, som bärande delar av designen i stället för inställningar du lägger till före en granskning. Håll de data din agent samlar portabla, för användarna som förlorar sin Doubao- och Qwen-historik lär sig att en agent byggd på någon annans plattform är hyrd, inte ägd. Produktivitetsagenten som tyst gör ditt arbete är inte målet på någon av kontinenterna. Agenten som låtsas en relation är det, och priset för att låtsas står nu på fakturan.

Läs vidare: Bryssel granskar AI innan den når dig  |  Den 2 augusti blir EU:s AI-böter verkliga