Funktionen blev ikke rettet. Den blev slukket.

Den 15. juli 2026 valgte to af Kinas største teknologivirksomheder at slette et fungerende produkt frem for at ændre det. ByteDances Doubao og Alibabas Qwen tog begge deres brugerskabte AI-agenter offline på selve dagen, hvor Kinas Foreløbige Foranstaltninger for Administration af Antropomorfe AI-interaktionstjenester trådte i kraft. Reglerne blev udstedt den 10. april 2026 af Kinas Cyberspace-administration sammen med myndighederne for økonomisk planlægning, industri, offentlig sikkerhed og markedsregulering, så virksomhederne havde tre måneders varsel og valgte alligevel udgangen.

Doubao fortalte brugerne, at agentfunktionen ville gå offline på grund af produktjusteringer, og gav dem frist til den 15. oktober til at eksportere deres data, før de bliver uigenkaldelige. Qwen sagde, at dens menneskelignende interaktive agenter og de brugerskabte agentfunktioner ville blive deaktiveret først, med den bredere tjeneste den 15. juli. Ingen af dem fremstillede skridtet som en kamp med tilsynet. De konkluderede blot, at produktet, som det var bygget, ikke kunne efterleve reglerne.

Beijing trak en linje mellem den agent, der arbejder, og den, der holder dig med selskab

Reglerne går ikke efter AI-agenter i almindelighed, men efter dem, der er designet til at føles menneskelige. Udbydere af antropomorfe tjenester skal køre anti-afhængighedssystemer, udsende obligatoriske meddelelser om, at en bruger har med software at gøre, tilbyde en mekanisme til øjeblikkelig udgang og i realtid opdage, når nogen udvikler en usund afhængighed. Foranstaltningerne forbyder udtrykkeligt at fremdyrke følelsesmæssig afhængighed og at bruge følelsesmæssig manipulation til at skubbe en bruger mod en urimelig beslutning. Ledsager- og virtuelle familiemedlem-tjenester er helt forbudt for mindreårige, og der kræves samtykke fra en værge for at betjene nogen under fjorten.

Det er den sondring, der er værd at bemærke: reglen adskiller den agent, der gør dit arbejde, fra den, der holder dig med selskab, og kun den anden møder begrænsningerne. For Doubao og Qwen er problemet arkitektonisk. En ledsager-agent henter sin værdi ved at huske dig, forblive konsistent på tværs af sessioner og holde et forhold i gang, hvilket er næsten det modsatte af et system bygget om obligatoriske udgange og afhængighedsalarmer. At bygge den ene om til den anden blev vurderet ikke at være omkostningen værd.

To dygtige firmaer valgte sletning frem for efterlevelse, og det er signalet

Overskriften er, at funktionerne blev slukket; signalet er hvorfor. ByteDance og Alibaba mangler ikke ingeniører, og de kendte fristen på forhånd. De så på det arbejde, der skulle til for at få en vedvarende, menneskelignende agent til at oplyse, hvad den er, og lade brugerne gå rent, og besluttede, at det var billigere at slukke produktet end at genopbygge det. Når to af verdens dygtigste AI-operatører træffer den beslutning, handler læren ikke om Kinas politik. Den handler om, hvor dyrt det er at tilføje ærlighed og en udgang til et produkt, der var designet til at skjule begge dele.

For enhver, der bygger en kundevendt agent, lander den omkostning også på din side af balancen. Hvis værdien af din assistent afhænger af, at den føles som en person, og det at sige, at man taler med en maskine, og at kunne gå er funktioner, du planlægger at tilføje senere, bygger du efterlevelsesgælden ind i fundamentet. De firmaer, der lige slettede deres agenter, havde flere ressourcer end de fleste til at afvikle den gæld, og afslog alligevel.

Dit eget tilsyn begynder at trække den samme linje den 2. august

En kinesisk regel betyder noget for en europæisk ejer, fordi Bruxelles bevæger sig mod det samme princip fra den modsatte retning. Gennemsigtighedsforpligtelserne i artikel 50 i EU's AI-forordning gælder fra den 2. august 2026: ethvert system, der er bygget til at interagere direkte med mennesker, chatbots inklusive, skal gøre klart allerede ved første interaktion, at en bruger har med AI at gøre, med bøder på op til 15 millioner EUR eller 3 procent af den globale omsætning. EU går desuden særskilt til værks mod vanedannende design i digitale tjenester. Kina regulerer ved at forbyde følelsesmæssig manipulation, og EU regulerer ved at påtvinge oplysning, men begge nærmer sig den samme regel: at en maskine ikke i det skjulte må udgive sig for at være menneske.

Instruktionen til ejere er konkret. Behandl oplysningen om, at en bruger taler med AI, og en ren udgang som bærende dele af designet frem for indstillinger, du tilføjer før en revision. Hold de data, din agent samler, portable, for de brugere, der mister deres Doubao- og Qwen-historik, lærer, at en agent bygget på en andens platform er lejet, ikke ejet. Produktivitetsagenten, der stille gør dit arbejde, er ikke målet på nogen af kontinenterne. Agenten, der foregiver et forhold, er, og prisen for at foregive står nu på fakturaen.

Læs videre: Bruxelles vurderer AI, før den når dig  |  Den 2. august bliver EU AI-bøderne virkelige