China wist zijn AI liever dan haar mens te laten lijken

De functie werd niet gerepareerd. Ze werd uitgezet.

Op 15 juli 2026 kozen twee van China's grootste technologiebedrijven ervoor een werkend product te wissen in plaats van het aan te passen. Doubao van ByteDance en Qwen van Alibaba haalden hun door gebruikers gemaakte AI-agents offline op de dag dat China's Voorlopige Maatregelen voor het Beheer van Antropomorfe AI-interactiediensten van kracht werden. De regels werden op 10 april 2026 uitgevaardigd door de Cyberspace-administratie van China samen met de instanties voor economische planning, industrie, openbare veiligheid en marktregulering, dus de bedrijven hadden drie maanden voorbereidingstijd en kozen toch de uitgang.

Doubao liet gebruikers weten dat de agentfunctie offline zou gaan voor productaanpassingen en gaf hun tot 15 oktober om hun gegevens te exporteren voordat die onherstelbaar worden. Qwen zei dat zijn mensachtige interactieve agents en de door gebruikers gemaakte agentfuncties eerst zouden worden uitgeschakeld, met de bredere dienst op 15 juli. Geen van beide presenteerde de stap als een gevecht met de toezichthouder. Ze concludeerden simpelweg dat het product, zoals het was gebouwd, niet kon voldoen.

Peking trok een lijn tussen de agent die werkt en de agent die je gezelschap houdt

De regels viseren niet AI-agents in het algemeen, maar die welke ontworpen zijn om menselijk aan te voelen. Aanbieders van antropomorfe diensten moeten anti-verslavingssystemen draaien, verplicht melden dat een gebruiker met software te maken heeft, een mechanisme voor onmiddellijk vertrek bieden en in real time detecteren wanneer iemand een ongezonde afhankelijkheid ontwikkelt. De maatregelen verbieden uitdrukkelijk het kweken van emotionele afhankelijkheid en het gebruiken van emotionele manipulatie om een gebruiker naar een onredelijke beslissing te duwen. Metgezel- en virtuele-familielid-diensten zijn voor minderjarigen volledig verboden, en toestemming van een voogd is vereist om iemand onder de veertien te bedienen.

Dat is het onderscheid dat opvalt: de regeling scheidt de agent die je werk doet van de agent die je gezelschap houdt, en alleen de tweede krijgt de beperkingen. Voor Doubao en Qwen is het probleem architecturaal. Een metgezel-agent ontleent zijn waarde eraan dat hij je onthoudt, over sessies heen consistent blijft en een relatie in stand houdt, wat bijna het tegenovergestelde is van een systeem gebouwd rond verplichte uitgangen en afhankelijkheidsalarmen. Het ene in het andere ombouwen werd de kosten niet waard geacht.

Twee capabele bedrijven kozen wissen boven naleving, en dat is het signaal

De kop is dat de functies uitgingen; het signaal is waarom. ByteDance en Alibaba hebben geen tekort aan ingenieurs en kenden de deadline op voorhand. Ze bekeken het werk dat nodig was om een blijvende, mensachtige agent te laten verklaren wat hij is en gebruikers netjes te laten vertrekken, en besloten dat het goedkoper was het product uit te zetten dan het te herbouwen. Wanneer twee van de meest capabele AI-operators ter wereld die keuze maken, gaat de les niet over China's politiek. Ze gaat over hoe duur het is om eerlijkheid en een uitgang toe te voegen aan een product dat beide moest verbergen.

Voor wie een klantgerichte agent bouwt, valt die kost ook aan jouw kant van de balans. Als de waarde van je assistent ervan afhangt dat hij als een persoon aanvoelt, en melden dat men met een machine praat en kunnen vertrekken functies zijn die je later wilt toevoegen, bouw je de nalevingsschuld in het fundament. De bedrijven die zojuist hun agents wisten hadden meer middelen dan de meeste om die schuld af te lossen, en weigerden toch.

Je eigen toezichthouder begint op 2 augustus dezelfde lijn te trekken

Een Chinese regel doet ertoe voor een Europese eigenaar omdat Brussel vanuit de tegenovergestelde richting naar hetzelfde beginsel koerst. De transparantieverplichtingen van artikel 50 van de EU-AI-verordening gelden vanaf 2 augustus 2026: elk systeem dat is gebouwd om rechtstreeks met mensen te interageren, chatbots inbegrepen, moet bij de eerste interactie duidelijk maken dat een gebruiker met AI van doen heeft, met boetes tot 15 miljoen EUR of 3 procent van de wereldwijde omzet. De EU treedt daarnaast apart op tegen verslavend ontwerp in digitale diensten. China reguleert door emotionele manipulatie te verbieden en de EU reguleert door openbaarmaking af te dwingen, maar beide komen samen bij dezelfde regel: een machine mag zich niet stiekem als mens voordoen.

De instructie voor eigenaren is concreet. Behandel de melding dat een gebruiker met AI praat, en een nette uitgang, als dragende delen van het ontwerp in plaats van instellingen die je voor een audit toevoegt. Houd de gegevens die je agent verzamelt overdraagbaar, want de gebruikers die hun Doubao- en Qwen-geschiedenis verliezen leren dat een agent gebouwd op andermans platform gehuurd is, niet bezeten. De productiviteitsagent die stil je werk doet is op geen van beide continenten het doelwit. De agent die een relatie veinst wel, en de kost van dat veinzen staat nu op de factuur.

Lees hierna: Brussel keurt AI voordat die u bereikt  |  Op 2 augustus worden de EU AI-boetes echt