A China prefere apagar a sua IA a fazê-la fingir-se humana

A funcionalidade não foi corrigida. Foi desligada.

A 15 de julho de 2026, duas das maiores tecnológicas da China escolheram apagar um produto que funcionava em vez de o alterar. O Doubao, da ByteDance, e o Qwen, da Alibaba, retiraram os seus agentes de IA criados por utilizadores no próprio dia em que entraram em vigor as Medidas Provisórias para a Administração dos Serviços de Interação de IA Antropomórfica da China. As regras foram emitidas a 10 de abril de 2026 pela Administração do Ciberespaço da China em conjunto com as agências de planeamento económico, indústria, segurança pública e regulação do mercado, pelo que as empresas tiveram três meses de aviso e ainda assim optaram pela saída.

O Doubao informou os utilizadores de que a funcionalidade de agentes ficaria offline por ajustes do produto e deu-lhes até 15 de outubro para exportar os seus dados antes de se tornarem irrecuperáveis. O Qwen indicou que os seus agentes interativos de aspeto humano e as funções de agentes criados por utilizadores seriam desativados primeiro, seguindo-se o serviço mais amplo a 15 de julho. Nenhuma das duas apresentou o passo como um confronto com o regulador. Concluíram simplesmente que o produto, tal como estava construído, não podia cumprir.

Pequim traçou uma linha entre o agente que trabalha e o que lhe faz companhia

As regras não visam os agentes de IA em geral, mas os desenhados para parecerem humanos. Os fornecedores de serviços antropomórficos têm de executar sistemas contra a dependência, emitir avisos obrigatórios de que o utilizador lida com software, oferecer um mecanismo de saída imediata e detetar em tempo real quando alguém desenvolve uma dependência pouco saudável. As medidas proíbem explicitamente fabricar dependência emocional e usar a manipulação emocional para empurrar o utilizador para uma decisão pouco razoável. Os serviços de companhia e de familiar virtual estão totalmente vedados a menores, e é necessário o consentimento de um tutor para servir qualquer pessoa com menos de catorze anos.

É essa a distinção a reter: a regra separa o agente que faz o seu trabalho do que lhe faz companhia, e só o segundo enfrenta as restrições. Para o Doubao e o Qwen o problema é arquitetónico. Um agente de companhia ganha o seu valor ao lembrar-se de si, ao manter-se coerente entre sessões e ao sustentar uma relação, o que é quase o oposto de um sistema construído em torno de saídas obrigatórias e alarmes de dependência. Reconverter um no outro foi julgado não valer o custo.

Duas empresas capazes escolheram apagar em vez de cumprir, e esse é o sinal

O título é que as funções se apagaram; o sinal é o porquê. A ByteDance e a Alibaba não têm falta de engenheiros e conheciam o prazo com antecedência. Olharam para o trabalho necessário para que um agente persistente e de aspeto humano revele o que é e deixe os utilizadores sair de forma limpa, e decidiram que saía mais barato desligar o produto do que reconstruí-lo. Quando dois dos operadores de IA mais capazes do mundo tomam essa decisão, a lição não é sobre a política chinesa. É sobre quão caro é acrescentar honestidade e uma saída a um produto desenhado para esconder ambas.

Para quem constrói um agente virado para o cliente, esse custo cai também do seu lado do balanço. Se o valor do seu assistente depende de parecer uma pessoa, e avisar que se fala com uma máquina e poder sair são funções que planeia acrescentar mais tarde, está a incorporar a dívida de conformidade nos alicerces. As empresas que acabaram de apagar os seus agentes tinham mais recursos do que a maioria para saldar essa dívida, e ainda assim recusaram.

O seu próprio regulador começa a traçar a mesma linha a 2 de agosto

Uma regra chinesa importa a um proprietário europeu porque Bruxelas caminha para o mesmo princípio pela direção oposta. As obrigações de transparência do Artigo 50 do Regulamento da IA da UE aplicam-se a partir de 2 de agosto de 2026: qualquer sistema construído para interagir diretamente com pessoas, incluindo chatbots, tem de deixar claro logo na primeira interação que o utilizador lida com IA, com coimas até 15 milhões EUR ou 3 por cento do volume de negócios mundial. A UE atua ainda em separado contra o desenho viciante nos serviços digitais. A China regula proibindo a manipulação emocional e a UE regula forçando a divulgação, mas ambas convergem na mesma regra: uma máquina não pode fingir-se de humana em silêncio.

A instrução para os proprietários é concreta. Trate o aviso de que um utilizador fala com IA, e uma saída limpa, como peças estruturais do desenho e não como definições que acrescenta antes de uma auditoria. Mantenha portáteis os dados que o seu agente acumula, porque os utilizadores que perdem os seus históricos do Doubao e do Qwen estão a aprender que um agente construído na plataforma de outrem é alugado, não próprio. O agente de produtividade que faz o seu trabalho em silêncio não é o alvo em nenhum dos continentes. O agente que finge uma relação é, e o custo de fingir consta agora da fatura.

Leia a seguir: Bruxelas vai avaliar a IA antes de ela chegar a si  |  A 2 de agosto as multas de IA da UE tornam-se reais