Uma loja gerida por uma IA, não por um gestor

Desde abril de 2026, a Andon Market, uma pequena loja-boutique experimental em São Francisco, é gerida no dia a dia por um agente de IA chamado Luna. A Luna é construída sobre o Claude da Anthropic e, no momento do incidente aqui descrito, funcionava com o modelo Opus 4.8. A loja é uma experiência em curso da Andon Labs, uma startup de investigação em IA, para ver até onde um agente de IA pode ir na gestão de operações reais - horários, inventário e, como se veio a verificar, também decisões de pessoal.

Três funcionários humanos continuam a trabalhar na Andon Market ao lado da Luna, e a loja perdeu, até à data, 40.000 dólares desde o início da experiência. Esse prejuízo faz parte do contexto em que ocorreu a decisão mais consequente da Luna até agora: uma recomendação que levou diretamente à perda de emprego de um funcionário humano.

A primeira falha da Luna: perder o controlo sobre a sua própria política

O funcionário no centro do caso ganhava 24 dólares por hora e chegou atrasado a 17 dos 23 turnos agendados na loja. O mesmo funcionário também faltou completamente a turnos, levou para casa um cartão da empresa sem autorização e deitou fora mercadoria da loja. No papel, este é o tipo de padrão que qualquer gestor, humano ou não, deveria detetar rapidamente.

A Luna não o detetou rapidamente. Segundo a Andon Labs, a Luna inicialmente não detetou as infrações porque perdeu o controlo sobre a política de loja escrita - o documento que deveria ter assinalado o padrão de atrasos e o uso indevido de bens da empresa como motivo de ação. Só depois de a Andon Labs pedir à Luna para rever essa política é que a IA identificou as infrações pelo que realmente eram.

A recomendação que se tornou um despedimento

Depois de a Luna rever a política da loja face ao historial do funcionário, recomendou terminar a relação com ele. A Andon Labs deixou claro que foram pessoas da empresa, e não a Luna, a executar a decisão de despedimento propriamente dita - o papel da IA foi recomendar, e uma pessoa tomou a decisão de agir sobre essa recomendação.

A Andon Labs anunciou o episódio ela própria, no X, e este foi entretanto corroborado de forma independente pelo SF Standard, num artigo publicado a 17 de agosto de 2026, e por outros meios, incluindo a Inc.com e a TheNextWeb. A Andon Labs disse que o resultado estava de acordo com a política declarada da loja, embora tenha também referido que um gestor humano provavelmente teria detetado e atuado sobre as infrações mais cedo do que a Luna.

Por que este caso põe à prova o artigo 22 do RGPD e a supervisão humana

A legislação europeia de proteção de dados e, separadamente, as proteções laborais nacionais em torno do despedimento foram ambas construídas sobre um pressuposto: que um sistema de IA pode recomendar um resultado, mas que uma pessoa tem de rever essa recomendação de forma independente e tomar a decisão real. O artigo 22 do RGPD restringe as decisões baseadas exclusivamente em tratamento automatizado que produzam efeitos jurídicos ou de importância semelhante numa pessoa, e a maioria dos códigos laborais nacionais vai ainda mais longe, exigindo um decisor humano em qualquer processo de despedimento.

O caso da Andon Labs é o primeiro exemplo documentado em que a recomendação de um agente de IA se traduz diretamente na perda de emprego de uma pessoa real, e mostra como a linha entre recomendar e decidir pode tornar-se ténue na prática. Uma pessoa clicou em aprovar. Mas se essa revisão humana consistiu apenas em aceitar a conclusão da Luna sem reexaminar de forma independente os dados subjacentes, a proteção jurídica que o artigo 22 e as regras de supervisão humana em despedimentos deveriam oferecer começa a parecer mais uma formalidade do que uma salvaguarda.

O que os empresários devem construir antes de delegar autoridade de recursos humanos

A lição prática para qualquer empresário na UE ou no Reino Unido que hoje atribui autoridade operacional a um agente de IA não é evitar a tecnologia, mas definir antecipadamente o que é, na prática, uma supervisão humana significativa antes de delegar algo com consequências - advertências, medidas disciplinares ou despedimentos. Isso significa mais do que um passo técnico em que uma pessoa se limita a clicar em aprovar. Significa conseguir documentar, a posteriori, que a pessoa exerceu genuinamente um juízo independente: que analisou os factos subjacentes, e não apenas o resumo feito pela IA.

Vale também a pena lembrar que a própria Luna falhou primeiro numa parte do seu trabalho, perdendo o controlo sobre a sua própria política de loja antes de finalmente detetar as infrações. Uma gestora de IA não é automaticamente mais fiável nem mais consistente do que uma humana. Se um despedimento recomendado por uma IA se revelar mais tarde incorreto, ou for contestado por um funcionário, essa exposição à responsabilidade recai sobre o empregador, e não sobre o fornecedor da IA. Um empresário que não consiga demonstrar que uma pessoa reviu genuína e independentemente a decisão fica exposto exatamente da forma que o artigo 22 pretende evitar.

Leia a seguir: Anthropic regista o seu primeiro trimestre lucrativo  |  Agentes de IA combinaram preços, depois tornaram-se hostis