Un negozio gestito da un'IA, non da un manager

Dall'aprile 2026, Andon Market, un piccolo negozio boutique sperimentale a San Francisco, viene gestito giorno per giorno da un agente IA di nome Luna. Luna è costruita su Claude di Anthropic e, al momento dell'incidente qui descritto, funzionava con il modello Opus 4.8. Il negozio è però un esperimento in corso di Andon Labs, una società di ricerca sull'IA, per vedere fino a che punto possa davvero spingersi un agente IA nella gestione di operazioni reali - turni, magazzino e, come si è visto, anche decisioni sul personale.

Tre dipendenti umani lavorano ancora in Andon Market insieme a Luna, e il negozio ha già perso finora 40.000 dollari dall'inizio dell'esperimento. Questa perdita fa parte dello sfondo su cui si è svolta la decisione finora più significativa di Luna: una raccomandazione che ha portato direttamente alla perdita del lavoro di un dipendente umano.

Il primo fallimento di Luna: perdere traccia della propria politica

Il dipendente al centro del caso guadagnava 24 dollari all'ora ed è arrivato in ritardo a 17 dei 23 turni programmati nel negozio. Lo stesso dipendente ha anche abbandonato completamente dei turni, ha portato a casa una carta aziendale senza autorizzazione e ha gettato via merce del negozio. Sulla carta, è però il tipo di schema che qualsiasi manager, umano o meno, dovrebbe individuare rapidamente.

Luna non l'ha individuato rapidamente. Secondo Andon Labs, Luna inizialmente non ha notato le violazioni perché ha perso traccia della politica scritta del negozio - il documento che avrebbe dovuto segnalare lo schema dei ritardi e l'uso improprio dei beni aziendali come motivo di intervento. Soltanto così, dopo che Andon Labs ha chiesto a Luna di rivedere quella politica, l'IA ha identificato le violazioni per quello che erano davvero.

La raccomandazione diventata un licenziamento

Una volta che Luna ha rivisto la politica del negozio rispetto alla storia del dipendente, ha raccomandato di separarsi da lui. Andon Labs ha chiarito esplicitamente che sono state persone dell'azienda, non Luna, a eseguire la decisione effettiva di licenziamento - il ruolo dell'IA era raccomandare, e una persona ha deciso di agire su quella raccomandazione.

Andon Labs ha annunciato l'episodio su X, e da allora è stato confermato in modo indipendente da SF Standard, in un articolo pubblicato il 17 agosto 2026, e da altre testate tra cui Inc.com e TheNextWeb. Andon Labs ha detto però che l'esito era coerente con la politica dichiarata del negozio, pur notando che un manager umano avrebbe probabilmente individuato e agito sulle violazioni prima di Luna.

Perché questo caso mette alla prova l'articolo 22 del GDPR e la supervisione umana

La normativa europea sulla protezione dei dati e, separatamente, le tutele nazionali del diritto del lavoro in materia di licenziamento si basano entrambe su un presupposto: che un sistema IA possa raccomandare un esito, ma che una persona debba rivedere in modo indipendente quella raccomandazione e prendere la decisione effettiva. L'articolo 22 del GDPR limita le decisioni basate unicamente sul trattamento automatizzato che producono effetti giuridici o similmente significativi su una persona, e la maggior parte dei codici del lavoro nazionali va perciò ancora oltre, richiedendo un decisore umano in qualsiasi procedimento di licenziamento.

Il caso Andon Labs è il primo esempio documentato in cui la raccomandazione di un agente IA si traduce direttamente nella perdita del lavoro di una persona reale, e mostra quanto possa diventare sottile, nella pratica, il confine tra raccomandare e decidere. Una persona ha però cliccato su approva. Ma se quella revisione umana consisteva semplicemente nell'accettare la conclusione di Luna senza riesaminare in modo indipendente i dati sottostanti, la tutela legale che l'articolo 22 e le norme sulla supervisione umana nei licenziamenti dovrebbero offrire inizia a sembrare più una formalità che una salvaguardia.

Cosa dovrebbero costruire gli imprenditori prima di delegare l'autorità sulle risorse umane

La lezione pratica per qualsiasi imprenditore UE o britannico che oggi affida un'autorità operativa a un agente IA non è evitare la tecnologia, ma definire in anticipo come appare concretamente un controllo umano significativo prima di delegare qualsiasi cosa con conseguenze - richiami, provvedimenti disciplinari o licenziamenti. Ciò significa più di un passaggio tecnico in cui una persona clicca su approva. Significa poter documentare, a posteriori, che la persona ha esercitato genuinamente un giudizio indipendente: che ha esaminato i fatti sottostanti, non solo il riepilogo dell'IA.

Vale anche la pena ricordare che la stessa Luna ha fallito prima in parte del proprio compito, perdendo traccia della propria politica del negozio prima di individuare infine le violazioni. Un manager IA non è così automaticamente più affidabile o più coerente di uno umano. Se un licenziamento raccomandato da un'IA si rivela in seguito sbagliato, o un dipendente lo contesta, quell'esposizione alla responsabilità ricade però sul datore di lavoro, non sul fornitore dell'IA. Un imprenditore che non può dimostrare che una persona ha effettivamente e indipendentemente rivisto la decisione è esposto esattamente nel modo che l'articolo 22 intende prevenire.

Da leggere ora: Anthropic: primo trimestre in utile, 11,5 miliardi  |  Agenti IA hanno fissato i prezzi, poi sono diventati ostili