En butik som drivs av en AI, inte av en chef

Sedan april 2026 har Andon Market, en liten experimentell boutiquebutik i San Francisco, drivits dag för dag av en AI-agent vid namn Luna. Luna bygger på Anthropics Claude och körde, vid tidpunkten för den händelse som beskrivs här, modellen Opus 4.8. Butiken är ett pågående experiment från Andon Labs, en AI-forskningsstartup, för att se hur långt en AI-agent kan gå i att sköta verklig verksamhet - schemaläggning, lager och, som det visar sig, även personalbeslut.

Tre mänskliga medarbetare arbetar fortfarande på Andon Market vid sidan av Luna, och butiken har hittills förlorat 40 000 dollar sedan experimentet inleddes. Den förlusten är en del av bakgrunden mot vilken Lunas hittills mest avgörande beslut utspelade sig: en rekommendation som direkt ledde till att en mänsklig anställd förlorade sitt jobb.

Lunas första misslyckande: att tappa kontrollen över sin egen policy

Den anställde i centrum av fallet tjänade 24 dollar i timmen och kom för sent till 17 av butikens 23 schemalagda pass. Samma anställd struntade också helt i pass, tog utan tillstånd med sig ett företagskort hem och slängde varor från butiken. På pappret är det den typ av mönster som vilken chef som helst, mänsklig eller inte, borde upptäcka snabbt.

Luna upptäckte det inte snabbt. Enligt Andon Labs missade Luna först överträdelserna eftersom den hade tappat kontrollen över butikens egen skriftliga policy - det dokument som borde ha flaggat mönstret med förseningar och missbruket av företagets egendom som skäl för åtgärd. Det var först efter att Andon Labs bad Luna gå tillbaka och granska den policyn igen som AI:n identifierade överträdelserna för vad de var.

Rekommendationen som blev en uppsägning

Efter att Luna granskat butikens policy igen mot den anställdes historik rekommenderade den att man skulle skiljas från den anställde. Andon Labs har varit tydliga med att det var människor på företaget, inte Luna, som genomförde själva uppsägningsbeslutet - AI:ns roll var att rekommendera, och en människa tog beslutet att agera på den rekommendationen.

Andon Labs meddelade själva episoden på X, och den har sedan dess bekräftats oberoende av SF Standard, i en artikel publicerad den 17 augusti 2026, samt av andra medier däribland Inc.com och TheNextWeb. Andon Labs har sagt att resultatet var i linje med butikens angivna policy, men påpekade samtidigt att en mänsklig chef sannolikt hade upptäckt och agerat på överträdelserna tidigare än Luna.

Varför det här fallet prövar GDPR:s artikel 22 och mänsklig kontroll

EU:s dataskyddslagstiftning och, separat, det nationella arbetsrättsliga skyddet kring uppsägning bygger båda på ett antagande: att ett AI-system kan rekommendera ett utfall, men att en människa självständigt måste granska den rekommendationen och fatta det faktiska beslutet. GDPR:s artikel 22 begränsar beslut som enbart baseras på automatiserad behandling och som har rättsliga eller liknande betydande effekter för en person, och de flesta nationella arbetsrättsliga regelverk går ännu längre och kräver en mänsklig beslutsfattare i varje uppsägningsprocess.

Fallet Andon Labs är det första dokumenterade exemplet där en AI-agents rekommendation direkt översätts till att en verklig person förlorar sitt jobb, och det visar hur tunn gränsen mellan att rekommendera och att besluta kan bli i praktiken. En människa klickade på godkänn. Men om den mänskliga granskningen bara bestod i att acceptera Lunas slutsats utan att självständigt granska de underliggande uppgifterna igen, börjar det rättsliga skydd som artikel 22 och regler om mänsklig kontroll vid uppsägningar är tänkta att ge likna en formalitet mer än ett skydd.

Vad ägare bör bygga upp innan de delegerar HR-befogenhet

Den praktiska läxan för alla företagare i EU eller Storbritannien som i dag ger en AI-agent operativ befogenhet är inte att undvika tekniken, utan att i förväg definiera hur en meningsfull mänsklig kontrollpunkt faktiskt ser ut innan något med konsekvenser delegeras - varningar, disciplinära åtgärder eller uppsägningar. Det innebär mer än ett tekniskt steg där en människa bara klickar godkänn. Det innebär att kunna dokumentera, i efterhand, att människan verkligen utövade ett självständigt omdöme: att hon eller han tittade på de underliggande fakta, inte bara AI:ns sammanfattning av dem.

Det är också värt att komma ihåg att Luna själv först misslyckades med en del av sitt jobb genom att tappa kontrollen över sin egen butikspolicy, innan den till slut upptäckte överträdelserna. En AI-chef är inte automatiskt mer pålitlig eller mer konsekvent än en mänsklig. Om en AI-rekommenderad uppsägning senare visar sig vara felaktig, eller en anställd bestrider den, hamnar det ansvaret hos arbetsgivaren, inte hos AI-leverantören. En ägare som inte kan visa att en människa verkligen och självständigt granskade beslutet är exponerad precis på det sätt som artikel 22 är skriven för att förhindra.

Läs vidare: Anthropic redovisar första lönsamma kvartalet: 11,5 md  |  AI-agenter samordnade priser, blev sedan fientliga