Een winkel geleid door een AI, niet door een manager

Sinds april 2026 wordt Andon Market, een kleine experimentele boetiekwinkel in San Francisco, dagelijks geleid door een AI-agent genaamd Luna. Luna is gebouwd op Claude van Anthropic en draaide, op het moment van het hier beschreven incident, op het model Opus 4.8. De winkel is een lopend experiment van Andon Labs, een AI-onderzoeksstartup, om te zien hoe ver een AI-agent kan gaan in het beheren van echte bedrijfsvoering - roosters, voorraad en, zo blijkt nu, ook personeelsbeslissingen.

Naast Luna werken nog altijd drie menselijke medewerkers bij Andon Market, en de winkel heeft sinds de start van het experiment tot nu toe 40.000 dollar verloren. Dat verlies vormt de achtergrond waartegen Luna's ingrijpendste beslissing tot dusver plaatsvond: een advies dat rechtstreeks leidde tot het verlies van de baan van een menselijke werknemer.

Luna's eerste misser: het kwijtraken van haar eigen beleid

De werknemer in kwestie verdiende 24 dollar per uur en kwam bij 17 van de 23 geplande diensten te laat. Dezelfde werknemer liet ook diensten volledig schieten, nam zonder toestemming een bedrijfspas mee naar huis en gooide koopwaar van de winkel weg. Op papier is dit het soort patroon dat elke manager, mens of niet, snel zou moeten opmerken.

Luna merkte het niet snel op. Volgens Andon Labs zag Luna de overtredingen aanvankelijk over het hoofd omdat ze het spoor van het eigen geschreven winkelbeleid was kwijtgeraakt - het document dat het patroon van te laat komen en het misbruik van bedrijfseigendom als grond voor actie had moeten aanwijzen. Pas nadat Andon Labs Luna vroeg dat beleid opnieuw te bekijken, herkende de AI de overtredingen voor wat ze waren.

Het advies dat een ontslag werd

Nadat Luna het winkelbeleid opnieuw naast het dossier van de werknemer had gelegd, adviseerde ze afscheid te nemen van de werknemer. Andon Labs heeft duidelijk gemaakt dat mensen binnen het bedrijf, niet Luna, de daadwerkelijke ontslagbeslissing hebben uitgevoerd - de rol van de AI was adviseren, en een mens nam het besluit om op dat advies te handelen.

Andon Labs maakte de zaak zelf bekend op X, en die is sindsdien onafhankelijk bevestigd door SF Standard, in een op 17 augustus 2026 gepubliceerd artikel, en door andere media waaronder Inc.com en TheNextWeb. Andon Labs zei dat de uitkomst in lijn was met het verklaarde winkelbeleid, maar merkte ook op dat een menselijke manager de overtredingen waarschijnlijk eerder had opgemerkt en aangepakt dan Luna.

Waarom deze zaak artikel 22 van de AVG en menselijk toezicht op de proef stelt

Europese privacywetgeving en, los daarvan, nationale arbeidsrechtelijke bescherming rond ontslag zijn beide gebouwd op een aanname: dat een AI-systeem een uitkomst kan adviseren, maar dat een mens dat advies onafhankelijk moet beoordelen en de daadwerkelijke beslissing moet nemen. Artikel 22 van de AVG beperkt beslissingen die uitsluitend zijn gebaseerd op geautomatiseerde verwerking en die rechtsgevolgen of vergelijkbare aanmerkelijke gevolgen hebben voor een persoon, en de meeste nationale arbeidswetten gaan nog verder door bij elk ontslagproces een menselijke beslisser te eisen.

De zaak Andon Labs is het eerste gedocumenteerde geval waarin het advies van een AI-agent zich rechtstreeks vertaalt naar het verlies van de baan van een echte persoon, en het laat zien hoe dun de grens tussen adviseren en beslissen in de praktijk kan worden. Een mens klikte op akkoord. Maar als die menselijke beoordeling er alleen uit bestond de bevinding van Luna over te nemen zonder de onderliggende feiten onafhankelijk opnieuw te bekijken, begint de wettelijke bescherming die artikel 22 en regels voor menselijk toezicht bij ontslag zouden moeten bieden meer op een formaliteit te lijken dan op een waarborg.

Wat ondernemers moeten opbouwen voordat ze HR-bevoegdheid delegeren

De praktische les voor elke ondernemer in de EU of het VK die nu operationele bevoegdheid aan een AI-agent geeft, is niet om de technologie te vermijden, maar om vooraf vast te leggen hoe een betekenisvolle menselijke controle er echt uitziet voordat er iets met gevolgen wordt gedelegeerd - waarschuwingen, disciplinaire maatregelen of ontslag. Dat betekent meer dan een technische stap waarbij een mens alleen op akkoord klikt. Het betekent kunnen aantonen, achteraf, dat de mens echt een onafhankelijk oordeel heeft geveld: dat hij naar de onderliggende feiten heeft gekeken, niet alleen naar de samenvatting van de AI.

Het is ook goed om te bedenken dat Luna zelf eerst faalde op een deel van haar taak, doordat ze het spoor van haar eigen winkelbeleid kwijtraakte voordat ze de overtredingen uiteindelijk opmerkte. Een AI-manager is niet automatisch betrouwbaarder of consistenter dan een menselijke. Als een door AI geadviseerd ontslag later onterecht blijkt, of een werknemer het aanvecht, komt die aansprakelijkheid terecht bij de werkgever, niet bij de AI-leverancier. Een ondernemer die niet kan aantonen dat een mens de beslissing echt onafhankelijk heeft beoordeeld, loopt precies het risico dat artikel 22 probeert te voorkomen.

Lees hierna: Anthropic boekt eerste winstgevend kwartaal: 11,5 mrd  |  AI-agenten spraken prijzen af, werden toen vijandig