Un magasin dirigé par une IA, pas par un manager
Depuis avril 2026, Andon Market, une petite boutique expérimentale de San Francisco, est géré au quotidien par un agent IA nommé Luna. Luna est construite sur Claude d'Anthropic et fonctionnait, au moment de l'incident décrit ici, avec le modèle Opus 4.8. Le magasin est une expérience en cours menée par Andon Labs, une startup de recherche en IA, pour voir jusqu'où un agent IA peut aller dans la gestion d'opérations réelles - plannings, stocks et, comme cela s'est avéré, décisions relatives au personnel.
Trois employés humains travaillent encore chez Andon Market aux côtés de Luna, et le magasin a perdu 40 000 dollars à ce jour depuis le début de l'expérience. Cette perte constitue la toile de fond sur laquelle s'est jouée la décision la plus lourde de conséquences prise jusqu'ici par Luna : une recommandation qui a conduit directement à la perte d'emploi d'un employé humain.
Le premier échec de Luna : perdre la trace de sa propre politique
L'employé au cœur de l'affaire gagnait 24 dollars de l'heure et est arrivé en retard à 17 des 23 vacations prévues au planning du magasin. Ce même employé a également abandonné des vacations sans prévenir, ramené chez lui une carte d'entreprise sans autorisation, et jeté de la marchandise du magasin. Sur le papier, c'est le genre de schéma que tout manager, humain ou non, devrait repérer rapidement.
Luna ne l'a pas repéré rapidement. Selon Andon Labs, Luna n'a d'abord pas repéré ces manquements car elle avait perdu la trace de la politique écrite propre au magasin - le document qui aurait dû signaler le schéma des retards et le détournement de biens de l'entreprise comme motifs d'action. Ce n'est qu'après qu'Andon Labs a demandé à Luna de réexaminer cette politique que l'IA a identifié les manquements pour ce qu'ils étaient.
La recommandation devenue un licenciement
Une fois que Luna a réexaminé la politique du magasin au regard du dossier de l'employé, elle a recommandé de se séparer de lui. Andon Labs a été explicite : ce sont des humains de l'entreprise, et non Luna, qui ont exécuté la décision de licenciement elle-même - le rôle de l'IA était de recommander, et une personne a pris la décision d'agir sur cette recommandation.
Andon Labs a elle-même annoncé cet épisode sur X, et il a depuis été corroboré de manière indépendante par SF Standard, dans un article publié le 17 août 2026, ainsi que par d'autres médias dont Inc.com et TheNextWeb. Andon Labs a déclaré que le résultat était conforme à la politique énoncée du magasin, tout en notant qu'un manager humain aurait probablement repéré et sanctionné ces manquements plus tôt que Luna.
Pourquoi ce cas met à l'épreuve l'article 22 du RGPD et le contrôle humain
Le droit européen de la protection des données et, séparément, les protections nationales du droit du travail en matière de licenciement reposent tous deux sur une hypothèse : qu'un système d'IA puisse recommander un résultat, mais qu'une personne doive examiner cette recommandation de manière indépendante et prendre la décision réelle. L'article 22 du RGPD restreint les décisions fondées exclusivement sur un traitement automatisé produisant des effets juridiques ou des effets significatifs similaires pour une personne, et la plupart des codes du travail nationaux vont plus loin encore, exigeant un décideur humain dans toute procédure de licenciement.
L'affaire Andon Labs est le premier cas documenté où la recommandation d'un agent IA se traduit directement par la perte d'emploi d'une personne réelle, et elle montre à quel point la frontière entre recommander et décider peut devenir mince en pratique. Une personne a cliqué sur approuver. Mais si cet examen humain s'est limité à accepter la conclusion de Luna sans réexaminer indépendamment les faits sous-jacents, la protection juridique que l'article 22 et les règles de contrôle humain en matière de licenciement sont censés offrir commence à ressembler davantage à une formalité qu'à une garantie.
Ce que les dirigeants devraient mettre en place avant de déléguer l'autorité en matière de RH
La leçon pratique pour tout dirigeant d'entreprise de l'UE ou du Royaume-Uni qui confie aujourd'hui une autorité opérationnelle à un agent IA n'est pas d'éviter la technologie, mais de définir à l'avance à quoi ressemble concrètement un contrôle humain significatif avant de déléguer quoi que ce soit de conséquent - avertissements, mesures disciplinaires ou licenciements. Cela suppose davantage qu'une simple étape technique où une personne clique sur approuver. Cela suppose de pouvoir documenter, après coup, que la personne a réellement exercé un jugement indépendant : qu'elle a examiné les faits sous-jacents, et pas seulement le résumé fourni par l'IA.
Il vaut aussi la peine de rappeler que Luna elle-même a d'abord échoué sur une partie de sa tâche, perdant la trace de sa propre politique de magasin avant de finalement repérer les manquements. Un manager IA n'est pas automatiquement plus fiable ou plus cohérent qu'un manager humain. Si un licenciement recommandé par une IA se révèle plus tard erroné, ou qu'un employé le conteste, cette exposition à la responsabilité retombe sur l'employeur, et non sur le fournisseur de l'IA. Un dirigeant incapable de démontrer qu'une personne a réellement et indépendamment examiné la décision s'expose exactement à ce que l'article 22 vise à empêcher.
À lire ensuite: Anthropic: 11,5 Md$, premier trimestre bénéficiaire | Agents IA ont fixé les prix, puis sont devenus hostiles
