Una tienda dirigida por una IA, no por un gerente

Desde abril de 2026, Andon Market, una pequeña tienda boutique experimental en San Francisco, funciona día a día bajo la dirección de un agente de IA llamado Luna. Luna está construida sobre Claude de Anthropic y, en el momento del incidente aquí descrito, funcionaba con el modelo Opus 4.8. La tienda es un experimento en marcha de Andon Labs, una startup de investigación en IA, para ver hasta dónde puede llegar un agente de IA gestionando operaciones reales - horarios, inventario y, según se ha visto, también decisiones de personal.

Tres empleados humanos siguen trabajando en Andon Market junto a Luna, y la tienda ha perdido 40.000 dólares hasta la fecha desde que comenzó el experimento. Esa pérdida es parte del contexto en el que se produjo la decisión más trascendente de Luna hasta ahora: una recomendación que llevó directamente a que un empleado humano perdiera su puesto.

El primer fallo de Luna: perder de vista su propia política

El empleado en el centro del caso ganaba 24 dólares por hora y llegó tarde a 17 de los 23 turnos programados en la tienda. Ese mismo empleado también abandonó turnos por completo, se llevó a casa una tarjeta de la empresa sin autorización y descartó mercancía de la tienda. Sobre el papel, es el tipo de patrón que cualquier gerente, humano o no, debería detectar rápidamente.

Luna no lo detectó rápidamente. Según Andon Labs, Luna pasó por alto las infracciones al principio porque perdió de vista la política de tienda escrita propia - el documento que debería haber señalado el patrón de tardanzas y el mal uso de bienes de la empresa como motivo de acción. Solo después de que Andon Labs le pidiera a Luna volver a revisar esa política, la IA identificó las infracciones tal como eran.

La recomendación que se convirtió en un despido

Una vez que Luna volvió a revisar la política de la tienda frente al historial del empleado, recomendó separarse de él. Andon Labs ha dejado claro que fueron personas de la empresa, no Luna, quienes ejecutaron la decisión final de despido - el papel de la IA fue recomendar, y una persona tomó la decisión de actuar sobre esa recomendación.

Andon Labs anunció el episodio en X, y desde entonces ha sido corroborado de forma independiente por SF Standard, en un reportaje publicado el 17 de agosto de 2026, y por otros medios como Inc.com y TheNextWeb. Andon Labs ha dicho que el resultado fue coherente con la política declarada de la tienda, aunque también señaló que un gerente humano probablemente habría detectado y actuado sobre las infracciones antes que Luna.

Por qué este caso pone a prueba el artículo 22 del RGPD y la supervisión humana

La normativa europea de protección de datos y, por separado, las protecciones laborales nacionales en materia de despido se construyeron sobre un supuesto: que un sistema de IA puede recomendar un resultado, pero una persona debe revisar esa recomendación de forma independiente y tomar la decisión real. El artículo 22 del RGPD restringe las decisiones basadas únicamente en el tratamiento automatizado que produzcan efectos jurídicos o de importancia similar sobre una persona, y la mayoría de los códigos laborales nacionales van más allá, exigiendo un responsable humano de la decisión en cualquier proceso de despido.

El caso de Andon Labs es el primer ejemplo documentado en que la recomendación de un agente de IA se traduce directamente en que una persona real pierda su empleo, y muestra lo delgada que puede volverse en la práctica la línea entre recomendar y decidir. Una persona hizo clic en aprobar. Pero si esa revisión humana consistió simplemente en aceptar el hallazgo de Luna sin volver a examinar de forma independiente los datos subyacentes, la protección legal que el artículo 22 y las normas de supervisión humana en despidos pretenden ofrecer empieza a parecer más una formalidad que una salvaguarda.

Qué deben construir los empresarios antes de delegar autoridad de recursos humanos

La lección práctica para cualquier empresario de la UE o el Reino Unido que hoy otorga autoridad operativa a un agente de IA no es evitar la tecnología, sino definir de antemano qué aspecto tiene realmente un control humano significativo antes de delegar cualquier cosa con consecuencias - amonestaciones, medidas disciplinarias o despidos. Eso significa más que un paso técnico de que la persona haga clic en aprobar. Significa poder documentar, después del hecho, que la persona ejerció genuinamente un juicio independiente: que examinó los hechos subyacentes, no solo el resumen de la IA.

También vale la pena recordar que la propia Luna falló primero en parte de su trabajo, perdiendo de vista su propia política de tienda antes de detectar finalmente las infracciones. Un gerente de IA no es automáticamente más fiable ni más consistente que uno humano. Si un despido recomendado por una IA resulta ser incorrecto más adelante, o un empleado lo impugna, esa exposición a responsabilidad recae sobre el empleador, no sobre el proveedor de la IA. Un empresario que no pueda demostrar que una persona revisó genuinamente y de forma independiente la decisión queda expuesto exactamente de la manera que el artículo 22 pretende evitar.

Leer a continuación: Anthropic logra su primer trimestre rentable  |  Agentes de IA pactaron precios, luego atacaron