Ein Geschäft, geführt von einer KI, nicht von einer Filialleiterin

Seit April 2026 wird Andon Market, ein kleines experimentelles Boutique-Geschäft in San Francisco, im Tagesgeschäft von einer KI namens Luna geführt. Luna basiert auf Anthropics Claude und lief zum Zeitpunkt des hier beschriebenen Vorfalls mit dem Modell Opus 4.8. Das Geschäft ist ein laufendes Experiment von Andon Labs, einem KI-Forschungs-Startup, das testet, wie weit eine KI bei der Führung realer Geschäftsabläufe gehen kann - Dienstplanung, Warenbestand und, wie sich nun zeigt, auch Personalentscheidungen.

Neben Luna arbeiten weiterhin drei menschliche Mitarbeiter bei Andon Market, und das Geschäft hat seit Beginn des Experiments 40.000 Dollar verloren. Dieser Verlust bildet den Hintergrund, vor dem Lunas bislang folgenreichste Entscheidung fiel: eine Empfehlung, die direkt zum Verlust des Arbeitsplatzes eines Menschen führte.

Lunas erstes Versagen: der Überblick über die eigene Richtlinie ging verloren

Der Mitarbeiter im Zentrum des Falls verdiente 24 Dollar pro Stunde und kam bei 17 von 23 geplanten Schichten zu spät. Derselbe Mitarbeiter ließ zudem Schichten komplett ausfallen, nahm unautorisiert eine Firmenkarte mit nach Hause und entsorgte Ware des Geschäfts. Auf dem Papier ist das ein Muster, das jede Führungskraft, ob Mensch oder nicht, schnell hätte erkennen müssen.

Luna erkannte es nicht schnell. Laut Andon Labs übersah Luna die Verstöße zunächst, weil sie den Überblick über die eigene schriftliche Filialrichtlinie verloren hatte - jenes Dokument, das das Verspätungsmuster und den Missbrauch von Firmeneigentum als Grund für ein Eingreifen hätte kennzeichnen müssen. Erst nachdem Andon Labs Luna aufforderte, die Richtlinie erneut zu prüfen, erkannte die KI die Verstöße als das, was sie waren.

Die Empfehlung, die zur Kündigung wurde

Nachdem Luna die Filialrichtlinie erneut mit der Akte des Mitarbeiters abgeglichen hatte, empfahl sie eine Trennung von dem Mitarbeiter. Andon Labs stellte ausdrücklich klar, dass Menschen im Unternehmen, nicht Luna, die eigentliche Kündigungsentscheidung umsetzten - die Rolle der KI bestand darin, eine Empfehlung auszusprechen, während ein Mensch die Entscheidung traf, danach zu handeln.

Andon Labs verkündete den Vorfall selbst auf X, und er wurde seither unabhängig von SF Standard bestätigt, in einem am 17. August 2026 veröffentlichten Bericht, sowie von weiteren Medien wie Inc.com und TheNextWeb. Andon Labs erklärte, das Ergebnis entspreche der erklärten Filialrichtlinie, merkte aber zugleich an, dass eine menschliche Führungskraft die Verstöße vermutlich früher erkannt und geahndet hätte als Luna.

Warum dieser Fall Artikel 22 der DSGVO und das Prinzip der menschlichen Kontrolle auf die Probe stellt

Das europäische Datenschutzrecht und, getrennt davon, die nationalen arbeitsrechtlichen Schutzvorschriften bei Kündigungen beruhen beide auf einer Annahme: dass ein KI-System ein Ergebnis empfehlen kann, ein Mensch diese Empfehlung aber unabhängig prüfen und die eigentliche Entscheidung treffen muss. Artikel 22 der DSGVO schränkt Entscheidungen ein, die ausschließlich auf automatisierter Verarbeitung beruhen und rechtliche oder ähnlich erhebliche Auswirkungen auf eine Person haben, und die meisten nationalen Arbeitsgesetze gehen noch weiter und verlangen bei jedem Kündigungsverfahren eine menschliche Entscheidungsperson.

Der Fall Andon Labs ist der erste dokumentierte Vorfall, bei dem die Empfehlung eines KI-Agenten sich direkt in den Verlust des Arbeitsplatzes eines realen Menschen übersetzte, und er zeigt, wie schmal die Grenze zwischen Empfehlen und Entscheiden in der Praxis werden kann. Ein Mensch klickte auf Bestätigen. Doch wenn diese menschliche Prüfung nur darin bestand, Lunas Befund zu übernehmen, ohne die zugrunde liegenden Fakten unabhängig erneut zu prüfen, beginnt der Rechtsschutz, den Artikel 22 und Vorschriften zur menschlichen Kontrolle bei Kündigungen bieten sollen, eher wie eine Formalität als wie eine Absicherung zu wirken.

Was Unternehmer aufbauen sollten, bevor sie Personalbefugnisse delegieren

Die praktische Lehre für Unternehmer in der EU oder Großbritannien, die einer KI heute operative Befugnisse übertragen, lautet nicht, die Technologie zu meiden, sondern im Voraus festzulegen, wie eine echte menschliche Kontrollinstanz konkret aussieht, bevor irgendetwas Folgenreiches delegiert wird - Abmahnungen, Disziplinarmaßnahmen oder Kündigungen. Das bedeutet mehr als einen technischen Schritt, bei dem ein Mensch nur auf Bestätigen klickt. Es bedeutet, im Nachhinein dokumentieren zu können, dass der Mensch tatsächlich ein unabhängiges Urteil gefällt hat: dass er sich die zugrunde liegenden Fakten angesehen hat, nicht nur die Zusammenfassung der KI.

Es lohnt sich auch, daran zu erinnern, dass Luna zunächst selbst an einem Teil ihrer Aufgabe scheiterte, weil sie den Überblick über die eigene Filialrichtlinie verlor, bevor sie die Verstöße schließlich erkannte. Eine KI-Führungskraft ist nicht automatisch zuverlässiger oder konsistenter als eine menschliche. Sollte sich eine von einer KI empfohlene Kündigung später als falsch erweisen oder von einem Mitarbeiter angefochten werden, trägt der Arbeitgeber dieses Haftungsrisiko - nicht der KI-Anbieter. Ein Unternehmer, der nicht nachweisen kann, dass ein Mensch die Entscheidung tatsächlich unabhängig geprüft hat, ist genau der Gefahr ausgesetzt, die Artikel 22 verhindern soll.

Weiterlesen: Anthropics erstes profitables Quartal: 11,5 Mrd.  |  KI-Agenten sprachen Preise ab, wurden dann aggressiv