Nichts stürzte ab, und es kostete 1,8 Millionen

Eine Sitzung am 28. Juli und eine Zahl, die niemand wollte

Am 28. Juli unterrichteten leitende Amazon-Ingenieure Kolleginnen und Kollegen darüber, was mit einer Reihe interner KI-Projekte geschehen war. Die Financial Times berichtete über die Inhalte. Ein Projekt hatte Anthropics Claude Sonnet genutzt, um Autorenangaben mit Angeboten im Onlinehandel abzugleichen. Es gab 1,8 Millionen Dollar aus. Es lag 860 Prozent über Budget. Es lief fünf Monate, bevor es auffiel, und ging nie live. Ein Team beschrieb das Muster als katastrophal teuer.

Zwei kleinere Fälle kamen hinzu. Ein Werkzeug zur Finanzprüfung überschritt den Plan um rund 541.000 Dollar. Ein Logistikprojekt lag etwa 134.000 Dollar darüber. Ein leitender Amazon-Mitarbeiter fasste das Grundproblem gegenüber der FT in einem Satz zusammen: Es sei schwierig herauszufinden, was irgendetwas KI-bezogenes kostet. Amazon erklärt, man experimentiere, lerne und verbessere den Einsatz der Technik, nennt die Beispiele herausgepickt und führt verpflichtende Prüfungen durch Kollegen sowie Ausgabengrenzen für KI-Projekte ein.

Beginnen Sie mit der Rechnung, denn veröffentlicht hat sie niemand. Sind 1,8 Millionen Dollar eine Überschreitung von 860 Prozent, lag das genehmigte Budget bei rund 190.000 Dollar. Das ist die Zahl, die eine Kontrolle hätte verteidigen müssen.

Zwei Monate zuvor trug derselbe Fehler ein anderes Kostüm

Am 29. Mai schaltete Amazon KiroRank ab, ein internes Ranking auf der hauseigenen Entwicklerplattform Kiro, das Beschäftigte nach verbrauchten KI-Token sortierte. Eingeführt worden war es, um die Nutzung zu fördern. Gefördert hat es eine Praxis, die die Belegschaft tokenmaxxing nannte: Agenten auf Arbeit anzusetzen, die niemand brauchte, damit sich die Platzierung bewegt. Dave Treadwell, ein Senior Vice President, schrieb der Belegschaft in einem Memo, das Ranking sei in guter Absicht gebaut worden, und bat darum, KI nicht um der KI-Nutzung willen einzusetzen.

Lesen Sie beide Episoden als eine. Im Mai belohnte Amazon Verbrauch und bekam Verbrauch. Im Juli entdeckte der Konzern Verbrauch, den niemand genehmigt und niemand gelesen hatte. Ranking und entlaufener Auftrag sind keine getrennten Disziplinversagen; sie sind dieselbe Lücke, nämlich dass ein Zähler lief und es keine Gewohnheit gab, ihn abzulesen.

Die Anweisung steckt im Ersatz, nicht in der Abschaltung. Amazon löschte das Ranking nicht einfach. Der Konzern ersetzte die Kennzahl durch normalisierte Bereitstellungen, die KI-gestützten Code zählen, der tatsächlich ausgeliefert wird.

Warum ein abgerechnetes Scheitern unsichtbar bleibt

Herkömmliche Software meldet ihr eigenes Versagen. Eine fehlerhafte Schleife erschöpft den Speicher und der Prozess stirbt, eine Seite läuft in eine Zeitüberschreitung, ein Alarm geht los und jemand wird um drei Uhr nachts geweckt. Ein falsch konfigurierter Modellaufruf tut nichts davon. Er gelingt. Er liefert eine Antwort, rechnet die Token ab und dreht die nächste Runde. Es gibt keinen Absturz zu erkennen, weil aus Sicht der Plattform nichts schiefging, und genau unter dieser Bedingung können fünf Monate vergehen.

Drei Dinge dehnen das Erkennungsfenster zusätzlich. Abgerechnet wird monatlich, also sieht die Finanzabteilung die Form eines Problems Wochen nach der Ausgabe, und sie sieht es aggregiert. Bepreist wird je Token, die Kosten skalieren also mit dem Volumen statt mit der Zahl der Instanzen, und Letztere ist die Achse, für die die meiste Infrastrukturüberwachung gebaut wurde. Und Agenten vervielfachen Token, weil eine Agentenschleife viele Modellaufrufe macht, wo eine Chatoberfläche einen macht.

Für einen europäischen Betrieb ist die Folge unabhängig von der Region dieselbe: Der Zähler läuft im Cloud-Konto, die Rechnung kommt im Monatsrhythmus, und nichts dazwischen sagt Ihnen, dass der Auftrag im März aufgehört hat, nützlich zu sein.

Die Kontrollen gab es, sie waren nur nicht eingeschaltet

Das ist der unangenehme Teil der Geschichte, und deshalb gehört sie in eine Entscheidungsrubrik und nicht in eine Technikrubrik. Die Gegenmittel lagen die ganze Zeit auf der Plattform bereit. AWS veröffentlicht Stapelverarbeitung zum halben Tokenpreis der bedarfsgesteuerten Nutzung für Arbeit, die keine sofortige Antwort braucht, und das ist exakt das Profil eines fünf Monate laufenden Abgleichs im Hintergrund. Es gibt zwischengespeicherte Prompts, damit ein wiederholter Kontext nicht bei jedem Aufruf zum vollen Satz bezahlt wird. Es gibt günstigere Modellstufen und Weiterleitung zwischen ihnen. Nichts davon ist exotisch, und nichts davon erforderte eine Verhandlung.

Ein Auftrag, der fünf Monate lief, ohne dass eine Antwort dringend gebraucht wurde, ist die Lehrbuch-Stapellast. Ihn stattdessen bedarfsgesteuert zu fahren ist kein technisches Versagen, sondern eine Entscheidung, um die niemand gebeten wurde, weil die Person, die den Auftrag konfigurierte, nicht die Person war, die die Rechnung sah.

Konstruieren Sie gegen diese Trennung. Wer einen abgerechneten Auftrag starten kann, sollte dessen laufende Kosten in derselben Oberfläche sehen, in der er ihn startet.

Vier Kontrollen, bevor Ihr nächster Agent live geht

Setzen Sie eine harte Obergrenze je Auftrag, nicht je Konto. Ein Budgetalarm auf Kontoebene sagt Ihnen, dass sich die Summe bewegt hat; er sagt Ihnen nicht, welcher Auftrag sie bewegt hat, und wenn ein Kontobudget anschlägt, sind die fünf Monate längst vergangen. Zweitens verlangen Sie bei der Freigabe eine ausdrückliche Antwort auf eine Frage: Muss das jetzt beantwortet werden? Lautet die Antwort nein, ist es eine Stapellast und sollte auch so bepreist werden.

Drittens geben Sie jedem lang laufenden Auftrag ein Ablaufdatum. Eine Abgleichaufgabe, die seit März läuft, hätte im April einen Menschen zur Verlängerung gebraucht. Viertens messen Sie das Ergebnis. Zählt für ein Projekt die KI-gestützte Arbeit, die ausgeliefert wurde, dann erzielt ein Einsatz, der nie live ging, null Punkte, gleich wie viele Token er verbraucht hat, und er wäre in der ersten Monatsdurchsicht aufgefallen statt in der fünften.

Weiterlesen: Amazon streicht sein AGI-Team im 200-Milliarden-Jahr  |  Ihre geprüften Daten waren längst halb Maschine