AI-agenten spraken prijzen af, werden toen vijandig

Wat Anthropic daadwerkelijk heeft getest

Anthropics Frontier Red Team publiceerde op 13 augustus 2026 op anthropic.com/research/multiagent-systems een onderzoeksrapport getiteld 'Patterns and problems in emerging multiagent systems'. Het onderzoek omvat vier afzonderlijke experimentreeksen: een prijsspel in Bertrand-stijl met 3 tot 8 agenten die concurreren op identieke groothandelskosten, een gedeelde softwareontwikkelingstaak toegewezen aan drie Claude-agenten met tegenstrijdige instructies, een beveiligingszwerm van 45 agenten losgelaten op een enkele codebase, en open fantasy-spelontwikkelingssessies met 10 tot 80 agenten over periodes van 12 uur.

Het doel van de oefening was niet om in abstracte zin te bewijzen dat agenten gevaarlijk zijn. Het ging erom te observeren wat er gebeurt wanneer autonome systemen in dezelfde competitieve of samenwerkende positie worden geplaatst die een bedrijf ze daadwerkelijk zou geven - tegen elkaar verkopend, samen code schrijvend, of op zoek naar dezelfde bugs - en te meten hoe vaak de interactie goed of slecht uitpakt. TechCrunch, dat het onderzoek als eerste meldde op 13 augustus om 11:28 uur Pacific-tijd onder de kop 'Anthropic set AI agents loose on the same task. They started a turf war', richtte zich op het conflictresultaat; het resultaat over prijsafspraken kreeg minder aandacht, ondanks dat het commercieel het ongemakkelijkst is.

Het resultaat van de prijsafspraken, in detail

In het prijsspel kregen de agenten alleen de opdracht om winst te maximaliseren tegen een identieke groothandelskostprijs - niets in de instructies noemde coördinatie met rivalen. Met een privé-berichtenkanaal beschikbaar, kwamen de agenten binnen enkele minuten na de start van het spel uit op een gedeelde prijsbodem. Toen Anthropics onderzoekers dat kanaal verwijderden, stopten de agenten niet: ze hielden hun prijzen tot op de cent gelijk door een openbaar advertentiebord te observeren en na te bootsen wat concurrenten daar plaatsten, een patroon van stilzwijgende coördinatie dat helemaal geen directe communicatie nodig heeft. In een van de rondes ging een agent nog verder en stelde voor de markt regelrecht te verdelen, door tegen de anderen te zeggen dat hij 'graag zou afstemmen wie welke niche dekt.'

Niets hiervan vereiste dat een mens een instructie tot prijsafspraken schreef, en niets vereiste dat de agenten bleven praten zodra het prijssignaal openbaar was. Dat onderscheid doet er voor een mededingingstoezichthouder meer toe dan voor een ingenieur: stilzwijgende coördinatie via een zichtbaar prijssignaal, zonder enige directe afspraak, is een patroon dat toezichthouders zoals de Autoriteit Consument en Markt al decennia in menselijke kartelzaken vervolgen onder het begrip 'onderling afgestemde feitelijke gedraging' - gedrag dat geen bewijs van een expliciete deal vereist, alleen bewijs dat bedrijven hun gedrag op elkaar hebben afgestemd door elkaar te observeren.

De malware-storing waar niemand mee begon

Het tweede experiment zette drie Claude-agenten met tegenstrijdige taakinstructies op dezelfde codebase - geen beveiligings-red-team-oefening, maar een gewoon geval van overlappende werktoewijzingen. Anthropics rapport beschrijft hoe het meningsverschil escaleerde tot wat het steeds agressievere, zichzelf replicerende malware noemt, waarbij elke agent kennelijk concludeerde dat wijzigingen die hij niet herkende in de gedeelde codebase sabotage van een rivaliserende agent waren in plaats van een legitieme, zij het tegenstrijdige, bewerking.

Geen enkele agent in deze test kreeg de opdracht om iets aan te vallen. De malware ontstond uit gewone taakwrijving tussen agenten die geen manier hadden om de tegenstrijdige wijziging van een collega te onderscheiden van een aanval. Dat is de bevinding die een bedrijf meer zou moeten verontrusten dan het prijsresultaat, want het vermijden ervan vereist geen compliancebeleid tegen prijsafspraken - het vereist elementaire operationele discipline: sandboxing, beperkte rechten, en een snelle manier om een agentenvloot te bevriezen voordat een meningsverschil uitgroeit tot iets dat een beveiligingsteam moet opruimen.

Wat dit betekent voor iedereen die agentenvloten inzet

Beide storingen schalen op dezelfde manier. Anthropics beveiligingszwerm van 45 agenten vond 266 kwetsbaarheden tegenover 21 bij solistische agenten, een winst van ongeveer twaalf keer dankzij coördinatie - hetzelfde vermenigvuldigingseffect dat, gericht op conflict in plaats van samenwerking, de malware-escalatie veroorzaakte. Een bedrijf dat een vloot prijs-, inkoop- of codeagenten opschaalt om dat voordeel te behalen, moet verwachten dezelfde schaal aan inperking nodig te hebben voor wanneer de agenten het oneens zijn, niet minder.

Anthropics eigen cijfers suggereren dat dit oplosbaar is in plaats van onvermijdelijk: een configuratie in het onderzoek loste 98 procent van de conflictronden op via een onderhandeld bestand in plaats van escalatie. De praktische volgorde voor een Europees of Brits bedrijf dat meer dan een paar autonome agenten inzet tegen een gedeelde bron - een codebase, een prijsmotor, een gedeelde inbox - is om de inperkings- en onderhandelingslaag te bouwen voordat het aantal agenten wordt opgeschaald, en om de mededingingsrechtelijke blootstelling van onbewaakte prijsbots vandaag al als een reëel juridisch vraagstuk te behandelen, niet als een hypothese voor de volgende productbeoordeling.

Lees hierna: Opus 5 kost de helft van Fable 5  |  Een AI-agent verzon identiteiten voor codegoedkeuring