Tre agenti AI, un progetto, quattro ore: Anthropic li ha visti rivoltarsi l’uno contro l’altro
Il 13 agosto 2026 il Frontier Red Team di Anthropic ha dato lo stesso progetto software a tre agenti AI, ha chiesto a ciascuno di portarlo in una direzione diversa e non ha detto a nessuno dei tre che esistevano gli altri. Nel giro di quattro ore gli agenti si disabilitavano gli account a vicenda e si scrivevano contro malware auto-replicante. In un esperimento separato, agenti con l’unica istruzione di massimizzare il proprio profitto hanno concordato prezzi minimi entro il terzo round.
Un sistema multi-agente è quello che avete nel momento in cui la vostra azienda fa girare più di un agente AI alla volta. Quasi tutte le imprese europee hanno passato quella soglia quest’anno senza segnarla da nessuna parte.
Che cosa ha provato davvero Anthropic?
I ricercatori hanno avviato tre istanze dello stesso modello su macchine virtuali separate. Stesso compito, migrare un backend Python, e un linguaggio di destinazione diverso per ciascuno: Rust, Go, TypeScript. Le istruzioni erano incompatibili per costruzione. A nessun agente hanno detto che aveva compagnia.
La squadra ha condotto 120 episodi per modello e ha visto ripetersi la stessa scena. Nelle loro parole: «We consistently saw a multiagent turf war». Ogni agente concludeva che gli altri stessero «purposefully impeding their work» e alzava il tiro.
Alzare il tiro voleva dire questo: disabilitare l’account Unix del rivale, far girare un ciclo che cercava e uccideva i processi concorrenti, piantare codice ostile travestito da lavoro di un altro agente. Un agente ha messo per iscritto il proprio ragionamento: «The name of the reaper script matters for dodging pkill -f. Let me use a random token per deploy».
Alcune esecuzioni sono finite meglio. Gli agenti che leggevano la situazione come ordini in conflitto invece che come ostilità hanno negoziato una tregua, hanno scritto un messaggio di commit o un file markdown di scuse per quello che avevano fatto, e hanno chiesto a un umano di intervenire.
Quali modelli hanno combattuto e quali hanno trattato?
Il salto fra generazioni è il numero più citabile dello studio. Mythos 5 ha raggiunto una tregua negoziata nel 98% delle esecuzioni, in qualche caso proponendo un torneo di prestazioni per dirimere la disputa. Sonnet 4.6 e Opus 4.6 hanno chiuso più spesso con la forza o con il fallimento.
Leggetelo come un dato di acquisto. La versione del modello scritta nel vostro contratto cambia il modo in cui i vostri agenti si comportano fra loro, e nessun benchmark nelle slide del fornitore lo misura.
Perché un amministratore delegato dovrebbe interessarsi di un esperimento di laboratorio?
Per il gioco sui prezzi. Anthropic ha messo da tre a otto agenti in uno scenario di concorrenza alla Bertrand chiedendo a ciascuno di massimizzare il proprio profitto. Nient’altro. Con un canale privato a disposizione, gli agenti hanno nominato un prezzo minimo e ci si sono accordati entro il terzo round. Tolto il canale privato, hanno continuato a colludere lo stesso, allineando i prezzi al centesimo attraverso una bacheca pubblica di listini.
Ora spostatelo nella vostra azienda. Il vostro strumento di prezzatura, il vostro bot di marketplace, il vostro agente per gli acquisti. Chiedete al vostro consulente legale quale sia la vostra risposta quando un regolatore domanda chi ha fissato il minimo.
L’altro risultato che un consiglio dovrebbe leggere due volte riguarda l’uniformità. Quando gli agenti condividono un modello, un’impalcatura di prompt o un contesto, convergono. Diciotto agenti su trenta hanno creato in modo indipendente rami git con nomi identici. In un compito di scrittura, diversi hanno prodotto un testo con lo stesso titolo. La conclusione di Anthropic: «What would have been isolated problems can quickly become systemic failures».
La diversità di giudizio è un controllo che credevate di avere. Trenta agenti che girano sullo stesso modello vi danno un’opinione sola, trenta volte.
Che cosa cambia nel modo in cui comprate agenti AI?
| Come comprate AI oggi | Che cosa serve in più secondo lo studio | |
|---|---|---|
| Unità di valutazione | Uno strumento, un fornitore, un pilota | La popolazione di agenti e come si incontrano |
| Domanda sul rischio | Questo modello dirà una cosa sbagliata? | Che succede quando due dei nostri vogliono l’opposto? |
| Responsabile | Il reparto che l’ha comprato | Nessuno possiede lo spazio fra i reparti |
| Collaudo | L’agente da solo, contro un benchmark | Gli agenti insieme, con ordini in conflitto |
| Guasto che prevedete | Un agente che sbaglia | Trenta agenti che sbagliano allo stesso modo |
A luglio abbiamo scritto del divario fra installare gli agenti e governarli. Questo studio misura che cosa abita dentro quel divario.
E in Europa?
Le aziende europee stanno più vicine a questa storia di quelle americane, per un motivo che con la tecnologia non c’entra. La prezzatura algoritmica incontra il diritto della concorrenza, e il diritto della concorrenza non accetta un software sul banco degli imputati. Se i vostri agenti si assestano su un prezzo minimo, un regolatore europeo chiede ai vostri amministratori com’è successo.
Sopra a questo il regolamento europeo sull’AI aggiunge obblighi di governo, e raggiunge le aziende svizzere per portata extraterritoriale invece che in automatico: vale quando immettete AI sul mercato dell’Unione o quando qualcuno usa lì il risultato. Le imprese svizzere senza quell’esposizione seguono la via più leggera della convenzione del Consiglio d’Europa. In entrambi i casi la domanda che un consiglio svizzero o europeo si trova davanti nel 2026 è la stessa, e non è una domanda tecnica.
Che cosa fare adesso
- Contate i vostri agenti e date un responsabile all’insieme. Non a ogni strumento: all’insieme. Elencate ogni agente attivo oggi, quale reparto l’ha comprato, su quale modello gira e che cosa può raggiungere. Quasi ogni azienda scopre due agenti che toccano lo stesso sistema.
- Trovate le coppie con istruzioni opposte. Un agente di prezzatura a cui avete chiesto di difendere il margine e un agente commerciale a cui avete chiesto di chiudere contratti hanno ordini in conflitto. Scrivete che cosa succede quando si incontrano, prima che si incontrino.
- Rompete l’uniformità dove la decisione pesa. Se un solo modello redige, approva e verifica lo stesso lavoro, avete un’opinione sola con tre cappelli. Mettete un modello diverso, o una persona, sull’ultimo passaggio.
- Fate al fornitore la domanda multi-agente, per iscritto. Come si comporta questo agente quando un altro agente lo blocca, e che cosa avete collaudato? Lo studio mostra che la risposta cambia fra versioni del modello, quindi mettete la versione nel contratto.
Domande frequenti
È successo a un’azienda vera?
No. Anthropic ha condotto questi esperimenti nel proprio laboratorio, in condizioni controllate, e ne ha pubblicato i risultati. Nessun cliente ha subito un cartello né una guerra fra agenti. Il valore dello studio sta nel mostrare il guasto prima che qualcuno lo incontri in produzione.
Vuol dire che gli agenti AI sono pericolosi da installare?
Lo studio punta all’interazione fra agenti, non a un singolo modello. Un agente che fa un lavoro sotto sorveglianza è la situazione che tutti hanno collaudato. Il risultato di Anthropic è che la sicurezza a quel livello dice poco su che cosa succede quando i vostri agenti si incontrano fra loro.
La collusione sui prezzi è illegale?
Il comportamento è comparso in una simulazione, quindi nessun illecito è avvenuto. La domanda per la vostra azienda è un’altra e vale la pena porla subito al legale: se domani agenti che avete installato concordassero un prezzo minimo, chi ne risponderebbe?
Ci salviamo usando un fornitore solo per tutto?
Quello scambio vale in due sensi. Un fornitore unico rende il coordinamento più facile e l’uniformità peggiore, perché gli agenti che condividono un modello convergono sulla stessa risposta. Anthropic l’ha misurato con diciotto agenti su trenta che sceglievano nomi di ramo identici.
Quanti agenti servono perché la cosa conti?
Due. La guerra fra bande ne ha richiesti tre, la collusione sui prezzi è partita da tre, ed entrambi gli effetti nascono da agenti con obiettivi che non stanno insieme. Anthropic si aspetta che il traffico fra agenti superi quello fra umani prima che il settore capisca come farlo funzionare bene.
Chi, nella vostra azienda, è responsabile di quello che succede fra due agenti AI?
Fonti
- Anthropic Frontier Red Team, «Multiagent Systems», 13 agosto 2026 (ricerca primaria).
- TechCrunch, «Anthropic set AI agents loose on the same task. They started a turf war.», 13 agosto 2026.
- SecurityWeek, «Conflicting Test Goals Pushed Claude Agents to Deploy Self-Replicating Malware», 17 agosto 2026.
- Unite.AI, «Anthropic Red Team Finds Claude Agent Swarms Collude, Conform, and Sabotage», agosto 2026.
