Il direttore d’orchestra è l’unico, sul palco, a non produrre un solo suono. Per tutta la durata del concerto non tocca uno strumento: il suo mestiere è decidere chi deve suonare, quando, e con quanta forza. Coordina decine di musicisti quasi tutti, presi uno per uno, più bravi di lui su quel particolare strumento. Eppure senza di lui l’insieme si sfalda. È l’immagine giusta per capire ToolOrchestra, un lavoro firmato NVIDIA e Università di Hong Kong uscito a fine novembre 2025: al centro di un sistema di intelligenza artificiale non serve per forza il modello più grande e più costoso. Può bastare un modello piccolo, purché sappia dirigere gli altri.
Il monolite e il suo conto
Fino a oggi la ricetta prevalente per gli agenti AI è stata una sola: prendere un modello molto potente — GPT-5, Claude Opus — e dargli in mano qualche attrezzo di base, tipicamente un motore di ricerca e un interprete di codice. Un solista che fa tutto da sé, con qualche accessorio. Funziona, ma spreca. Il modello di frontiera è caro e lento, e usarlo per ogni singolo passo di un compito equivale a chiamare il primario per misurare la febbre. Molte delle sotto-attività di un problema complesso — cercare una definizione, fare un conto, eseguire un frammento di codice — non richiedono affatto il cervello più costoso del mercato.
La proposta del paper ribalta lo schema. L’intelligenza, sostengono gli autori, non deve emergere da un monolite ma da un sistema composito. Al centro sta un orchestratore, il cui unico compito è invocare lo strumento giusto, nell’ordine giusto. E la lista degli strumenti si allarga: non più solo ricerca web e calcolatrice, ma anche altri modelli di intelligenza e costo diversi — un modello specializzato in matematica, uno per il codice, e all’occorrenza un generalista di frontiera. Ogni strumento ha un prezzo. La sfida dell’orchestratore è decidere quali chiamare per risolvere il compito spendendo il meno possibile, rispettando anche le preferenze di chi pone la domanda.
Perché non basta chiedere gentilmente
La via più semplice sarebbe prendere un modello già pronto e istruirlo con un prompt: «delega ai modelli più forti solo quando serve». Gli autori l’hanno provata, e non tiene. Un GPT-5 usato come orchestratore tende a delegare in modo sproporzionato al fratello minore GPT-5-mini — circa il 73% delle chiamate ad altri modelli finisce lì. Gli autori lo chiamano self-enhancement bias, il pregiudizio a preferire varianti di sé stessi. Un piccolo Qwen3-8B, al contrario, si appoggia pesantemente a GPT-5 per quasi tutto, cioè sceglie sempre l’opzione più potente ignorando il costo. In entrambi i casi lo smistamento è viziato. Da qui la conclusione: orchestrare bene non è un comportamento che si ottiene con un’istruzione, va addestrato.
Come si allena un direttore
L’orchestratore di ToolOrchestra è un modello da 8 miliardi di parametri (parte da Qwen3-8B) addestrato con reinforcement learning. Di fronte a un compito, alterna ragionamento e chiamata di strumento in un ciclo che si ripete — ragiona, chiama un attrezzo, legge la risposta, ragiona di nuovo — fino a un massimo di 50 turni. Tutti gli strumenti, comprese le API, i modelli specializzati e i generalisti, sono esposti dietro un’unica interfaccia uniforme: ciascuno si presenta con un nome, una descrizione e i parametri che accetta. Anche gli altri modelli vengono descritti come fossero funzioni, con una scheda che ne riassume punti di forza e debolezze.
Il cuore del metodo è come si assegna il voto a ogni tentativo. Non conta solo se il compito è stato risolto. La ricompensa combina tre obiettivi. Il primo è l’esito: un premio binario, uno o zero, con GPT-5 usato come giudice per confrontare la risposta con quella attesa. Il secondo è l’efficienza: si penalizzano due voci, la spesa e il tempo di calcolo, in simboli $r_{\text{compute}}(\tau) = -\,\mathrm{costo}(\tau)$ e $r_{\text{latency}}(\tau) = -\,\mathrm{Clock}(\tau)$, dove i token in ingresso e in uscita di ogni modello vengono convertiti in denaro secondo i listini reali delle API. Il terzo è la preferenza dell’utente: chi fa la domanda può dire «voglio contenere i costi» oppure «usa la ricerca locale per privacy», e il sistema ne tiene conto a ogni passo.
Questi ingredienti si fondono in un solo numero. Per ogni tentativo si costruisce un vettore che conta quante volte è stato usato ciascuno strumento, più esito, costo e latenza; lo si normalizza rispetto agli altri tentativi dello stesso gruppo, e lo si moltiplica per il vettore di preferenze $P$ (un valore fra 0 e 1 per ciascuna voce, che dice quanto quell’aspetto sta a cuore all’utente):
$$R(\tau) = M^{\tau}_{\text{norm}} \cdot P \qquad \text{se il compito è risolto, altrimenti } 0$$
La moltiplicazione per il vettore di preferenze è la parte elegante: se l’utente mette a uno la voce «costo», il modello viene premiato per aver risparmiato; se privilegia un certo strumento, viene premiato per averlo usato. E il tutto è azzerato quando la risposta è sbagliata: nessuno sconto per un fallimento economico. L’addestramento vero e proprio usa GRPO, un algoritmo che confronta ogni tentativo con i «fratelli» generati sullo stesso compito e ne calcola il vantaggio relativo:
$$A(\tau) = \frac{R(\tau) – \operatorname{mean}_{\tau\in\mathcal{T}} R(\tau)}{\operatorname{std}_{\tau\in\mathcal{T}} R(\tau)}$$
Per avere abbastanza compiti su cui allenarsi — dati verificabili di questo tipo scarseggiano — gli autori costruiscono un dataset sintetico, ToolScale: un modello genera prima ambienti realistici (schemi di database, API di strumenti) su dieci domini, poi compiti diversi con la loro soluzione corretta. Il dataset sarà rilasciato pubblicamente.
Lo stesso lavoro, due economie diverse. Il monolite paga il prezzo pieno a ogni passo; l’orchestratore delega il grosso a strumenti economici e chiama il modello di frontiera solo dove conta. I costi sono la media su HLE e FRAMES riportata nel paper, in centesimi di dollaro.
I numeri, letti con calma
Il banco di prova principale è HLE, Humanity’s Last Exam, una raccolta di domande volutamente difficili su molte discipline. Qui l’Orchestrator da 8B tocca il 37,1%, contro il 35,1% di GPT-5 dotato degli stessi attrezzi di base — e il paper lo dichiara 2,5 volte più efficiente. La differenza di spesa è concreta: circa 9,2 centesimi di dollaro per compito contro i 30,2 di GPT-5, con una latenza media di 8,2 minuti contro 19,8. Sugli altri due benchmark il quadro è coerente: 76,3 su FRAMES (fattualità) e 80,2 su τ²-Bench (chiamata di funzioni), in entrambi i casi sopra GPT-5 e con circa un terzo del costo. Su τ²-Bench l’orchestratore chiama il modello grande in appena il 40% circa dei passi, usando per il resto strumenti più economici, e ciò nonostante fa meglio di un agente che si affida a GPT-5 a ogni passo.
Il dato forse più interessante riguarda gli strumenti mai visti. Messo davanti a modelli che non erano nel suo addestramento — Claude Opus e Sonnet, Gemma, Codestral — l’Orchestrator continua a smistare bene, leggendo le schede descrittive per capire a chi affidare cosa: 22,0% su HLE al costo più basso del gruppo (circa 34,8 centesimi) contro il 16,4% di GPT-5 a più del doppio della spesa. La capacità di orchestrare, insomma, sembra trasferirsi a un parco strumenti nuovo.
Dove il confronto va maneggiato
Gli autori sono onesti su un paio di punti che meritano attenzione. I risultati su HLE si riferiscono al sottoinsieme di sole domande testuali, non all’esame completo su cui sono riportati i numeri «ufficiali» degli altri modelli: confrontare 37,1% e 35,1% è quindi legittimo solo tenendo a mente che sono misurati sullo stesso sottoinsieme, non sul benchmark intero. Più netto è il caso di τ²-Bench: il paper ammette di non essere riuscito a riprodurre il punteggio dichiarato di GPT-5 (84,2), fermandosi a 77,7 nei propri esperimenti. L’80,2 dell’Orchestrator batte quindi il GPT-5 ricostruito in casa, ma resta sotto il numero pubblicato ufficialmente. È una distinzione che cambia il tono del titolo.
Ci sono altri limiti strutturali. Il giudice che assegna il premio d’esito è a sua volta un modello, GPT-5, con tutte le fragilità del caso. I dati di addestramento sono sintetici, e valgono quanto i modelli che li hanno generati. E soprattutto: l’orchestratore non rende GPT-5 più economico, lo chiama solo di meno. Il tetto d’intelligenza del sistema resta fissato dal miglior strumento disponibile nella lista — il direttore non suona, e se in orchestra manca il primo violino nessuna bacchetta lo rimpiazza. Va infine ricordato che è ricerca NVIDIA, allineata a una tesi che gli stessi autori sostengono altrove: i piccoli modelli sono il futuro degli agenti. Una posizione ragionevole, ma è bene sapere da dove arriva.
Perché conta comunque
Al netto delle asterischi, la scommessa di ToolOrchestra è architetturale, e interessante proprio per questo. Dice che l’intelligenza utile di un sistema può nascere dalla composizione più che dalla taglia: non il modello più grande per ogni cosa, ma un buon smistatore che sa quando serve il costoso e quando basta l’economico. Se la tesi regge oltre i benchmark, l’economia degli agenti AI cambia forma — meno «un cervello enorme per tutto», più «un coordinatore accorto sopra molti esperti». C’è poi un dettaglio spesso trascurato che qui diventa protagonista: costo e preferenze dell’utente entrano nell’addestramento come obiettivi di prima classe, non come ripensamenti. In un mondo che discute di quanto costi far girare questi sistemi, un modello che si lascia dire «spendi meno» e obbedisce non è un dettaglio da poco. Il direttore, in fondo, lavora per chi ha comprato il biglietto.
Il paper
Hongjin Su, Shizhe Diao et al. (NVIDIA, University of Hong Kong), ToolOrchestra: Elevating Intelligence via Efficient Model and Tool Orchestration, novembre 2025. Disponibile su arXiv: arxiv.org/abs/2511.21689.
I commenti sono riservati agli iscritti.
Accedi per commentare