Provate a moltiplicare 47 per 83 a voce, subito, senza fermarvi. Poi riprovate con carta e penna. Il secondo tentativo è più lento, ma quasi certamente più giusto. Per anni ai modelli linguistici abbiamo chiesto solo il primo tipo di risposta: il token successivo, immediatamente, con la stessa quantità di calcolo sia per completare «il cielo è» sia per dimostrare un teorema. I reasoning model nascono dall’idea opposta: dare al modello carta e penna, e lasciarlo scrivere prima di rispondere.
Il termine tecnico per questa carta e penna è test-time compute: calcolo speso al momento dell’uso, non dell’addestramento. Ed è probabilmente il cambiamento più rilevante nel modo di costruire modelli linguistici dal 2024 a oggi.
Due modi di rispondere
Un modello linguistico classico produce la risposta token dopo token, e ogni token costa lo stesso: un passaggio in avanti attraverso la rete. Se la domanda richiede dieci passaggi logici, il modello deve in qualche modo comprimerli tutti dentro quella singola passata — come uno studente costretto a rispondere all’orale nell’istante in cui il professore finisce la domanda.
Un reasoning model, prima di dare la risposta, genera una catena di ragionamento: prova approcci, fa calcoli intermedi, si accorge di un errore, torna indietro, verifica. Questi token «di pensiero» spesso non vengono nemmeno mostrati per intero all’utente, ma vengono pagati: sono calcolo vero, tempo vero, denaro vero. In cambio, sui problemi difficili — matematica, codice, logica — l’accuratezza sale in modo netto.
OpenAI, presentando o1 nel 2024, ha reso esplicito il punto chiave: le prestazioni migliorano sia con più addestramento, sia con più tempo di riflessione al momento della risposta. Sono due manopole diverse. La seconda si può girare senza riaddestrare nulla.
Sui problemi che richiedono più passaggi logici, l’accuratezza di un reasoning model cresce con il budget di token di ragionamento — ma la curva si appiattisce: ogni raddoppio di «pensiero» rende meno del precedente.
Da dove viene la capacità di ragionare
Il precursore è il chain-of-thought prompting: già nel 2022 si era osservato che chiedere a un modello di «pensare passo passo» migliorava le risposte sui problemi a più passaggi. Ma lì il ragionamento era un trucco di prompt, fragile e non ottimizzato. I reasoning model lo trasformano in un comportamento addestrato.
La ricetta resa pubblica con più dettaglio è quella di DeepSeek-R1, all’inizio del 2025: reinforcement learning su problemi con risposta verificabile. Si danno al modello esercizi di matematica e di programmazione dove la correttezza si può controllare automaticamente — il risultato numerico coincide, i test del codice passano — e lo si premia quando arriva alla risposta giusta. Non gli si insegna come ragionare: lo si premia quando il ragionamento funziona. Comportamenti come il ricontrollare i passaggi o il tornare sui propri passi emergono dall’addestramento, perché aumentano la probabilità del premio.
Non gli si insegna come ragionare: lo si premia quando il ragionamento funziona. Il resto emerge da solo.
L’analogia più onesta è l’allenamento sportivo, non la lezione frontale. Un allenatore di tennis può spiegare il rovescio a parole, ma il colpo si forma con migliaia di palle e un feedback semplice: dentro o fuori. Il reinforcement learning con ricompense verificabili è quel campo da tennis: milioni di problemi, un segnale binario, e la tecnica che si sedimenta.
Test-time compute oltre la catena singola
Generare una catena di pensiero più lunga è solo il modo più diretto di spendere calcolo al momento della risposta. Ce ne sono altri: campionare più soluzioni indipendenti e far votare la maggioranza (self-consistency), generare molte candidate e usare un verificatore per scegliere la migliore, o esplorare l’albero delle possibili strade di ragionamento potando quelle poco promettenti. Tutte queste strategie condividono la stessa logica contabile: spostare parte del budget dal «modello più grande» al «modello che prova di più».
È un cambio di prospettiva rilevante per l’economia del settore. Per anni la strada maestra per migliorare era addestrare modelli più grandi su più dati: un costo enorme, pagato una volta. Il test-time compute introduce un’alternativa: modelli anche più piccoli, che però spendono di più su ogni singola domanda difficile. Il costo si sposta dall’addestramento all’inferenza, e diventa proporzionale all’uso.
Dove la curva si piega
La parte intellettualmente onesta del discorso è che la curva non sale per sempre. I rendimenti sono decrescenti: raddoppiare i token di ragionamento non raddoppia l’accuratezza, e su molti compiti — scrivere un’email, riassumere un documento, rispondere a una domanda di cultura generale — il pensiero lungo non aggiunge quasi nulla, mentre il costo e la latenza salgono eccome. Un modello che riflette trenta secondi per dirvi che ore sono non è più intelligente: è solo più caro.
C’è anche un limite più sottile: il ragionamento che leggiamo non è necessariamente il processo che ha prodotto la risposta. La catena di pensiero è essa stessa testo generato, e può essere una razionalizzazione plausibile più che un resoconto fedele. È un tema aperto per chi si occupa di interpretabilità, e una ragione per non trattare quei passaggi come una garanzia di correttezza.
Perché vi riguarda
Se usate modelli linguistici per lavoro, il test-time compute è ormai una scelta che fate ogni giorno, anche senza saperlo: molti servizi offrono varianti «veloci» e varianti «che ragionano», con prezzi e tempi diversi, e alcuni permettono di regolare quanto a lungo il modello può pensare. La domanda da farsi è la stessa della moltiplicazione all’inizio: questo problema merita carta e penna, o basta la risposta al volo? Pagare il pensiero lungo per compiti banali spreca denaro; lesinarlo sui problemi a più passaggi produce risposte sbagliate con grande sicurezza. Saper dosare la riflessione — la propria e quella delle macchine — sta diventando una competenza professionale in senso stretto.
I commenti sono riservati agli iscritti.
Accedi per commentare