Mettete cento euro su un conto che rende interessi, e lasciateli lì. Il primo anno maturano un po’ di interessi; il secondo anno anche quegli interessi maturano interessi, e così via. È l’interesse composto: una curva che parte quasi piatta e a un certo punto impenna. L’idea di «esplosione di intelligenza» prende questa stessa figura e la applica alla mente delle macchine. Un sistema di AI diventa abbastanza bravo da progettare un sistema di AI migliore; quello, più capace, ne progetta uno migliore ancora, più in fretta di prima. Il matematico I.J. Good la descrisse già nel 1966; oggi la si chiama anche «singolarità» o «decollo», e resta una delle idee più discusse — e più derise — del settore.
Questo paper non prova a stabilire se quella curva impennerà davvero. Fa una cosa più modesta e, forse, più utile: prende venticinque persone che stanno costruendo proprio quei sistemi e chiede loro cosa ne pensano. Il risultato non è un pronostico. È la fotografia di un disaccordo.
Non un pronostico, ma una mappa
Severin Field, Raymond Douglas e David Krueger, del programma MATS di Berkeley, hanno condotto tra agosto e settembre 2025 venticinque interviste semi-strutturate da 40-60 minuti ciascuna, con ricercatori di laboratori di frontiera e accademici. Su 182 persone invitate, venticinque hanno accettato: fra loro figurano ricercatori legati a Google DeepMind, OpenAI, Anthropic, Meta, e alle università di Berkeley, Princeton e Stanford. Il campione è stato costruito di proposito eterogeneo — reclutato in tre modi diversi (dalla letteratura, dai workshop di NeurIPS e ICLR, e per passaparola) — e conta sette ricercatori attivi in laboratori di frontiera, quattro ex, nove accademici, tre nell’industria e due nel non profit.
La domanda di fondo è quella che di solito viene dibattuta agli estremi: sui social, tra chi promette la superintelligenza per l’anno prossimo e chi liquida tutto come marketing. Il valore di questo lavoro è togliere il tema dalla rissa e trasformarlo in una mappa: dove gli esperti convergono, dove si dividono, e soprattutto perché. Gli autori chiamano il fenomeno con una sigla, ASARA — AI Systems for AI R&D Automation — definendolo come «sistemi di AI capaci di contribuire in modo significativo allo sviluppo dei modelli di frontiera». Le risposte sono state anonimizzate e codificate a mano; per le quattro figure quantitative, gli autori dichiarano di aver usato un’AI (Claude) per classificare le posizioni dai trascritti.
ASARA: l’AI che fa ricerca sull’AI
Il nodo tecnico è semplice da enunciare. Se un sistema arriva a fare il lavoro che oggi svolgono i ricercatori di AI, allora quel sistema può contribuire a costruire il proprio successore: ecco il ciclo che, ripetuto, alimenta l’esplosione. Nessuno degli intervistati ha ancora visto un modello migliorarsi ricorsivamente in modo autonomo. Ma diciassette di loro hanno descritto lo stesso percorso a tappe verso quella meta, riassunto bene dal Partecipante 1: «Prima ottieni un modello davvero bravo a programmare. E un modello davvero bravo a programmare è già quasi bravissimo nella ricerca ML».
Il percorso su cui converge la maggioranza degli intervistati: lo strumento si emancipa per gradi da assistente a sviluppatore autonomo. È sul dopo — quando arriva la terza tappa, e quanto in fretta — che le previsioni divergono.
Il metro: quando ce ne accorgeremo
Se il percorso è condiviso, come si misura a che punto siamo? Il segnale più citato è concreto: la capacità di programmare. Il Partecipante 12 ha proposto una soglia netta — «se un modello riesce a generare diecimila righe di codice tutte corrette, puoi riscrivere gran parte di PyTorch». Diversi intervistati hanno ripreso un indicatore introdotto dal non profit METR pochi mesi prima: l’orizzonte temporale dei compiti, cioè la durata dei lavori che un agente riesce a portare a termine da solo. Il Partecipante 1 ci ha costruito sopra un calcolo: se quell’orizzonte raddoppia ogni quattro mesi (la tendenza osservata da METR dal 2024, alla soglia del 50%), allora la crescita si può mettere in fila come
$$H(t) = H_0 \cdot 2^{\,t/4}$$
dove $t$ è in mesi. Per passare dai compiti di un paio d’ore a progetti di ricerca da quaranta ore — dice lo stesso ricercatore — «forse servono altri cinque raddoppi»: e $2^5 = 32$, un fattore che quadra con quel salto. È un’estrapolazione dichiarata, non una legge; ma è l’unico numero che, in queste interviste, permette di «metterlo sul calendario». Altri hanno indicato segnali meno rassicuranti: la perdita di interpretabilità («quando non capiremo più come funziona il modello», Partecipante 6), o le prestazioni sovrumane nelle olimpiadi di matematica e informatica. Un punto ricorre in quindici trascritti: fra avere le idee e realizzarle, è la prima parte — l’intuizione, il «gusto» per la ricerca — che molti ritengono più difficile da automatizzare. Due intervistati spostano l’accento: il collo di bottiglia non è generare idee, ma saperle valutare.
Su cosa convergono, su cosa si dividono
Sul rischio, la convergenza è forte: venti intervistati su venticinque hanno indicato l’automazione della ricerca sull’AI come uno dei pericoli più gravi e urgenti. La ragione più citata (diciotto trascritti) è che si tratta di un «meta-rischio»: non un pericolo in più, ma un moltiplicatore di tutti gli altri. «Il miglioramento ricorsivo migliora ogni capacità in blocco», ha spiegato il Partecipante 2; «è come una preoccupazione che ne contiene tutte le altre». Segue, in diciassette trascritti, il timore che lo sviluppo corra più veloce della nostra capacità di capirlo e regolarlo.
Poi comincia il disaccordo. Solo due intervistati hanno respinto del tutto la possibilità del miglioramento ricorsivo, ma sedici hanno espresso scetticismo verso lo scenario di crescita esplosiva, per ragioni tecniche: il limite del calcolo (undici trascritti) e quello dei dati (cinque). Ancora più netta è la divisione su un punto pratico e poco discusso: dove finiranno questi sistemi. Diciassette intervistati su venticinque si aspettano che le capacità più avanzate restino a uso interno delle aziende — o dei governi — invece di essere rilasciate al pubblico. Fra chi ha affrontato la domanda in modo esplicito, circa la metà prevede il confinamento interno e solo uno su cinque un rilascio pubblico. La logica è economica prima ancora che strategica: «centomila dollari di calcolo possono valere un milione di dollari di stipendio di un ricercatore» (Partecipante 10). Sul fronte opposto, chi prevede il rilascio pubblico cita la pressione finanziaria: come ha detto un fondatore di startup, i laboratori «devono raccogliere altri 20 miliardi di dollari ogni anno», e per farlo serve mostrare ricavi.
Lo scisma tra Silicon Valley e l’accademia
La spaccatura più interessante, però, non è sui numeri: è epistemica, e corre lungo i confini istituzionali. Tutti i ricercatori dei laboratori di frontiera hanno raccontato di discutere regolarmente di miglioramento ricorsivo sul lavoro, incoraggiati dall’alto. «I leader sono consapevoli di queste preoccupazioni e ne parlano apertamente», ha detto il Partecipante 6. Gli accademici descrivono il contesto opposto. «Non credo nemmeno che la maggioranza dei ricercatori AI pensi a questo problema», ha ammesso un dottorando; un altro racconta che sollevare certi temi in ambito accademico significa rischiare «di essere derisi come un po’ svitati», mentre le stesse idee circolano «piuttosto liberamente nella Silicon Valley».
Le due parti spiegano la distanza in modi speculari. Chi è dentro i laboratori parla di un’evidenza «viscerale» del progresso esponenziale, vissuta in prima persona. Chi è fuori ricorda che l’AI ha «una reputazione da promesse mancate» e che nell’accademia lo scetticismo è un valore culturale: «se non stai criticando, vuol dire che non ne sai abbastanza». Gli intervistati con esperienza delle comunità cinesi ed europee riferiscono un atteggiamento ancora più prudente: in Cina, dice un professore, l’attenzione è «molto orientata alle applicazioni — vogliono usare l’AI per fare soldi», non per riscrivere il mondo.
Linee rosse o trasparenza
Sull’ultima parte — cosa fare — gli intervistati si dividono di nuovo. Le «linee rosse», soglie che se superate dovrebbero far scattare una risposta forte di aziende o governi, trovano tanti sostenitori quanti scettici. Anche i favorevoli riconoscono tre nodi. Il primo è di definizione: «più concretizzi la linea rossa, più si scolla dal rischio astratto che ti preoccupa» (Partecipante 24). Il secondo è di verifica: costringere qualcuno a dimostrare di rispettarle sarebbe «un incubo», e distinguere l’auto-miglioramento da una banale ottimizzazione del compilatore è quasi impossibile. Il terzo è di tempismo: fissarle troppo presto frena lo sviluppo utile, troppo tardi le rende inutili. Un ex ricercatore le ha definite «il supervisore più stupido possibile, ma il più affidabile».
Per questo molti preferiscono un’altra strada, la trasparenza: obbligo di rendicontazione sui progressi nell’automazione, maggiore visibilità sui rilasci interni, mantenimento di una supervisione umana significativa. «Preferirei report e monitoraggio obbligatori a linee rosse rigide», ha detto il Partecipante 25, «così da conservare la visibilità su ciò che accade». Quasi tutti, in una forma o nell’altra, si sono ritrovati su questo punto — anche chi diffida delle regole nette come il divieto, proposto dal cosiddetto consenso IDAIS di Pechino, di far sì che «nessun sistema di AI copi o migliori sé stesso senza esplicita approvazione umana».
I limiti, dichiarati dagli autori stessi
La forza dello studio sta anche nell’onestà con cui ne segna i confini. Il campione non è casuale: è stato scelto per massimizzare la diversità di vedute fra ricercatori d’élite, il che aiuta la ricchezza ma non la rappresentatività. La codifica dei trascritti è stata fatta da un solo autore, senza calcolo dell’affidabilità fra codificatori. E il tutto è una fotografia descrittiva di un momento preciso — l’estate del 2025 — non una previsione. Gli autori sono espliciti: non pretendono di dimostrare alcun consenso, ma di far emergere le ragioni per cui persone competenti si aspettano esiti così diversi.
Perché leggerlo oggi
Il dato più forte del paper non è un numero, ma la forma delle convinzioni. Chi è più vicino alla frontiera crede di più nell’esplosione di intelligenza e ne discute apertamente, dentro le mura dei laboratori; chi la osserva da fuori è più scettico e ne parla meno. Se poi i sistemi più capaci resteranno davvero riservati — come si aspettano diciassette intervistati su venticinque — allora lo scrutinio esterno si assottiglierà proprio quando conterebbe di più. Non è un problema tecnico ma di governance, e questo studio lo mostra con una precisione che i post infuocati non hanno. La lezione, per chi legge da fuori, è di diffidare tanto delle profezie quanto delle liquidazioni: la discussione seria non è tra chi ha ragione e chi ha torto, ma tra mondi che raccolgono prove diverse e immaginano futuri diversi. Tenerli nello stesso tavolo, suggeriscono gli autori, è forse la prima cosa da fare.
Il paper
Severin Field, Raymond Douglas, David Krueger, AI Researchers’ Perspectives on Automating AI R&D and Intelligence Explosions, ML Alignment and Theory Scholars Program, Berkeley, 2026. Disponibile su arXiv: arxiv.org/abs/2603.03338.
I commenti sono riservati agli iscritti.
Accedi per commentare