Chiunque abbia ritoccato una fotografia al computer conosce lo strumento «curve». Parte come una linea diagonale, e tu la pieghi: abbassi un tratto per scurire le ombre, ne alzi un altro per schiarire le luci. Ogni piega ridisegna il modo in cui una luminosità in entrata diventa una luminosità in uscita. Quella linea piegata a piacere ha un nome in matematica: si chiama spline. Ora immaginate una rete neurale in cui ogni singola connessione tra due neuroni non sia un numero, ma una di queste curve modellabili, imparata dai dati. Non è un esercizio di fantasia: è l’idea che regge le Kolmogorov-Arnold Networks, o KAN. Un gruppo di ricercatori della KLE Technological University di Hubballi, in India, ha provato a chiedersi quanto valga davvero questa idea, mettendola a confronto con l’architettura che domina il campo da decenni.
Cosa c’era prima: il percettrone multistrato
Per capire la posta in gioco serve sapere cosa le KAN vorrebbero affiancare, o rimpiazzare. Il termine di paragone è il percettrone multistrato — Multi-Layer Perceptron, MLP —, il cavallo da tiro delle reti neurali. In un MLP le connessioni tra neuroni sono semplici numeri, i pesi: ogni segnale che passa viene moltiplicato per un fattore, «×0,7», e nient’altro. La parte non lineare, quella che permette alla rete di apprendere funzioni complicate, vive nei nodi ed è fissa: una stessa forma prestabilita — la celebre ReLU, o una sua parente — applicata identica a tutti. Addestrare un MLP significa regolare quei numeri sugli archi, lasciando immutate le forme. Funziona: un teorema garantisce che, con abbastanza neuroni, un MLP può approssimare qualunque funzione continua. Ma la flessibilità è tutta scaricata sulla quantità.
Le KAN, introdotte da Ziming Liu e colleghi nel 2024, ribaltano lo schema. La forma non lineare non sta più nei nodi ma sugli archi, ed è appresa: ogni connessione porta la sua curva. I nodi, di rimando, si limitano a sommare. È un cambio di indirizzo dell’apprendimento — dai numeri alle forme — che il paper della KLE prende sul serio, chiedendosi non se sia elegante ma se, alla prova dei conti, renda: più accurato e meno costoso, oppure no.
Il teorema che dà il nome
Il fondamento teorico è un risultato di metà Novecento dovuto ad Andrey Kolmogorov e Vladimir Arnold. In forma discorsiva dice qualcosa di sorprendente: qualunque funzione continua di più variabili si può riscrivere come somma di funzioni di una sola variabile. Niente termini che mescolano gli ingressi tra loro, solo curve a un ingresso, sommate. In formula:
$$f(x_1,\dots,x_n)=\sum_{q=1}^{2n+1}\phi_q\!\left(\sum_{p=1}^{n}\phi_{p,q}(x_p)\right)$$
Le lettere greche $\phi$ sono proprio quelle curve univariate. È come scomporre una ricetta complicata in tante preparazioni a un solo ingrediente, ciascuna svolta a parte, e poi rimescolarle alla fine. Per decenni il teorema è rimasto una curiosità: le funzioni che tira fuori possono essere ruvide, frastagliate, poco pratiche da usare. Le KAN lo riportano in vita sostituendo quelle curve ideali con spline addestrabili — le stesse dello strumento «curve» —, e impilando più strati invece di fermarsi ai due previsti dalla versione originale.
Nel dettaglio, ogni funzione sull’arco è la somma di due pezzi: una funzione di base fissa, la SiLU $b(x)=\mathrm{silu}(x)=x/(1+e^{-x})$, e la spline vera e propria, l’ingranaggio che si deforma imparando dai dati:
$$\phi(x)=w_b\,b(x)+w_s\sum_i c_i B_i(x)$$
I coefficienti $c_i$ sono i punti di controllo che decidono la forma della curva; addestrare la rete vuol dire spostarli. Una proprietà interessante è che la griglia su cui vive la spline può essere infittita in corsa, passando dal grezzo al fine senza ripartire da zero — un po’ come un disegnatore che prima abbozza e poi rifinisce.
Nell’MLP la parte che si apprende sono i numeri sugli archi, mentre la curva di attivazione nei nodi è fissa e uguale per tutti. Nella KAN è il contrario: ogni arco porta una funzione appresa, e i nodi si limitano a sommare.
La prova dei numeri
Il confronto si gioca su quattro dataset volutamente eterogenei e — va detto subito — piccoli. Due sono giochi matematici: approssimare il quadrato e il cubo di una manciata di numeri, quindici righe ciascuno. Uno è una serie storica di previsione, le temperature minime giornaliere, 3.651 osservazioni, con l’obiettivo di indovinare il minimo del giorno dopo. L’ultimo è il classico Wine dataset, 178 vini descritti da tredici attributi chimici da smistare in tre categorie. Su ognuno gli autori misurano due cose: l’accuratezza — errore quadratico medio (MSE) per le regressioni, percentuale di risposte esatte per la classificazione — e il costo di calcolo in FLOPs, il numero di operazioni in virgola mobile.
Sui due giochi matematici il divario è netto e va tutto nella stessa direzione. Sul cubo la KAN scende a un MSE di 15,27 contro i 2.599,59 dell’MLP, usando 0,357 contro 40 migliaia di FLOPs: oltre il 99% di operazioni in meno. Sul quadrato l’errore cala dell’80% circa (0,17 contro 0,89) e i FLOPs si riducono del 99,71%. Qui la promessa è mantenuta in pieno: più preciso e quasi gratis.
Sugli altri due compiti la storia è più sfumata, ed è la parte onesta del paper. Sulle temperature la KAN dimezza abbondantemente l’errore (MSE 1,42 contro 7,06, circa l’80% in meno), ma il risparmio di calcolo sparisce: 25,28 contro 24,20 migliaia di FLOPs, cioè il 4,5% in più. Sulla classificazione dei vini la KAN è più accurata — 98,43% contro 96,30% —, un margine reale ma modesto di poco più di due punti; e stavolta costa parecchio di più, 4,21 contro 0,75 migliaia di FLOPs, quasi sei volte tanto. Il titolo «99% di calcolo in meno» resta vero soltanto per i due esercizi aritmetici; sui due compiti più realistici la KAN vince in accuratezza ma paga di più, non di meno.
Quanto pesano questi numeri
Il paper è utile proprio perché non nasconde queste asimmetrie, ma conviene tenere a mente i suoi limiti prima di trarne conclusioni. I dataset sono minuscoli: quindici numeri non sono un banco di prova per un’architettura, e nemmeno 178 vini. Non c’è alcun test su larga scala, quello dove le differenze di efficienza contano davvero. La procedura, poi, è particolare: gli autori dichiarano di aver regolato a mano entrambi i modelli — strati, neuroni, dimensioni della griglia, grado delle spline — finché non raggiungevano prestazioni confrontabili, e solo allora hanno messo a confronto i costi. È un paragone tra due configurazioni scelte, non tra due architetture in astratto. I FLOPs, inoltre, sono stimati con metodi diversi per i due modelli — una formula analitica per le spline della KAN, una libreria di profiling per l’MLP —, il che invita a leggere le percentuali come ordini di grandezza più che come misure al decimale. E buona parte dello sfondo teorico, figure comprese, è ripresa dai lavori originali sulle KAN, non prodotta qui.
C’è anche un limite strutturale che gli stessi autori segnalano, ed è istruttivo. La spline funziona solo dentro l’intervallo su cui è definita la sua griglia. Se durante il calcolo un valore esce da quell’intervallo e la griglia non viene aggiornata, la funzione appresa smette di contare e la KAN, di fatto, torna a comportarsi come un MLP con attivazione SiLU. La curva raffinata, spinta fuori dai suoi argini, ridiventa la retta che voleva superare.
Il vantaggio della KAN non è un pasto gratis: sui giochi matematici è schiacciante, sui compiti reali è reale ma parziale.
Perché guardarci comunque
Al di là dei numeri, l’interesse delle KAN sta in una promessa che questo paper cita ma non misura: l’interpretabilità. Poiché ogni arco è una curva a un ingresso, la si può osservare, semplificare, a volte ridurre a una formula leggibile — un seno, un’esponenziale — invece che a una matassa di pesi. In un settore che fatica a spiegare le proprie reti, poter leggere cosa ha imparato una connessione è un valore in sé, e spiega perché queste architetture attirino chi lavora su sistemi ad alto rischio o su hardware minuscolo, dove ogni operazione conta.
La lezione più utile, però, è metodologica. Un lavoro come questo non annuncia una rivoluzione: prende un’idea molto pubblicizzata e la mette alla prova su compiti misurabili, riportando anche i casi in cui il vantaggio si assottiglia o si rovescia. È il contrario dell’hype. Le KAN non sono, sulla base di queste prove, un rimpiazzo universale dell’MLP; sono un’alternativa promettente il cui conto torna benissimo su certi problemi e meno su altri. Sapere quali, esattamente, è la domanda da porsi prima di scommetterci — e ci si risponde con esperimenti onesti, non con proclami.
Il paper
Aradhya Gaonkar, Nihal Jain, Vignesh Chougule, Nikhil Deshpande, Sneha Varur, Channabasappa Muttal, Kolmogorov Arnold Networks and Multi-Layer Perceptrons: A Paradigm Shift in Neural Modelling, KLE Technological University, gennaio 2026. Disponibile su arXiv: arxiv.org/abs/2601.10563.
I commenti sono riservati agli iscritti.
Accedi per commentare