DINOv3: la visione self-supervised che non ha più bisogno di etichette

Un bambino impara a distinguere un gatto da un cane molto prima di sapere che si chiamano «gatto» e «cane». Guarda, tocca, confronta, e costruisce da solo un ordine del mondo visivo: questa cosa pelosa somiglia a quell’altra, questa superficie è diversa da quella. Nessuno gli mette un’etichetta addosso a ogni oggetto della stanza. La computer vision, per quasi tutta la sua storia, ha fatto l’opposto. Per insegnare a una rete a riconoscere una strada, un tumore o un volto, qualcuno doveva prima etichettare a mano milioni di immagini: questo è un cane, questo è un pixel di cielo, questo di asfalto. È come pretendere di imparare una lingua solo dopo che qualcuno ha compilato a mano, parola per parola, l’intero dizionario. Il collo di bottiglia non è mai stata la rete. È sempre stata l’etichetta.

DINOv3, il modello presentato in un technical report di Meta AI nell’agosto 2025, prova a togliere del tutto l’etichetta dal tavolo. È un modello di visione da 7 miliardi di parametri addestrato in modalità self-supervised, cioè senza una sola annotazione umana, e il suo risultato più notevole non è la dimensione: è che per la prima volta un modello così batte i sistemi allenati con le didascalie testuali, e li stacca proprio dove ci si aspetterebbe che perdesse.

Cosa vuol dire «senza etichette»

Vale la pena capire cosa sostituisce. Fino a ieri i modelli di visione più forti erano quelli «debolmente supervisionati» in stile CLIP: non richiedono etichette precise, ma pretendono comunque che ogni immagine arrivi accompagnata dalla sua didascalia, dal suo testo alternativo, da qualche metadato scritto da un umano. Funziona benissimo finché il testo c’è. Ma un vetrino di istologia, una lastra medica, una foto satellitare o un’immagine astronomica non hanno una didascalia. In quei mondi — dove le etichette semplicemente non esistono — un modello che impara a vedere guardando e basta non è un vezzo accademico: è l’unica strada.

Attenzione, però, alla parola «senza». Self-supervised non significa senza dati. DINOv3 è addestrato su LVD-1689M, un miliardo e 689 milioni di immagini selezionate automaticamente da un bacino grezzo di circa 17 miliardi di post pubblici di Instagram. La selezione è fatta da un algoritmo — un clustering gerarchico k-means a cinque livelli che bilancia i concetti visivi perché il web non sommergesse il modello di selfie e piatti di pasta — non da annotatori. L’intervento umano scompare dall’etichettatura, non dalla cura del dato. È una distinzione che il report è onesto nel non nascondere.

Il difetto che lo scaling faceva riemergere

La promessa del self-supervised è semplice: niente etichette significa dati virtualmente infiniti, e più dati più modello più bravo. Ma c’era un guasto noto che rovinava la festa. Man mano che l’addestramento si allungava, il modello migliorava sui compiti «globali» — dire cosa raffigura un’immagine nel suo insieme, per esempio classificarla — e contemporaneamente peggiorava sui compiti «densi», quelli che richiedono di sapere cosa c’è in ogni singolo punto: segmentazione, stima della profondità, corrispondenze tra punti.

L’analogia è quella di uno studente che ripassa troppo a lungo per un esame. A furia di riassumere, diventa bravissimo a dire di cosa parla il libro nel complesso, ma perde di vista quale dettaglio stava a quale pagina. Nei termini del paper: oltre le 200.000 iterazioni, la somiglianza tra i frammenti (le «patch») dell’immagine e il vettore globale cresce troppo, i frammenti perdono la loro identità locale, e le mappe di dettaglio si riempiono di rumore. Il problema era conosciuto e, ammette il report, rimasto irrisolto fino a quel momento. È il motivo per cui semplicemente ingrandire DINOv2 non bastava.

Più l’addestramento prosegue, più il modello migliora sul quadro d’insieme e peggiora sui dettagli. L’ancoraggio di Gram, introdotto tardi, riporta in alto la curva densa senza far scendere quella globale.

L’ancora di Gram

La soluzione di DINOv3 si chiama Gram anchoring e nasce da un’osservazione fine: la capacità di formare buone rappresentazioni globali e quella di mantenere coerenti i dettagli locali sono in larga parte indipendenti. Si può intervenire sulla seconda senza rovinare la prima. Il meccanismo lavora sulla matrice di Gram: presa un’immagine con $P$ frammenti, ciascuno descritto da un vettore di dimensione $d$ normalizzato, la matrice di Gram $G = X X^\top$ raccoglie tutti i prodotti scalari a coppie tra i frammenti. In altre parole, non descrive cosa è ciascun frammento, ma quanto ciascuno somiglia a ogni altro: è la mappa delle relazioni interne dell’immagine.

L’idea è ancorare quella mappa di somiglianze a una versione precedente e più sana del modello stesso — il «Gram teacher», una sua istantanea a un’iterazione iniziale, quando i dettagli erano ancora nitidi. Il modello studente resta libero di far evolvere le singole feature, purché la struttura delle somiglianze resti quella di prima. È la differenza tra correggere ogni parola di un tema e chiedere soltanto che i rapporti tra i personaggi restino coerenti. Il primo obiettivo dell’addestramento resta la solita combinazione di funzioni di perdita di DINO e iBOT:

$$\mathcal{L}_{\text{Pre}} = \mathcal{L}_{\text{DINO}} + \mathcal{L}_{\text{iBOT}} + 0{,}1\,\mathcal{L}_{\text{DKoleo}}.$$

Alla fase di rifinitura si aggiunge il termine nuovo, che misura quanto la matrice di Gram dello studente $X_S$ si discosta da quella del Gram teacher $X_G$:

$$\mathcal{L}_{\text{Gram}} = \left\lVert X_S X_S^\top – X_G X_G^\top \right\rVert_F^2.$$

La cosa sorprendente, e che gli autori sottolineano, è che questa correzione funziona anche applicata tardissimo, dopo un milione di iterazioni: riesce a «riparare» feature locali già degradate. Alimentando il Gram teacher con immagini a risoluzione doppia, poi ridotte, il guadagno cresce ancora di un paio di punti sulla segmentazione. Un dettaglio di ingegneria che vale come una lezione: a volte non serve ripartire da capo, basta ricordare a un modello com’era fatto quando funzionava meglio.

I numeri, onestamente

Il metro di giudizio del report è severo: DINOv3 viene valutato quasi sempre a backbone congelato, cioè senza alcun ritocco dei suoi pesi sul singolo compito. Si allena solo un piccolo strato sopra le feature. È il test più duro per un modello «fondazionale», e i risultati sono notevoli. Sulla segmentazione densa lineare di ADE20k il modello supera i migliori concorrenti self-supervised di oltre 6 punti di mIoU e quelli debolmente supervisionati di oltre 13. Montando un decoder più completo sopra le stesse feature congelate, DINOv3 arriva a 63,0 di mIoU su ADE20k, alla pari con lo stato dell’arte specializzato, e a un mAP di 66,1 sul rilevamento di oggetti in COCO, battendo pipeline addestrate apposta per quel compito.

Sulla stima della profondità e sulle corrispondenze 3D tra punti di vista diversi supera il suo predecessore DINOv2, che restava comunque un riferimento forte. E sui compiti globali — la classificazione di ImageNet, storicamente il terreno di casa dei modelli in stile CLIP — DINOv3 arriva intorno all’88 percento di accuratezza lineare, restando appena 0,7-0,9 punti dietro ai migliori SigLIP 2 e Perception Encoder. È la prima volta, scrivono gli autori, che un modello puramente self-supervised raggiunge quel livello globale senza cedere sui dettagli: anzi, dominando proprio lì.

Il collo di bottiglia della computer vision non è mai stata la rete. È sempre stata l’etichetta.

Un modello grande, e i suoi figli piccoli

Sette miliardi di parametri sono ingombranti da far girare, e il report non finge il contrario: il modello grande serve soprattutto da maestro. Per renderlo usabile, Meta lo distilla in una famiglia di modelli più piccoli — dai ViT-Small da 21 milioni di parametri fino a varianti da 800 milioni, oltre a versioni ConvNeXt — con una procedura che addestra più studenti in parallelo condividendo un’unica inferenza del maestro. La cosa interessante è che i modelli distillati non crollano: il più grande degli studenti raggiunge prestazioni sostanzialmente pari a quelle del maestro da 7 miliardi, pur avendo quasi dieci volte meno parametri.

La stessa ricetta, applicata a 493 milioni di immagini satellitari invece che a foto del web, produce un DINOv3 per l’osservazione della Terra che stabilisce lo stato dell’arte sulla stima dell’altezza della vegetazione, valutata anche su una copertura di 87.000 chilometri quadrati sul territorio francese. È la prova del nove della tesi di partenza: un unico algoritmo, senza etichette, che si sposta da Instagram ai satelliti cambiando solo le immagini in ingresso.

Cosa resta aperto

Conviene tenere i piedi per terra. L’allineamento con il testo — la capacità di rispondere a una descrizione in linguaggio naturale — in DINOv3 non è nativo: è aggiunto dopo, come uno strato incollato su un backbone congelato, non intrecciato all’addestramento come in CLIP. Sui compiti puramente globali di ImageNet il modello resta, di un soffio, dietro i migliori sistemi guidati dal testo. Il Gram anchoring, per quanto elegante, è la toppa a un problema che lo scaling stesso creava, non una teoria che spiega perché i dettagli si sfaldino. E il costo di addestrare un modello da 7 miliardi di parametri su 256 GPU resta alla portata di pochissimi: la democratizzazione, semmai, la portano i modelli distillati, non il gigante.

Resta il punto che conta. Per anni si è ripetuto che i modelli di visione forti richiedessero per forza una supervisione, foss’anche debole, foss’anche solo una didascalia. DINOv3 mostra che non è vero: guardare abbastanza immagini, con l’accortezza giusta a non lasciar degradare i dettagli, basta a costruire un occhio artificiale generalista che si può congelare e riusare ovunque. La posta in gioco è tutta nei mondi dove le etichette non arrivano — la medicina, la biologia, l’astronomia, il telerilevamento — e dove un modello che impara a vedere da solo non è un’alternativa più economica alla supervisione. È l’unica che esista.

Il paper

The DINO Team (Oriane Siméoni, Huy V. Vo, Maximilian Seitzer, Federico Baldassarre, Maxime Oquab e altri), DINOv3, technical report, Meta AI Research, agosto 2025. Disponibile su arXiv: arxiv.org/abs/2508.10104.