GAN: il falsario e il detective

Aprite il sito This Person Does Not Exist e guardate il volto che compare: pori della pelle, riflessi negli occhi, ciocche di capelli fuori posto. Ricaricate la pagina e ne appare un altro. Nessuna di quelle persone è mai esistita: ogni volto è fabbricato da una rete neurale in una frazione di secondo. La tecnica che ha reso possibile tutto questo si chiama GAN — Generative Adversarial Network, rete generativa avversaria — ed è nata nel 2014 da un’idea di Ian Goodfellow, allora dottorando a Montreal. L’idea, in sé, è di una semplicità quasi letteraria: per insegnare a una macchina a creare, mettetela in competizione con un’altra macchina il cui unico compito è smascherarla.

Un duello, non una lezione

Fino a quel momento i modelli generativi imparavano soprattutto per imitazione diretta: guarda questi esempi, riproduci qualcosa di simile, misura quanto ti sei avvicinato pixel per pixel. Il problema è che la somiglianza pixel per pixel è una pessima misura di realismo. Un volto sfocato ma «mediamente corretto» ottiene un punteggio migliore di un volto nitido con un dettaglio fuori posto — ed è per questo che quei modelli producevano immagini spente, impastate, prive di grana.

Il GAN ribalta l’impostazione. Invece di dire alla rete quanto ha sbagliato pixel per pixel, le si affianca un avversario che deve solo rispondere a una domanda: questa immagine è vera o è fabbricata? La misura del realismo non è più una formula scritta a mano, ma un’altra rete neurale che impara a giudicare. È la differenza tra correggere un compito con una griglia rigida e sottoporlo a un esaminatore che si fa via via più esigente.

Il falsario: il generatore

La prima rete è il generatore, il falsario della metafora. Riceve in ingresso un vettore di numeri casuali — puro rumore, chiamato di solito z — e lo trasforma, strato dopo strato, in un’immagine. All’inizio dell’addestramento i suoi output sono poltiglia colorata: il falsario alle prime armi che imita una banconota disegnandola a pastello. Ma ogni volta che il suo falso viene smascherato, riceve un segnale di errore che gli dice in quale direzione modificare i propri pesi per essere più convincente la prossima volta.

Il dettaglio importante è che il rumore in ingresso non è un difetto: è la sorgente della varietà. Vettori z diversi producono volti diversi, e muovendosi con continuità nello spazio del rumore si ottengono transizioni morbide — un volto che gradualmente invecchia, cambia pettinatura, ruota. Quello spazio si chiama spazio latente, ed esplorarlo è diventato un genere creativo a sé.

Il detective: il discriminatore

La seconda rete è il discriminatore, il detective. Riceve un’immagine — a volte pescata dal dataset di foto vere, a volte prodotta dal generatore — e deve emettere un verdetto: autentica o contraffatta. È un normale classificatore binario, addestrato con la stessa logica di un filtro antispam. All’inizio ha vita facile, perché i falsi sono grossolani. Ma man mano che il falsario migliora, il detective è costretto ad affinare lo sguardo: a notare che le orecchie non sono simmetriche, che lo sfondo si scioglie in modo innaturale, che i denti si fondono l’uno nell’altro.

I due si addestrano insieme, a turni alternati, e il progresso dell’uno alza l’asticella per l’altro. È lo stesso meccanismo che rende bravi i falsari veri: non migliorano nel vuoto, migliorano perché i sistemi anti-contraffazione migliorano.

Il generatore non vede mai una foto vera. Impara a produrre volti realistici solo attraverso i verdetti del suo avversario — come un falsario che non ha mai visto una banconota, ma ha un complice in banca.

Vale la pena fermarsi su questo punto, perché è controintuitivo: nel disegno originale il generatore non riceve mai in ingresso immagini reali. Tutta l’informazione sul mondo gli arriva filtrata dal gradiente del discriminatore — dal modo in cui è stato smascherato. È il detective ad aver visto le foto vere; il falsario impara per interposta persona.

Il rumore entra nel generatore, che produce un falso; il discriminatore confronta falsi e foto reali ed emette un verdetto. Il verdetto torna indietro come segnale di apprendimento per entrambe le reti.

Un equilibrio difficile da mantenere

Sulla carta l’addestramento è un gioco a somma zero che converge a un equilibrio: il falsario diventa così bravo che il detective non fa meglio del lancio di una moneta. In pratica, tenere in piedi il duello è stato per anni un esercizio di equilibrismo. Se il discriminatore diventa troppo forte troppo presto, il generatore non riceve più un gradiente utile — è come bocciare un principiante con un secco «tutto sbagliato» senza dirgli cosa correggere. Se invece è il generatore a trovare una scorciatoia, può cadere nel mode collapse: scopre un solo tipo di volto che inganna il detective e lo produce all’infinito, ignorando tutta la varietà del dataset. Un falsario che sa fare una sola banconota, ma la sa fare benissimo.

Gran parte della ricerca sui GAN tra il 2014 e il 2020 è stata una battaglia contro queste instabilità: funzioni di perdita alternative come la distanza di Wasserstein, penalità sui gradienti, trucchi architetturali. La serie StyleGAN di NVIDIA — la tecnologia dietro i volti sintetici più celebri — è il punto d’arrivo di quella stagione: generazione progressiva dalla bassa all’alta risoluzione e uno spazio latente riorganizzato per controllare separatamente posa, età, illuminazione.

Cosa resta dei GAN

Oggi la generazione di immagini da testo è dominata dai modelli di diffusione, che sono più stabili da addestrare e più fedeli ai prompt. Sarebbe però sbagliato archiviare i GAN come un capitolo chiuso. Primo, restano molto più veloci in inferenza: generano in un solo passaggio ciò che un modello di diffusione costruisce in decine di passi, e per questo sopravvivono dove conta la latenza — super-risoluzione, editing in tempo reale, sintesi vocale. Secondo, l’idea avversaria è filtrata ovunque: si usa come componente di perdita dentro modelli più grandi per rendere i dettagli più nitidi, e il principio «una rete che giudica un’altra rete» riecheggia nelle tecniche moderne di addestramento con feedback.

Terzo, i GAN hanno aperto — nel bene e nel male — l’epoca dei contenuti sintetici indistinguibili dal vero. I primi deepfake convincenti sono figli loro, e con essi l’intero dibattito su autenticità, watermarking e verifica delle immagini che oggi diamo per scontato.

Perché vi riguarda

Se lavorate con contenuti digitali, i GAN vi riguardano due volte. Come strumento: le tecniche di super-risoluzione che ripuliscono le vostre foto, i filtri che ringiovaniscono un volto, molti sistemi di doppiaggio vocale hanno un cuore avversario. E come avvertimento: il costo di fabbricare un volto, una voce o un documento visivamente credibile è crollato a zero, e il detective — quello vero, umano — non ha più l’occhio abbastanza fine. La lezione concettuale, però, vale oltre le immagini: quando non sapete scrivere una regola che misuri la qualità, potete addestrare un giudice. È un’idea che l’AI continuerà a riutilizzare ancora a lungo.