Correlazione non è causalità (e come si distinguono)

Nei mesi estivi le vendite di gelato aumentano. Negli stessi mesi aumentano anche gli annegamenti. Se metti i due numeri su un grafico, anno dopo anno, vedrai due curve che salgono e scendono insieme con una regolarità quasi imbarazzante. Un modello statistico addestrato su questi dati imparerebbe la relazione senza esitare: più coni venduti, più incidenti in acqua. Eppure nessuno propone di vietare il gelato per salvare vite umane. Perché sappiamo — senza bisogno di formule — che dietro entrambe le curve c’è una terza cosa: il caldo. La gente compra gelati d’estate, e d’estate fa il bagno.

Questo esempio è talmente classico da sembrare innocuo. Non lo è. La stessa trappola, in forme molto meno visibili, è dentro quasi ogni dataset con cui addestriamo modelli di machine learning. E i modelli, a differenza nostra, non hanno il buon senso di sospettare del caldo.

Cosa misura davvero la correlazione

La correlazione è una misura di co-movimento. Il coefficiente di Pearson, il più usato, restituisce un numero tra -1 e 1 che dice quanto due variabili tendono a muoversi insieme in modo lineare: quando una sale, l’altra sale (correlazione positiva), scende (negativa), o fa quello che vuole (correlazione vicina a zero).

Il punto cruciale è che la correlazione è simmetrica e cieca. Simmetrica: la correlazione tra gelati e annegamenti è identica a quella tra annegamenti e gelati — il numero non contiene alcuna informazione su chi influenza chi. Cieca: non distingue tra una relazione diretta, una relazione inversa mediata da altro, o una pura coincidenza. È come notare che due colleghi arrivano sempre in ufficio alla stessa ora: potrebbero viaggiare insieme, potrebbero prendere lo stesso treno senza conoscersi, o uno dei due potrebbe semplicemente aspettare di vedere l’altro entrare per non arrivare mai per primo. Il tabellone delle presenze non lo dirà mai.

Il confonditore: la variabile che non vedi

Il caso dei gelati ha un nome tecnico: confondimento. Un confonditore è una variabile che influenza sia la presunta causa sia il presunto effetto, creando tra loro una correlazione che non corrisponde a nessuna influenza diretta. Il diagramma qui sotto è il modo standard di rappresentarlo: un grafo causale, dove le frecce indicano influenza reale.

Il grafo causale del confondimento: le frecce piene indicano influenza reale, la linea tratteggiata la correlazione osservata nei dati — che esiste, ma non corrisponde a nessuna causa diretta.

La cosa insidiosa è che nei dati il confonditore spesso non compare affatto. Se il tuo dataset contiene solo vendite di gelato e numero di annegamenti, la temperatura è invisibile: la correlazione spuria è tutto ciò che vedi, e sembra un segnale genuino. In epidemiologia, in economia e nel machine learning, la maggior parte degli errori di interpretazione nasce esattamente qui — da una variabile che nessuno ha misurato.

Come si rompe l’incantesimo: l’intervento

Il modo più affidabile per distinguere correlazione e causalità è smettere di osservare e cominciare ad agire. È la differenza tra guardare il mondo e dargli una spinta per vedere cosa succede.

Nella sua forma più rigorosa, questa idea si chiama esperimento randomizzato controllato: si assegnano i soggetti a caso a due gruppi, si modifica la presunta causa solo in uno dei due, e si confrontano gli esiti. La randomizzazione è il colpo di genio: assegnando i gruppi a caso, ogni possibile confonditore — misurato o no, noto o ignoto — si distribuisce mediamente allo stesso modo tra i due gruppi, e quindi non può più spiegare la differenza negli esiti. Se vendessimo gelato gratis a metà delle città italiane scelte a sorte e gli annegamenti non cambiassero, avremmo la risposta.

La correlazione risponde alla domanda «cosa vedo?». La causalità risponde alla domanda «cosa succede se intervengo?». Sono due domande diverse, e nessuna quantità di dati osservazionali trasforma automaticamente la prima nella seconda.

Judea Pearl, il ricercatore che più di ogni altro ha formalizzato questi concetti, ha dato a questa distinzione una notazione precisa: osservare che P(Y|X) è alta è diverso dal chiedersi quanto vale P(Y|do(X)) — la probabilità di Y quando X viene imposta dall’esterno, invece che semplicemente osservata. L’operatore do è il modo matematico di dire «spingo io».

Quando non puoi sperimentare

Il problema è che spesso l’esperimento è impossibile, troppo costoso o eticamente inaccettabile. Non puoi assegnare a caso le persone a fumare per vent’anni. In questi casi la statistica ha sviluppato strumenti per estrarre conclusioni causali dai soli dati osservazionali, a patto di fare ipotesi esplicite sulla struttura del problema.

• Controllare per il confonditore. Se il confonditore è misurato, si può confrontare gelati e annegamenti a parità di temperatura: dentro le sole giornate a 30 gradi, la correlazione spuria svanisce. Funziona solo se conosci e misuri tutti i confonditori rilevanti — un’ipotesi forte.
• Esperimenti naturali. A volte è il mondo a randomizzare per te: un cambio di legge che tocca una regione e non quella confinante, una lotteria di assegnazione. Si sfrutta la casualità che c’è già.
• Variabili strumentali. Si cerca una variabile che influenza la causa ma non l’effetto, se non attraverso la causa stessa, e la si usa come leva indiretta per isolare l’effetto causale.
• Grafi causali espliciti. Si disegna il diagramma delle influenze ipotizzate — come quello qui sopra — e si usano regole formali per capire quali quantità causali sono calcolabili dai dati disponibili e quali no.

Nessuno di questi metodi è gratis: tutti scambiano dati contro ipotesi. È un baratto onesto solo se le ipotesi sono dichiarate e difendibili.

Perché a un modello di machine learning non importa (e a te sì)

Un modello supervisionato standard è una macchina per trovare correlazioni. Non contiene, da nessuna parte, il concetto di causa: ottimizza la capacità di predire Y dato X sui dati che ha visto, e per questo compito le correlazioni spurie vanno benissimo. Anzi, spesso sono i segnali più forti disponibili.

Il conto arriva quando il mondo cambia. Un classificatore di immagini che ha imparato ad associare i lupi alla neve sullo sfondo — perché nel dataset di addestramento i lupi erano quasi sempre fotografati d’inverno — funziona finché le foto somigliano a quelle di training, e crolla davanti a un lupo in un prato. La neve era un confonditore visivo: correlata con l’etichetta, ma causalmente irrilevante. È lo stesso identico schema dei gelati, trasferito nei pixel.

Il problema diventa più serio quando il modello non si limita a predire ma viene usato per decidere: concedere un prestito, dare priorità a un paziente, sospendere un account. Decidere significa intervenire, e intervenire richiede conoscenza causale, non correlazionale. Un modello che ha imparato che chi possiede due telefoni restituisce i prestiti più spesso non ci dice nulla su cosa accadrebbe regalando telefoni ai richiedenti.

Cosa portarsi a casa

Non serve diventare esperti di inferenza causale per beneficiare di questa distinzione. Bastano tre abitudini. Primo: davanti a ogni correlazione interessante, chiedersi esplicitamente «quale terza variabile potrebbe spiegare entrambe?» — l’esercizio costa trenta secondi e smonta la maggior parte delle conclusioni affrettate. Secondo: distinguere sempre se il proprio obiettivo è predire o intervenire, perché il primo tollera le correlazioni spurie e il secondo no. Terzo: diffidare dei modelli valutati solo su dati che somigliano a quelli di addestramento, perché è esattamente lì che le scorciatoie correlazionali sembrano funzionare.

La prossima volta che un grafico, un articolo o un modello ti mostrerà due curve che salgono insieme, avrai la domanda giusta pronta. Non «quanto è forte la relazione?», ma «chi sta muovendo entrambe?«. Spesso, da qualche parte, c’è un’estate che nessuno ha messo nel dataset.