NER, sentiment, classificazione: l’NLP classico nell’era LLM

C’è un compito che ogni azienda con una casella email condivisa conosce bene: leggere migliaia di messaggi e capire chi scrive, di cosa si lamenta e quanto è arrabbiato. Fino a pochi anni fa risolverlo richiedeva un progetto: raccogliere esempi, etichettarli a mano, addestrare un modello, valutarlo, metterlo in produzione. Oggi lo stesso risultato si abbozza in un pomeriggio con un prompt: «Estrai il nome dell’azienda, classifica il problema, dimmi se il tono è negativo». Funziona, spesso sorprendentemente bene. E allora la domanda è legittima: l’NLP classico è diventato inutile?

I tre mestieri storici dell’NLP

Prima di rispondere, mettiamo a fuoco di cosa parliamo. Tre compiti hanno dominato l’NLP applicato per vent’anni:

• Named Entity Recognition (NER): trovare e classificare le entità in un testo — persone, aziende, luoghi, date. «Mario Rossi ha incontrato il CEO di Enel a Roma» contiene una persona, un’organizzazione e un luogo.
• Sentiment analysis: stabilire la polarità emotiva di un testo. La recensione è positiva, negativa, neutra? Il cliente è soddisfatto o sta per andarsene?
• Classificazione: assegnare un testo a una o più categorie predefinite. Spam o non spam, reclamo o richiesta commerciale, sport o politica.

Sono compiti diversi ma con la stessa struttura: input testuale, output strutturato e ripetibile. Ed è proprio questa ripetibilità che li rendeva perfetti per i modelli supervisionati: BERT e i suoi derivati, fine-tunati su qualche migliaio di esempi etichettati, raggiungevano — e raggiungono — accuratezze eccellenti su domini specifici.

Il costo nascosto della pipeline classica

Il problema della via classica non è mai stato la qualità: è il costo di ingresso. Per addestrare un classificatore servono dati etichettati, e l’etichettatura è lavoro umano lento e costoso. Servono competenze di machine learning, un ambiente di training, un processo di valutazione, e poi manutenzione: se le categorie cambiano — arriva un nuovo tipo di reclamo — si riparte da capo con nuove etichette e un nuovo training.

È come farsi cucire un abito su misura: veste perfettamente, ma richiede un sarto, diverse prove e settimane di attesa. E se cambi taglia, si ricomincia.

Il prompt come scorciatoia

Gli LLM ribaltano l’economia del problema. Un modello generalista, addestrato su una fetta enorme del testo esistente, ha già «visto» milioni di esempi di nomi propri, recensioni arrabbiate, email di reclamo. Non serve insegnargli il compito: basta descriverglielo. È il cosiddetto zero-shot — o few-shot se nel prompt includi due o tre esempi.

Per restare nell’analogia: l’LLM è il prêt-à-porter. Non veste perfettamente come il su misura, ma lo indossi subito, e per molte occasioni è più che adeguato. La differenza vera è dove si sposta il lavoro: dalla creazione del dataset alla scrittura del prompt e — soprattutto — alla validazione dell’output, perché un modello generativo può restituire formati imprevisti o, peggio, entità inventate. In produzione questo si mitiga con output vincolati (JSON schema, structured output) e con un set di test su cui misurare il modello esattamente come si farebbe con un classificatore classico. Il rigore della valutazione non è negoziabile: cambia solo il punto in cui lo applichi.

Pipeline contro prompt, fianco a fianco

Le due filiere a confronto: la pipeline supervisionata concentra il costo all’inizio (dati, training), l’approccio a prompt lo sposta sull’inferenza e sulla validazione. Stesso output, economie opposte.

Quando il modello piccolo vince ancora

Ed è proprio l’economia a tenere in vita l’NLP classico. Un classificatore basato su un encoder compatto gira su una CPU, elabora migliaia di testi al secondo, costa una frazione di centesimo per milione di predizioni e non manda dati a nessun fornitore esterno. Un LLM via API costa ordini di grandezza in più per singola predizione ed è più lento.

Il calcolo da fare è da manuale di ingegneria: volume per costo unitario. Se devi classificare cento email al giorno, l’LLM è imbattibile — nessun progetto, nessun dataset. Se devi analizzare il sentiment di dieci milioni di messaggi al giorno, il modello specializzato si ripaga in fretta. In mezzo, c’è una zona grigia dove pesano altri fattori: privacy (dati sanitari o legali che non possono uscire), latenza (moderazione in tempo reale), stabilità (l’output di un modello fine-tunato non cambia se il fornitore aggiorna il modello sotto di te).

L’LLM non ha ucciso l’NLP classico: gli ha tolto il monopolio. E, paradossalmente, è diventato il suo miglior fornitore di dati.

Il paradosso più interessante è l’ultimo arrivato dei pattern: usare l’LLM come annotatore. Invece di pagare persone per etichettare diecimila esempi, si fa etichettare all’LLM un corpus grezzo (con controllo umano a campione) e con quelle etichette si addestra il modello piccolo che andrà in produzione. È la cosiddetta distillazione del compito: il generalista costoso lavora una volta sola, in fase di preparazione; lo specialista economico lavora per sempre, in produzione.

Come scegliere, in pratica

Una regola operativa ragionevole, se dovete affrontare un problema di NER, sentiment o classificazione oggi:

• Prototipa sempre con un LLM. In un giorno sai se il problema è risolvibile e con quale qualità. È il modo più rapido per validare l’idea.
• Costruisci comunque un test set etichettato a mano. Piccolo — anche duecento esempi — ma curato. Senza, non puoi confrontare niente con niente.
• Misura il costo a regime. Se il volume previsto rende la bolletta API significativa, valuta la distillazione verso un modello compatto.
• Considera i vincoli non funzionali. Privacy, latenza, dipendenza dal fornitore: a volte decidono loro, non l’accuratezza.

Perché ti riguarda

Se lavori con dati testuali — e quasi ogni organizzazione lo fa, dalle email dei clienti ai documenti interni — questa è una delle decisioni tecniche più frequenti dei prossimi anni: prompt o pipeline? La risposta sbagliata in un senso significa mesi di progetto per un problema che si risolveva in un pomeriggio; sbagliata nell’altro senso, una bolletta API che cresce linearmente col successo del prodotto. La buona notizia è che le due strade non si escludono: si parte dal prompt, si misura, e si distilla quando i numeri lo chiedono. Il vecchio NLP non è in pensione — ha solo smesso di essere l’unico modo di cominciare.