La traduzione automatica: da regole a LLM
In settant'anni la traduzione automatica ha cambiato paradigma quattro volte: regole scritte a mano, statistica sui corpora, reti neurali, modelli…
Analisi long-form 3000+ parole
In settant'anni la traduzione automatica ha cambiato paradigma quattro volte: regole scritte a mano, statistica sui corpora, reti neurali, modelli…
Whisper trascrive l'audio trasformando l'onda sonora in uno spettrogramma e lo spettrogramma in token di testo. Dentro la pipeline che…
Estrarre nomi, capire il tono, smistare testi: per vent'anni sono stati problemi da modelli specializzati. Oggi un prompt ben scritto…
La stessa frase, tradotta in italiano, può costare fino al 40-50% di token in più rispetto all'inglese. Non è un…
Un LLM non "decide" il prossimo token: pesca da una distribuzione di probabilità. Temperature, top-p e beam search sono i…
La perplexity è la metrica più citata e meno capita del mondo dei modelli linguistici. Misura una cosa semplice: quanto…
Prima si impara la lingua su miliardi di parole, poi si impara il mestiere su pochi esempi mirati. La pipeline…
Due modelli nati dallo stesso Transformer hanno preso strade opposte: BERT legge in entrambe le direzioni per capire, GPT scrive…
Il transformer elabora tutti i token in parallelo e, senza correttivi, non distingue "il cane morde l'uomo" da "l'uomo morde…
Il transformer non è un blocco monolitico ma una pila di componenti semplici — attention, feed-forward, connessioni residue, normalizzazione —…