Come funziona Whisper: da onda sonora a testo
Whisper trascrive l'audio trasformando l'onda sonora in uno spettrogramma e lo spettrogramma in token di testo. Dentro la pipeline che…
Analisi long-form 3000+ parole
Whisper trascrive l'audio trasformando l'onda sonora in uno spettrogramma e lo spettrogramma in token di testo. Dentro la pipeline che…
In settant'anni la traduzione automatica ha cambiato paradigma quattro volte: regole scritte a mano, statistica sui corpora, reti neurali, modelli…
La stessa fotografia può ricevere tre risposte diverse: un'etichetta, dei riquadri, una mappa di pixel. Classificazione, detection e segmentazione sono…
Nel 2020 un gruppo di ricercatori di Google ha tagliato le immagini in quadratini da 16×16 pixel e li ha…
Un modello non guarda un'immagine come noi. La traduce in una lista di numeri e la deposita nello stesso spazio…
Sotto la conversazione fluida di ChatGPT c'è un meccanismo solo: prevedere la parola successiva, miliardi di volte. Capire questo singolo…
Nel 2020 un gruppo di ricercatori scopre che la qualità dei modelli linguistici migliora seguendo curve matematiche prevedibili. Da quelle…
I modelli linguistici sembrano acquisire capacità "di colpo" superata una certa scala. Ma il salto è nel modello o nel…
Un modello linguistico pre-addestrato sa completare qualsiasi testo, ma non sa cosa significhi essere utile. Il Reinforcement Learning from Human…
La Direct Preference Optimization elimina due dei tre pezzi della pipeline RLHF — il reward model e il reinforcement learning…