Temperature, top-p, beam search: come un LLM sceglie la parola
Un LLM non "decide" il prossimo token: pesca da una distribuzione di probabilità. Temperature, top-p e beam search sono i…
Linguaggio, computer vision, audio, multimodale
Un LLM non "decide" il prossimo token: pesca da una distribuzione di probabilità. Temperature, top-p e beam search sono i…
La stessa frase, tradotta in italiano, può costare fino al 40-50% di token in più rispetto all'inglese. Non è un…
Estrarre nomi, capire il tono, smistare testi: per vent'anni sono stati problemi da modelli specializzati. Oggi un prompt ben scritto…
Whisper trascrive l'audio trasformando l'onda sonora in uno spettrogramma e lo spettrogramma in token di testo. Dentro la pipeline che…
In settant'anni la traduzione automatica ha cambiato paradigma quattro volte: regole scritte a mano, statistica sui corpora, reti neurali, modelli…
La stessa fotografia può ricevere tre risposte diverse: un'etichetta, dei riquadri, una mappa di pixel. Classificazione, detection e segmentazione sono…
Nel 2020 un gruppo di ricercatori di Google ha tagliato le immagini in quadratini da 16×16 pixel e li ha…
Un modello non guarda un'immagine come noi. La traduce in una lista di numeri e la deposita nello stesso spazio…
Nel 2012 una rete neurale profonda addestrata su due schede grafiche da videogioco quasi dimezza l'errore sulla gara di riconoscimento…
Nel 2014 Ian Goodfellow e i suoi coautori propongono di addestrare un generatore mettendolo contro un avversario che deve smascherarlo.…