Analisi long-form 3000+ parole
Nel 2015 un meccanismo nato come cerotto per la traduzione automatica insegna alle reti neurali a "puntare il dito" sulla…
Nel 2014 le reti neurali imparano a tradurre comprimendo un'intera frase in un solo vettore di numeri. Funziona sorprendentemente bene,…
Nel 2013 un piccolo modello di Google dimostra che il significato di una parola si può imparare guardando solo le…
Prima dei transformer, i computer leggevano contando parole. Bag of words e TF-IDF sono l'idea più semplice possibile per trasformare…
Prima di capire una sola parola, un modello linguistico deve spezzare il testo in frammenti chiamati token. L'algoritmo che decide…
Le reti neurali esistono dagli anni Cinquanta, ma per mezzo secolo sono rimaste una promessa. Non mancavano le idee: mancava…
Una rete neurale enorme impara bene, una piccola con la stessa struttura fatica. Nel 2019 due ricercatori del MIT hanno…
I manuali dicono che un modello troppo grande fa overfitting e basta. Poi qualcuno ha continuato a ingrandire i modelli…
Addestrare una rete da zero costa dati, tempo e GPU che quasi nessuno ha. Il transfer learning ribalta il problema:…
Stable Diffusion, DALL-E, Midjourney: i generatori di immagini più diffusi funzionano tutti allo stesso modo — imparano a distruggere una…
