Rilettura accessibile di un paper
L'attention paga il conto della sua potenza con un costo che cresce col quadrato della sequenza. Mamba propone un'alternativa: una…
Un modello che ragiona da solo si convince delle proprie invenzioni; uno che agisce senza pensare si perde. ReAct intreccia…
Un modello linguistico sa scrivere una poesia ma sbaglia una moltiplicazione a tre cifre. Toolformer, di Meta AI, gli insegna…
Nel 2022 Anthropic prova a rendere un assistente "innocuo" senza pagare persone per etichettare a mano migliaia di risposte tossiche.…
Nel 2022 OpenAI addestra un modello di riconoscimento vocale su 680.000 ore di audio raccolto dal web e lo fa…
A fine febbraio 2023 Meta pubblica un modello da 13 miliardi di parametri che ne batte uno da 175, addestrato…
Nel 2022 Tri Dao e colleghi mostrarono che l'attention dei Transformer era lenta non per colpa dei calcoli, ma del…
Nel 2020 un gruppo di ricercatori Facebook AI propose di dare a un modello generativo una biblioteca da consultare invece…
Riaddestrare per intero un modello da centinaia di miliardi di parametri per specializzarlo è proibitivo. Nel 2021 un gruppo di…
Nel 2022 un gruppo di ricercatori Google scopre che basta chiedere a un modello linguistico di mostrare i passaggi, invece…
