Reinforced Attention Learning: ottimizzare dove un modello guarda, non solo cosa dice
Il reinforcement learning premia di solito la risposta finale di un modello. Un gruppo tra Google, UC Davis e Princeton…
Reti neurali, ottimizzazione, architetture
Il reinforcement learning premia di solito la risposta finale di un modello. Un gruppo tra Google, UC Davis e Princeton…
I looped transformer ottengono profondità riusando gli stessi pesi giro dopo giro, ma ripetere l'attention quadratica a ogni passaggio costa…
Un gruppo di Caltech modella l'addestramento come un'equazione differenziale stocastica e mostra che i valori singolari dei pesi si comportano…
Balestriero e LeCun sostituiscono la pila di accorgimenti che tiene in piedi il self-supervised learning con un solo principio dimostrabile:…
Un gruppo di ricercatori indiani mette a confronto le reti di Kolmogorov-Arnold e i classici percettroni multistrato su quattro compiti,…
Addestrare un modello a prevedere come cambia il mondo richiede di solito traiettorie in cui ogni azione è annotata a…
Dietro ogni modello che "impara" c'è un solo algoritmo, ideato decenni fa. Un viaggio nella backpropagation senza formule pesanti, con…
Un classificatore dice «97%» quando ha ragione e «97%» quando la foto non somiglia a niente che abbia mai visto.…
L'interfaccia di Gymnasium è una presa elettrica: cinque metodi, e qualunque algoritmo si attacca a qualunque problema. Costruiamo un DQN…
Portare un modello aperto da quattromila a centomila token di contesto costava, nel 2023, centoventotto GPU da datacenter. LongLoRA lo…