Analisi long-form 3000+ parole
Un modello linguistico appena addestrato non risponde alle domande: le continua. L'instruction tuning è il passaggio che trasforma un completatore…
I modelli promettono finestre di contesto da centinaia di migliaia di token, ma quello spazio non è tutto vostro: system…
Ogni token generato da un LLM dovrebbe, in teoria, richiedere di rileggere tutto il testo precedente. Non succede, grazie a…
Un modello da 7 miliardi di parametri che gira su un portatile senza GPU dedicata non è magia: è quantizzazione.…
Specializzare un modello da miliardi di parametri sembra richiedere di riaddestrarlo tutto, con GPU da datacenter e una copia intera…
Un modello bravo ma troppo pesante da servire può insegnare a uno più piccolo. La distillazione non copia le risposte…
I modelli Mixture of Experts hanno centinaia di miliardi di parametri ma ne attivano solo una frazione per ogni token.…
I reasoning model non rispondono subito: generano una catena di ragionamento prima della risposta, e più tempo "pensano" più diventano…
Aggiungere tre parole a un prompt — "ragiona passo per passo" — può trasformare una risposta sbagliata in una giusta.…
Offrigli una mancia", "digli che è un esperto mondiale", "minaccialo": il web trabocca di trucchi per parlare ai modelli. Alcuni…
