Distillazione: insegnante grande, allievo piccolo
Un modello bravo ma troppo pesante da servire può insegnare a uno più piccolo. La distillazione non copia le risposte…
LLM, RAG, Agents, MCP
Un modello bravo ma troppo pesante da servire può insegnare a uno più piccolo. La distillazione non copia le risposte…
I modelli Mixture of Experts hanno centinaia di miliardi di parametri ma ne attivano solo una frazione per ogni token.…
I reasoning model non rispondono subito: generano una catena di ragionamento prima della risposta, e più tempo "pensano" più diventano…
Aggiungere tre parole a un prompt — "ragiona passo per passo" — può trasformare una risposta sbagliata in una giusta.…
Offrigli una mancia", "digli che è un esperto mondiale", "minaccialo": il web trabocca di trucchi per parlare ai modelli. Alcuni…
Il RAG "da manuale" — trasforma la domanda in un vettore, pesca i pezzi più vicini, incollali nel prompt —…
Confrontare una domanda con dieci milioni di vettori, uno per uno, richiederebbe secondi. I database vettoriali rispondono in millisecondi rinunciando…
Un modello linguistico non mente e non sbaglia: completa. Le allucinazioni sono la conseguenza diretta di come funziona la generazione…
Un modello linguistico non sa che ore sono e non può leggere un database. Con il function calling gli diamo…
Sotto la parola più abusata dell'anno c'è un'architettura semplice e precisa: un loop che itera, degli strumenti che agiscono, una…