Affittare una GPU a ore sembra sempre più economico che comprarla, finché non guardi il tasso di utilizzo. La scelta…
Sei centesimi a conversazione sembrano niente, finché non li moltiplichi per centomila utenti. Come si legge un listino LLM, dove…
Un modello in produzione non si rompe: si consuma. Il drift è il logorio invisibile che degrada le predizioni mentre…
Perché servire un LLM a molti utenti è un problema diverso dal farlo girare per uno. Continuous batching e PagedAttention,…
Il modello funziona nel notebook, ma nessuno lo sta usando. Il percorso minimo per portarlo in produzione: script, versionamento, API,…
Le stime serie sull'esposizione del lavoro all'AI esistono, e dicono cose più interessanti dei proclami. Esposizione non significa sostituzione: una…
Da Hinton a LeCun, il dibattito sul rischio esistenziale dell'AI non è uno scontro tra due fazioni ma uno spettro…
Prima di rilasciare un modello, qualcuno viene pagato per farlo comportare nel modo peggiore possibile. Come funziona il red teaming…
I grandi modelli sono addestrati su testi, immagini e codice presi dal web, spesso senza chiedere permesso. Autori, fotografi ed…
I modelli linguistici mettono alla prova ogni articolo del GDPR: dal training sui dati raccolti dal web al diritto alla…
