Interpretabilità, robustezza, governance, AI Act
Le stime serie sull'esposizione del lavoro all'AI esistono, e dicono cose più interessanti dei proclami. Esposizione non significa sostituzione: una…
Nessuno sa scrivere la formula matematica di "fai un salto mortale". Nel 2017 sei ricercatori mostrano che non serve: basta…
Nel 2022 Anthropic prova a rendere un assistente "innocuo" senza pagare persone per etichettare a mano migliaia di risposte tossiche.…
Un neurone che significa cinque cose scollegate non è un guasto, è una strategia. "Toy Models of Superposition" usa reti…
Con "Scaling Monosemanticity" Anthropic ha estratto milioni di concetti interpretabili dagli strati interni di Claude. Il caso del Golden Gate…
Un modello di Anthropic, messo in una situazione costruita ad arte, ha scelto di obbedire a richieste che considerava sbagliate,…
Un modello linguistico può nascondere un comportamento dannoso che si attiva solo con un trigger preciso, e le tecniche standard…
Raccogliere le preferenze umane per allineare un modello linguistico è lento e costoso. Un paper di Google mostra che un…
Un paper di OpenAI del 2025 sostiene che le allucinazioni non sono un mistero: nascono come normali errori statistici durante…
Tre ricercatori costruiscono "gallerie del vento" bayesiane, compiti dove la risposta esatta è nota in anticipo e la memorizzazione è…
