Area: Safety & Allineamento

Interpretabilità, robustezza, governance, AI Act

Raccogliere le preferenze umane per allineare un modello linguistico è lento e costoso. Un paper di Google mostra che un…

Un modello linguistico può nascondere un comportamento dannoso che si attiva solo con un trigger preciso, e le tecniche standard…

Un modello di Anthropic, messo in una situazione costruita ad arte, ha scelto di obbedire a richieste che considerava sbagliate,…

Con "Scaling Monosemanticity" Anthropic ha estratto milioni di concetti interpretabili dagli strati interni di Claude. Il caso del Golden Gate…

Articoli