BERT (2018): capire il testo in entrambe le direzioni
Coprite una parola in una frase e la indovinate usando quello che viene prima e quello che viene dopo. Nel…
LLM, RAG, Agents, MCP
Coprite una parola in una frase e la indovinate usando quello che viene prima e quello che viene dopo. Nel…
Nel 2019 OpenAI sostenne una tesi allora insolita: un modello addestrato solo a prevedere la parola successiva su abbastanza testo…
Nel 2020 OpenAI mostrò che un modello abbastanza grande impara un compito nuovo leggendo qualche esempio nel prompt, senza modificare…
Tradurre, riassumere, classificare, dare un voto di somiglianza: compiti diversi, di solito modelli diversi. Nel 2019 un gruppo di Google…
Nel 2021 OpenAI mostra che un modello GPT, addestrato sul codice pubblico di GitHub, sa scrivere funzioni Python a partire…
Un modello linguistico enorme sa completare il testo, ma non fa ciò che gli chiedi. Nel 2022 OpenAI mostra come…
Nel 2022 un gruppo di ricercatori Google scopre che basta chiedere a un modello linguistico di mostrare i passaggi, invece…
Riaddestrare per intero un modello da centinaia di miliardi di parametri per specializzarlo è proibitivo. Nel 2021 un gruppo di…
Nel 2020 un gruppo di ricercatori Facebook AI propose di dare a un modello generativo una biblioteca da consultare invece…
A fine febbraio 2023 Meta pubblica un modello da 13 miliardi di parametri che ne batte uno da 175, addestrato…