Grande modello linguistico

Un large language model (LLM) è una rete neurale addestrata a prevedere il token successivo in un testo su larga scala. La stessa idea di fondo alimenta ora chat, coding, riassunti e molti agenti.

Il testo viene suddiviso in token. Il modello assegna un punteggio ai possibili token successivi e campiona da quella distribuzione. Le capacità derivano dai dati di pre-training, dal post-training (compresi i metodi di preferenza) e dall'interfaccia intorno al modello.