Impara
API LLM
Spiegazione in linguaggio semplice di API LLM, con pagine correlate del catalogo.
Definizione
Un'API LLM consente al software di inviare prompt (e spesso strumenti o file) a un modello ospitato o autogestito e ricevere risultati strutturati o testuali.
Come funziona
Pezzi tipici: autenticazione, ID modello, limiti di token, streaming, chiamate a funzioni e fatturazione. Leggi la documentazione attuale del provider — ID e prezzi cambiano.