Aprender
Inferencia
Explicación en lenguaje claro de Inferencia, con páginas relacionadas del catálogo.
Definición
La inferencia es ejecutar un modelo entrenado para producir salidas — respuestas de chat, embeddings, imágenes o llamadas a herramientas.
Cómo funciona
La latencia, el coste, el agrupamiento por lotes, el hardware y la cuantización forman parte de la pila de inferencia. El entrenamiento ocurre una vez; la inferencia es la factura continua.