Aprender
Cuantización
Explicación en lenguaje claro de Cuantización, con páginas relacionadas del catálogo.
Definición
La cuantización almacena los pesos del modelo (y a veces las activaciones) en números de menor precisión para reducir memoria y acelerar la inferencia.
Cómo funciona
Los formatos habituales incluyen 8 bits y 4 bits. El compromiso es calidad frente a encaje con el hardware. Mide siempre tus tareas reales después de cuantizar.