Impara
Quantizzazione
Spiegazione in linguaggio semplice di Quantizzazione, con pagine correlate del catalogo.
Definizione
La quantizzazione memorizza i pesi del modello (e a volte le attivazioni) in numeri a precisione inferiore per ridurre la memoria e accelerare l'inferenza.
Come funziona
I formati comuni includono 8 bit e 4 bit. Il compromesso è qualità contro adattamento all'hardware. Misura sempre i tuoi compiti reali dopo la quantizzazione.