Saltar al contenido

Ida y vuelta de cuantización int8

Fácil#quantization#scale-and-round~15 min

La misión

Problema

La cuantización guarda los pesos de un modelo como enteros pequeños más una sola escala de punto flotante. Implementa la cuantización int8 simétrica para una lista de pesos: la escala es el mayor peso en valor absoluto dividido por 127, cada peso se convierte en round(w / scale) acotado al rango de -127 a 127, y para descuantizar se vuelve a multiplicar por la escala. Devuelve los códigos enteros, la escala redondeada a 6 decimales y el mayor error absoluto entre un peso y su valor descuantizado, también redondeado a 6 decimales. Si todos los pesos son 0, usa una escala de 1.0.

Ejemplos

Input:  [0.4, -2.54, 0.013, 1.0]
Output: ([20, -127, 1, 50], 0.02, 0.007)
Por qué: la escala es 2.54 / 127 = 0.02, así que 0.013 cae en 1 paso y vuelve como 0.02
Input:  [0.01, 0.02, -0.03, 10.0]
Output: ([0, 0, 0, 127], 0.07874, 0.03)
Por qué: un solo valor atípico estira la escala, y todos los pesos pequeños se reducen a 0
Input:  [0.0, 0.0]
Output: ([0, 0], 1.0, 0.0)
Por qué: caso límite: una lista de puros ceros no tiene un peso mayor por el que dividir, así que una escala de 1.0 evita dividir por cero

Pistas

0 / 3

Tiempo objetivo
O(n)
Espacio objetivo
O(n)

¿Lo que te frena es la idea y no el código? Cuantización lo explica.

Python 3Ctrl+Enter ejecuta