Pular para o conteúdo

Ida e volta da quantização int8

Fácil#quantization#scale-and-round~15 min

A missão

Problema

A quantização guarda os pesos de um modelo como inteiros pequenos mais uma escala em float. Implemente a quantização int8 simétrica para uma lista de pesos: a escala é o maior peso em valor absoluto dividido por 127, cada peso vira round(w / scale) limitado ao intervalo de -127 a 127, e a desquantização multiplica de volta pela escala. Retorne os códigos inteiros, a escala arredondada para 6 casas decimais e o maior erro absoluto entre um peso e o seu valor desquantizado, também arredondado para 6 casas decimais. Se todos os pesos forem 0, use uma escala de 1,0.

Exemplos

Input:  [0.4, -2.54, 0.013, 1.0]
Output: ([20, -127, 1, 50], 0.02, 0.007)
Por quê: a escala é 2,54 / 127 = 0,02, então 0,013 cai em 1 passo e volta como 0,02
Input:  [0.01, 0.02, -0.03, 10.0]
Output: ([0, 0, 0, 127], 0.07874, 0.03)
Por quê: um único outlier estica a escala, e todo peso pequeno colapsa para 0
Input:  [0.0, 0.0]
Output: ([0, 0], 1.0, 0.0)
Por quê: edge case: uma lista só de zeros não tem um maior peso para dividir, então uma escala de 1,0 evita a divisão por zero

Dicas

0 / 3

Tempo-alvo
O(n)
Espaço-alvo
O(n)

Travou na ideia, e não no código? Quantização explica isso.

Python 3Ctrl+Enter executa