İçeriğe geç

Int8 quantization gidiş dönüşü

Kolay#quantization#scale-and-round~15 dk

Görev tanımı

Problem

Quantization (nicemleme), model ağırlıklarını küçük tam sayılar artı tek bir float ölçek olarak saklar. Bir ağırlık listesi için simetrik int8 quantization uygula: ölçek, en büyük mutlak ağırlığın 127'ye bölümüdür; her ağırlık -127 ile 127 aralığına sıkıştırılmış round(w / scale) olur; geri çevirme de ölçekle tekrar çarpar. Tam sayı kodlarını, 6 ondalığa yuvarlanmış ölçeği ve bir ağırlıkla geri çevrilmiş değeri arasındaki, yine 6 ondalığa yuvarlanmış en büyük mutlak hatayı döndür. Her ağırlık 0 ise 1,0 ölçeğini kullan.

Örnekler

Input:  [0.4, -2.54, 0.013, 1.0]
Output: ([20, -127, 1, 50], 0.02, 0.007)
Neden: ölçek 2,54 / 127 = 0,02; yani 0,013 bir adıma düşer ve 0,02 olarak geri gelir
Input:  [0.01, 0.02, -0.03, 10.0]
Output: ([0, 0, 0, 127], 0.07874, 0.03)
Neden: tek bir aykırı değer ölçeği esnetir, her küçük ağırlık 0'a çöker
Input:  [0.0, 0.0]
Output: ([0, 0], 1.0, 0.0)
Neden: edge case: tamamı sıfır olan listede bölünecek en büyük ağırlık yok, 1,0 ölçeği sıfıra bölmeyi önler

İpuçları

0 / 3

Hedef zaman
O(n)
Hedef alan
O(n)

Kodda değil de fikirde mi takıldın? Quantization bunu anlatıyor.

Python 3Ctrl+Enter çalıştırır