İş yüküne göre thread pool boyutu
Görev tanımı
Problem
Bir servis istekleri sabit bir thread pool'da işliyor. Her istek CPU'da compute_ms kadar hesaplama yapıyor, sonra wait_ms kadar ağı ya da bir diski bekliyor; bir thread beklerken çekirdeği başka bir thread'i çalıştırabilir. Yaygın bir boyutlandırma kuralı şu: threads = cores × target utilization × (1 + wait / compute). Çekirdek sayısı, tam sayı yüzde olarak hedef kullanım oranı ve milisaniye cinsinden iki süre verildiğinde, yukarı yuvarlanmış pool boyutunu döndür. Cevap kayan nokta yuvarlamasına bağlı olmasın diye tam sayı aritmetiği kullan.
Örnekler
Input: cores = 8, utilization = 100, wait_ms = 90, compute_ms = 10
Output: 80
Neden: her çekirdek zamanın yalnız onda birinde meşgul, bu yüzden on thread onu paylaşır
Input: cores = 4, utilization = 50, wait_ms = 30, compute_ms = 20
Output: 5
Neden: 4 × 0,5 × 2,5 = 5
Input: cores = 16, utilization = 100, wait_ms = 0, compute_ms = 5
Output: 16
Neden: edge case: saf CPU işi çekirdekten fazla thread'den hiçbir şey kazanmaz
İpuçları
0 / 3
Bir thread'in ömrünün gerçekte ne kadarını bir çekirdekte geçirdiğini sor. Zamanın geri kalanında çekirdek başkası için boş.
1 + wait / compute, (compute + wait) / compute ile aynıdır; yani bütün formül payı ve paydası tam sayı olan tek bir kesirdir.
Pay için cores, yüzde ve (compute + wait)'i çarp, payda olarak 100 × compute kullan ve tam sayı tavanını negatiflenmiş taban bölmesiyle al.
- Hedef zaman
- O(1)
- Hedef alan
- O(1)
Kısıtlar
- utilization is a whole percentage
Çözüm
Bir thread her isteğin yalnız hesaplama kısmında bir çekirdeği tutar; bu yüzden bir çekirdek (compute + wait) / compute thread'i meşgul tutabilir, kullanım hedefi de pay bırakmak için bunu aşağı ölçekler. Kuralı tek bir kesir olarak yazmak her değeri en sona kadar tam sayı tutar; tavan da tam olarak yukarı yuvarlayan negatiflenmiş taban bölmesi -(-a // b) ile alınır. Aşağı değil yukarı yuvarlamak önemli: bir thread eksik bir pool her beklemede bir çekirdeği boşta bırakır. Herhangi bir pozitif kesir en az bir thread'e yuvarlanır. Zaman ve alan O(1).
def pool_size(cores, utilization_pct, wait_ms, compute_ms):
# threads = cores * utilization * (1 + wait / compute), rounded up
num = cores * utilization_pct * (compute_ms + wait_ms)
den = 100 * compute_ms
return -(-num // den) # integer ceiling
print(pool_size(8, 100, 90, 10)) # -> 80
print(pool_size(4, 50, 30, 20)) # -> 5
print(pool_size(16, 100, 0, 5)) # -> 16
print(pool_size(1, 10, 5, 10)) # -> 1Kodda değil de fikirde mi takıldın? Thread pool boyutlandırmak bunu anlatıyor.