Memory Bandwidth
Bellek alt sisteminin birim zamanda CPU veya accelerator ile taşıyabildiği veri miktarı.
Teknik Bağlam
Vectorized processing, model inference ve large scan workload'ları arithmetic compute'dan önce memory bandwidth sınırına ulaşabilir. NUMA, cache hit oranı ve access pattern efektif bandwidth'i belirler.
Sınırlar
Yüksek nominal DDR bandwidth uygulamanın tamamını kullanacağı anlamına gelmez; latency, channels ve locality birlikte ölçülmelidir.
İlgili Kavramlar
- NUMA
- Cache Coherence
- Zero Copy
- Quantization