CPU Cache
İşlemci çekirdeği ile ana bellek arasındaki erişim gecikmesini azaltmak için yakın zamanda veya yakında kullanılacağı öngörülen veriyi küçük ve hızlı bellek katmanlarında tutan yapı.
CPU cache, bellek erişimindeki mekânsal ve zamansal yerellikten yararlanır. Modern işlemciler genellikle farklı kapasite ve gecikmeye sahip L1, L2 ve paylaşımlı ya da çekirdek başına değişebilen son seviye cache katmanları kullanır. Cache line, false sharing ve coherence davranışı eşzamanlı yazılımların gecikmesini doğrudan etkileyebilir.
Cache hit oranı tek başına performansı açıklamaz. Miss'in hangi seviyeye düştüğü, bellek bant genişliği, prefetch davranışı ve çalışan veri kümesinin line yerleşimi de önemlidir. Kritik ölçümlerde ortalama işlem süresinin yanında tail latency ve donanım sayaçları birlikte incelenmelidir.
İlgili: Cache Line, False Sharing, TLB, CPU Affinity, Bilgisayar Mimarisi.