Tail Latency

Türkçe karşılığı: Üst yüzdelik gecikmeAlan: Performans Mühendisliği

Bir sistemde ortalama gecikmeden çok P95, P99 veya P99.9 gibi dağılımın üst yüzdeliklerinde gözlenen gecikmeyi ifade eder.

Teknik Bağlam

Fan-out yapan servislerde tek bir yavaş alt çağrı tüm isteğin tamamlanma süresini belirleyebilir. GC duraklamaları, kuyruk birikimi, I/O varyansı, cache miss, lock contention ve ağ yeniden iletimleri tail latency üzerinde ortalamadan daha görünür hale gelir.

Sınırlar

Ortalama veya medyan gecikme tek başına kullanıcı deneyimini temsil etmeyebilir. Yüzdelikler ölçülürken coordinated omission ve örnekleme yanlılığı dikkate alınmalıdır.

İlgili Kavramlar

  • Coordinated Omission
  • Head-of-Line Blocking
  • Queueing Theory
  • Service Level Objective