Queueing Theory
İşlerin geliş, bekleme ve servis süreçlerini olasılıksal olarak modelleyen matematiksel çalışma alanı.
Teknik Bağlam
Yazılım sistemlerinde request queue, thread pool, disk I/O, GPU job queue ve mesaj broker davranışını anlamada kullanılır. Kullanım oranı kapasiteye yaklaştıkça bekleme süresinin doğrusal olmayan biçimde büyüyebilmesi temel production etkilerinden biridir.
Sınırlar
Basit M/M/1 modelleri gerçek sistemdeki burst, heavy-tail servis süreleri ve çok aşamalı bağımlılıkları tam temsil etmeyebilir.
İlgili Kavramlar
- Little's Law
- Backpressure
- Tail Latency
- Load Shedding