Load Balancing
Gelen işleri birden fazla işlemci, süreç, sunucu veya replica arasında kapasite ve sağlık bilgisine göre dağıtarak tek bir kaynağın gereksiz yere doymasını önleme yaklaşımı.
Yük dengeleme round-robin seçmekten ibaret değildir. İsteklerin maliyeti farklıysa eşit adet dağıtmak eşit yük üretmez; uzun yaşayan bağlantılar, cache locality, session affinity ve heterojen node kapasitesi sonucu değiştirebilir. Least-connections, weighted routing veya ölçülen gecikmeye dayalı seçim farklı workload'larda farklı sonuç verir.
Dengeleyici kapasite yaratmaz; doygun bir downstream sistemin önünde yalnız işi farklı noktalara dağıtır. Toplam geliş hızı servis kapasitesini aştığında backpressure, admission control veya load shedding gerekir. Sağlık kontrolü de yalnız prosesin ayakta olmasını değil, hizmet verebilir kapasiteyi temsil etmelidir.
İlgili: Backpressure, Load Shedding, Hot Partition, Queueing Theory, ASR Sistemlerinde Kuyruk Kararlılığı.