Kuyruk Teorisi ve Stokastik Süreçler

Kuyruk teorisi, değişken geliş ve hizmet süreçlerinde işlerin bekleme, hizmet ve tamamlanma davranışını inceler. Stokastik süreçler bu davranışın zamana bağlı olasılıksal temelini oluşturur. Modeller; bilgisayar sistemlerinde görev kuyrukları, bağlantı havuzları, sunucu kapasitesi, gecikme dağılımları ve simülasyonun matematiksel analizine uygulanır.

Ünite 1: Kuyruk Sistemleri ve Performans Ölçütleri

1.1. Geliş, Hizmet ve Bekleme Süreleri

Kuyruk sistemi işlerin geliş süreci, bekleme düzeni, sunucu sayısı ve hizmet süreleriyle tanımlanır. Geliş hızı, hizmet hızı, sistemdeki ortalama iş sayısı ve yanıt süresi farklı ölçütlerdir. Yanıt süresi kuyrukta bekleme ile gerçek hizmet süresinin toplamıdır.

1.2. Kendall Gösterimi ve Sistem Yapısı

Kendall gösterimi geliş dağılımı/hizmet dağılımı/sunucu sayısı düzenini özetler. Kuyruk kapasitesi veya müşteri sınıfı gibi ek boyutlar gerektiğinde ayrıca yazılır. Tek bir servis hızı, farklı iş sınıflarının hizmet varyansını açıklamayabilir.

W = W[q] + E[S];   L = λ[eff]·W

1.3. Gecikme Dağılımı ve Ölçüm Disiplini

Ölçümde geliş zamanı, hizmet başlangıcı ve tamamlanma zamanı ayrı damgalanır. Ortalama yanıt süresi ile p95/p99 gecikmelerinin aynı istatistik olmadığı belirtilir; sansürlü ve zaman aşımına uğramış istekler sessizce dışlanmaz.

1.4. Sayısal ve Algoritmik Örnek

Sisteme saniyede 3 iş giriyor, ortalama 6 iş sistemde bulunuyorsa kararlı rejimde ortalama kalış süresi Little yasasına göre 2 saniyedir. Bu hesap iş kabulü olmayan isteklere uygulanmaz; etkin geliş hızı kullanılmalıdır.

1.5. Geliş, Hizmet ve Ayrılış Süreçleri

Bir kuyruk sisteminde geliş süreci, hizmet gereksinimi ve sunucu kapasitesi ayrı rastgele süreçlerdir. Geliş hızı ile sunucunun tamamladığı iş hızı aynı büyüklük değildir; kabul edilmeyen veya kaybolan işler, etkin geliş hızını azaltır. İsteklerin kuyrukta beklemesiyle hizmette kalması farklı süre ölçütleridir. Little yasası uygun durağan koşullarda aynı sistem sınırı için ölçülen ortalama nüfus ile ortalama kalış süresini ilişkilendirir; farklı sınırların ölçümlerini karıştırmak yanlış sonuç verir.

L = λₑff·W;   W = Wq + E[S]

1.6. Kendall Gösterimi ve Model Varsayımları

A/S/c biçimi geliş aralığı ve hizmet süresi dağılımlarını ve sunucu sayısını kodlar. M/M/1 için üstel geliş aralıkları, üstel hizmet ve tek sunucu kabul edilir. FCFS disiplini, sistem kapasitesi ve müşteri nüfusu belirtilmiyorsa ilgili standart varsayımlar ayrıca açıklanmalıdır. M/M/1 formülünü çok sunuculu, öncelikli veya sonlu tamponlu sisteme yalnız isim benzerliği nedeniyle uygulamak doğru değildir.

1.7. Ölçüm Noktaları ve Yüzdelik Gecikmeler

Bir servis uygulamasında kabul kuyruğu, iş parçacığı havuzu, veritabanı bağlantısı ve dış servis beklemesi farklı kuyruk noktaları oluşturur. Uçtan uca süre bileşenlerine ayrılarak gözlenebilir fakat yüzdelik değerler genellikle bileşen yüzdeliklerinin toplamına eşit değildir. Ortalama gecikme düşükken p99 gecikmesi yüksek kalabilir. Toplanan ölçümlerin örnekleme penceresi, zaman senkronizasyonu ve uçtan uca iz kimliği sonuçların yorumunu belirler.

1.8. Hesaplamalı Örnek ve Çözüm

Sistem sınırı içine saniyede 2 iş kabul ediliyor ve her iş ortalama 3 saniye kalıyorsa durağan sistemde ortalama 6 iş bulunması beklenir. Bu altı iş, hem bekleyenleri hem hizmette olanları kapsar.

L = 2·3 = 6 jobs

1.9. Bağımsız Doğrulama ve Gerçekleme Sınırları

Ölçümde yalnız tamamlanan işlerin süresi ve kabul edilen işlerin hızı kullanılmalı; reddedilen istekler bu sınırın dışında tutulmalıdır.

Ünite 2: Rastgele Değişkenler ve Hizmet Süresi Dağılımları

2.1. Beklenen Hizmet Süresi ve Varyans

Hizmet süresi pozitif rastgele değişken olarak modellenir. Beklenen değer sistemin ortalama hizmet miktarını, varyans ise gecikme dalgalanmasına katkıyı yansıtır. Üstel dağılım belleksizlik özelliğine sahiptir; bu özellik gerçek CPU veya I/O görevlerinin tümünde geçerli değildir.

2.2. Üstel, Erlang ve Ağır Kuyruklu Modeller

Kuyruk modellerinde deterministik, üstel, Erlang ve ağır kuyruklu hizmet dağılımları farklı sonuçlar üretir. Özellikle ikinci momentin büyük olması, ortalama hizmet süresi değişmese bile beklemeyi artırabilir. Bu nedenle yalnız ortalama hizmet hızıyla model seçilmez.

E[S²] = Var(S) + (E[S])²

2.3. Dağılım Uygunluğu ve Örnekleme

Örnek dağılımlarda ampirik CDF, medyan, ortalama, varyans ve yüksek yüzdelikler raporlanır. Gözlem süresi kısa olan veri kümelerinde nadir uzun görevlerin oranı güvenilir kestirilemeyebilir.

2.4. Sayısal ve Algoritmik Örnek

İki hizmet dağılımı da ortalama 10 ms taşıyabilir; birinde her hizmet sabit 10 ms, diğerinde ender 100 ms üstü hizmetler bulunabilir. İkinci momentler farklı olacağından kuyruk beklemesi aynı olmayacaktır.

2.5. Hizmet Süresi Değişkenliği ve İkinci Moment

Aynı ortalama hizmet süresine sahip iki iş yükünün kuyruk performansı farklı olabilir. Varyans ve ikinci moment, özellikle M/G/1 bekleme süresi üzerinde belirleyicidir. Değişim katsayısının karesi, hizmet zamanlarının göreli değişkenliğini özetler. Uzun kuyruklu dağılımlarda nadir fakat çok uzun işler ortalamayı ve yüzde birlik gecikmeleri belirgin biçimde etkileyebilir. Ölçümde yalnız örnek ortalamasını saklamak yetersizdir.

E[S²] = Var(S) + (E[S])²;   cₛ² = Var(S)/(E[S])²

2.6. Üstel, Deterministik ve Ağır Kuyruklu Hizmet

Üstel hizmet modelinde belleksizlik özelliği vardır; deterministik hizmette ise süre sabittir. Aynı ortalama için deterministik hizmetin varyansı sıfırdır, üstel hizmette varyans ortalamanın karesidir. Dosya çözümleme veya medya işleme süreleri, iş boyutuyla değişebilir ve üstel dağılıma uymayabilir. Tek bir dağılım adı seçmek yerine kuantil grafikleri, momentler ve iş sınıflarına göre koşullu dağılımlar karşılaştırılmalıdır.

2.7. İş Sınıfları ve Karışım Dağılımları

Kısa ve uzun görevlerin karıştığı sistemde toplam hizmet süresi dağılımı tek tip görev varsayımıyla açıklanmayabilir. Her iş sınıfının olasılığı, ortalaması ve varyansı biliniyorsa toplam momentler ağırlıklı hesaplanır; sınıflar arası ortalama farkı toplam varyansa ek katkı yapar. Öncelikli veya ayrı kuyruklu mimarinin gerekliliği bu karışım üzerinden analiz edilir. Üretim ölçümünde görev sınıfı etiketleri olmadan görülen dağılımın nedenleri ayrıştırılamaz.

2.8. Hesaplamalı Örnek ve Çözüm

Hizmet süresinin ortalaması 0,1 saniye ve ikinci momenti 0,03 saniye kare olsun. Varyans 0,02 saniye kare; değişim katsayısının karesi 2’dir. Bu dağılım üstel hizmetin birim kareli değişim katsayısından daha değişkendir.

Var(S)=0.03−0.01=0.02;  cₛ²=2

2.9. Bağımsız Doğrulama ve Gerçekleme Sınırları

Kuyruk gecikmesi yalnız ortalama hizmet süresiyle kestirilirse varyans etkisi gözden kaçabilir.

Ünite 3: Poisson Süreçleri ve Geliş Modelleri

3.1. Bağımsız Artışlar ve Olay Sayısı

Homojen Poisson sürecinde ayrık zaman aralıklarının artışları bağımsızdır ve bir aralıktaki olay sayısı uzunlukla orantılı Poisson dağılımına uyar. Ardışık gelişler arası süreler bağımsız üstel dağılımlıdır. Ölçümde kümelenme veya zamansal değişim görülüyorsa homojen model yetersiz kalabilir.

3.2. Zamana Bağlı Yoğunluk ve Toplu Gelişler

Zamana bağlı geliş hızında λ(t) parametresi kullanılır. Dış sistemlerden gelen toplu görevlerin bağımsız Poisson geliş varsayımını ihlal edebileceği incelenmelidir. Süperpozisyon ve inceltme özellikleri ancak ilgili bağımsızlık koşulları altında uygulanır.

P{N(t)=k} = exp(−λt)·(λt)ᵏ/k!

3.3. Poisson Varsayımlarının İstatistiksel Kontrolü

Geliş sayıları eşit aralıklarda ölçülüp ortalama-varyans ilişkisi, otokorelasyon ve yoğunluk değişimi kontrol edilir. Poisson varsayımı reddedilirse daha genel geliş süreçleriyle simülasyon kullanılır.

3.4. Sayısal ve Algoritmik Örnek

Dakikada ortalama 6 bağımsız geliş varsayılırsa bir dakikada sıfır geliş olasılığı e⁻⁶ dır. Ancak saniyelik ağ patlamaları veya eşzamanlı zamanlanmış görevler gözleniyorsa Poisson modeline zorla uydurmak hatalıdır.

3.5. Poisson Sayma Sürecinin Özellikleri

Homojen Poisson sürecinde ayrık zaman aralıklarındaki artışlar bağımsızdır ve artış dağılımı yalnız aralığın uzunluğuna bağlıdır. Küçük bir zaman penceresinde tek geliş olasılığı yaklaşık λΔt, iki veya daha fazla geliş olasılığı ise daha küçük mertebedendir. Geliş aralıklarının üstel olması bu varsayımların sonucudur. Gerçek sistemde toplu gelişler, periyodik işler ve eşzamanlı yeniden denemeler bağımsızlık varsayımını bozabilir.

P{N(t)=k} = e^(−λt)·(λt)ᵏ/k!

3.6. Süperpozisyon ve İnceltme

Bağımsız Poisson süreçlerinin birleşimi, hızları toplamına eşit Poisson sürecidir. Bir akışın her gelişinin sabit ve bağımsız olasılıkla seçilmesiyle yapılan inceltme yine Poisson gelişleri oluşturur. Bağımlı akışlar veya zamana göre değişen seçme olasılıkları bu sonuçların doğrudan uygulanmasını engelleyebilir. Çok kaynaklı sunucu yükü modellenirken iş kaynakları arasındaki korelasyon ayrıca ölçülmelidir.

3.7. Zamana Bağlı Geliş Hızları

Bir gün içindeki geliş yoğunluğu sabit olmayabilir. Homojen olmayan Poisson süreçlerinde hız λ(t) ile değişir ve zaman aralığının beklenen geliş sayısı bu hızın integraliyle elde edilir. Zaman penceresinin tamamına tek bir ortalama hız uygulamak zirve dönemlerinde kapasite ihtiyacını küçümseyebilir. Parametre tahmini geçmişe ait geliş kayıtlarından yapılırken saatlik mevsimsellik, iş günü etkisi ve ani olaylar birbirinden ayrılmalıdır.

E[N(b) − N(a)] = ∫ₐᵇ λ(t) dt

3.8. Hesaplamalı Örnek ve Çözüm

Saniyede 2 geliş hızlı homojen Poisson süreçte 3 saniyede hiç geliş olmama olasılığı e⁻⁶ olur. Sürecin tek bir patlama halinde gelmesi ise aynı modelin varsayımını değiştirebilir.

P{N(3)=0}=e⁻⁶ ≈ 0.00248

3.9. Bağımsız Doğrulama ve Gerçekleme Sınırları

Gelişlerin aralıklar arasında bağımsızlığı ölçülmeden Poisson etiketi yalnız yaklaşık hipotez olarak kullanılmalıdır.

Ünite 4: Kesikli Zamanlı Markov Zincirleri

4.1. Geçiş Matrisi ve Markov Özelliği

Markov zincirinde bir sonraki durumun dağılımı, mevcut durum bilindiğinde önceki geçmişten bağımsızdır. Geçiş matrisi satırları negatif olmayan ve toplamı bir olan olasılıklardan oluşur. Durağan dağılımın varlığı ile her başlangıçtan o dağılıma yakınsama aynı özellik değildir.

4.2. Durum Tasarımı ve Geçiş Olasılıkları

Durumlar, iş sayısı, servis durumu veya sistem yük seviyesi olarak seçilebilir. Durum özetinin yeterli olmaması halinde süreç Markov özelliğine sahip olmayabilir; hizmet süresinin kalan miktarı gibi ek değişkenler gerekebilir.

πP = π;   ∑[i] πᵢ = 1

4.3. Durağanlık ve Yakınsama Denetimi

Geçiş matrisi stokastiklik, erişilebilirlik, periyodiklik ve pozitif rekürans koşulları bakımından sınanır. Örnek yolların histogramları teorik uzun dönem dağılımlarla karşılaştırılır.

4.4. Sayısal ve Algoritmik Örnek

İki durumlu modelde geçiş matrisi P = [[0.8, 0.2], [0.4, 0.6]] olsun. Durağan dağılım π=(⅔,⅓) tür. Uzun dönem oranlar yalnız durum geçişlerinin gerçekten bu matrisi izlemesi halinde sistem ölçülerini temsil eder.

4.5. Geçiş Matrisi ve Markov Özelliği

Kesikli zamanlı Markov zincirinde sonraki durumun koşullu dağılımı, mevcut durum biliniyorsa geçmiş durumların tamamına bağlı değildir. Geçiş matrisi satırlarında olasılıklar negatif olamaz ve toplamları birdir. Çok adımlı geçişler matris kuvvetiyle hesaplanır. Durum gösteriminde kuyruktaki işlerin hizmet sınıfları veya kalan işlem süreleri ihmal edilirse incelenen sistem gerçekte Markov olmayabilir.

P⁽ⁿ⁾ = Pⁿ;   ∑ⱼPᵢⱼ = 1

4.6. Durağan Dağılım ve İndirgenemezlik

Durağan dağılım πP=π eşitliğini sağlar. Sonlu, indirgenemez bir zincirde durağan dağılım vardır ve tektir; dağılımın her başlangıçtan doğrudan yakınsaması için ayrıca periyodiklik koşulları değerlendirilmelidir. İndirgenebilir modellerde farklı kapalı sınıflara göre farklı uzun dönem davranışları görülebilir. Hesaplanan durağan vektörün negatif olmayan bileşenlere sahip olduğu ve toplamının bir olduğu denetlenmelidir.

4.7. Beklenen Dönüş Süreleri ve Sınıf Analizi

Durumların birbirine erişimi iletişim sınıfları oluşturur. Tekrarlanır durumlar, geçici durumlar ve soğurucu sınıflar sistemin uzun dönem davranışını belirler. Pozitif tekrarlanır bir durumda ortalama dönüş süresi durağan olasılığın tersiyle ilişkilidir. Kuyruk modelinde soğurucu “hata” veya “kapalı” durumu bulunuyorsa yalnız normal işletim durumlarının durağan dağılımını hesaplamak hatalı olabilir.

4.8. Hesaplamalı Örnek ve Çözüm

İki durumlu geçiş matrisi [[0.8,0.2],[0.4,0.6]] için durağan vektör (⅔,⅓) bulunur. Bu vektörle P çarpımı yine kendisini vermelidir.

π=(⅔,⅓);  πP=π

4.9. Bağımsız Doğrulama ve Gerçekleme Sınırları

Doğrulamada vektör bileşenlerinin negatif olmaması ve toplamlarının bir olması da denetlenir.

Ünite 5: Sürekli Zamanlı Markov Zincirleri ve Doğum-Ölüm Süreçleri

5.1. Üreteç Matrisi ve Geçiş Hızları

Sürekli zamanlı Markov zincirinde geçiş hızı üreteç matrisiyle gösterilir. Köşegen dışı elemanlar negatif olamaz; her satırın toplamı sıfırdır. Doğum-ölüm süreçlerinde durum yalnız komşu duruma artış veya azalış gösterir.

5.2. Doğum-Ölüm Modelleri

Kuyruk uzunluğu durumu için doğum hızı gelişe, ölüm hızı hizmet tamamlanmasına karşılık gelir. Süreçte durağan dağılım ancak uygun kararlılık koşullarında bulunur. Sonlu kapasite ve terk etme davranışı geçiş oranlarını değiştirir.

Qᵢᵢ = −∑[j≠i] Qᵢⱼ;   πQ = 0

5.3. Kararlılık ve Sınır Durumları

Simülasyonda beklenen bekleme süresi ile gerçekleşen olay zamanları ayrı ele alınır. Üreteç matrisinin sınır durumlarında satır toplamı kontrol edilir.

5.4. Sayısal ve Algoritmik Örnek

M/M/1 için durum n iken geliş geçişi n→n+1 hız λ, hizmet geçişi n→n−1 hız μ ile gerçekleşir; ancak n=0 iken hizmet tamamlanması yoktur. Sınır durumunu yanlış modellemek toplam olasılığı bozabilir.

5.5. Üreteç Matrisi ve Geçiş Hızları

Sürekli zamanlı Markov zincirinde Q üreteç matrisinin köşegen dışı elemanları geçiş hızlarıdır; köşegen eleman satır toplamını sıfıra tamamlar. Çok kısa Δt aralığındaki geçiş olasılıkları Q üzerinden birinci mertebe yaklaştırılır. Geçiş hızları olasılık değildir ve birim zamanda ölçülür. Zaman birimlerinin karıştırılması, özellikle saniye-dakika dönüşümlerinde modelin bütün gecikme tahminlerini bozabilir.

P(Δt) ≈ I + Q·Δt;   Qᵢᵢ = −∑ⱼ≠ᵢQᵢⱼ

5.6. Doğum-Ölüm Süreçlerinde Denge

Doğum-ölüm zincirinde durum yalnız sistemdeki iş sayısıysa n→n+1 artışları geliş, n→n−1 azalışları hizmet tamamlanmasını gösterir. Sabit geliş ve hizmet hızlarında M/M/1 özel bir örnektir. Durağan olasılıklar için yerel denge ilişkisi uygun sınır koşullarıyla kullanılabilir. Değişken kapasitede doğum ve ölüm hızlarının duruma bağlı tanımlanması gerekir; tek bir μ değeri her durumda doğru olmayabilir.

5.7. Matris Üstelinin Sayısal Hesabı

Sonlu durumlu homojen zincirde zaman t sonrası geçiş matrisi e^(Qt) ile ifade edilir. Doğrudan matris kuvveti veya genel üstel hesaplayıcı küçük sistemlerde kullanılabilir; büyük seyrek modellerde uniformization gibi özel yöntemler kararlılık sağlayabilir. Sonuç matrisinin satır toplamları yaklaşık bir, elemanları negatif olmayan değerler olmalıdır. Bu koşullar sayısal uygulama testi için yararlı değişmezlerdir.

P(t) = exp(Qt)

5.8. Hesaplamalı Örnek ve Çözüm

Doğum hızı λ=2 ve ölüm hızı μ=3 olan tek sunuculu doğum-ölüm zincirinde ρ=⅔, boş sistem olasılığı ⅓ olur.

ρ=2/3;  π₀=1−ρ=1/3

5.9. Bağımsız Doğrulama ve Gerçekleme Sınırları

Bu bağıntı ölüm hızının nüfus pozitifken sabit olduğu özel durumda geçerlidir; durum bağımlı hızlarla aynı formül kullanılmaz.

Ünite 6: M/M/1 ve Çok Sunuculu Kuyruk Modelleri

6.1. Tek Sunuculu Kuyruk Kararlılığı

M/M/1 modeli Poisson geliş, üstel hizmet, tek sunucu ve yeterli tampon varsayar. Kararlı rejim için geliş hızı hizmet hızından küçük olmalıdır. Yoğunluk bire yaklaştıkça ortalama sistemde kalış süresi hızla büyür.

6.2. Çok Sunuculu Hizmet Modelleri

M/M/c modelinde c paralel sunucu vardır ve toplam hizmet kapasitesi yaklaşık cμ olur. Bekleme olasılığı Erlang C ifadesiyle bulunabilir, ancak kuyruk disiplininin ve sunucu özdeşliğinin varsayımları açık yazılır.

ρ = λ/μ < 1;   W(M/M/1) = 1/(μ−λ)

6.3. Analitik Sonuçların Ölçümle Karşılaştırılması

Analitik formüller ölçüm sonuçlarıyla ancak geliş/hizmet dağılımları, yeterli kararlı gözlem ve sunucu davranışı doğrulandıktan sonra karşılaştırılır. Ortalama değerin doğru olması yüksek yüzdeliklerin de doğru olduğunu göstermez.

6.4. Sayısal ve Algoritmik Örnek

Tek sunucunun hizmet hızı saniyede 10, geliş hızı saniyede 8 ise ρ=0.8, W=1/(10−8)=0.5 saniyedir. Aynı sistemde geliş hızı 9 olduğunda W=1 saniyeye çıkar. Yük artışı doğrusal olsa da gecikme doğrusal artmaz.

6.4.1. Açıklayıcı Sözde Kod

rho = arrival_rate / service_rate
assert rho < 1  # stable M/M/1 hypothesis
mean_system_time = 1 / (service_rate - arrival_rate)
mean_system_jobs = arrival_rate * mean_system_time
compare_to_steady_state_measurements()

6.5. M/M/1 Kararlı Durum Dağılımı

M/M/1 sisteminde geliş hızı λ hizmet hızı μ'den küçükse ρ=λ/μ kullanım oranıyla geometrik durağan kuyruk nüfusu dağılımı elde edilir. λ≥μ durumunda sonsuz tamponlu standart modelin sonlu ortalamalı durağan rejimi bulunmaz. Ortalama sistemdeki iş sayısı ρ/(1−ρ), ortalama kalış süresi 1/(μ−λ) olur. Kuyruktaki bekleme ve toplam kalış sürelerinin birbirinden ayrılması gerekir.

P{N=n} = (1−ρ)ρⁿ;   L = ρ/(1−ρ)

6.6. M/M/c ve Erlang C Bekleme Olasılığı

Çok sunuculu modelde λ geliş hızı, sunucu başına μ hizmet hızı ve c paralel sunucu tanımlanır. Durağan rejim için ρ=λ/(cμ)<1 gereklidir. Erlang C bağıntısı, standart sonsuz tamponlu, FCFS ve üstel hizmetli modelde gelişin bütün sunucuları dolu bulma olasılığını verir. Birden fazla işin aynı fiziksel kaynağa kilitlenmesi hâlinde bağımsız sunucu varsayımı geçersizleşebilir.

a = λ/μ;   ρ = a/c;   ρ < 1

6.7. Kapasite Sınırı Yakınında Gecikme

Kullanım oranı bire yaklaştıkça M/M/1 ortalama gecikmesi doğrusal değil, hiperbolik biçimde büyür. Sunucu sayısını artırmak her zaman hizmet hızını aynı oranda artırmaz; bellek bant genişliği, veri tabanı havuzu veya kilit çatışması yeni darboğaz oluşturabilir. Kapasite çalışmasında tek sunucunun hizmet süresinin iş yüküyle değişip değişmediği ölçülmeli, kuyruk modelinin geçerliliği bu gözlemlerle sınanmalıdır.

6.8. Hesaplamalı Örnek ve Çözüm

Saniyede λ=8 istek alan, μ=10 iş/saniye hizmet verebilen M/M/1 sunucu için kullanım 0,8, ortalama toplam kalış 0,5 saniye, kuyruk bekleme ise 0,4 saniyedir.

ρ=0.8;  W=1/(10−8)=0.5 s;  Wq=0.4 s

6.9. Bağımsız Doğrulama ve Gerçekleme Sınırları

Bu hesap CPU ve veritabanı havuzunun tek bir bağımsız sunucu gibi davranmasını otomatik olarak kanıtlamaz.

Ünite 7: Genel Hizmet Dağılımları ve M/G/1 Sistemleri

7.1. İkinci Moment ve Ortalama Bekleme

M/G/1 gelişleri Poisson kabul ederken hizmet süresi dağılımını genel bırakır. FCFS disiplininde ve uygun sonlu moment/kararlılık koşullarında Pollaczek–Khinchine bağıntısı ortalama beklemeyi verir. Bekleme süresinde hizmet süresinin ikinci momenti belirleyicidir.

7.2. Hizmet Değişkenliği ve FCFS

Deterministik hizmet ve yüksek varyanslı hizmet aynı ortalamaya sahip olsa bile farklı bekleme üretir. Bağımsız olmayan hizmet süreleri veya öncelik politikaları altında temel FCFS formülü doğrudan kullanılamaz.

W[q] = λ·E[S²]/(2(1−ρ));   ρ = λ·E[S] < 1

7.3. Dağılım Tahmini ve Geçerlilik Koşulları

Hizmet süresinin dağılımı örnekle kestirilirken varyans tahmini için yeterli veri gerekir. Kuyrukta ölçülen bekleme ile gerçek işlem süresi ayrı tutulur.

7.4. Sayısal ve Algoritmik Örnek

Hizmet süresi ortalaması 0.1 s, ikinci momenti 0.02 s² ve geliş hızı 8/s olsun. ρ=0.8 için M/G/1 FCFS formülü W[q]=8·0.02/(2·0.2)=0.4 saniye verir. Hizmet dağılımının ikinci momenti ihmal edilirse kestirim hatalı olur.

7.5. Pollaczek–Khinchine Ortalama Bekleme Formülü

M/G/1 sisteminde gelişler Poisson, tek sunuculu hizmet süreleri bağımsız ve genel dağılımlıdır. FCFS disiplininde kararlı ortalama kuyruk beklemesi hizmetin ikinci momentine bağlıdır. Bu nedenle aynı ortalama hizmet hızına sahip iki dağılımın ortalama kuyruk gecikmesi farklı olabilir. Hizmet süresinin ikinci momenti sonsuzsa standart formül sonlu bekleme tahmini üretmez; yalnız ortalama hizmet süresine dayalı M/M/1 yaklaşımı yetersiz kalır.

Wq = λ·E[S²] / (2(1−ρ));   ρ = λ·E[S] < 1

7.6. Hizmet Varyansının Etkisi

Deterministik hizmetin ikinci momenti E[S]² iken üstel hizmetin ikinci momenti 2E[S]² olur. Eşit λ ve ortalama hizmet süresinde M/D/1 kuyruk bekleme değeri, M/M/1 modelinin yarısıdır. Bu matematiksel sonuç, dosya boyutu veya işlem türüne göre süre dağılımının neden ölçülmesi gerektiğini gösterir. Çarpık veya ağır kuyruklu yüklerde örnekleme yetersizliği ikinci moment tahminini kararsızlaştırabilir.

7.7. Bağımsızlık ve Hizmet Sırası Varsayımları

Pollaczek–Khinchine bağıntısı genel hizmet dağılımına izin verir ancak geliş ve hizmet bağımsızlığı ile FCFS gibi başka varsayımları korur. Öncelikli kuyruk veya işlemci paylaşımı kullanıldığında sonuç doğrudan geçerli değildir. Ardışık büyük görevlerin kümelendiği iş yüklerinde hizmet süreleri korelasyonlu olabilir. Ölçümler otokorelasyon, kuantil ve iş sınıfı bakımından incelenerek model seçimi yapılmalıdır.

7.8. Hesaplamalı Örnek ve Çözüm

M/G/1 için λ=8, ortalama hizmet 0,1 saniye ve ikinci moment 0,02 saniye kare olsun. ρ=0,8 ve Wq=0,4 saniye hesaplanır; hizmet süresi eklenince W=0,5 saniyedir.

Wq = 8·0.02/(2·0.2)=0.4 s;  W=0.5 s

7.9. Bağımsız Doğrulama ve Gerçekleme Sınırları

Ölçülen hizmet süresi ikinci momentinin örneklem belirsizliği, tahmin edilen Wq için hata kaynağıdır.

Ünite 8: Little Yasası ve Yenilenme Süreçleri

8.1. Sistem İçi İş Sayısı ve Akış Hızı

Little yasası kararlı bir sistemde ortalama sistemdeki iş sayısı, etkin geliş hızı ve ortalama sistemde kalış süresi arasında ilişki kurar. Çıktı hızı ile sisteme teklif edilen giriş hızı, kayıp veya ret varsa farklıdır. Bu yasa Poisson geliş varsayımına bağlı değildir.

8.2. Yenilenme Ödül Teoremi

Yenilenme süreçlerinde bağımsız ve eş dağılımlı çevrim süreleri üzerinden uzun dönem oranlar hesaplanır. Yenilenme ödül teoremi bir çevrimin ödülünün beklenen değerini beklenen çevrim süresine oranlar. Ölçüm sınırındaki tamamlanmamış çevrimlerin etkisi dikkate alınmalıdır.

L = λ[eff]·W;   lim[t→∞] R(t)/t = E[R]/E[T]

8.3. Ölçüm Penceresi ve Nüfus Eşdeğerliği

Little yasasını kontrol etmek için aynı nüfus ve aynı ölçüm penceresinden L, λ[eff] ve W kestirilir. Farklı sınıfların verilerini karıştırmak eşitliği bozabilir.

8.4. Sayısal ve Algoritmik Örnek

Sistemde ortalama 20 iş var ve etkin tamamlanma hızı saniyede 5 ise Little yasası ortalama sistem süresinin 4 saniye olduğunu söyler. Tamamlanan işlerin yalnız bir alt kümesinin ölçüldüğü kayıtlarda pay ve payda farklı popülasyonlara ait olamaz.

8.5. Little Yasasının Sistem Sınırları

Little yasası, uzun dönem ortalama nüfusun etkin geliş hızı ile ortalama sistemde kalış süresinin çarpımına eşitliğini ifade eder. Kabul edilmeyen istekleri geliş hızına dahil edip yalnız tamamlanan işleri nüfus ve süre hesabında kullanmak yanlış sonuç doğurur. Ölçüm penceresinin başında kuyrukta kalan ve sonunda tamamlanmamış işler de dikkatle değerlendirilmelidir. Durağan ve akış dengesi varsayımları olmadan anlık gözlemlerden doğrudan eşitlik beklenmez.

L = λₑff·W;   Lq = λₑff·Wq

8.6. Yenilenme Ödül Kuramı

Yenilenme süreçleri, sistemi uygun bağımsız ve aynı dağılımlı döngülere bölerek uzun dönem ödül oranını açıklar. Her döngüde biriken ödülün beklenen değeri, beklenen döngü uzunluğuna bölünerek zaman ortalaması elde edilir. Boş kuyruktan tekrar boş kuyruğa dönüşler bazı modellerde yenilenme noktası sağlayabilir. Ancak dışsal zaman değişimleri veya kalıcı belleğe sahip süreçler döngülerin bağımsızlığını bozabilir.

8.7. Artık Ömür ve Gözlem Yanlılığı

Rastgele bir anda gözlenen devam eden iş, başlama anında seçilen tipik işten daha uzun olma eğiliminde olabilir. Bu uzunluk yanlılığı hizmet süresinin ikinci momentiyle ilişkilidir. Rastgele anda sunucuyu meşgul görmekle geliş anında onu meşgul bulmak ancak PASTA gibi özel varsayımlar altında özdeş yorumlanır. Ölçüm protokolü sistemin hangi anlarını örneklediğini açıkça belirtmelidir.

E[Sʳ] = E[S²] / (2E[S])  (stationary residual life)

8.8. Hesaplamalı Örnek ve Çözüm

Sistem saniyede 5 iş tamamlıyor ve her iş ortalama 2 saniye kalıyorsa Little yasası ortalama 10 işi öngörür. Bu sonuç kuyruktaki iş sayısı için değil, seçilen tüm sistem sınırı için geçerlidir.

L=5·2=10 jobs

8.9. Bağımsız Doğrulama ve Gerçekleme Sınırları

Kabul kuyruğu ve işlem aşaması ayrı izleniyorsa her biri için aynı sınırda ölçülmüş λ ve W değerleri seçilmelidir.

Ünite 9: Kuyruk Disiplinleri, Önceliklendirme ve Kabul Kontrolü

9.1. Hizmet Disiplinleri ve Adalet

FCFS, öncelikli servis, en kısa iş önce ve round-robin disiplinleri farklı gecikme ve adalet dengeleri oluşturur. İşlem sırasını değiştirmek hizmet sürelerinin dağılımını değiştirmese bile sınıf bazında beklemeyi değiştirebilir. Aç bırakma ve yaşlandırma politikaları analiz edilmelidir.

9.2. Kabul Kontrolü ve Geri Basınç

Kabul kontrolü, kuyruk tamamen dolmadan yeni işleri reddederek beklemeyi sınırlayabilir. Geri basınç ise üst sisteme talebin yavaşlatılması gerektiğini bildirir. Paket/iş düşürme oranı ile tamamlanan işlerin gecikmesi birlikte değerlendirilmelidir.

λ[eff] = λ(1−P[block]);   U = T[busy]/T[observed]

9.3. Sınıf Bazında Gecikme ve Hizmet Payı

Öncelik algoritmalarında her sınıfın gecikme yüzdelikleri ve gerçekleşen hizmet payı ölçülür. Toplam ortalama gecikmenin iyileşmesi düşük öncelikli işler için kabul edilemez adaletsizliği gizleyebilir.

9.4. Sayısal ve Algoritmik Örnek

Kuyruk kapasitesi 100 olduğunda aşırı yükte istekler reddedilebilir; kabul edilen isteklerin p99 gecikmesi düşse de ret oranı yükselir. Değerlendirme yalnız tamamlanan isteklerin gecikmesine dayanırsa performans iyileşmesi yanıltıcı olabilir.

9.5. FCFS, LCFS ve İşlemci Paylaşımı

FCFS ilk gelen işi önce tamamlarken LCFS son gelen işi önceliklendirir; processor sharing işleme kapasitesini eşzamanlı işlere paylaştıran idealleştirilmiş modeldir. Bu disiplinler aynı gelen iş yükünde farklı bireysel bekleme ve yanıt süresi dağılımları oluşturabilir. Ortalamalar bazı özel varsayımlarda ilişkili olsa da kuyruk disiplinlerini tüm metrikler bakımından eşdeğer kabul etmek yanlıştır. Disiplin seçimi görev sınıflarının adalet ve son teslim gereksinimleriyle birlikte değerlendirilir.

W = waiting time + service time

9.6. Öncelik Kuyrukları ve Aç Kalma

Sabit yüksek öncelik verilen bir iş sınıfı, daha düşük öncelikli sınıfların bekleme süresini aşırı artırabilir. Kesintili ve kesintisiz öncelik modelleri farklıdır; devam eden işin durdurulmasının mümkün olup olmadığı açıklanmalıdır. Aging gibi yaklaşımlar uzun bekleyen işlerin önceliğini yükselterek aç kalma riskini azaltabilir fakat basit FCFS formüllerinin varsayımlarını değiştirmiş olur. Sınıf başına gecikme ve tamamlanma oranı ölçülmelidir.

9.7. Sonlu Tampon, Kaybetme ve Kabul Kontrolü

Sonlu kapasiteye sahip kuyrukta gelen iş tampon doluysa reddedilebilir veya düşürülebilir. Etkin geliş hızı kabul edilen işlerle hesaplanır; dışarıdan gelen toplam hızla tamamlanan iş sayısı her zaman aynı değildir. M/M/1/K gibi modellerin durağan dağılımı, sonsuz tamponlu M/M/1 modelinden farklıdır. Kabul kontrolü değerlendirilirken kuyruk gecikmesi yanında kayıp olasılığı ve sistemin adalet davranışı da incelenmelidir.

λₑff = λ·(1 − Pblock)

9.8. Hesaplamalı Örnek ve Çözüm

Dışarıdan saniyede 10 istek gelen ve dolu tampon nedeniyle yüzde 20 reddeden bir sistemin etkin kabul hızı saniyede 8 olur. Reddedilenlerin yeniden denemesi hâlinde dış teklif edilen yük farklılaşabilir.

λₑff = 10·(1−0.2)=8

9.9. Bağımsız Doğrulama ve Gerçekleme Sınırları

Ortalama bekleme süresinin yalnız kabul edilen işler için mi ölçüldüğü açıkça belirtilmelidir.

Ünite 10: Kuyruk Ağları ve Dağıtık Sistem Performansı

10.1. Seri ve Paralel Hizmet Aşamaları

Kuyruk ağı birbirine veri veya iş aktaran birden fazla servis merkezinden oluşur. Bir isteğin toplam gecikmesi ağ, servis ve bekleme sürelerinin birleşimidir. Fork-join aşamalarında tamamlanma süresi paralel dalların en yavaşına bağlı olduğundan bağımsız ortalama gecikmeler doğrudan toplanamaz.

10.2. Açık ve Kapalı Kuyruk Ağları

Açık ve kapalı ağ modellerinde iş nüfusu ve dış geliş varsayımları farklıdır. Jackson ağı gibi ürün-biçimli sonuçlar için Markovyen ve yönlendirme varsayımları gereklidir. Veritabanı bağlantı havuzları ve işçi sayıları ayrı hizmet merkezleri oluşturabilir.

W[end] = ∑[k=1..K] Wₖ  (aynı işin seri aşamaları)

10.3. Darboğaz ve Uçtan Uca Gecikme

Darboğaz istasyonu kullanım oranı, gecikme dağılımı ve ardışık aşamalardaki gözlem sayıları birlikte kontrol edilir. Korelasyon ve geri bildirim döngüleri yok sayılırsa tahmin yanlı olabilir.

10.4. Sayısal ve Algoritmik Örnek

İki seri servis aşamasından geçen aynı işin ortalama süreleri 10 ve 20 ms ise toplam beklenen süre 30 ms olur; bu ifade beklentinin doğrusallığına dayanır. Paralel yürütülen iki işin tamamlanma süresi ise max(T₁,T₂) olduğundan toplam veya maksimum ortalama süreleri tek başına yeterli değildir.

10.5. Açık Kuyruk Ağları ve Trafik Denklemleri

Bir açık kuyruk ağında dışarıdan gelen akış, istasyonlar arasında yönlendirme olasılıklarıyla aktarılır ve sonunda sistemden çıkar. Her düğümün etkin geliş hızı yalnız dış geliş değildir; diğer düğümlerin yönlendirdiği işler de hesaba katılır. Jackson ağının çarpım biçimli dağılımı belirli Poisson, üstel hizmet ve yönlendirme varsayımlarına bağlıdır. Paylaşımlı kaynak veya durum bağımlı yönlendirme bu bağımsızlık yapısını bozabilir.

Λⱼ = αⱼ + ∑ᵢ Λᵢpᵢⱼ

10.6. Seri Aşamalar ve Uçtan Uca Süre

İşler ardışık kuyruklardan geçtiğinde uçtan uca kalış süresi, her ziyaret edilen aşamadaki gerçekleşmiş sürelerin toplamıdır. Ortalama değerlerin toplamı doğrusaldır; buna karşılık p95 veya p99 yüzdelikleri genel olarak doğrudan toplanamaz. Tekrar ziyaret edilen kuyruklar ve yönlendirme döngüleri toplam süreyi etkiler. Servis mimarisinde ölçüm yapılırken her aşamanın işlem sınırı ve başarısız yeniden deneme trafiği ayrı tanımlanmalıdır.

10.7. Fork–Join ve Paralel Görevlerin Tamamlanması

Paralel kollara bölünen bir iş, bütün kollar tamamlanmadan sonuçlanamıyorsa bitiş süresi paralel kollardaki en uzun süreden etkilenir. Kollardaki gecikmeler bağımsız olmasa bile maksimum işlemi bu yapıyı belirler. Bu durum, paralel çalışmanın ortalama tek görev süresini azaltmasına rağmen uçtan uca yüksek yüzdelik gecikmeyi artırabilmesini açıklar. Fork–join sistemlerine Jackson çarpım biçimi varsayımı doğrudan uygulanamaz.

Wfork-join = max(W₁, W₂, …, Wₖ)

10.8. Hesaplamalı Örnek ve Çözüm

A istasyonuna dışarıdan saniyede 2 iş geliyor ve her işin yüzde 50 olasılıkla B istasyonuna geçtiği varsayılsın. Başka geliş veya geri dönüş yoksa B istasyonunun etkin hızı saniyede 1’dir.

Λᴮ = 2·0.5 = 1 job/s

10.9. Bağımsız Doğrulama ve Gerçekleme Sınırları

Her düğümdeki hizmet kapasitesi bu etkin akışa göre değerlendirilir; dış giriş hızı bütün istasyonlara aynen atanmaz.

Ünite 11: Ayrık Olay Simülasyonu ve Stokastik Modelleme

11.1. Olay Takvimi ve Mantıksal Saat

Ayrık olay simülasyonu sistem saatini ardışık geliş, hizmet başlangıcı ve tamamlanma olaylarına taşır. Olaylar öncelik kuyruğunda olay zamanı ve deterministik bağlayıcı kuralla sıralanır. Sürekli zaman adımlaması gerekmediğinde olay tabanlı simülasyon hesaplama açısından daha verimli olabilir.

11.2. Rastgele Tohumlar ve Isınma Süresi

Rastgele örneklemeler açık tohum ve dağılım parametreleriyle üretilir. Sıcak başlangıç geçiş dönemi, çoğaltım sayısı ve otokorelasyon güven aralığının geçerliliğini etkiler. Analitik olarak çözülebilen M/M/1 modeli simülatör için kontrol örneği işlevi görebilir.

t[next] = min{t[arrival], t[completion], t[timeout], …}

11.3. Simülasyon Değişmezleri ve Güven Aralıkları

Simülasyonun her olayda iş sayısının negatif olmaması ve tamamlanan işlerin hizmete girmiş olması değişmezleri korunur. Örneklem varyansı ve yüzdelik kestirimleri çoklu tekrarlarla karşılaştırılır.

11.4. Sayısal ve Algoritmik Örnek

Olay kuyruğunda 1.0 saniyede geliş ve tamamlanma aynı ana rastlarsa önce hangi olayın işleneceği tutarlı biçimde tanımlanır. Yanlış bağlayıcı kural kapasite veya kabul kararlarını değiştirebilir. Simülatör olaylardan sonra kuyruk sayısını hiçbir zaman negatif bırakmamalıdır.

11.4.1. Açıklayıcı Sözde Kod

events = priority_queue(initial_arrivals)
while events and clock < horizon:
    event = events.pop_min()
    clock = event.time
    update_integrals_of_queue_length()
    apply_arrival_or_completion(event)
    schedule_followup_events()
check_nonnegative_population()

11.5. Olay Kuyruğu ve Simülasyon Saati

Ayrık olay simülasyonunda geliş, hizmet bitişi ve zaman aşımı gibi olaylar zaman damgalarına göre öncelik kuyruğunda tutulur. Simülasyon saati bir sonraki olay zamanına sıçrar; her ara zaman birimi için döngü çalıştırmak gerekmez. Eşit zaman damgalı olayların sırası kuyruk uzunluğunu etkileyebileceği için deterministik bağlama politikası gerekir. Boşaltma, iptal ve geri alma olayları durum değişmezlerini korumalıdır.

tₙₑₓₜ = min(tarrival, tcompletion, ttimeout)

11.6. Isınma Süresi ve Başlangıç Yanlılığı

Simülasyona boş kuyrukla başlanması, ilk gözlemlerde sistemin durağan ortalamasından daha düşük bekleme süresi üretebilir. Isınma dönemi çıkarımı bu başlangıç yanlılığını azaltmayı amaçlar. Ancak ne kadar veri çıkarılacağı deneyin süresine ve karışma davranışına bağlıdır. Kararlı rejimi bulunmayan bir sistemde yalnız daha uzun ısınma seçmek sorunu çözmez; yük ve kapasite ilişkisi yeniden incelenmelidir.

11.7. Tekrarlar, Güven Aralıkları ve Rastgelelik

Rastgele simülasyonun tek bir tohumu ile elde edilen sonuç güvenilir popülasyon tahmini değildir. Bağımsız tekrarlar için farklı tohumlar kullanılır; örnek ortalamaları üzerinden güven aralıkları hesaplanabilir. Aynı iki algoritmanın etkisini karşılaştırırken ortak rastgele sayılar varyans azaltma sağlayabilir; uygun eşleştirilmiş deney tasarımı gerekir. Ortalama ve yüzdelik tahminlerinin belirsizliği ayrı raporlanmalıdır.

CI(mean) ≈ x̄ ± t·s/√n  (independent replication means)

11.8. Hesaplamalı Örnek ve Çözüm

Bağımsız 10 simülasyon tekrarının ortalama gecikmeleri hesaplandığında, güven aralığı tek tek istekler üzerinden değil tekrar ortalamaları üzerinden kurulmalıdır.

CI = x̄ ± t₉,0.975·s/√10

11.9. Bağımsız Doğrulama ve Gerçekleme Sınırları

Tohumlar ayrı seçilmeli; ısınma süresi ve deney ufku tüm tekrarlar için kayıt altında tutulmalıdır.

Ünite 12: Kuyruk Kararlılığı, Kapasite Planlama ve Model Doğrulaması

12.1. Trafik Yoğunluğu ve Kararlılık Koşulları

Kararlılık, uzun dönemde kuyruk uzunluğunun kontrolsüz büyümemesiyle ilgilidir. Ortalama kapasitenin geliş hızından büyük olması tüm çok sınıflı veya karmaşık geri beslemeli ağlarda tek başına yeterli değildir. Kayıp, terk etme ve sonlu tampon mekanizmaları ayrı modellenmelidir.

12.2. Kapasite ve Gecikme Hedeflerinin Dengelenmesi

Kapasite planlamasında sabit ortalama yük yerine pik gelişler, hizmet varyansı ve kuyruk hedefleri incelenir. Hizmet kapasitesinin artırılmasının maliyetiyle bekleme maliyeti birlikte optimize edilebilir. Tek başına yüksek CPU kullanım oranı iyi verimlilik göstergesi değildir.

ρ = λ·E[S]/c;   ρ < 1  (basit çok sunuculu model için gerekli koşul)

12.3. Parametre Kayması ve Model Geçerliği

Model geçerlemesinde ölçülen geliş dağılımı, görev hizmet süreleri, ret oranı ve gecikme dağılımı bağımsız kontrol edilir. Süreç durumu değişirse eski parametrelerin geçerliliği yeniden sınanmalıdır.

12.4. Sayısal ve Algoritmik Örnek

Durağan bir M/M/1 de ρ değerinin 1 e yaklaşması analitik ortalama sürenin sınırsız büyümesine yol açar. Gerçek uygulamalarda sonlu tampon veya timeout sistemi doyumdan koruyabilir, ancak bu kez ret ve kayıp oranı ölçülmelidir.

12.4.1. Açıklayıcı Sözde Kod

fit_arrival_and_service_distributions(data)
test_independence_and_stationarity()
simulate_with_multiple_random_seeds()
compare_means_percentiles_rejection_rates()
report_assumptions_and_uncertainty_intervals()

12.5. Kararlılık ve Trafik Yoğunluğu

Bir kuyrukta ortalama geliş işi, uzun dönem hizmet kapasitesini sürekli aşıyorsa bekleyen iş sayısı büyüme eğilimindedir. Basit M/M/c modelinde ρ<1 kararlı rejim için gereklidir; genel ağlarda her darboğazın etkin yükü, yönlendirme ve iş bağımlılıkları ayrıca değerlendirilir. Ortalama yük kapasitenin altında olsa bile çok uzun geliş patlamaları geçici büyük kuyruk oluşturabilir. Bu nedenle ortalama kararlılık ile sonlu gecikme garantisi ayrı kavramlardır.

ρ = λ·E[S]/c;   ρ < 1  (basic homogeneous server model)

12.6. Backpressure, İstek Kabulü ve Yük Atma

Sınırsız iş kuyruğu, kapasite aşıldığında bellekte birikmeye neden olabilir. Geri basınç üreticinin hızını azaltır; kabul kontrolü sisteme alınan işi sınırlar; yük atma ise belirli işleri açık politika ile reddeder. Bu yöntemlerin sonuçları gecikme, kayıp oranı, hakkaniyet ve kaynak kullanımı bakımından farklıdır. Retry davranışı hesaba katılmazsa reddedilen isteklerin tekrar gönderilmesi yeni bir yük döngüsü oluşturabilir.

12.7. Analitik Model ile Ölçümlerin Kalibrasyonu

Analitik kapasite formülleri seçilmiş dağılım ve bağımsızlık varsayımlarına dayanır. Gerçek sistemde CPU, bellek, G/Ç, kilitler ve veri tabanı kaynakları birbirleriyle etkileşebilir. Model kalibrasyonunda geliş-hizmet dağılımları, p50/p95/p99 gecikmeleri, kuyruk nüfusu ve tamamlanma oranı farklı yük seviyelerinde ölçülür. Tahmin artıkları belirli yük bölgelerinde sistematik hâle geliyorsa model sınıfı değiştirilmelidir. Test ve ölçüm için gizli üretim verilerinin yayımlanması gerekli değildir.

12.8. Hesaplamalı Örnek ve Çözüm

M/M/1 sunucuda μ=10 iş/saniye sabitken λ=8 için ortalama kalış 0,5 saniye, λ=9 için 1 saniyedir. Yalnız yüzde 12,5 geliş artışı gecikmeyi ikiye katlar; bu sonuç doygunluğa yakın doğrusal olmayan davranışı gösterir.

W₈=1/(10−8)=0.5 s;  W₉=1/(10−9)=1 s

12.9. Bağımsız Doğrulama ve Gerçekleme Sınırları

Üretim sistemine doğrudan bu formülleri uygulamadan önce hizmet zamanlarının yükten bağımsızlığı ve geliş sürecinin dağılımı sınanmalıdır.

Kaynakça

• Gross, Donald; Shortle, John F.; Thompson, James M.; Harris, Carl M. Fundamentals of Queueing Theory. 4th ed. Wiley, 2008.
• Ross, Sheldon M. Introduction to Probability Models. 13th ed. Academic Press, 2024.