Rate Limiting
Belirli bir zaman aralığında kabul edilen istek veya iş miktarını politika ile sınırlandırma mekanizması.
Teknik Bağlam
API koruması, tenant izolasyonu ve overload önleme için token bucket veya benzeri algoritmalar kullanılır. Limit request sayısına, byte miktarına, maliyet puanına veya eşzamanlı işe uygulanabilir.
Sınırlar
Rate limiting ile backpressure aynı değildir: rate limiting önceden tanımlı politika uygular; backpressure downstream kapasitesinden dinamik sinyal alabilir.
İlgili Kavramlar
- Token Bucket
- Backpressure
- Load Shedding
- Quota