ORCIDGitHubLinkedIn
RSS Özgeçmiş EN

Quantization

Türkçe karşılığı: NicemlemeAlan: Makine Öğrenmesi

Model ağırlıklarını, aktivasyonları veya vektörleri daha düşük hassasiyetli sayısal gösterime dönüştürerek bellek ve hesap maliyetini azaltma.

Makine Öğrenmesi Bağlamı

FP32'den BF16, FP16, INT8 veya daha düşük formatlara geçiş memory bandwidth ve accelerator throughput avantajı sağlayabilir. Calibration, per-channel scale ve quantization-aware training kalite kaybını etkiler.

Genelleme ve Ölçüm Sınırı

Quantization yalnız dosya boyutu küçültme değildir; kernel desteği, accumulator hassasiyeti ve outlier dağılımı gerçek hız kazancını belirler.

İlişkili Makine Öğrenmesi Kavramları

İlgili teknik yazı: Yapay Zeka: Felsefe, Kuram ve Uygulama.

Doğrudan kaynak: Quantization için kullanılan teknik dayanak yukarıdaki birincil çalışma veya resmî belirtimdir.

Son güncelleme:

İlgili kavramlar

Makine Öğrenmesi

İlgili teknik yayınlar

Başlık veya özetinde bu kavrama doğrudan karşılık gelen yayınlar.

Varyans Tabanlı Renk Nicemleme

Varyans tabanlı renk nicemleme, RGBA uzayındaki dağılımı momentlerle ölçüp en fazla hata taşıyan kutuları bölerek sınırlı bir palet üretir.

FPGA Üzerinde LLM Çıkarımı ve HLS

LLM çıkarım için FPGA kullanmak GPU'nun küçük bir kopyasını yapmak değildir. Quantization, memory bant genişliği, işlem hattı, on-chip buffer ve HLS dönüşümleri birlikte tasarlandığında enerji/gecikme dengesi değişebilir.

Temel Bilimler Yönünden Görüntü

Sayısal görüntünün oluşumunu piksel, uzamsal örnekleme, nicemleme, bit derinliği, elektromanyetik tayf, optik, kamera geometrisi, algılayıcı davranışı ve insan görmesi üzerinden ele alan ders notu.

Ses Kaydı ve İletişimi

Mikrofondan analog-sayısal dönüşüme; örnekleme, nicemleme, bit derinliği, kanal düzeni, codec, gerçek zamanlı taşıma ve saat kayması bakımından ses kayıt zinciri.