Top-p Sampling

Türkçe karşılığı: Top-p örneklemeAlan: Büyük Dil Modelleri

Nucleus sampling olarak da bilinen, kümülatif olasılığı p eşiğine ulaşan en küçük token kümesinden örnekleme yöntemi.

Teknik Bağlam

Aday kümesi dağılımın belirsizliğine göre dinamik büyüyüp küçülebilir. Temperature ile birlikte kullanıldığında iki parametrenin etkileşimi değerlendirilmelidir.

Sınırlar

p değeri tek başına kalite ölçüsü değildir ve farklı modellerde aynı davranışı garanti etmez.

İlgili Kavramlar

  • Top-k Sampling
  • Temperature
  • Logit
  • Tokenization