Top-p Sampling
Nucleus sampling olarak da bilinen, kümülatif olasılığı p eşiğine ulaşan en küçük token kümesinden örnekleme yöntemi.
Teknik Bağlam
Aday kümesi dağılımın belirsizliğine göre dinamik büyüyüp küçülebilir. Temperature ile birlikte kullanıldığında iki parametrenin etkileşimi değerlendirilmelidir.
Sınırlar
p değeri tek başına kalite ölçüsü değildir ve farklı modellerde aynı davranışı garanti etmez.
İlgili Kavramlar
- Top-k Sampling
- Temperature
- Logit
- Tokenization