Temperature
Token olasılık dağılımının keskinliğini değiştirerek decoding çeşitliliğini kontrol eden ölçekleme parametresi.
Teknik Bağlam
Düşük temperature dağılımı keskinleştirip daha deterministik seçimlere, yüksek temperature daha çeşitli sonuçlara yol açabilir. Etki model ve sonraki sampling filtresine bağlıdır.
Sınırlar
Temperature model bilgisini değiştirmez; yalnız decoding dağılımını dönüştürür.
İlgili Kavramlar
- Logit
- Top-k Sampling
- Top-p Sampling
- Tokenization