ORCIDGitHubLinkedIn
RSS Özgeçmiş EN

Large Language Model

Türkçe karşılığı: Büyük Dil ModeliAlan: Büyük Dil Modelleri

Çok büyük metin veya çok kipli veri üzerinde ön eğitim görerek token dizileri üzerinde olasılıksal tahmin yapan büyük ölçekli dil modelidir.

Tanım

Çok büyük metin veya çok kipli veri üzerinde ön eğitim görerek token dizileri üzerinde olasılıksal tahmin yapan büyük ölçekli dil modelidir.

Teknik Bağlam

LLM yalnız parametre sayısıyla tanımlanmaz; veri, eğitim hedefi, bağlam uzunluğu, post-training, araç kullanımı ve serving mimarisi gerçek sistem davranışını birlikte belirler.

İlgili Makale

Son güncelleme:

İlgili kavramlar

Büyük Dil Modelleri

İlgili teknik yayınlar

Başlık veya özetinde bu kavrama doğrudan karşılık gelen yayınlar.

FPGA Üzerinde LLM Çıkarımı ve HLS

LLM çıkarım için FPGA kullanmak GPU'nun küçük bir kopyasını yapmak değildir. Quantization, memory bant genişliği, işlem hattı, on-chip buffer ve HLS dönüşümleri birlikte tasarlandığında enerji/gecikme dengesi değişebilir.