Large Language Model

Türkçe karşılığı: Büyük Dil ModeliAlan: Büyük Dil Modelleri

Büyük Dil Modeli (Large Language Model) — Çok büyük metin veya çok kipli veri üzerinde ön eğitim görerek token dizileri üzerinde olasılıksal tahmin yapan büyük ölçekli dil modelidir.

Tanım

Çok büyük metin veya çok kipli veri üzerinde ön eğitim görerek token dizileri üzerinde olasılıksal tahmin yapan büyük ölçekli dil modelidir.

Teknik Bağlam

LLM yalnız parametre sayısıyla tanımlanmaz; veri, eğitim hedefi, bağlam uzunluğu, post-training, araç kullanımı ve serving mimarisi gerçek sistem davranışını birlikte belirler.

Modelin yanıt üretmesi ile bir dosyayı gerçekten okuması, bir veritabanını sorgulaması veya bir işlemi gerçekleştirmesi ayrı yeteneklerdir. Son üçü ancak uygulamanın sağladığı bağlam ve izinli araçlarla doğrulanabilir; üretilen metin tek başına işlem gerçekleştiğinin kanıtı değildir.

İlgili Makale

İlgili teknik yayınlar

Başlık veya özetinde bu kavrama doğrudan karşılık gelen yayınlar.

FPGA Üzerinde LLM Çıkarımı ve HLS

LLM çıkarım için FPGA kullanmak GPU'nun küçük bir kopyasını yapmak değildir. Quantization, memory bant genişliği, işlem hattı, on-chip buffer ve HLS dönüşümleri birlikte tasarlandığında enerji/gecikme dengesi değişebilir.

Doğal Dil İşleme

Türkçe ağırlıklı doğal dil işleme; Unicode ve normalizasyon, tokenlaştırma, biçimbilim, sözdizimi, anlambilim, istatistiksel NLP, Transformer, çok dilli modeller, konuşma, LLM ve üretim mühendisliğini karşılaştırmalı ele alan kapsamlı ders notu.