Hallucination
Üretken modelin mevcut bağlam veya doğrulanabilir gerçeklerle desteklenmeyen içeriği akıcı ve ikna edici biçimde üretmesi.
Teknik Bağlam
Hallucination yanlış olgu, uydurma kaynak, hatalı ilişki veya güven düzeyinin aşırı ifade edilmesi biçiminde görülebilir. Retrieval, constrained decoding ve verification azaltıcı yöntemlerdir.
Sınırlar
Her model hatası hallucination değildir; reasoning, retrieval veya tool execution hataları farklı failure mode olarak ayrılmalıdır.
İlgili Kavramlar
- Grounding
- Retrieval-Augmented Generation
- Model Evaluation
- Verification