Explainable AI
Model davranışını insan açısından yorumlanabilir açıklamalar, öznitelik katkıları, karşı olgular veya örnekler üzerinden inceleyen yöntem alanıdır.
Tanım
Model davranışını insan açısından yorumlanabilir açıklamalar, öznitelik katkıları, karşı olgular veya örnekler üzerinden inceleyen yöntem alanıdır.
Teknik Bağlam
Post-hoc açıklama, modelin iç nedensel mekanizmasının eksiksiz kopyası değildir. Kritik sistemlerde açıklanabilirlik doğrulama, kalibrasyon ve bağımsız testle birlikte ele alınmalıdır.