Information Entropy
Bir olasılık dağılımındaki belirsizliği bit gibi birimlerle ölçen Shannon bilgi kuramı büyüklüğüdür.
Tanım
Bir olasılık dağılımındaki belirsizliği bit gibi birimlerle ölçen Shannon bilgi kuramı büyüklüğüdür.
Teknik Bağlam
Entropi semantik anlam, doğruluk veya önem ölçüsü değildir. Sıkıştırma, kanal kapasitesi ve kodlama teorisinde temel rol oynar.