Shannon Entropy

Türkçe karşılığı: Shannon entropisiAlan: Bilgi Teorisi

Bir ayrık rastgele değişkendeki ortalama belirsizliği H(X) = -Σ p(x) log p(x) ile ölçen bilgi teorisi niceliği.

Teknik Bağlam

Binary/file analysis'te byte histogram entropisi compressed veya encrypted bölgeler hakkında ipucu verebilir; communication teorisinde kaynak kodlama sınırlarıyla ilişkilidir.

Sınırlar

Yüksek entropy 'rastgelelik kanıtı' veya şifreleme tespiti değildir; dağılım modeli ve örnek sayısı sonucu etkiler.

İlgili Kavramlar

  • Binary Entropy
  • Compression
  • Information Theory
  • Randomness