solution

Một nguồn tin nhị phân sinh ký hiệu $1$ với xác suất $p$ và $0$ với xác suất $1-p$.

Entropy Shannon (đơn vị bit):

$H(p) = -p\log_2 p - (1-p)\log_2(1-p)$

Quy ước $0\log_2 0 = 0$, nên $p=0$ hoặc $p=1$ cho $H=0$.

Đọc $p$, in $H(p)$ làm tròn 4 chữ số thập phân.

Ví dụ: $p=0.5 \Rightarrow H=1.0000$ (bất định cực đại).