信息論與編碼章節(jié)練習(2020.06.02)

現(xiàn)有一幅已離散量化后的圖像，圖像的灰度量化分成8級，見下表。表中數(shù)字為相應像素上的灰度級。

另有一無損無噪二元信道，單位時間（秒）內(nèi)傳輸100個二元符號。
（1）現(xiàn)將圖像通過給定的信道傳輸，不考慮圖像的任何統(tǒng)計特性，并采用二元等長碼，問需要多長時間才能傳完這幅圖像？
（2）若考慮圖像的統(tǒng)計特性（不考慮圖像的像素之間的依賴性），求此圖像的信源熵H（S），并對灰度級進行霍夫曼最佳二元編碼，問平均每個像素需用多少二元碼符號來表示？這時需多少時間才能傳送完這幅圖像？
（3）從理論上簡要說明這幅圖像還可以壓縮，而且平均每個像素所需的二元碼符號數(shù)可以小于H（S）比特。

給定語聲樣值X的概率密度為，求H_C(X)，并證明它小于同樣方差的正態(tài)變量的微分熵。