信息論與編碼章節(jié)練習(xí)(2020.05.29)
來(lái)源：考試資料網(wǎng)
2.問(wèn)答題簡(jiǎn)述連續(xù)信源的熵的定義。
參考答案：連續(xù)信源的不確定度應(yīng)為無(wú)窮大，是相對(duì)熵，或叫差熵。在取兩熵之間的差時(shí)才具有信息的所有特性。
3.填空題自信息量的單位一般有（）。
參考答案：比特、奈特和哈特
5.判斷題確定性信源的熵H（0，0，0，1）=1。
6.問(wèn)答題試證明H（X）是輸入概率分布P（x）的上凸函數(shù)。
7.問(wèn)答題求自由歐幾里得距離。
參考答案：
自由歐幾里得距離：
，求
