設(shè)有一連續(xù)隨機(jī)變量，其概率密度函數(shù)為：

試求這隨機(jī)變量的熵。又若Y1=X+K（K>0），Y2=2X，試分別求出Y1和Y2的熵h（Y1）和h（Y2）。

若有兩個(gè)串接的離散信道，它們的信道矩陣都是

并設(shè)第一個(gè)信道的輸入符號(hào)X ∈{a₁，a₂，a₃，a₄}是等概率分布，求I（X；Z）和I（X；Y）并加以比較。

把n個(gè)二元對稱信道串接起來，每個(gè)二元對稱信道的錯(cuò)誤傳遞概率為p。證明這n個(gè)串接信道可以等效于一個(gè)二元對稱信道，其錯(cuò)誤傳遞概率為：

從平均互信息的表達(dá)式證明，當(dāng)信道和信源都是無記憶時(shí)，有：