假定隨機(jī)變量欲裂的長(zhǎng)度是有限的,如果信源輸出地信息序列中,符號(hào)之間的無相互依賴關(guān)系,則稱這類信源為離散平穩(wěn)無記憶信源。
一個(gè)隨機(jī)事件發(fā)生某一結(jié)果后所帶來的信息量成為自信息量,定義為其發(fā)生概率對(duì)數(shù)的負(fù)值。