時間：2024-01-21 12:40:01 | 來源：信息時代
時間：2024-01-21 12:40:01 來源：信息時代
信息熵：信息量的測度。根據(jù)人們的實踐經(jīng)驗，一個事件給予人們的信息量多少，與這一事件發(fā)生的概率（可能性）大小有關(guān)。一個小概率事件的發(fā)生，給予人們的信息量就很多。相反，一個大概率事件的出現(xiàn)，給人們的信息量就很少。因此，用I（A）＝－logp（A）〔p（A)表示事件A發(fā)生的概率〕來度量事件A給出的信息量，稱為事件A的自信息量。若一次試驗有m個可能結(jié)果（事件），或一個信源可能產(chǎn)生m個消息（事件），它們出現(xiàn)的概率分別為p1，p2，……，pm，則用H＝－piogp來度量一次試驗或一個消息所給出的平均信息量。H稱為信息熵，由于H的表達(dá)式與熵的表達(dá)式差一個負(fù)號，故又稱為負(fù)熵。關(guān)鍵詞：
微信公眾號
版權(quán)所有? 億企邦 1997-2025 保留一切法律許可權(quán)利。
在線咨詢