?在信息理論中引入了熵的概念,即對象的非組織程度、隨機性或不確定性。 據申農和維納的定義,“凡是在一種情況下能減少不確定性的任何事物都叫做信息?!?/span>[4]信息量則是指對這種不確定性的消除程度的多少和大小。這里信息量的概念與人們日常所用概念并不一致,它并不是指傳達信息的符號量的多少,也不是簡單的信息內容的多少,而是與事物發(fā)生的可能性相關的一個相對的量。即:“信息量等于可能性選擇的概率對數?!?/span>[5]——信息與人們已經形成的對于相關事物發(fā)生可能性的預測之間的差異。信息本身對于不確定性的消除或者減少表現(xiàn)在接受者那里。 對于接受者來說,信息所含的信息量正是與它所能夠消滅的頭腦中已有的熵成正比。因而信息量是它所能改變的人們已有認識的程度的衡量。 對于接受者個體而言,它對于任何事物都具有可能性大小的判斷。熵的大小也與這種可能性成反比。事物發(fā)生的可能性越大,其確定性越強, |
|