 熱力學(xué)的熵，沿著概率法則揭開了一個自然規(guī)律。 與它在本質(zhì)上是一回事且公式相同的信息熵，同樣也適用于世間萬象。 因為，只有與信息相關(guān)，它就會在其中具有意義。 而我們這個世界，哪一種又不與信息相關(guān)呢！ 所以，信息熵可以延展到更多的領(lǐng)域和范疇，可以歸為一個通用法則。 即使如此，坤鵬論也不建議你忽略本源，還是應(yīng)該先把信息論的信息、信息熵、信息量徹底搞透，然后再放飛思想的翅膀。 如果地基打錯了或是不夠牢靠，你的知識大廈很可能會搭建成了違章建筑，七扭八歪，還會像半瓶子醋一樣咣當(dāng)。 這個世界，沒有比什么認(rèn)知錯誤更危險的事情了。 一、人類難以理解虛擬，更難理解虛擬＋概率 著名文學(xué)理論家喬納森·卡勒曾這樣說道： 比喻是認(rèn)知的一種基本方式，通過把一種事物看成另一種事物而認(rèn)識了它。 也就是說找到甲事物和乙事物的共同點，發(fā)現(xiàn)甲事物暗含在乙事物身上不為人所熟知的特征，而對甲事物有一個不同于往常的重新的認(rèn)識。 坤鵬論在這段的學(xué)習(xí)和寫作分享過程中，越來越感覺到比喻或者稱為類比的妙處。 就像《為什么漢字信息熵大，表現(xiàn)出來的卻是言簡意賅？》中用快遞來類比通信，可以幫著我們更容易地理解通信。 在虛擬和現(xiàn)實中，人類總是能夠比較輕松地理解看得見、摸得著的現(xiàn)實的事物。 而對于虛擬，即使本質(zhì)上和現(xiàn)實事物沒有什么區(qū)別，也常常會云山霧罩，迷迷糊糊。 這可能是虛擬的東西都要在大腦中先構(gòu)建它，已然相當(dāng)耗費腦力，接著還要對其進(jìn)行分析和思考。 就等于一邊要維持它在大腦中的存在，一邊又要在大腦里面對其研究，一心二用，真累！ 正因為虛擬，正因為難，所以很少有人會去發(fā)現(xiàn)這些事物，更不要說是研究了，甚至連接受起來都難。 如果再配合上概率，可能更加讓人認(rèn)為是不可理喻。 這就是為什么熵、信息熵難以理解的原因。 而且，熵和信息熵相比，前者更加虛擬，因此它雖然很早誕生，卻一直沒有走出專業(yè)領(lǐng)域。 直到信息熵被香農(nóng)提出后，才一下子成了人見人愛的香餑餑。 甚至出現(xiàn)了各專業(yè)領(lǐng)域紛紛趕時髦、搭便車的現(xiàn)象。 信息熵居然成了“時尚”科學(xué)！ 熵，不僅在其他領(lǐng)域開始被接受并應(yīng)用，還被大眾所接受，盡管許多人理解的并非全對。 為什么會這樣？ 就是因為信息是人們天天接觸的東西，正所謂萬物皆信息，信息說起來虛擬，但又看得見、摸得著，起碼隨處可見的圖書、報刊等，里面都是信息。 由此可見，理解虛擬最好的辦法是讓它變得更真實些。 而我們能夠做到的就是，找到與其本質(zhì)相通或部分相通的實體，最好是大眾日常就能接觸到的事物，然后進(jìn)行類比。 就像喬納森·卡勒所定義的，比喻是人類認(rèn)知的基本方式。 幾乎是不約而同的創(chuàng)意，人類很早很早就開始用寓言這種比喻性的故事來寄托意味深長的道理。 如果從比喻這個大定義出發(fā)，成語故事、神話故事、童話故事等都可與寓言歸為比喻性故事一類。 確實，比喻很強(qiáng)大，比我們想的強(qiáng)大得多，人類歷史上，不少偉大的發(fā)明往往都源于找到了恰當(dāng)?shù)谋扔鳌?/span> 同樣道理，和現(xiàn)實存在進(jìn)行類似（比喻），也是學(xué)習(xí)虛擬的捷徑。 同時，就坤鵬論自己的心得，能不能找到恰當(dāng)?shù)念惐?，和能不能用一句話給出定義一樣，是快速檢驗基礎(chǔ)知識夠不夠扎實的最佳方法。 所以，我們也就理解了，為什么越是學(xué)問高人，說出來的知識越是那么平易近人，讓人一聽就懂。 另外，坤鵬論建議可以采用寫下來的方式進(jìn)行學(xué)習(xí)，將思想變成文字，再通過文字審視思想，真心是個超便捷的捷徑。 下面，坤鵬論就講幾個自己想到的關(guān)于信息、信息熵的類比，拋磚引玉。 二、通信系統(tǒng)和快遞運輸類比 在《為什么漢字信息熵大，表現(xiàn)出來的卻是言簡意賅？》中，坤鵬論提到了快遞公司，當(dāng)然也可以類比其他一切運輸實體。只是，快遞越來越成為我們?nèi)粘Ｉ畹慕M成部分，所以更容易關(guān)聯(lián)理解。 通信系統(tǒng)和快遞公司，功能都是運輸，它們所做的都是將一個東西，從一個點轉(zhuǎn)移到另一個點的事情，說白了，它們都是搬運工。 不同的就是通信搬運的是訊息，快遞公司搬運的是實體包裹。 由此類比，我們就能在對信息論的理解中，排除掉總也揮之不去的將信息意義摻雜進(jìn)來理解的困擾。 就像快遞公司只關(guān)心如何把快遞精確無損地送到你手中，他們不關(guān)心快遞里面到底是什么東西，更不會關(guān)心你快遞中的東西有沒有問題，能不能真正對你有意義。 而在通信系統(tǒng)中，就算你要傳輸?shù)氖且欢褋y碼，香農(nóng)考慮的也只是如何讓它們在接收者那里復(fù)現(xiàn)為一模一樣的亂碼，而不是解開亂碼的意義。 但是，正如快遞公司不創(chuàng)造包裹，通信系統(tǒng)同樣也不創(chuàng)造訊息。 當(dāng)它們開始運輸?shù)臅r候，包裹和訊息都已經(jīng)在那里了。 所以，快遞包裹一旦發(fā)出，對于你來說，它的不確定性和確定性就已經(jīng)產(chǎn)生了，快遞公司將它送到你手中之后，就是完全消除不確定性。 在運輸過程中，快遞公司不會往你的快遞里面增加任何東西，也不會減少任何東西。 同樣道理，通信系統(tǒng)得到訊息時，訊息的信息熵就已經(jīng)在那里了，不確定性已經(jīng)是確定的。 通信系統(tǒng)的目的只有一個——精確或近似精確地將信息源的訊息在接收者那里復(fù)現(xiàn)。 在傳輸過程中，它絕對不會也不能，對訊息本身增加不屬于它的東西，或減少任何屬于它的東西。 通信系統(tǒng)會按照相應(yīng)的編碼規(guī)則將訊息進(jìn)行編碼并轉(zhuǎn)換成信號，保證其中包含有能夠完全消除不確定性的信息量，并為了防止噪聲按規(guī)則增加冗余，接著將其作為一個信號集合包由信道發(fā)送出去。 這個編碼和轉(zhuǎn)換過程，有點類似快遞的打包操作，也就是裝信封（主要用于裝文件或其他薄的東西）或是裝箱等。 快遞運輸過程中的裝信封、裝箱是為了什么？ 第一，為了安全，為了防止混亂、損壞和丟失； 第二，為了能成為一個貨物集合，一個屬于發(fā)件人和收件人的貨物集合； 第三，為了讓雜亂且不標(biāo)準(zhǔn)的物品盡量標(biāo)準(zhǔn)化。 坤鵬論說過，標(biāo)準(zhǔn)化往往意味著可以流水線化、可以工業(yè)化操作，意味著效率。 而且，和通信系統(tǒng)中的信道一樣，快遞的運輸能力也是有極限的。 通信技術(shù)的主要矛盾是——傳輸速率與可靠性的矛盾。 快遞也一樣。 快遞最大的瓶頸就是單位運輸工具的承載量永遠(yuǎn)是有限的。 所以，為了效益，必然最大限度地利用運輸工具的空間。 于是，標(biāo)準(zhǔn)化的重要作用之一，就是有利于最大化單位運輸?shù)臄?shù)量。 有了標(biāo)準(zhǔn)化的基礎(chǔ)，就能夠更科學(xué)地擺放，更有效地利用空間。 當(dāng)然，這個擺放過程中，有可能會把快遞的包裝箱產(chǎn)生破損，但快遞公司一定得保證的是，不能把里面的東西壓壞。 琢磨一下，這些是不是和通信系統(tǒng)八九不離十呢？！ 當(dāng)然，講這個咱們不能抬杠，這只是比喻，你不能用特殊情況和我來抬杠，不然，天就真沒法聊了。 另外，快遞公司眼中的包裹發(fā)送者和包裹接收者，都只是“者”。 和信息論中的發(fā)送者和接收者一樣。 “者”指的是客觀存在物而已。 它不管“者”是男還是女，是小學(xué)生還是大學(xué)教授。 是人可以，不是人也行。 前臺、快遞柜、代收點都可以做為寄件者和收件者。 三、繼續(xù)用比喻理解“信息熵大，言簡意賅” 在《為什么漢字信息熵大，表現(xiàn)出來的卻是言簡意賅？》中，坤鵬論用多功能零件作比喻，講了為什么信息熵大，反而更言簡意賅。 其實這樣的類比還有很多。 比如：樂高積木的種類并不復(fù)雜、也不繁多，卻能拼出幾乎所有眼見到或想象到的東西。 原因無它，就是每塊積木的信息熵高，組合的可能性多。 還有像北京的麻將中有“會兒”這樣的牌，它可以代替任何牌的一張牌。 因此，它的信息熵很高，擁有它，你胡什么的不確定性增強(qiáng)了，胡牌的可能性會大大增多，于是胡牌更加簡單。 四、如果我們把字符比喻成人 之前，坤鵬論將人比喻成字符來理解信息熵，今天就把字符比喻作人再來想一想。 假設(shè)有個創(chuàng)業(yè)項目，需要找人進(jìn)行投資。 人們對該創(chuàng)業(yè)項目的選擇是，投資或是不投資，如果是投資，投資多少。 如果創(chuàng)業(yè)者是你和我，且我們都是非常普通的人。 說白了，我們就是出現(xiàn)概率非常高的那部分人類，泯然眾人的眾人。 我們沒有創(chuàng)過業(yè)，更不可能有創(chuàng)業(yè)成功的經(jīng)驗，而且還沒有在大公司工作經(jīng)歷。 所以，我們的信息熵很低。 就像符號組成訊息，訊息的信息熵是所有符號信息熵的加權(quán)平均。 那么，創(chuàng)業(yè)項目也因為我們的信息熵不高，給別人帶來的就是低信息熵。 也就是，當(dāng)聽到是我們創(chuàng)業(yè)，別人自然會對創(chuàng)業(yè)項目能否成功的不確定性很低。 更直白地講，別人對于創(chuàng)業(yè)項目不成功的確定性很高，很容易猜我們干不成，自然不會選擇投資。 請注意，這個確定與不確定性是別人的，是別人認(rèn)為的。 同時，我們要將別人視為客觀存在，他們是完全客觀地將信息作為選擇的支持理由。 而且，只要是投資，都是投錢于未來，選擇投與不投以及投多少，基本都要靠過去的信息。 但是，如果是巴菲特來干這個創(chuàng)業(yè)項目呢？ 我們說真正的牛人總是鳳毛麟角，其實就是指他們遵從冪律分布，出現(xiàn)的概率很低。 像巴菲特這樣的人，更是低概率中低概率的存在，用他的話說，是中了卵巢彩票。 自然，聽說創(chuàng)業(yè)項目是他來主導(dǎo)，別人對于創(chuàng)業(yè)項目的不確定性會蹭蹭猛增。 當(dāng)然，這時候的不確定性中99.9%以上不是對項目能否成功的不確定性，而是能成為什么、成就有多么大的不確定性。 這些恰恰都是巴菲特惹的禍，是他帶來了很多可能性。 他出現(xiàn)的概率低，信息熵高，從而使得創(chuàng)業(yè)項目的信息熵很高。 別人認(rèn)為結(jié)果的可能性太多，信息量太大，選擇一下子多了起來，這里面的選擇還會包括投多少的選擇。 正所謂前途不可限量。 后來，巴菲特一看這個創(chuàng)業(yè)項目，認(rèn)為根本不是個事兒，完全能用錢搞定。 正所謂，凡是能用錢解決的事兒都不是事兒，關(guān)鍵是你得有足夠多的錢。 恰恰巴菲特就是這樣錢足夠多的人，他連話都不說，直接開了張支票，項目成功！ 這恐怕就是言簡意賅的最好體現(xiàn)了吧！ 為什么創(chuàng)業(yè)項目總愛創(chuàng)業(yè)成功過的人？ 為什么大公司工作過的人更容易找到工作？ 為什么電影電視劇都喜歡用明星？ …… 就是因為這些人出現(xiàn)的概率低，信息熵高。 當(dāng)他們參與到創(chuàng)業(yè)、公司、電影電視劇，并作為主導(dǎo)力量時。 對于大眾來說，這些事情的信息熵一下子也就高了起來。 （注意，一定要是主導(dǎo)，只有這樣，他們才因為占比高，使得整件事加權(quán)平均后的信息熵大大提升。） 大眾認(rèn)為，這些人為事情帶來了更多的可能性，不確定性增大，接下來需要輸入大量信息才能到確定性。 另外，大眾還會認(rèn)為，這些概率非常低的人能力都很強(qiáng)，有他們的參與，以前是事兒的也都不是事兒了。 事情做成還不是分分鐘鐘的小case，so easy！ 自然，過程和時間都會大大簡化和縮短，等同于言簡意賅。 五、有什么不是信息或與信息無關(guān)呢！ 確實，環(huán)顧我們的周圍，又有什么不是信息，或與信息無關(guān)的呢？ 就像物理學(xué)家約翰·阿奇博爾德·惠勒所說：“萬物源于比特。” “任何事物——任何粒子、任何力場，甚至?xí)r間連續(xù)統(tǒng)計本身”都源于信息。 比特才是不可再分的核心，信息則是萬物萬事存在的本質(zhì)。 漸漸地，物理學(xué)家和信息理論學(xué)家殊途同歸。 如今物理學(xué)家和量子信息學(xué)家正并肩作戰(zhàn)，去解開世間和宇宙的莫測秘密。 他們以全新的視角審視熱力學(xué)的熵，以及臭名昭著的信息吞噬者——黑洞。 我們再深入思考一下，如果萬物皆信息，那么，物流、信息流，甚至是金流，基本都是相通的。 說到底，它們都是信息的傳遞。 而它們的背后則是為了驅(qū)動人類。 此時去理解促進(jìn)人類個體自組織行為的交流，就很有趣了。 交流，可以拆分為交和流。 交，是交談，再拆分就是交換、談話。 談話泛指所有顯現(xiàn)出來的信息，不僅是說出來的，還有寫出來的，因為說和寫都不過是輸出信息的方式而已。 那么，交就是交換信息。 流，則指流動，交換就是信息在流動，同時它更深層的意義則為，人類因為信息做出選擇，并行動。 而人的行動也像最微小的粒子一樣，因為概率而形成波，看上去像是在流動，所以也才會有人潮人海、川流不息等這樣描述人為一件事聚集在一起的形容詞。 由此，我們也就對潮流、趨勢這些詞則有從比喻到形象再到深刻的認(rèn)識了。 正像時任洛克菲勒基金會自然科學(xué)部主任沃倫·韋弗所力圖解釋的，香農(nóng)信息論中揭示的信息傳輸模型、信息熵包羅萬象。 “不僅涵蓋了口語和書面語，還有音樂、圖像藝術(shù)、戲劇、芭蕾，乃至事實上所有的人類行為?！?/span> 就像我們?nèi)粘＝徽劊旁?、發(fā)送機(jī)、信道、接收機(jī)和信宿，分別對應(yīng)著，說話者的大腦、說話者的聲帶、空氣、聽話者的耳朵和聽話者的大腦。 當(dāng)然，還包括非人類——所有生命體以及非生命體，機(jī)器就沒有訊息要傳遞嗎？ 最后，讓坤鵬論用兩個公式結(jié)尾： 信息熵＝不確定性的程度＝出人意料的程度＝確定性－已有的確定性； 信息量＝-信息熵＝消除信息熵需要的信息數(shù)量＝消除不確定性需要的信息數(shù)量＝達(dá)到確定性需要的信息數(shù)量＝-維納的負(fù)熵＝-維納的信息量。 本文由“坤鵬論”原創(chuàng)，轉(zhuǎn)載請保留本信息 |
|
|
