|
大多數(shù)時候，貝葉斯統(tǒng)計(jì)在結(jié)果在最好的情況下是魔法，在最糟糕時是一種完全主觀的廢話。在用到貝葉斯方法的理論體系中，馬爾可夫鏈蒙特卡洛方法尤其神秘。 這篇文章將介紹馬爾可夫鏈蒙特卡洛方法，極其背后的基本數(shù)學(xué)推理。 首先，什么是馬爾可夫鏈蒙特卡洛（MCMC）方法呢？ 最簡短的回答就是： “MCMC就是一種通過在概率空間中隨機(jī)采樣來近似感興趣參數(shù)的后驗(yàn)分布的方法” 在這篇文章中，我不用任何數(shù)學(xué)知識就可以解釋上面這個簡短的答案。 貝葉斯理論體系基本術(shù)語 首先是一些術(shù)語。 感興趣的參數(shù)只是用來抽象我們感興趣的現(xiàn)象的一些數(shù)字。通常我們會使用統(tǒng)計(jì)的方法來估計(jì)這些參數(shù)。例如，如果我們想了解成年人的身高，那么我們需要的參數(shù)可能就是以英寸為單位的平均身高。 分布就是參數(shù)的各個可能值和我們能觀察到每個參數(shù)的可能性的數(shù)學(xué)表示。 最好的例子就是鐘形曲線： ? 在貝葉斯統(tǒng)計(jì)方式中，分布還有另一個解釋。貝葉斯不僅僅代表參數(shù)的值和每個參數(shù)的真實(shí)值有多大，而是認(rèn)為分布描述了我們對參數(shù)的確信度。因此，上面的鐘形曲線可以表明我們非常確定參數(shù)的值接近于零，同時我們認(rèn)為真實(shí)值高于或低于該值的可能性是相等的。 事實(shí)上，人的身高是遵循一個正態(tài)分布的，所以我們假設(shè)平均人體高度的真實(shí)值遵循如下的鐘形曲線： ? 顯然，這個圖表顯示這個人群以巨人的身高生活了很多年，因?yàn)閾?jù)調(diào)查所知，最有可能的平均成年身高是6'2''英寸。 讓我們想象某人去收集了一些數(shù)據(jù)，然后他們觀察到了一批5英寸和6英寸之間的人。 我們可以用另一個正態(tài)分布曲線來表示這些數(shù)據(jù)，這個曲線顯示了哪個人體平均身高值最能解釋數(shù)據(jù)： ? 在貝葉斯統(tǒng)計(jì)中，表示我們對參數(shù)確信度的分布被稱為先驗(yàn)分布，因?yàn)樗诳吹饺魏螖?shù)據(jù)之前捕捉到了我們的知識。 似然分布以參數(shù)值范圍的形式總結(jié)了數(shù)據(jù)可以告訴我們什么，而參數(shù)值中的每個參數(shù)解釋了我們正在觀察的數(shù)據(jù)的可能性。估計(jì)最大似然分布的參數(shù)值就是回答了這個問題：什么樣的參數(shù)值能使分布最有可能觀察到我們觀察到的數(shù)據(jù)？在沒有先驗(yàn)信息的情況下，我們可能會就此打住了。 然而，貝葉斯分析的關(guān)鍵是將先驗(yàn)信息和似然分布結(jié)合起來去確定后驗(yàn)分布。這告訴我們，在有先驗(yàn)數(shù)據(jù)的情況下，哪些參數(shù)值能夠最大化觀察到我們指定數(shù)據(jù)的概率。在上面的例子中，后驗(yàn)分布應(yīng)該是這樣的： ? 在上面的圖中，紅線表示后驗(yàn)分布。你可以把它看作一種先驗(yàn)和可能性分布的平均值。由于先驗(yàn)分布較短且較為分散，所以它代表了一組關(guān)于平均人體身高真實(shí)值“不太確定”的概率。 同時，可能性分布在相對較窄的范圍內(nèi)就可以總結(jié)數(shù)據(jù)，因此它代表了對真實(shí)參數(shù)值“更確定”的概率。 當(dāng)先驗(yàn)和可能性結(jié)合在一起時，數(shù)據(jù)（可能性分布表示）弱化了個體在巨人中長大的可能性。 盡管那個人仍然認(rèn)為人的平均身高比數(shù)據(jù)告訴他的稍高一些，但是他最相信的還是數(shù)據(jù)。 在兩條鐘形曲線的情況下，求解后驗(yàn)分布是非常容易的。 有一個簡單的方程來結(jié)合這兩者。 但是如果我們的先驗(yàn)分布和可能性分布不那么好呢？ 有時，使用不是常規(guī)形狀的分布來模型化我們的數(shù)據(jù)或我們先驗(yàn)信息是最準(zhǔn)確的。如果我們的可能性分布用兩個峰值來表示更好，而且由于某種原因，我們想要解釋一些非常古怪的先驗(yàn)分布時該怎么辦呢？我已經(jīng)通過手工繪制了一個丑陋的先驗(yàn)分布： ? 在Matplotlib中呈現(xiàn)的可視化，使用MS Paint進(jìn)行了增強(qiáng) 如之前所講，有一些后驗(yàn)分布可以給出每個參數(shù)值的可能性。但是很難確定分布曲線的具體樣子，而且通過分析也無法解決。 因此進(jìn)入MCMC方法。 MCMC方法 MCMC方法允許我們估計(jì)后驗(yàn)分布的形狀，以防我們無法直接計(jì)算。事實(shí)上，MCMC就是馬爾可夫鏈蒙特卡洛方法。為了理解它們是如何工作的，我將首先介紹蒙特卡洛估計(jì)，然后是討論馬爾可夫鏈。 蒙特卡洛估計(jì) 蒙特卡洛估計(jì)是一種通過重復(fù)生成隨機(jī)數(shù)來估計(jì)固定參數(shù)的方法。在通過生成隨機(jī)數(shù)并對其進(jìn)行一些計(jì)算時，有時直接計(jì)算這個參數(shù)不現(xiàn)實(shí)時，蒙特卡洛估計(jì)可以提供一個參數(shù)的近似值。 假設(shè)我們想估計(jì)下面圓圈的面積： ? 由于圓是在邊長為10英寸的正方形內(nèi)，因此可以容易地計(jì)算出它的面積為78.5平方英寸。 另一種方式，我們可以在正方形內(nèi)隨機(jī)抽取20個點(diǎn)。然后，我們計(jì)算在圓內(nèi)的點(diǎn)的比例，并乘以正方形的面積。而這個數(shù)字是一個非常好的圓圈面積的近似值。 ? 由于20個點(diǎn)中有15個都位于圓內(nèi)，所以看起來圓的面積大約是75平方英寸。這個結(jié)果對于只有20個隨機(jī)點(diǎn)的蒙特卡羅模擬方法來說也不算太壞。 現(xiàn)在，想象一下我們想要計(jì)算蝙蝠俠曲線方程(Batman Equation)繪制的形狀的面積： ? 這是一個我們從來沒有學(xué)過的方程的形狀！因此，找到蝙蝠信號的區(qū)域非常困難。不過，通過在包含蝙蝠形狀的矩形內(nèi)隨機(jī)地打點(diǎn)，蒙特卡羅模擬方法就可以非常容易地找到該形狀面積的近似值！ 蒙特卡羅模擬不僅僅是用于估計(jì)復(fù)雜形狀的面積。通過生成大量的隨機(jī)數(shù)，它們可以用來模擬非常復(fù)雜的過程。在實(shí)踐中，習(xí)慣用該方法來預(yù)測天氣，或者估計(jì)贏得選舉的可能性。 馬爾可夫鏈 理解MCMC方法的第二個要素就是馬爾可夫鏈。 這個就是事件相互關(guān)聯(lián)概率的序列。每個事件來自一組結(jié)果，而其中的每個事件的結(jié)果根據(jù)一組固定的概率來確定下一個事件的結(jié)果。 馬爾可夫鏈的一個重要性質(zhì)就是它們是無記憶的：在當(dāng)前狀態(tài)下，你可能需要一切可用的事件來預(yù)測下一個事件，并且不能有從舊事件來的新信息。像Chutes和Ladders這樣的游戲展現(xiàn)了這種無記憶性或者叫馬爾科夫?qū)傩浴?/span> ?但是在現(xiàn)實(shí)世界中，實(shí)際上很少有事件以這種方式工作。不過，馬爾可夫鏈?zhǔn)且环N理解世界的有力方式。 在十九世紀(jì)，鐘形曲線被看作是自然界中一種常見的模式。（例如，我們已經(jīng)注意到，人的身高分布是一個鐘形曲線）。Galton Boards通過在裝有釘子的木板上放置大理石來模擬重復(fù)隨機(jī)事件的平均值，重現(xiàn)了大理石分布的正態(tài)曲線： ? 俄羅斯數(shù)學(xué)家和神學(xué)家帕維爾·涅克拉索夫（Peter Pavel Nekrasov）認(rèn)為，鐘形曲線以及更一般的大數(shù)定律只不過是兒童游戲和瑣碎謎題的產(chǎn)物，因?yàn)樗募僭O(shè)是每個事件都是完全獨(dú)立的。而涅克拉索夫認(rèn)為現(xiàn)實(shí)世界中的事物是相互依存的，比如人的行為，所以現(xiàn)實(shí)中的事物并不符合好的數(shù)學(xué)模式或分布。 安德烈·馬爾可夫試圖證明非獨(dú)立事件也有可能符合這種模式。他最著名的實(shí)驗(yàn)例子之一就是要從俄羅斯詩歌作品中計(jì)算數(shù)以千計(jì)的兩個字符對。使用這些字符對，他計(jì)算出了每個角色的條件概率。也就是說，給定某個前面的字母或空格，下一個字母就有可能是一個A，一個T或一個空格。 使用這些概率，馬爾可夫能夠模擬任意長的字符序列。這就是一個馬爾可夫鏈。 盡管前幾個字母很大程度上取決于起始字符的選擇，但是馬爾可夫表明，從長遠(yuǎn)來看，字符的分布是一種模式。因此，即使是相互依賴的事件，如果它們受到固定概率的影響，也是一致的。 舉一個更有說服力的例子，假設(shè)你住在一個有五個房間的房子里，其中有一間臥室，衛(wèi)生間，客廳，飯廳和廚房。 讓我們收集一些數(shù)據(jù)，假設(shè)你在任何時間點(diǎn)所在的房間都是我們認(rèn)為的下一個可能進(jìn)入的房間。例如，如果你在廚房，你有30％的機(jī)會留在廚房，30％的機(jī)會進(jìn)入餐廳，20％的機(jī)會進(jìn)入客廳，10％的機(jī)會去浴室，有10％的機(jī)會進(jìn)入臥室。利用每個房間的進(jìn)入的概率，我們可以構(gòu)建一個預(yù)測你下一個可能去的房間的馬爾可夫鏈。 如果我們想要預(yù)測房子里某個人在廚房里待一小會兒后會去哪里，那么馬爾可夫鏈可以用于這一類預(yù)測。但是由于我們的預(yù)測只是基于一個人在家里的一個觀察，所以這類預(yù)測結(jié)果并不可靠。 例如，如果有人從臥室走到浴室，那么他們更有可能直接回到臥室，而不是從廚房里出來。所以馬爾可夫?qū)傩酝ǔ２贿m用于現(xiàn)實(shí)世界。 然而，將馬爾可夫鏈進(jìn)行數(shù)千次迭代，確實(shí)能夠長期的預(yù)測你接下來可能會進(jìn)入哪個房間。更重要的是，這個預(yù)測并沒有受到人們從哪個房間開始的影響！直觀地說，這是有道理的：為了模擬和描述他們可能長期或通常所在地在哪里，某個時間點(diǎn)某人在家里的位置并不重要。 因此，在一段時期內(nèi)對隨機(jī)變量建模并不合理的馬爾可夫鏈方法，卻可以用來計(jì)算該變量的長期趨勢。 MCMC方法 有了蒙特卡洛模擬和馬爾可夫鏈的一些知識，我希望MCMC方法的零數(shù)學(xué)解釋是非常直觀的。 回想一下，我們試圖估計(jì)我們感興趣參數(shù)的后驗(yàn)分布，即人均身高： ? 我不是一個可視化的專家，我也沒有把我的例子放在常識的范圍之內(nèi)：我這個后驗(yàn)分布的例子嚴(yán)重地高估了人的平均身高。 我們知道后驗(yàn)分布在先驗(yàn)分布和似然分布范圍內(nèi)，但是，我們很難直接計(jì)算它。 使用MCMC方法，我們就可以有效地從后驗(yàn)分布中抽取樣本，然后計(jì)算比如抽樣樣本的平均值。 首先，MCMC方法考慮選擇一個隨機(jī)參數(shù)值。然后模擬會繼續(xù)生成隨機(jī)值（這是蒙特卡羅的一部分），但要根據(jù)一些規(guī)則來確定什么是一個好的參數(shù)值。這個訣竅就是，對于一對參數(shù)值，基于先驗(yàn)信息，通過計(jì)算每個值在解釋數(shù)據(jù)時的可能性有多大，來計(jì)算哪個參數(shù)值更好。如果隨機(jī)生成的參數(shù)值比最后一個參數(shù)值更好，則以一定的概率值將其添加到參數(shù)值鏈中（這是馬爾科夫鏈部分）。 分布中某個值的高度代表了觀察該值的概率。因此，我們可以想象我們的參數(shù)值（x軸）在y軸上呈現(xiàn)出高低概率的區(qū)域。對于單個參數(shù)，MCMC方法是沿x軸開始隨機(jī)采樣： ? 紅點(diǎn)是隨機(jī)參數(shù)樣本 由于隨機(jī)樣本受到固定概率的影響，經(jīng)過一段時間之后，它們往往會在我們感興趣參數(shù)概率最高的區(qū)域收斂： ? 藍(lán)點(diǎn)只代表當(dāng)預(yù)計(jì)會出現(xiàn)收斂時的隨機(jī)樣本。注意：為了說明的目的，我垂直疊加了點(diǎn)。 在數(shù)據(jù)收斂之后，MCMC抽樣產(chǎn)生一組來自后驗(yàn)分布的樣本點(diǎn)。 在這些點(diǎn)周圍繪制直方圖，并計(jì)算任何您喜歡的統(tǒng)計(jì)數(shù)據(jù)： ? 根據(jù)MCMC模擬生成的樣本集計(jì)算出的任何統(tǒng)計(jì)量就是我們對該真實(shí)后驗(yàn)分布統(tǒng)計(jì)量的最佳預(yù)測。 MCMC方法也可以用來估計(jì)多個參數(shù)的后驗(yàn)分布（比如說人的身高和體重）。 對于n個參數(shù)，存在n維空間中的高概率區(qū)域，這些區(qū)域中的某些參數(shù)值組可以更好地解釋觀察到的數(shù)據(jù)。 因此，我認(rèn)為MCMC是一種在概率空間內(nèi)進(jìn)行隨機(jī)采樣來接近后驗(yàn)分布的方法。 回想一下“什么是馬爾可夫鏈蒙特卡羅方法？”這個問題的簡短答案。那就是： “MCMC就是一種通過在概率空間中隨機(jī)采樣來接近感興趣參數(shù)的后驗(yàn)分布的方法”
|
|
|
