概率論歷史上第一個極限定理屬于伯努利,后人稱之為“大數(shù)定律”。概率論中討論隨機變量序列的算術平均值向常數(shù)收斂的定律。概率論與數(shù)理統(tǒng)計學的基本定律之一。又稱弱大數(shù)理論。 主要含義有些隨機事件無規(guī)律可循,但不少卻是有規(guī)律的,這些“有規(guī)律的隨機事件” 數(shù)學家伯努利 在大量重復出現(xiàn)的條件下,往往呈現(xiàn)幾乎必然的統(tǒng)計特性,這個規(guī)律就是大數(shù)定律。通俗地說,這個定理就是,在試驗不變的條件下,重復試驗多次,隨機事件的頻率近似于它的概率。比如,我們向上拋一枚硬幣,硬幣落下后哪一面朝上本來是偶然的,但當我們上拋硬幣的次數(shù)足夠多后,達到上萬次甚至幾十萬幾百萬次以后,我們就會發(fā)現(xiàn),硬幣每一面向上的次數(shù)約占總次數(shù)的二分之一。這種情況下,偶然中包含著必然。必然的規(guī)律與特性在大量的樣本中得以體現(xiàn)。 簡單地說,大數(shù)定理就是“當試驗次數(shù)足夠多時,事件發(fā)生的頻率無窮接近于該事件發(fā)生的概率” 1733年,德莫佛——拉普拉斯在分布的極限定理方面走出了根本性的一步,證明了二項分布的極限分布是正態(tài)分布。拉普拉斯改進了他的證明并把二項分布推廣為更一般的分布。1900年,李雅普諾夫進一步推廣了他們的結論,并創(chuàng)立了特征函數(shù)法。這類分布極限問題是當時概率論研究的中心問題,卜里耶為之命名“中心極限定理”。20世紀初,主要探討使中心極限定理成立的最廣泛的條件,二三十年代的林德貝爾格條件和費勒條件是獨立隨機變量序列情形下的顯著進展。 伯努利是第一個研究這一問題的數(shù)學家,他于1713年首先提出后人稱之為“大數(shù)定律”的極限定理。例如,在重復投擲一枚硬幣的隨機試驗中,觀測投擲n次硬幣中出現(xiàn)正面的次數(shù)。不同的n次試驗,出現(xiàn)正面的頻率(出現(xiàn)正面次數(shù)與n之比)可能不同,但當試驗的次數(shù)n越來越大時,出現(xiàn)正面的頻率將大體上逐漸接近于1/2。又如稱量某一物體的重量,假如衡器不存在系統(tǒng)偏差,由于衡器的精度等各種因素的影響,對同一物體重復稱量多次,可能得到多個不同的重量數(shù)值,但它們的算術平均值一般來說將隨稱量次數(shù)的增加而逐漸接近于物體的真實重量。由于隨機變量序列向常數(shù)的收斂有多種不同的形式,按其收斂為依概率收斂,以概率 1 收斂或均方收斂,分別有弱大數(shù)定律、強大數(shù)定律和均方大數(shù)定律。常用的大數(shù)定律有:伯努利大數(shù)定律、辛欽大數(shù)定律、柯爾莫哥洛夫強大數(shù)定律和重對數(shù)定律?! ≡O有一隨機變量序列,假如它具有形如(1)的性質,則稱該隨機變量服從大數(shù)定律(見左上方圖片)?! 〔髷?shù)定律:設μ_n為n重伯努利實驗中事件A發(fā)生的次數(shù),p為每次實驗中A出現(xiàn)的概率,則對任意的ε>0,有(2)成立。 切比雪夫大數(shù)定律:設{X_n}為一列兩兩不相關的隨機變量序列,若每個X_i的方差存在,且有共同的上界,即Var(X_i)小于或等于c,則{X_n}服從大數(shù)定律,即對任意的ε>0,(1)式成立?! ●R爾可夫大數(shù)定律:對隨機變量序列{X_n},若(3)成立,則{X_n}服從大數(shù)定律,即對任意的ε>0,(1)式成立?! ⌒翚J大數(shù)定律設{X_n}為獨立同分布的隨機變量序列,若X_i的數(shù)學期望存在,則{X_n}服從大數(shù)定律,即對任意的ε>0,(1)成立。大數(shù)定律有若干個表現(xiàn)形式。這里僅介紹其中常用的兩個重要定律: (一)切貝雪夫大數(shù)定理 設 是一列兩兩相互獨立的隨機變量,服從同一分布,且存在有限的數(shù)學期望a和方差σ2,則對任意小的正數(shù)ε,有: 該定律的含義是:當n很大,服從同一分布的隨機變量 的算術平均數(shù) 將依概率接近于這些隨機變量的數(shù)學期望?! ⒃摱蓱糜诔闃诱{查,就會有如下結論:隨著樣本容量n的增加,樣本平均數(shù)將接近于總體平均數(shù)。從而為統(tǒng)計推斷中依據(jù)樣本平均數(shù)估計總體平均數(shù)提供了理論依據(jù)。 ?。ǘ┴惻锎髷?shù)定律 設μn是n次獨立試驗中事件A發(fā)生的次數(shù),且事件A在每次試驗中發(fā)生的概率為P,則對任意正數(shù)ε,有: 該定律是切貝雪夫大數(shù)定律的特例,其含義是,當n足夠大時,事件A出現(xiàn)的頻率將幾乎接近于其發(fā)生的概率,即頻率的穩(wěn)定性?! ≡诔闃诱{查中,用樣本成數(shù)去估計總體成數(shù),其理論依據(jù)即在于此。 |
|