隨機(jī)過(guò)程是一連串隨機(jī)事件動(dòng)態(tài)關(guān)系的定量描述。隨機(jī)過(guò)程論與其他數(shù)學(xué)分支如位勢(shì)論、微分方程、力學(xué)及復(fù)變函數(shù)論等有密切的聯(lián)系,是在自然科學(xué)、工程科學(xué)及社會(huì)科學(xué)各領(lǐng)域研究隨機(jī)現(xiàn)象的重要工具。隨機(jī)過(guò)程論目前已得到廣泛的應(yīng)用,在諸如天氣預(yù)報(bào)、統(tǒng)計(jì)物理、天體物理、運(yùn)籌決策、經(jīng)濟(jì)數(shù)學(xué)、安全科學(xué)、人口理論、可靠性及計(jì)算機(jī)科學(xué)等很多領(lǐng)域都要經(jīng)常用到隨機(jī)過(guò)程的理論來(lái)建立數(shù)學(xué)模型。 一般來(lái)說(shuō),把一族隨機(jī)變量定義為隨機(jī)過(guò)程。在研究隨機(jī)過(guò)程時(shí)人們透過(guò)表面的偶然性描述出必然的內(nèi)在規(guī)律并以概率的形式來(lái)描述這些規(guī)律,從偶然中悟出必然正是這一學(xué)科的魅力所在。 隨機(jī)過(guò)程整個(gè)學(xué)科的理論基礎(chǔ)是由柯爾莫哥洛夫和杜布奠定的。這一學(xué)科最早源于對(duì)物理學(xué)的研究,如吉布斯、玻爾茲曼、龐加萊等人對(duì)統(tǒng)計(jì)力學(xué)的研究,及后來(lái)愛因斯坦、維納、萊維等人對(duì)布朗運(yùn)動(dòng)的開創(chuàng)性工作。1907年前后,馬爾可夫研究了一系列有特定相依性的隨機(jī)變量,后人稱之為馬爾可夫鏈。1923年維納給出布朗運(yùn)動(dòng)的數(shù)學(xué)定義,直到今日這一過(guò)程仍是重要的研究課題。隨機(jī)過(guò)程一般理論的研究通常認(rèn)為開始于20世紀(jì)30年代。1931年,柯爾莫哥洛夫發(fā)表了《概率論的解析方法》,1934年A·辛飲發(fā)表了《平穩(wěn)過(guò)程的相關(guān)理論》,這兩篇著作奠定了馬爾可夫過(guò)程與平穩(wěn)過(guò)程的理論基礎(chǔ)。1953年,杜布出版了名著《隨機(jī)過(guò)程論》,系統(tǒng)且嚴(yán)格地?cái)⑹隽穗S機(jī)過(guò)程基本理論。 研究隨機(jī)過(guò)程的方法多種多樣,主要可以分為兩大類:一類是概率方法,其中用到軌道性質(zhì)、停時(shí)和隨機(jī)微分方程等;另一類是分析的方法,其中用到測(cè)度論、微分方程、半群理論、函數(shù)堆和希爾伯特空間等。實(shí)際研究中常常兩種方法并用。另外組合方法和代數(shù)方法在某些特殊隨機(jī)過(guò)程的研究中也有一定作用。研究的主要內(nèi)容有:多指標(biāo)隨機(jī)過(guò)程、無(wú)窮質(zhì)點(diǎn)與馬爾可夫過(guò)程、概率與位勢(shì)及各種特殊過(guò)程的專題討論等。中國(guó)學(xué)者在乎穩(wěn)過(guò)程、馬爾科夫過(guò)程、鞅論、極限定理、隨機(jī)微分方程等方面做出了較好的工作。 一個(gè)實(shí)際的隨機(jī)過(guò)程是任意一個(gè)受概率支配的過(guò)程,例子有:①看做是受孟德爾遺傳學(xué)支配的群體的發(fā)展;②受分子碰撞影響的微觀質(zhì)點(diǎn)的布朗運(yùn)動(dòng),或者是宏觀空間的星體運(yùn)動(dòng);③賭場(chǎng)中一系列的賭博;④公路一指定點(diǎn)汽車的通行。 在每一種情形,一個(gè)隨機(jī)系統(tǒng)在演化,這就是說(shuō)它的狀態(tài)隨著時(shí)間而改變,于是,在時(shí)間t的狀態(tài)具有偶然性,它是一個(gè)隨機(jī)變量x(t),參數(shù)t的集通常是一個(gè)區(qū)間(連續(xù)參數(shù)的隨機(jī)過(guò)程)或一個(gè)整數(shù)集合(離散參數(shù)的隨機(jī)過(guò)程)。然而,有些作者只把隨機(jī)過(guò)程這個(gè)術(shù)語(yǔ)用于連續(xù)參數(shù)的情形。 如果系統(tǒng)的狀態(tài)用一個(gè)數(shù)來(lái)表示,x(t)就是數(shù)值的,在其他情形,x(t)可以是向量值或者更為復(fù)雜。在本條的討論中,通常限于數(shù)值的情形。當(dāng)狀態(tài)變化時(shí),它的值確定一個(gè)時(shí)間的函數(shù)——樣本函數(shù),支配過(guò)程的概率規(guī)律確定賦予樣本函數(shù)的各種可能性質(zhì)的概率。 數(shù)學(xué)上的隨機(jī)過(guò)程是由實(shí)際隨機(jī)過(guò)程概念引起的一種數(shù)學(xué)結(jié)構(gòu)。人們研究這種過(guò)程,是因?yàn)樗菍?shí)際隨機(jī)過(guò)程的數(shù)學(xué)模型,或者是因?yàn)樗膬?nèi)在數(shù)學(xué)意義以及它在概率論領(lǐng)域之外的應(yīng)用。數(shù)學(xué)上的隨機(jī)過(guò)程可以簡(jiǎn)單的定義為一族隨機(jī)變量,即指定一參數(shù)集,對(duì)于其中每一參數(shù)點(diǎn)t指定一個(gè)隨機(jī)變量x(t)。如果回憶起隨機(jī)變量自身就是一個(gè)函數(shù),以ω表示隨機(jī)變量x(t)的定義域中的一點(diǎn),并以x(t,ω)表示隨機(jī)變量在ω的值,則隨機(jī)過(guò)程就由剛才定義的點(diǎn)偶(t,ω)的函數(shù)以及概率的分配完全確定。如果固定t,這個(gè)二元函數(shù)就定義一個(gè)ω的函數(shù),即以x(t)表示的隨機(jī)變量。如果固定ω,這個(gè)二元函數(shù)就定義一個(gè)t的函數(shù),這是過(guò)程的樣本函數(shù)。 一個(gè)隨機(jī)過(guò)程的概率分配通常是由指定它的隨機(jī)變量的聯(lián)合分布來(lái)給定的,這些聯(lián)合分布以及由它們誘導(dǎo)出來(lái)的概率可以解釋為樣本函數(shù)的性質(zhì)的概率。例如,如果to是一個(gè)參數(shù)值,樣本函數(shù)在to取正值的概率是隨機(jī)變量x(to)有正值的概率。在這個(gè)水平上的基本定理:任意指定的自身相容的聯(lián)合概率分布對(duì)應(yīng)一隨機(jī)過(guò)程。 隨機(jī)過(guò)程的概念很廣泛,因而隨機(jī)過(guò)程的研究幾乎包括概率論的全部。雖然不能給出一個(gè)有用而又狹窄的定義,但是概率論工作者在使用隨機(jī)過(guò)程這個(gè)術(shù)語(yǔ)時(shí),通常(除非他的興趣在于一般理論的數(shù)學(xué)基礎(chǔ))想到的是其隨機(jī)變量具有某種有意義的相互關(guān)系的隨機(jī)過(guò)程,例如,獨(dú)立性就是這樣一種關(guān)系。在提出隨機(jī)過(guò)程這個(gè)術(shù)語(yǔ)之前,獨(dú)立變量序列就是研究了很長(zhǎng)時(shí)間的一類隨機(jī)過(guò)程。由于歷史上的原因,一般不把這樣的序列看做是隨機(jī)過(guò)程(雖然后面將要討論它的連續(xù)參數(shù)的類似物——具有獨(dú)立增量的過(guò)程,它被看做是隨機(jī)過(guò)程)。本條的余下部分是對(duì)某些特殊的隨機(jī)過(guò)程類作一般的論述,由于這些過(guò)程類在數(shù)學(xué)上和非數(shù)學(xué)上的應(yīng)用中十分重要,所以它們已引起了人們的極大注意。 平穩(wěn)過(guò)程 這類隨機(jī)過(guò)程中的任意有限多外隨機(jī)變量的聯(lián)合分布不受參數(shù)平移的影響,即x(t1+h),…,x(tn+h)的分布與h無(wú)關(guān)。 馬爾可夫過(guò)程 一過(guò)程是馬爾可夫過(guò)程,如果給定了過(guò)程的現(xiàn)在,其過(guò)去與將來(lái)相互獨(dú)立。更確切地說(shuō),如果t1<…<tn是參數(shù)值,又若1<j<n,則當(dāng)給定x(ti)時(shí),隨機(jī)變量集合[x(t1),…,x(tj-1)]與[x(tj+1),…,x(tn)]相互獨(dú)立,這等價(jià)于當(dāng)給定x(t1),…,x(tn-1)時(shí),x(tn)的條件概率分布依賴于x(tn-1)的指定值,而且事實(shí)上就是當(dāng)給定x(tn-1)時(shí)x(tn)的條件概率分布。一個(gè)重要而又簡(jiǎn)單的例子是馬爾可夫鏈,其中狀態(tài)的數(shù)目是有限或可數(shù)無(wú)窮(此時(shí)術(shù)語(yǔ)有點(diǎn)變化)。下面是一類簡(jiǎn)單的離散參數(shù)馬爾可夫鏈:設(shè)(pij)是一數(shù)集,其中i和j的變化區(qū)域是一有限或無(wú)窮整數(shù)集合(用物理學(xué)的語(yǔ)言,數(shù)pij是某種系統(tǒng)從狀態(tài)I經(jīng)一步轉(zhuǎn)移到狀態(tài)j的概率),數(shù)pij滿足關(guān)系式: 聯(lián)系于所討論的馬爾可夫過(guò)程的隨機(jī)變量是整數(shù)值的,用x(0),x(1),…表示之。如果指定io為初始狀態(tài),即賦予x(0)的值恒為io,則x(k)取值ik(對(duì)于k=1,…,n)的概率是乘積 對(duì)于這個(gè)過(guò)程,pij是當(dāng)x(n)的值為I時(shí)x(n+1)取值j的概率。數(shù)Pij也是當(dāng)x(n)的值為i以及x(n—1)有任意指定值a1,x(n—2)有值a2,…等時(shí)x(n+1)取值j的概率(這是刻畫馬爾可夫過(guò)程的特征的性質(zhì))。這是一類特殊的馬爾可夫鏈,除了它的狀態(tài)以整數(shù)表示之外,剛剛描述的轉(zhuǎn)移概率還與n無(wú)關(guān),因此這樣的鏈叫做具有平穩(wěn)轉(zhuǎn)移概率的鏈。如果初始狀態(tài)已給出為一分布,例如指定x(0)以概率pi取值i計(jì)算上式的值變成求和數(shù) 在這里pi是其和為1的任意非負(fù)數(shù)。如果選定了初始分布則不僅對(duì)于n=0,而且對(duì)于所有的N值,x(n)取值j的概率是pi(通常不一定可能)。于是得到的過(guò)程是平穩(wěn)的。 在構(gòu)造的連續(xù)參數(shù)馬爾可夫鏈時(shí),假設(shè)對(duì)于每一對(duì)(i,j),有一個(gè)函數(shù)pij,它對(duì)嚴(yán)格正的t有定義并滿足下列公式: 最后一行的方程組叫做切普曼一柯爾戈洛夫方程:一個(gè)具有從0到∞的參數(shù)變化區(qū)域的連續(xù)參數(shù)馬爾可夫隨機(jī)過(guò)程就能夠構(gòu)造出來(lái),因?yàn)槿绻€是以pi表示x(0)取值j的概率,又若0<t1<…<tn,則x(tk)取值ik(對(duì)于k=1,…,n)的概率由和數(shù) 給出。對(duì)于這個(gè)過(guò)程,若s>0,則當(dāng)x(u)取值i時(shí)x(u+s)取值j的概率是pij(s),這個(gè)Pij(s)也是當(dāng)x(u)取值i而x(u1)取任意的指定值a1,x(u2)取任意指定值a2…等等時(shí)x(u+s)取值j的概率(這是刻畫馬爾可夫過(guò)程的特征的性質(zhì))。這里u1,u2…是任意小于u的正數(shù)。這個(gè)例子不是一般的連續(xù)參數(shù)馬爾可夫鏈,因?yàn)閯偛琶枋龅霓D(zhuǎn)移概率不依賴于u,這就是說(shuō),鏈有平穩(wěn)的轉(zhuǎn)移概率。過(guò)程是平穩(wěn)的,如果對(duì)于所有j,x(u)取值j的概率不依賴于u?;蛘咭皇降牡诙杏幸粋€(gè)簡(jiǎn)單的解釋:當(dāng)x(n)取值i時(shí)x(u+s+t)取值j的概率,等于當(dāng)x(u)取值i時(shí)x(u+s)取值是的概率乘以當(dāng)x(u)取值i和x(u+s)取值k時(shí)x(u+s+t)取值i的概率,然后對(duì)所有k求和。如果沒(méi)有馬爾可夫鏈,第二因子可以依賴于i。若狀態(tài)數(shù)不是有限或可數(shù)無(wú)窮,則上面的討論要作修改,即在上面式子的記號(hào)中要用積分代替求和。 典型的應(yīng)用 對(duì)于具有平穩(wěn)轉(zhuǎn)移概率的馬爾可夫過(guò)程提出的并在不同程度上得到解決的典型問(wèn)題如下(這是就連續(xù)參數(shù)情形敘述的)。對(duì)于剛才描述的馬爾可夫鏈,假定下式成立:對(duì)所有i, 而且為方便起見,定義pij(0)若i=j等于1;若i≠j等于0。 1.當(dāng)t→∞時(shí)pij(t)有沒(méi)有極限?換句話說(shuō),對(duì)于每一j,隨著時(shí)間的流逝,系統(tǒng)處于狀態(tài)j的極限概率是否存在?回答是肯定的,并且極限概率是只依賴于是終狀態(tài)而與初始狀態(tài)i無(wú)關(guān),假如所有狀態(tài)對(duì)之間的轉(zhuǎn)移是可能的。 2.當(dāng)t→0時(shí)pij(t)的漸近性態(tài)如何?回答是除了i=j的情形外,p'ij(0)一定存在而且有限。在對(duì)轉(zhuǎn)移概率函數(shù)作進(jìn)一步的假設(shè)之下(若只有有限多個(gè)狀態(tài),則假設(shè)一定滿足),p'ij(0)有限且下列等式成立:
借助于當(dāng)t=0時(shí)給定的導(dǎo)數(shù),利用這些式子就可確定轉(zhuǎn)移概率函數(shù)。例如,若c是一個(gè)嚴(yán)格正的常數(shù),又若規(guī)定當(dāng)j=i—1時(shí)pij(0)等于c;當(dāng)j=i時(shí)等于—c;在其他情況下等于0,這時(shí)可以證明,當(dāng)j<i時(shí)pij(t)=0,對(duì)于其他情形則有 具有這樣的轉(zhuǎn)移概率的過(guò)程叫做泊松過(guò)程。 3.樣本函數(shù)的性質(zhì)如何?當(dāng)對(duì)過(guò)程加以進(jìn)一步的限制時(shí),樣本函數(shù)在區(qū)間上為常數(shù),以跳躍的方式從一個(gè)狀態(tài)變?yōu)橄乱粋€(gè)狀態(tài),而且若系統(tǒng)處于狀態(tài)i時(shí),它下一次跳躍到狀態(tài)j的概率是—p'ij(0)/p'ij(0)。如果系統(tǒng)處于狀態(tài)i,則它隨后仍逗留在這一狀態(tài)的時(shí)間是一個(gè)隨機(jī)變量,其密度是qe-tq,這里q=—pij(0)。例如,對(duì)于上述的泊松過(guò)程,可以證明在適當(dāng)?shù)恼?guī)化條件之下,如果x(0)=0,則樣本函數(shù)是整數(shù)值并以單位跳躍單調(diào)上升,這過(guò)程是放射性衰減物理過(guò)程的一個(gè)數(shù)學(xué)模型,即x(t)可以解釋為一物質(zhì)在時(shí)刻t之前發(fā)生放射性蛻變的數(shù)目。還有其他一些解釋:x(t)是在時(shí)刻t之前發(fā)生的電話呼喚次數(shù);或者是在時(shí)刻t之前通過(guò)公路一指定點(diǎn)的汽車數(shù)目。常數(shù)c是這些不同事件的發(fā)生率。事實(shí)上,x(u+h)—x(u)的期望值,即在長(zhǎng)為h(這里h當(dāng)然是正的)的時(shí)間區(qū)間內(nèi)發(fā)生的事件的期望數(shù)是ch,而且不管過(guò)程分支的歷史如何,在長(zhǎng)為h的區(qū)間內(nèi)發(fā)生一個(gè)事件的概率是ch(準(zhǔn)確到h的高階項(xiàng))。 對(duì)于許多特殊類型的馬爾可夫鏈來(lái)說(shuō),更為詳細(xì)的問(wèn)題是重要的。例如,考慮分支過(guò)程。在一質(zhì)點(diǎn)系統(tǒng)中,所有質(zhì)點(diǎn)都是同一類型的,一個(gè)質(zhì)點(diǎn)可以按概率qj分裂為j0個(gè)質(zhì)點(diǎn),而且這是與該質(zhì)點(diǎn)過(guò)去的歷史以及其他質(zhì)點(diǎn)無(wú)關(guān)。如果在時(shí)刻,觀測(cè)一質(zhì)點(diǎn),它在時(shí)刻t+h之前發(fā)生分裂的概率等于ch(準(zhǔn)確到h的高階項(xiàng)),這里c是一個(gè)嚴(yán)格正的常數(shù)。于是,在時(shí)刻 t質(zhì)點(diǎn)的數(shù)目是一個(gè)隨機(jī)變量x(t),x(t)過(guò)程是一個(gè)馬爾可夫過(guò)程,易見p'ij(0)由qi和c確定。列一般的分支過(guò)程允許有若干類型的質(zhì)點(diǎn),而且每一質(zhì)點(diǎn)可以分裂為各種不同類型的質(zhì)點(diǎn),變率t與質(zhì)點(diǎn)類型有關(guān)。這時(shí)x(t)定義為一個(gè)向量,它的第i個(gè)分量是系統(tǒng)在時(shí)刻t的時(shí)候所包含的i型質(zhì)點(diǎn)數(shù)。這個(gè)過(guò)程x(t)是一個(gè)向量值的馬爾可夫過(guò)程。在研究分支過(guò)程時(shí),最自然的問(wèn)題是:總體死亡的概率是多少?如果它不死亡,則隨著時(shí)間的流逝,總體的漸近分布又是怎樣?在這里給出問(wèn)題的回答顯得過(guò)于專門了。 如果馬爾可夫過(guò)程的狀態(tài)包含所有實(shí)數(shù),過(guò)程的特性可以與鏈類似,也可以與鏈有很大差異。例如,過(guò)程的樣本函數(shù)可以是連續(xù)的,這類過(guò)程的最重要的例子是擴(kuò)散過(guò)程。擴(kuò)散過(guò)程的最簡(jiǎn)單而非平凡的例子是對(duì)應(yīng)于,m=0和Q為常數(shù)函數(shù)的情形,這時(shí),擴(kuò)散過(guò)程就是布朗運(yùn)動(dòng)過(guò)程或維納過(guò)程,改變量x(t)—x(s)有平均值為0和方差的Q2|t—s|的高斯分布,這是物理學(xué)的布朗運(yùn)動(dòng)的數(shù)學(xué)模型,即若x(t)—x(s)表示一個(gè)布朗質(zhì)點(diǎn)在時(shí)刻s和t之間一個(gè)給定方向的位移,這過(guò)程是現(xiàn)實(shí)的運(yùn)動(dòng)的一個(gè)很好的模型。 鞅 鞅是具有如下性質(zhì)的隨機(jī)過(guò)程:若t1<…tn是參數(shù)值,則當(dāng)給定x(t1),…,x(tn-1)時(shí),x(tn)的期望值等于x(tn-1)。這也就是說(shuō),當(dāng)給定了現(xiàn)在和過(guò)去的值時(shí),將來(lái)的期望值等于現(xiàn)在的值。顯然,鞅可以解釋為一個(gè)賭徒在參加一列公平的賭博之后的財(cái)富。 有關(guān)鞅的典型結(jié)果是:如果一串隨機(jī)變量是鞅,則在較弱的條件——對(duì)隨機(jī)變量加上某些“界”,例如,若第n個(gè)隨機(jī)變量的絕對(duì)值的數(shù)學(xué)期望有與n無(wú)關(guān)的界——下,這串變量收斂。一個(gè)適當(dāng)正規(guī)化的連續(xù)參數(shù)鞅的樣本函數(shù)沒(méi)有振動(dòng)不連續(xù)點(diǎn)。 在這里給出鞅論的應(yīng)用就顯得過(guò)于專門了,但可以給出一個(gè)有提示性的例子,它最低限度能夠表明為什么這個(gè)理論能有效地應(yīng)用于信息論。設(shè)y,x1,x2,…是隨機(jī)變量,又設(shè)yn是已知x1,…,xn時(shí)y的期望值,則yn,是隨機(jī)變量,并為x1,…,xn的函數(shù),而且序列y1,y2,…是鞅。這就是說(shuō),如果人們知道得越來(lái)越多,那么一個(gè)隨機(jī)變量的期望值定義一隨機(jī)變量序列,這序列就是鞅。 具有獨(dú)立增量的過(guò)程 過(guò)程是具有如下性質(zhì)的連續(xù)參數(shù)過(guò)程,若t1<…<tn數(shù)值,則 x(t2)—x(t1),…,x(tn)—x(tn-1) 式中一邊串的增量是相互獨(dú)立的。如果y(t)=x(t)—x(to),這里to是固定的,則y(t)過(guò)程是一馬爾可夫過(guò)程。前面提到的泊松過(guò)程和布朗運(yùn)動(dòng)過(guò)程都是有獨(dú)立增量的。 有關(guān)這些過(guò)程的典型結(jié)果是:若這樣的一個(gè)過(guò)程是適當(dāng)正規(guī)化的,則它的樣本函數(shù)沒(méi)有振動(dòng)不連續(xù)點(diǎn),而且任意增量x(t)—x(s)的分布是無(wú)窮可分的。這種分布的特征函數(shù)有一種標(biāo)準(zhǔn)形式。 ——摘自《安全科學(xué)技術(shù)百科全書》(中國(guó)勞動(dòng)社會(huì)保障出版社,2003年6月出版 隨機(jī)過(guò)程 stochastic process 一個(gè)受概率規(guī)律支配的狀態(tài)變化序列,其狀態(tài)隨時(shí)間變化,但在時(shí)刻t的狀態(tài)x(t)是一個(gè)隨機(jī)變量[x(t)可以是數(shù)值、向量值或更復(fù)雜的情形]。數(shù)學(xué)上的隨機(jī)過(guò)程是實(shí)際隨機(jī)過(guò)程的數(shù)學(xué)模型,是一族具有某種有意義的相互關(guān)系的隨機(jī)變量的值,它由概率的分配所確定。在化工過(guò)程設(shè)計(jì)中較重要的隨機(jī)過(guò)程有馬爾可夫過(guò)程、布阿松過(guò)程等。 |
|
來(lái)自: 520jefferson > 《數(shù)學(xué)》