小波變換與傅里葉變換
(2010-11-05 15:50:32) from http://blog.sina.com.cn/s/blog_6e2b7fd70100mlcd.html
一、基的概念
兩者都是基,信號(hào)都可以分成無窮多個(gè)他們的和(疊加)。而展開系數(shù)就是基與信號(hào)之間的內(nèi)積,更通俗的說是投影。展開系數(shù)大的,說明信號(hào)和基是足夠相似的。這也就是相似性檢測的思想。但我們必須明確的是,傅里葉是0-2pi標(biāo)準(zhǔn)正交基,而小波是-inf到inf之間的基。因此,小波在實(shí)軸上是緊的。而傅里葉的基(正弦或余弦),與此相反。而小波能不能成為Reisz基,或標(biāo)準(zhǔn)穩(wěn)定的正交基,還有其它的限制條件。此外,兩者相似的還有就是PARSEVAL定理。(時(shí)頻能量守恒)。
二、離散化的處理
傅里葉變換,是一種數(shù)學(xué)的精妙描述。但計(jì)算機(jī)實(shí)現(xiàn),卻是一步步把時(shí)域和頻域離散化而來的。第一步,時(shí)域離散化,我們得到離散時(shí)間傅里葉變換(DTFT),頻譜被周期化;第二步,再將頻域離散化,我們得到離散周期傅里葉級(jí)數(shù)(DFS),時(shí)域進(jìn)一步被周期化。第三步,考慮到周期離散化的時(shí)域和頻域,我們只取一個(gè)周期研究,也就是眾所周知的離散傅里葉變換(DFT)。這里說一句,DFT是沒有物理意義的,它只是我們研究的需要。借此,計(jì)算機(jī)的處理才成為可能。所有滿足容許性條件(從-INF到+INF積分為零)的函數(shù),都可以成為小波。小波作為尺度膨脹和空間移位的一組函數(shù)也就誕生了。但連續(xù)取值的尺度因子和平移因子,在時(shí)域計(jì)算量和頻域的混疊來說,都是極為不便的。用更為專業(yè)的俗語,叫再生核。也就是,對于任何一個(gè)尺度a和平移因子b的小波,和原信號(hào)內(nèi)積,所得到的小波系數(shù),都可以表示成,在a,b附近生成的小波,投影后小波系數(shù)的線性組合。這就叫冗余性。這時(shí)的連續(xù)小波是與正交基毫無關(guān)系的東西,它頂多也只能作為一種積分變換或基。但它的顯微鏡特點(diǎn)和相似性檢測能力,已經(jīng)顯現(xiàn)出來了。為了進(jìn)一步更好的將連續(xù)小波變換離散化,以下步驟是一種有效方法。第一步,尺度離散化。一般只將a二進(jìn)離散化,此時(shí)b是任意的。這樣小波被稱為二進(jìn)小波。第二步,離散b。怎么離散化呢?b取多少才合適呢?于是,叫小波采樣定理的東西,就這樣誕生了。也就是小波平移的最小距離(采樣間隔),應(yīng)該大于二倍小波基的最高頻率(好像類似,記不清了)。所以b取尺度的整數(shù)倍就行了。也就是越胖的小波,對應(yīng)頻譜越窄,平移量應(yīng)該越大,采樣間隔越大。當(dāng)然,第一二兩步的頻域理解,即在滿足頻域窗口中心是3倍的頻域窗口半徑的前提下,頻域就在統(tǒng)計(jì)上是完美二分的。(但很多小波滿足不了這個(gè)條件,而且頻域窗口能量不?,
所以只是近似二分的).
這時(shí)的小波變換,稱為離散二進(jìn)小波變換.第三步,引入穩(wěn)定性條件.也就是經(jīng)過變換后信號(hào)能量和原信號(hào)能量有什么不等式關(guān)系.滿足穩(wěn)定性條件?后,也就是一個(gè)小波框架產(chǎn)生了可能.他是數(shù)值穩(wěn)定性的保證.一個(gè)稍弱的穩(wěn)定條件???,就是?<A<=B<+INF,并且小波函數(shù)線性無關(guān),
此時(shí)小波基稱為Reisz基.并且,如果變換后能量守恒,(A=B=1),并且線性無關(guān),這就是標(biāo)準(zhǔn)離散正交小波基。這種分解也就是大家熟知的直和分解。若A和B不相等,且相差很大,我們就說小波不是緊框架的,所以雙正交,對偶小波也就自然而然引進(jìn)來了。若A和B不相等,但又相差不大,這時(shí)穩(wěn)定重構(gòu)也是可能的,這時(shí)成為幾乎緊框架的。(好像說這樣小波有櫓棒性特點(diǎn),也就是粗略分解,但卻精確重構(gòu)。)經(jīng)過3步,我們最終地得到了一個(gè)二進(jìn)離散化穩(wěn)定的小波變換,這正是我們要的結(jié)果。
三、快速算法。
如果說現(xiàn)代數(shù)字信號(hào)處理革命的算法,甚至是很多快速算法的老始祖,或者是滿矩陣向量乘法一個(gè)幾乎不可抗拒的最小計(jì)算量NlogN,那就是令我不得不佩服的快速傅里葉變換(FFT)。這里我不想解釋過多的基2算法,和所謂的三重循環(huán),還有那經(jīng)典的蝶形單元,或是分裂基之類,我想說的就是一種時(shí)頻對應(yīng)關(guān)系。也就是算法的來源。我們首先明確,時(shí)域的卷積對應(yīng)頻域的相乘,因此我們?yōu)榱藢?shí)現(xiàn)卷積,可以先做傅里葉變換,接著在頻域相乘,最后再做反傅里葉變換。這里要注意,實(shí)際我們在玩DSP。因此,大家要記住,圓周卷積和離散傅里葉變換,是一家子??焖俑道锶~是離散傅里葉的快速算法。因此,我們實(shí)現(xiàn)離散線性卷積,先要補(bǔ)零。然后使得它和圓周卷積相等。然后就是快速傅里葉變換,頻域相乘,最后反快速傅里葉變換。當(dāng)然,如果我們就需要的是圓周卷積,那我們也就不需要多此一舉的補(bǔ)零。這里,我們可以把圓周卷積,寫成矩陣形式。這點(diǎn)很重要。Y=AX。這里的A是循環(huán)矩陣。但不幸的是A仍然是滿陣。小波的快速算法。MALLAT
算法,是一個(gè)令人振奮的東西。它實(shí)質(zhì)給了多分辨率分析(多尺
度分析)一個(gè)變得一發(fā)而不可收的理由。它實(shí)質(zhì)上,講了這樣一個(gè)意思。也就是。我在一個(gè)較高的尺度(細(xì)節(jié))上作離散二進(jìn)穩(wěn)定的小波變換,得到了一個(gè)結(jié)果(小波系數(shù)),我若是想得到比它尺度低的小波系數(shù)(概貌),我不用再計(jì)算內(nèi)積,只是把較高尺度的小波系數(shù)和低通或高通濾波器卷積再抽取即可。但是,所有這些證明的推導(dǎo)是在整個(gè)實(shí)軸上進(jìn)行的。即把信號(hào)看成無限長的。但這仍不是我們想要的。還有,我們還必須在較高尺度上作一次內(nèi)積,才可以使用此算法。因此,我們開始簡化,并擴(kuò)展此理論。第一,我們把信號(hào)的采樣,作為一個(gè)較高層的小波系數(shù)近似初始值。(這是可以的,因?yàn)樾〔ê苁輹r(shí),和取樣函數(shù)無異)。第二,我們把原來的卷積,換為圓周卷積。這和DSP何嘗不一樣呢?它的物理意義,就是把信號(hào)作周期延拖(邊界處理的一種),使之在整個(gè)實(shí)軸上擴(kuò)展。這種算法令我為之一貫堅(jiān)持的是,它是完全正交的,也就是說是正交變換。正變換Y=AX;反變換
X=A’Y;一般對于標(biāo)準(zhǔn)正交基,A’是A的共軛轉(zhuǎn)置,對于雙正交A’是A的對偶矩陣。但不管如何,我們可以大膽的寫,AA’=A’A=I。這里I是單位矩陣。
那怎樣操作才是最快的呢?我們來分析A的特點(diǎn),首先A是正交陣,其次A是有循環(huán)矩陣特點(diǎn),但此時(shí)A上半部分是由低通濾波器構(gòu)成的循環(huán)子矩陣,下半部分是由高通濾波器構(gòu)成的子矩陣,但卻是以因子2為循環(huán)的。為什么,因?yàn)槟阕隽?抽取。所以我們可以,實(shí)現(xiàn)小波變換用快速傅里葉變換。這時(shí)如果A是滿陣的,則復(fù)雜度由O(N.^2)下降到O(NlogN)。但還有一點(diǎn),我們忘了A是稀疏的,因?yàn)樾盘?hào)是很長的,而濾波器確實(shí)很短的,也就是這個(gè)矩陣是個(gè)近似對角陣。所以,快速傅里葉是不快的,除非你傻到含有零的元素,也作了乘法。因此,小波變換是O(N)復(fù)雜度的。這是它的優(yōu)勢。但要實(shí)現(xiàn),卻不是那么容易,第一個(gè)方法,稀疏矩陣存儲(chǔ)和稀疏矩陣乘法。第二個(gè)方法,因子化。因子化,是一個(gè)杰出的貢獻(xiàn)。它在原有的O(N)的復(fù)雜度基礎(chǔ)上,對于長濾波器,又把復(fù)雜度降低一半。但量級(jí)仍然是O(N)。
四、時(shí)頻分析
對于平穩(wěn)信號(hào),傅里葉再好不過了。它反映的是信號(hào)總體的整個(gè)時(shí)間段的特點(diǎn)。在頻率上,是點(diǎn)頻的。而對于非平穩(wěn)信號(hào),它就無能為力了。而小波恰好對此派上用場。小波是反映信號(hào),某個(gè)時(shí)間段的特點(diǎn)的。在頻域上,是某個(gè)頻率段的表現(xiàn)。但小波,作為頻譜分析確實(shí)存在很多問題。但我們確實(shí)可以做出很多的小波滿足這個(gè)特點(diǎn)。大家可以看冉啟文的《小波變換與分?jǐn)?shù)傅里葉變換》書,這里我不再贅述。還有,我們老是說小波是近似頻域二分的,這在DSP上是怎樣的,最近我也在思考。
五、壓縮、消噪、特征提取
傅里葉變換的壓縮,已經(jīng)廣泛應(yīng)用了。它的簡化版本就是DCT變換。而小波包的提出,也就使DCT有些相形見拙。首先,它提出代價(jià)函數(shù),一般就是熵準(zhǔn)則。其次,一個(gè)自適應(yīng)樹分解。再次,基于矩陣范數(shù)或較少位編碼的稀疏化策略。這些使小波包的壓縮近乎完美。小波包是從頻域上實(shí)現(xiàn)的。從時(shí)域上,我們也可采用類似的分裂和并算法,來實(shí)現(xiàn)信號(hào)最優(yōu)的表達(dá),這種可變窗小波成為MALVAR小波。記住,壓縮是小波最大的優(yōu)勢。
消噪,一般的傅里葉算法,一般可以是IIR濾波和FIR濾波。兩者各有優(yōu)缺點(diǎn)。而小波的消噪,一般也是由多層分解和閾值策略組成。我們需要的是信號(hào)的特點(diǎn),噪聲的特點(diǎn),然后確定用不用小波,或用什么小波。這點(diǎn)上,小波的優(yōu)勢并不是很明顯。
特征提取。這是小波的顯微鏡特點(diǎn)很好地運(yùn)用。利用模極大值和LIPSCHITZ指數(shù),我們可以對信號(hào)的突變點(diǎn)做分析。但這里面的問題也是很多。首先,在不同尺度上,噪聲和信號(hào)的模極大值變化不同。再次,一般我們用求內(nèi)積方法,求模極大值,而不用MALLET算法,或者改用叫多孔算法的東西來做。這點(diǎn),我沒任何體會(huì),希望大家多討論吧。
這里,我不能談應(yīng)用很多的細(xì)節(jié)。但我們必須明確:
1.
你要對小波概念有著明確的理解。對諸如多分辨率,時(shí)頻窗口與分析,框架,消失矩,模極大值,LIPSCHITZ指數(shù)等有著清醒地認(rèn)識(shí)。
2. 你必須考慮小波在此問題上的可行性,這點(diǎn)尤為重要,小波不是萬能的。
3.你必須考慮什么樣的小波是合適的。
4. 你必須給出一個(gè)評價(jià)的標(biāo)準(zhǔn)。(熵準(zhǔn)則,模極小則等)
5. 你必須確定一種算法,是用小波還是小波包或是類小波。(MALLET,直接求內(nèi)積,多孔,模極大值重構(gòu))。
6. 最后,你要把你做的效果還其他人的作比較,看看有沒有優(yōu)勢。
7. 自己編寫幾乎所有程序,不依靠TOOLBOX里任何的函數(shù)。(一些常用的除外)。
這樣相信你會(huì)獲益不少。
我個(gè)人的理解:
小波分析是傅立葉分析思想的發(fā)展與延拓,它自產(chǎn)生以來,就一直與傅立葉分析密切相關(guān),他的存在性證明,小波基的構(gòu)造以及結(jié)果分析都依賴于傅立葉分析,二者是相輔相成的,兩者主要的不同點(diǎn):
1、傅立葉變換實(shí)質(zhì)是把能量有限信號(hào)f(t)分解到以{exp(jωt)}為正交基的空間上去;小
波變換的實(shí)質(zhì)是把能量有限信號(hào)f(t)分解到W-j和V-j所構(gòu)成的空間上去的。
2、傅立葉變換用到的基本函數(shù)只有sin(ωt),cos(ωt),exp(jωt),具有唯一性;小波分
析用到的函數(shù)(即小波函數(shù))則具有多樣性,同一個(gè)工程問題用不同的小波函數(shù)進(jìn)行分析有時(shí)結(jié)果相差甚遠(yuǎn)。小波函數(shù)的選用是小波分析運(yùn)用到實(shí)際中的一個(gè)難點(diǎn)問題(也是小波分析研究的一個(gè)熱點(diǎn)問題),目前往往是通過經(jīng)驗(yàn)或不斷地試驗(yàn)(對結(jié)果進(jìn)行對照分析)來選擇小波函數(shù)。
3、在頻域分析中,傅立葉變換具有良好的局部化能力,特別是對于那些頻率成分比較簡單的確定性信號(hào),傅立葉變換很容易把信號(hào)表示成各頻率成分的疊加和的形式,如sin(ω1t)+0.345sin(ω2t)+4.23cos(ω3t),但在時(shí)域中傅立葉變換沒有局部化能力,即無法從f(t)的傅立葉變換中看出f(t)在任一時(shí)間點(diǎn)附近的性態(tài)。事實(shí)上,F(xiàn)(w)dw是關(guān)于頻率為w的諧波分量的振幅,在傅立葉展開式中,它是由f(t)的整體性態(tài)所決定的。
4、在小波分析中,尺度a的值越大相當(dāng)于傅立葉變換中w的值越小。
5、在短時(shí)傅立葉變換中,變換系數(shù)S(ω,τ)主要依賴于信號(hào)在[τ-δ,τ+δ]片段中的情況,時(shí)間寬度是2δ(因?yàn)棣氖怯纱昂瘮?shù)g(t)唯一確定的,所以2δ是一個(gè)定值)。在小
波變換中,變換系數(shù)Wf(a,b)主要依賴于信號(hào)在[b-aΔφ,b+aΔφ)片斷中的情況,時(shí)
間寬度是2aΔφ,該時(shí)間的寬度是隨尺度a變化而變化的,所以小波變換具有時(shí)間局部分析能力。
6、若用信號(hào)通過濾波器來解釋,小波變換與短時(shí)傅立葉變換不容之處在于:對短時(shí)傅立葉變換來說,帶通濾波器的帶寬Δf與中心頻率f無關(guān);相反小波變換帶通濾波器的帶寬Δf則正比于中心頻率f。
|