香農(nóng)信息論主要討論點(diǎn)對點(diǎn)通信中的一些基本問題,最著名的結(jié)論包括其中的四大定理,也即為無失真信源編碼定理,限失真信源編碼定理,信道編碼定理,信源信道分離定理。
香農(nóng)信息論為目前的通信系統(tǒng)設(shè)計(jì)和編碼都有不可忽視的指導(dǎo)意義,但其也有不足的地方,主要包括三方面,一個(gè)局限是香農(nóng)得出的大部分結(jié)果,都是在理論上得到的極限值,雖然為通信系統(tǒng)的設(shè)計(jì)給出了非常有指導(dǎo)意思的理論界限,但實(shí)際系統(tǒng)中應(yīng)該如何去達(dá)到這些界限,香農(nóng)并沒有給出,最典型的例子就是信道編碼定理,雖然1948年香農(nóng)就發(fā)明了信息論,但到90年代才找到或者再發(fā)現(xiàn)能夠逼近香農(nóng)極限的turbo碼和LDPC碼;再一個(gè)局限是香農(nóng)的大部分結(jié)果都是在一定的理想條件或極限條件下推導(dǎo)出來的,在實(shí)際系統(tǒng)中,這些條件可能不能滿足,因而不可能達(dá)到香農(nóng)所得出的一些結(jié)論或界限,舉一個(gè)例子,信源信道分離定理是在數(shù)據(jù)分組長度無窮大和靜態(tài)信道條件下得到的,但實(shí)際系統(tǒng)中的編碼可能會有分組長度和限制,信道也可能是時(shí)變的,因而產(chǎn)生出最近較新的所謂聯(lián)合信源信道編碼理論;最后一個(gè)是局限是點(diǎn)對點(diǎn)通信的局限性,因?yàn)橥ㄐ诺臉?gòu)架存在網(wǎng)絡(luò)結(jié)構(gòu)和多用戶的結(jié)構(gòu),所以對于網(wǎng)絡(luò)和多用戶的情形,香農(nóng)并沒有更深入的研究,雖然他在50年代研究了two way channel,但并未得出有意義的結(jié)果,目前網(wǎng)絡(luò)信息論或多用戶信息論是一個(gè)比較活躍的領(lǐng)域,主要的有意義的結(jié)論在廣播和多址接入信道,但都是退化的情形才成立的結(jié)論,更一般的情形,還有一些其他如中繼信道等,還有待進(jìn)一步研究。 綜上,香農(nóng)信息論的發(fā)展主要為網(wǎng)絡(luò)信息論(目前中繼信道比較活躍)、聯(lián)合信源信道編碼、多描述問題、高斯分布的碼書的設(shè)計(jì)等,這些都是尚未解決的問題。 |
|