信息論與編碼理論第章信道容量習(xí)題解答.doc

《信息論與編碼理論第章信道容量習(xí)題解答.doc》由會(huì)員分享，可在線(xiàn)閱讀，更多相關(guān)《信息論與編碼理論第章信道容量習(xí)題解答.doc（12頁(yè)珍藏版）》請(qǐng)?jiān)谘b配圖網(wǎng)上搜索。

信息論與編碼理論 第3章 信道容量 習(xí)題解答 3-1 設(shè)二進(jìn)制對(duì)稱(chēng)信道的轉(zhuǎn)移概率矩陣為 解: (1) 若，求和。 (2)求該信道的信道容量及其達(dá)到信道容量時(shí)的輸入概率分布。 二進(jìn)制對(duì)稱(chēng)信息的信道容量 BSC信道達(dá)到信道容量時(shí)，輸入為等概率分布，即：{0.5，0.5} 注意單位 3-2 求下列三個(gè)信道的信道容量及其最佳的輸入概率分布。 第一種：無(wú)噪無(wú)損信道，其概率轉(zhuǎn)移矩陣為： 信道容量： bit/符號(hào) 離散無(wú)記憶信道(DMC)只有輸入為等概率分布時(shí)才能達(dá)到信道容量， bit/符號(hào) 輸入最佳概率分布如下： 第二種：無(wú)噪有損信道，其概率轉(zhuǎn)移矩陣為：，離散輸入信道， H(Y)輸出為等概率分布時(shí)可達(dá)到最大值，此值就是信道容量 此時(shí)最佳輸入概率： 信道容量： bit/符號(hào) 第三種：有噪無(wú)損信道，由圖可知： 輸入為等概率分布時(shí)可達(dá)到信道容量，此時(shí)信道容量 bit/符號(hào) 輸入最佳概率分布： 3-3 設(shè)4元?jiǎng)h除信道的輸入量，輸出量，轉(zhuǎn)移概率為 其中 1）該信道是對(duì)稱(chēng)DMC信道嗎？ 2）計(jì)算該信道的信道容量； 3）比較該信道與兩個(gè)獨(dú)立并聯(lián)的二元?jiǎng)h除信道的信道容量。 （1）本通信過(guò)程的轉(zhuǎn)移概率分布如下所示： 可以分解為兩個(gè)矩陣： 可以看出該信道不是對(duì)稱(chēng)DMC信道，它是準(zhǔn)對(duì)稱(chēng)DMC信道。 （2）該信道的信道容量為：（直接套用準(zhǔn)對(duì)稱(chēng)信道計(jì)算公式） （3）兩個(gè)獨(dú)立并聯(lián)的二元?jiǎng)h除信道其轉(zhuǎn)移概率如下： 可以寫(xiě)成：的形式 獨(dú)立并聯(lián)的二元信道的信道容量為兩個(gè)信道容量的和。 其信道容量為： bit/符號(hào) 兩個(gè)獨(dú)立并聯(lián)和刪除信道的信道容量=2C= bit/符號(hào) 本信道的信道容量與兩個(gè)并聯(lián)刪除信道信道容量相等。 3-4 設(shè)BSC信道的轉(zhuǎn)移概率矩陣為 1）寫(xiě)出信息熵和條件熵的關(guān)于和表達(dá)式，其中。 2）根據(jù)的變化曲線(xiàn)，定性分析信道的容道容量，并說(shuō)明當(dāng)?shù)男诺廊萘俊? 解：（1）設(shè)輸入信號(hào)的概率頒布是{p,1-p} （2）的變化曲線(xiàn)，是一個(gè)上凸函數(shù)，當(dāng)輸入等概率分布時(shí)達(dá)到信道容量。 由于函數(shù)H（ε）是一個(gè)凸函數(shù)，有一個(gè)性質(zhì)： 可知： 假設(shè)時(shí)此信道是一個(gè)二元對(duì)稱(chēng)信道，轉(zhuǎn)移概率分布為： 信道容量： 3-5 求下列兩個(gè)信道的容量，并加以比較。 第一個(gè)：可以寫(xiě)成：與 bit/符號(hào) 第二個(gè)： 與兩個(gè)對(duì)稱(chēng)形式 bit/符號(hào) 所以：信道一的信道容量大于信道二的信道容量，信道容量的不增性。 3-6設(shè)信道前向轉(zhuǎn)移概率矩陣為 1）求信道容量和最佳輸入概率分布的一般表達(dá)式； 2）當(dāng)和時(shí)，信道容量分別為多少？并針對(duì)計(jì)算結(jié)果做出說(shuō)明。 （1）此信道為非對(duì)稱(chēng)信道，設(shè)輸入概率分布為： 輸出概率分布為： 把C對(duì)P1，P2，P3 分別求導(dǎo)：，可得： 可得： P2 = P3 可以解得： 最佳輸入概率分布的表達(dá)式為： 設(shè)則 （2）p=0時(shí)，是一個(gè)對(duì)稱(chēng)信道，當(dāng)輸入等概率分布時(shí)可以達(dá)到信道容量，輸入轉(zhuǎn)移概率為 N=3，所以 bit/符號(hào) （3）p=1/2時(shí)，，可得N=4， bit/符號(hào) 3-7設(shè)BSC信道的前向轉(zhuǎn)移概率矩陣為 設(shè)該信道以1500個(gè)二元符號(hào)／秒的速度傳輸輸入符號(hào)，現(xiàn)在一消息序列共有14000個(gè)二元符號(hào)，并設(shè)在這消息中，問(wèn)從信息傳輸?shù)慕嵌葋?lái)考慮，10秒鐘內(nèi)能否將這消息序列無(wú)失真地傳輸完。 解：BSC信道，且輸入為等概率，信道容量 bit/符號(hào) 14000個(gè)二元符號(hào)的信息量為： ＜14000比特 所以10秒內(nèi)不能無(wú)失真的傳輸完。 3-8 有個(gè)離散信道，轉(zhuǎn)移概率矩陣分別為。由這個(gè)離散信道組成一個(gè)新信道，稱(chēng)為和信道，其轉(zhuǎn)移概率矩陣為： 設(shè)是第個(gè)離散信道的信道容量。試證明：和信道的信道容量為 此時(shí)第個(gè)信道的使用概率為。 解：m=2時(shí),轉(zhuǎn)移矩陣變?yōu)? ，設(shè)兩個(gè)信道的信道容量分別為：，信道的利用率分別為：，并行信道，有C=C1+C2 分別對(duì)C1，C2進(jìn)行求導(dǎo)可得： 可得： 令，可得： 依次類(lèi)推，可得： 3-9 求個(gè)相同的BSC級(jí)聯(lián)信道的信道容量。 解：N個(gè)相同BSC級(jí)聯(lián)，設(shè) 級(jí)聯(lián)后： N為偶數(shù)時(shí)： N為奇數(shù)時(shí)： 可知本信道等同于BSC信道，可得出： bit/符號(hào) 3-10 電視圖像由30萬(wàn)個(gè)像素組成，對(duì)于適當(dāng)?shù)膶?duì)比度，一個(gè)像素可取10個(gè)可辨別的亮度電平，假設(shè)各個(gè)像素的10個(gè)亮度電平都以等概率出現(xiàn)，實(shí)時(shí)傳送電視圖像每秒發(fā)送30幀圖像。為了獲得滿(mǎn)意的圖像質(zhì)量，要求信號(hào)與噪聲的平均功率比值為30dB，試計(jì)算在這些條件下傳送電視的視頻信號(hào)所需的帶寬。 解： 1秒內(nèi)可以傳送的信息量為： 3-11 一通信系統(tǒng)通過(guò)波形信道傳送信息，信道受雙邊功率譜密度W／Hz的加性高斯白噪聲的干擾，信息傳輸速率kbit/s，信號(hào)功率W。 1）若信道帶寬無(wú)約束，求信道容量； 解：帶限的加性高斯白噪聲波形信道的信道容量為 無(wú)帶寬約束時(shí)： 2）若信道的頻率范圍為0到3KHz，求信道容量和系統(tǒng)的頻帶利用率（bps/Hz）(注：為系統(tǒng)帶寬)；對(duì)同樣的頻帶利用率，保證系統(tǒng)可靠傳輸所需的最小是多少dB？ W=3KHZ 在最大信息速率條件下，每傳輸1比特信息所需的信號(hào)能量記為Eb 3）若信道帶寬變?yōu)?00KHz，欲保持與2）相同的信道容量，則此時(shí)的信噪比為多少dB？信號(hào)功率要變化多數(shù)dB? 11