没有合适的资源?快使用搜索试试~ 我知道了~
首页2011信息论期末考试样卷
2011信息论期末考试样卷

2011信息论期末考试样卷.doc2011信息论期末考试样卷.doc2011信息论期末考试样卷.doc2011信息论期末考试样卷.doc2011信息论期末考试样卷.doc2011信息论期末考试样卷.doc
资源详情
资源评论
资源推荐

一、概念简答题(共 10 题,每题 5 分)
1.简述离散信源和连续信源的最大熵定理。
2.什么是平均自信息(信息熵)?什么是平均互信息?比较一下两个概念的异同之处。
3.解释等长信源编码定理和无失真变长信源编码定理,说明对于等长码和变长码,最佳码的每符号平均码
长最小为多少?编码效率最高可达多少?
4.解释最小错误概率译码准则,最大似然译码准则和最小距离译码准则,说明三者的关系。
5.设某二元码字 C={111000,001011,010110,101110},
① 假设码字等概率分布,计算此码的编码效率?
② 采用最小距离译码准则,当接收序列为 110110 时,应译成什么码字?
6.一平稳二元信源,它在任意时
间,不论以前发出过什么符号,
都按 发出符号,求和平均符号
熵
7.分别说明信源的概率分布和信道转移概率对平均互信息的影响,说明平均互信息与信道容量的关系。
8.二元无记忆信源,有求:
(1)某一信源序列由 100 个二元
符号组成,其中有 m 个“1”,求其
自信息量?
(2)求 100 个符号构成的信源序列的熵。
9.求以下三个信道的信道容量:
,,
10.
已知
一
(3
,1
,3)卷积码编码器,输入输出关系为:
试给出其编码原理框图。
二、综合题(共 5 题,每题 10 分)
1.二元平稳马氏链,已知 P(0/0)=0.9,P(1/1)=0.8,求:
(1)求该马氏信源的符号熵。
(2)每三个符号合成一个来编二进制 Human 码,试建立新信源的模型,给出编码结果。

(3)求每符号对应的平均码长和编码效率。
2.设有一离散信道,其信道矩阵为,求:
(1)最佳概率分布?
(2)当,时,求平均互信息 信道疑义度
(3)输入为等概率分布时,试写出一译码规则,使平均译码错误率最小,并求此
3.设线性分组码的生成矩阵
为,求:
(1)此(n,k)码的 n=?
k=?,写出此(n,k)码的
所有码字。
(2)求其对应的一致校验矩
阵 H。
(3)确定最小码距,问此码能纠几位错?列出其能纠错的所有错误图样和对应的伴随式。
(4)若接收码字为 000110,用伴随式法求译码结果。
4.二元对称信道的信道矩阵为,
信道传输速度为 1500 二元符号
/秒,设信源为等概率分布,信源消息序列
共有 13000 个二元符号,问:
(1)试计算能否在 10 秒内将信源消息序列无失真传送完?
(2)若信源概率分布为,求无失真传送以上信源消息序列至少需要多长时间?
5.已知(7,4)循环码的生成多项式,
求:
(1)求该码的编码效率?
(2)求其对应的一致校验多项式
(3)写出该码的生成矩阵,校验矩阵。
(4)若消息码式为,求其码字。
模拟试题一答案
一、概念简
答题(共 10 题,每题 5 分)
1.答:离散无记忆信源,等概率分布时熵最大。
连续信源,峰值功率受限时,均匀分布的熵最大。平均功率受限时,高斯分布的熵最大。均值受限时,指
数分布的熵最大。
2.答:平均自信息为
表示信源的平均不确定度,也表示平均每个信源消息所提供的信息量。
平均互信息为
表示从 Y 获得的关于每个 X 的平均信息量,也表示发 X 前后 Y 的平均不确定性减少的量,还表示通信前
后整个系统不确定性减少的量。
3.答:等长信源编码定理:对于任意,只要,则当 L 足够长时必可使译码差错。

变长信源编码定理:只要,一定存在一种无失真编码。
等长码和变长码的最小平均码长均为,编码效率最高可达 100%。
4.答:最小错误概率译码准则下,将接收序列译为后验概率最大时所对应的码字。
最大似然译码准则下,将接收序列译为信道传递概率最大时所对应的码字。
最小距离译码准则下,将接收序列译为与其距离最小的码字。
三者关系为:输入为等概率分布时,最大似然译码准则等效于最小错误概率译码准则。在二元对称无记忆
信道中,最小距离译码准则等效于最大似然译码准则。
5.答:1)
2)令接收序列为,则有,,,,故接收序列应译为 010110。
6.答:
7.答:平均互信息相对于信源概率分布为上凸函数,相对于信道传递概率分布为下凹函数。平均互信息的
最大值为信道容量。
8.答:1)
2)
9.答:P1 为一一对应确定信道,因此有。
P2 为具有归并性能的信道,因此有。
P3 为具有发散性能的信道,因此有。
10.答:
二、综合
题(共 5
题,每题
10 分)
1.答:1)由得极限概率:
则符号熵为
2)新信源共 8 个序列,各序列的概率为
信源模型为
一种编
码结果
(依信
源模型
中的序
列次序)为
0,11,1001,1
010,1011,10
000,100010,100011
3)

2.答:1)是准对称信道,因此其最佳输入概率分布为。
2)当,时,有
则
3)此时可用最大似然译码准则,译码规则为
且有
3.答:1)n=6,k=3,由 C=mG 可得所有码字为:
000000,001011,010110,011101,100101,101110,110011,111000
2)此码是系统码,由 G 知,,则
3)由 H 可知,其任意 2 列线性无关,而有 3 列线性相关,故有,能纠一位错。
错误图样 E 伴随式
100000 101
010000 110
001000 011
000100 100
000010 010
000001 001
4)由知 E=010000,则
4.答:1)信道容量为
信源序列信息量为
而 10 秒内信道能传递的信息量为
故不能无失真地传送完。
2)此时信源序列信息量为
信息传输率为
则
5.答:1)
2)
3),而
4)
6.答:1)无错
传输时,有
即
则
2)在时,最大熵
对应的输入概率密度函数为
一、(15 分)
解:(1)由图可知一阶马尔可
夫信源的状态空间,平稳后信源的概率分布就等于一

阶马尔可夫信源状态的极限分布,即
, ; , ;
----------------(1 分)
从状态图中分析可知,这三个状态都是正规常返态,所以此马尔可夫链具有各态历
经性,平稳后状
态的极限分布存在。可得状态一步转移矩阵
,
----------------(2 分)
得 : ,
----------------(2 分)
则 可 得 : ;
----------------(2 分)
(2) 一阶马尔可夫信源的熵
;
----------------(4 分)
(3) 当 , 当 , ; ----------------(2 分)
因为信息熵是表示信源的平均不确 定性,题中当或时表明信源从某一状态
出发转移到另一状态的情况是一定发生或一定不发生,即是确定的事件。当时,从 0
状态一定转移到 2 状态,2 状态一定转移到 1 状态,1 状态一定转移到 0 状态。所以不
论从何状态起信源输出的序列一定是 021021 序列,完全确定的。当时,0 状态永远处
于 0 状态,1 状态永远处于 1 状态,2 状态用于处于 2 状态。信源输出的符号序列也是
确定的。所以当或时,信源输出什么符号不存在不确定性,完全是确定的,因此确定
信源的信息熵等于零。 ----------------(4 分)
二、(20 分)
解:如下图所示, 其中
;
----------------(2 分)
----------------(2 分)
它们都是二元对称离
散信道;又因为 ,;
所以这个和信道容量
为:
----------------(4 分)
其 中 , Q
1
的 利 用
率
其 中 , Q
2
的 利 用
率 ----------------
(2 分)
由此得:
剩余23页未读,继续阅读










安全验证
文档复制为VIP权益,开通VIP直接复制

评论2