信息理论基础周荫清答案 - CSDN文库

信息论基础

需积分: 10 63 浏览量更新于2023-03-16 评论 1 收藏 551KB DOCX 举报

身份认证购VIP最低享 7 折!

领优惠券(最高得80元）

资源详情

资源评论

资源推荐

2.1 试问四进制、八进制脉冲所含信息量是二进制脉冲的多少倍？

解：

四进制脉冲可以表示 4 个不同的消息，例如：{0, 1, 2, 3}

八进制脉冲可以表示 8 个不同的消息，例如：{0, 1, 2, 3, 4, 5, 6, 7}

二进制脉冲可以表示 2 个不同的消息，例如：{0, 1}

假设每个消息的发出都是等概率的，则：

四进制脉冲的平均信息量 H(X

1

) = log

2

n = log

2

4 = 2 bit/symbol

八进制脉冲的平均信息量 H(X

2

) = log

2

n = log

2

8 = 3 bit/symbol

二进制脉冲的平均信息量 H(X

0

) = log

2

n = log

2

2 = 1 bit/symbol

所以：

四进制、八进制脉冲所含信息量分别是二进制脉冲信息量的 2 倍和 3 倍。

2.2 居住某地区的女孩子有 25%是大学生，在女大学生中有 75%是身高 160 厘米以上的，而女

孩子中身高 160 厘米以上的占总数的一半。假如我们得知“身高 160 厘米以上的某女孩是大学生”

的消息，问获得多少信息量？

解：

设随机变量 X 代表女孩子学历

X

x

1

（是大学生） x

2

（不是大学生）

P(X) 0.25 0.75

设随机变量 Y 代表女孩子身高

Y

y

1

（身高>160cm） y

2

（身高<160cm）

P(Y) 0.5 0.5

已知：在女大学生中有 75%是身高 160 厘米以上的

即：p(y

1

/ x

1

) = 0.75

求：身高 160 厘米以上的某女孩是大学生的信息量

即：

I( x

1

/ y

1

)=−log p ( x

1

/ y

1

)=−log

2

[

p( x

1

) p( y

1

/x

1

)

p ( y

1

)

]

=−log

2

(

0 .25×0 . 75

0. 5

)

=1 . 415 bit

2.3 一副充分洗乱了的牌（含 52 张牌），试问

(1) 任一特定排列所给出的信息量是多少？

(2) 若从中抽取 13 张牌，所给出的点数都不相同能得到多少信息量？

解：

(1) 52 张牌共有 52！种排列方式，假设每种排列方式出现是等概率的则所给出的信息量是：

I( x

i

)=−log p( x

i

)=log

2

52 !=225 .581 bit

(2) 52 张牌共有 4 种花色、13 种点数，抽取 13 张点数不同的牌的概率如下：

· 1 ·

剩余45页未读，继续阅读

评论0

fuwenguo23

粉丝: 0
资源: 2

会员权益专享

图片转文字

全年可省5，000元立即开通

最新资源

资源上传下载、课程学习等过程中有任何疑问或建议，欢迎提出宝贵意见哦~我们会及时处理！点击此处反馈