信息论习题详解：马尔可夫信源与骰子概率计算

本资源是一份《信息论与编码》课程的课后习题答案，作者为曹雪虹，主要涵盖了第二章的内容。章节中包含三个具体的练习题及其解答。 第一个问题是关于一个三符号马尔可夫信源的状态图绘制和稳态概率计算。信源有三个符号，转移概率通过矩阵给出，要求学生画出状态图并找出在稳态下每个符号的概率。解题步骤包括构建状态转移矩阵，利用该矩阵推导状态概率，最终得出W1、W2和W3的具体值。 第二个题目涉及的是一个二阶马尔可夫链，其状态和转移概率分别给出，同样要求绘制状态图和计算稳态概率。学生需根据给定的概率建立转移矩阵，并依据矩阵计算出W1、W2、W3和W4。 第三部分是关于投掷两个骰子的信息论问题。涉及的事件包括：“3和5同时出现”、“两个1同时出现”的自信息量，“两个点数的各种组合（无序）对的熵和平均信息量”，以及“两个点数之和的熵”。学生需要利用统计原理计算这些事件的概率和相应的信息量。 最后一个题目是关于信息量的计算，具体场景是关于女性大学生和身高的概率分布。当得知某个身高160厘米以上的女性是大学生时，计算由此获得的信息量，考察了信息理论在现实情况中的应用。 整个资源提供了深入理解和解决信息论基本概念和实际问题的方法，对于学习者来说是宝贵的参考资料，特别是对马尔可夫过程、熵和信息量等概念的理解和实践操作具有重要意义。