3.设用于通信的电文仅由8个字母组成,字母在电文中出现的频率分别为0.07,0.19,0.

使用哈夫曼编码可以在发送较长电报时节约传输成本（压缩编码），而且较难破译，但电报较短时（比如题目这种情况）则比不上直接用二进制编码来传输

哈工大信息论与编码期末邹斌新版本记录哈工大信息论与编码期末邹斌新版本记录


哈工大信息论与编码期末邹斌新版本记录


这是我在做作业时写的，希望能对你有帮助

哈工大信息论与编码期末 邹斌

秉承学长大无私的精神，我们是11届刚刚考完信息论的选手。

新版本记录如下：

大题：

1.自信息量和信源熵联系和区别

2.二维联合概率共熵和条件熵的区别

3.微分熵在平均功率受限下熵的条件看和值的式子

4.狭义和类广义伪随机噪声码的定义特点和自相关函数

3.小码距的定义和检错纠错能力的关系

填空题：

1.通信系统的两个特性（可靠性和有效性）

2.二元传输1000，要求______he ______

3.记不住了，什么加长码和单义码的联系区别

4.r=n-k，反正是这个式子

大题

1.求信源熵速率和接受熵速率（用那个交叉的图像）

2.香农公式求传信率

3.霍夫曼编码

（1）求编码效率（2）问你是否，为什么

4.8位偶校验码错误率已知求漏检率和编码效率

5.（7，3）汉明码给生成矩阵，求监督矩阵并检错

[注意是（7.3），不是（7，4）]

6.哈哈哈哈，求卷积码基本生成矩阵和监督矩阵

祝你好运，不要让邹老师得逞。>_<

信息论与编码

问见。

第二问：

二元对称信道的信道容量为 C=1-H(p)=1-(-0.98log0.98-0.02log0.02)=0.8586 bit/symbol。

信源（消息序列）的信息量为 14000 symbol H(1/2) = 14000 bit ；若10秒内传输这个消息序列，则每秒需要传输的符号数为 14000bit / 10s =1400 bit/s ； 则输入信道的数据速率为 R=1400 bit/s / 1500 symbol/s =0.9333 bit/symbol，则 R>C，根据信道编码定理 （香农第二定理），消息不能无失真的传输。