《信息论与编码》（第3版）pdf/txt下载_在线阅读全文

内容简介

本书为“十二五”普通高等教育本科***规划教材。本书系统介绍和论述了信息的基本概念；信息论的起源、发展及研究内容；香农信息论的三个基本概念：信源熵、信道容量和信息率失真函数，以及与这三个概念相对应的三个编码定理；解决通信系统有效性、可靠性和安全性的三类编码：信源编码、信道编码和安全编码——密码的基本方法，以及密码安全性与信息论的关系等内容。为了便于教学和读者自学，每章后面都附有习题。

作者简介

陈运，电子科技大学通信与信息工程学院教授，主要从事信息论、信息安全等方面的教学、科研等工作，主持编写了国家十一五、十二五规划教材

目　　录

第1章概论（1）
1.1 信息的概念和分类（1）
1.1.1 信息的概念（1）
1.1.2 信息的分类（4）
1.2 信息论的起源和发展（4）
1.2.1 信息论创立的理论基础和
技术条件（4）
1.2.2 信息论的诞生和发展现状（5）
1.2.3 信息论的未来发展趋势（6）
1.3 信息论的研究内容（7）
1.3.1 通信系统模型（7）
1.3.2 信息论研究内容（7）
思考题（8）
第2章离散信源熵（9）

第1章 概论	（1） 
1.1 信息的概念和分类	（1） 
1.1.1 信息的概念	（1） 
1.1.2 信息的分类	（4） 
1.2 信息论的起源和发展	（4） 
1.2.1 信息论创立的理论基础和 
技术条件	（4） 
1.2.2 信息论的诞生和发展现状	（5） 
1.2.3 信息论的未来发展趋势	（6） 
1.3 信息论的研究内容	（7） 
1.3.1 通信系统模型	（7） 
1.3.2 信息论研究内容	（7） 
思考题	（8） 
第2章 离散信源熵	（9） 
2.1 基本概念	（9） 
2.2 离散信源熵的基本概念和性质	（9） 
2.2.1 单符号离散信源的数学模型	（10） 
2.2.2 自信息量及其性质	（10） 
2.2.3 信源熵及其性质	（13） 
2.3 多符号离散平稳信源熵	（19） 
2.3.1 多符号离散平稳信源的 
数学模型	（19） 
2.3.2 离散平稳无记忆信源熵	（20） 
2.3.3 离散平稳有记忆信源熵	（22） 
2.3.4 马尔可夫信源的极限熵	（25） 
2.3.5 冗余度、自然语信源及 
信息变差	（29） 
习题	（31） 
第3章 无失真离散信源编码	（33） 
3.1 基本概念	（33） 
3.2 离散无失真信源编码定理	（33） 
3.2.1 定长编码定理	（34） 
3.2.2 变长编码定理	（35） 
3.2.3 码字**可译条件	（36） 
3.3 香农编码	（38） 
3.4 费诺编码	（39） 
3.5 赫夫曼编码	（40） 
3.6 游程组合编码	（44） 
习题	（47） 
第4章 离散信道容量	（49） 
4.1 互信息量和平均互信息量	（49） 
4.1.1 单符号离散信道的数学模型	（49） 
4.1.2 互信息量及其性质	（49） 
4.1.3 平均互信息量及其性质	（52） 
4.1.4 各种熵之间的关系	（62） 
4.2 单符号离散信道的信道容量	（63） 
4.2.1 单符号离散信道容量定义	（63） 
4.2.2 几种特殊离散信道的信道容量	（64） 
4.2.3 离散信道容量的一般计算方法	（69） 
4.3 多符号离散信道的信道容量	（71） 
4.3.1 多符号离散信道的数学模型	（71） 
4.3.2 多符号离散信道容量定义	（72） 
4.3.3 离散无记忆扩展信道的信道 
容量	（73） 
4.3.4 独立并联信道的信道容量	（75） 
4.4 网络信息论	（76） 
4.4.1 多址接入信道的信道容量	（77） 
4.4.2 广播信道的信道容量	（79） 
4.4.3 相关信源的边信息和公信息	（80） 
习题	（82） 
第5章 纠错编码	（85） 
5.1 纠错编码的基本概念	（85） 
5.1.1 差错控制系统模型及分类	（85） 
5.1.2 纠错编码分类	（86） 
5.1.3 译码准则	（87） 
5.1.4 信道编码定理	（88） 
5.2 线性分组码	（88） 
5.2.1 线性分组码的基本概念	（88） 
5.2.2 线性分组码的编码	（88） 
5.2.3 线性分组码的译码	（89） 
5.2.4 典型码例	（92） 
5.3 循环码	（95） 
5.3.1 循环码的基本概念	（95） 
5.3.2 循环码的描述	（96） 
5.3.3 循环码的伴随多项式与检错	（101） 
5.3.4 BCH码与RS码	（102） 
5.4 卷积码	（104） 
5.4.1 卷积码的矩阵描述	（104） 
5.4.2 卷积码的多项式描述	（107） 
5.4.3 卷积码的状态转移图与 
栅格描述	（109） 
5.4.4 维特比(Viterbi)译码算法	（112） 
习题	（117） 
第6章 连续信源熵和信道容量	（121） 
6.1 连续信源熵	（121） 
6.1.1 连续信源熵的定义	（121） 
6.1.2 几种特殊连续信源的信源熵	（123） 
6.1.3 连续信源熵的性质和定理	（125） 
6.2 熵功率	（129） 
6.3 连续信道的信道容量	（131） 
6.3.1 连续信道的数学模型及信道 
容量定义	（131） 
6.3.2 加性连续信道容量计算和 
香农公式	（131） 
习题	（133） 
第7章 信息率失真函数	（135） 
7.1 基本概念	（135） 
7.1.1 失真函数与平均失真度	（136） 
7.1.2 信息率失真函数的定义	（139） 
7.1.3 信息率失真函数的性质	（140） 
7.2 离散信源信息率失真函数	（143） 
7.2.1 离散信源信息率失真函数的 
参量表达式	（144） 
7.2.2 二元及等概率离散信源的信息率 
失真函数	（146） 
7.3 连续信源信息率失真函数	（150） 
7.3.1 连续信源信息率失真函数的 
参量表达式	（150） 
7.3.2 高斯信源的信息率失真函数	（151） 
 
 
 
 
 
 
 
7.4 信息价值	（154） 
7.5 信道容量与信息率失真 
函数的比较	（157） 
习题	（157） 
第8章 限失真信源编码	（159） 
8.1 基本概念	（159） 
8.2 保真度准则下的信源编码定理	（159） 
8.3 量化编码	（160） 
8.3.1 **标量量化编码	（160） 
8.3.2 矢量量化编码	（164） 
8.4 相关信源编码	（167） 
8.4.1 预测编码	（167） 
8.4.2 差值编码	（169） 
8.5 变换编码	（172） 
8.5.1 子带编码	（172） 
8.5.2 小波变换	（173） 
习题	（175） 
第9章 密码安全性的信息论测度 
方法	（177） 
9.1 基本知识	（177） 
9.1.1 保密通信系统模型	（177） 
9.1.2 密码基本概念	（178） 
9.2 密码算法的安全性测度	（178） 
9.2.1 完善保密性	（179） 
9.2.2 **解距离	（180） 
9.3 古典代替密码的安全性分析	（180） 
9.3.1 加法密码的安全性分析	（181） 
9.3.2 乘法密码的安全性分析	（183） 
9.3.3 仿射密码的安全性分析	（185） 
9.4 边信息泄露的互信息分析	（186） 
9.4.1 数据加密标准简介	（186） 
9.4.2 DES算法的边信道安全性分析	（188） 
习题	（191） 
参考文献

显示全部信息

前　　言

第3版前言
1948年，美国科学家香农(C. E. Shannon)在通信理论的研究中独辟蹊径，抓住通信信号随机性的本质，提出用随机样本概率的对数度量有效通信量，并发表了题为“通信的数学理论”的划时代学术论文，从而创立了信息论。67年，在人类历史的长河中十分短暂，但信息论对人类社会发展和科学技术进步的巨大贡献却是用语言无法形容的。它不仅奠定了电子信息科学各学科和技术领域的理论基础，也早已渗透到经济管理、语言、艺术、人文社会科学领域，其影响之深、之远、之广超乎想象，堪称20世纪*伟大的贡献之一。
信息论的问世催生了许多新兴的学科和技术，各学科和技术的不断交叉、融合又产生了许多新的问题，反过来促进信息科学理论的研究和深化。科技人员对信息要素的深入挖掘使得新型应用层出不穷，进一步催化了新兴技术的迅速生长：可视化技术、虚拟技术、网络技术、智能技术、3D打印技术、可穿戴技术、边信道攻击技术、脑认知技术、物联网……以前的科幻已经或正在变成现实。所有的变化都离不开信息科学与技术。

第3版前言 
1948年，美国科学家香农(C. E. Shannon)在通信理论的研究中独辟蹊径，抓住通信信号随机性的本质，提出用随机样本概率的对数度量有效通信量，并发表了题为“通信的数学理论”的划时代学术论文，从而创立了信息论。67年，在人类历史的长河中十分短暂，但信息论对人类社会发展和科学技术进步的巨大贡献却是用语言无法形容的。它不仅奠定了电子信息科学各学科和技术领域的理论基础，也早已渗透到经济管理、语言、艺术、人文社会科学领域，其影响之深、之远、之广超乎想象，堪称20世纪*伟大的贡献之一。 
信息论的问世催生了许多新兴的学科和技术，各学科和技术的不断交叉、融合又产生了许多新的问题，反过来促进信息科学理论的研究和深化。科技人员对信息要素的深入挖掘使得新型应用层出不穷，进一步催化了新兴技术的迅速生长：可视化技术、虚拟技术、网络技术、智能技术、3D打印技术、可穿戴技术、边信道攻击技术、脑认知技术、物联网……以前的科幻已经或正在变成现实。所有的变化都离不开信息科学与技术。 
生活在现代的人们也尽情享受着信息科学与技术的众多成果：装上“微信”软件，你可以同远在天边的亲朋好友聊天；应用移动支付产品，你可以随时随地购买任何需要的物品；有了智能家居系统，你可以远程控制电子厨房在你下班到家之前准备好美味的饭菜；接入远程医疗系统，你可以请地球对面的医疗专家为你诊病；在建立了智慧交通系统的城市，你可以更安全、更便捷地出行……显而易见，信息科学技术已与人们的工作和生活息息相关。 
信息科学与技术像一株参天大树，早已枝繁叶茂，但仍在生命周期的初始，迸发出勃勃生机。这株大树利用发达的根系吸收各学科和技术的营养，在信息科学的主干中融汇，不断生发出新的技术分支，绵延不息地开花结果。例如20世纪末问世的边信道攻击技术，利用时间、功耗、电磁辐射等“边信息”泄露破解经过严格理论证明和实验验证为“安全”的密码算法，震惊了国际密码学界。究其原因，发现实乃信息的运动要素被挖掘并利用的结果。这些令人耳目一新的科技成果的不断涌现，展现出信息科学与技术的无穷魅力。 
信息论作为信息科学与技术的理论基础，理所当然是高等学校电子信息类及相关专业的必修课。 
本书第1版2002年出版，2006年被遴选为普通高等教育“十一五”***规划教材；第2版2007年出版，2012年被遴选为“十二五”普通高等教育本科***规划教材。 
本教材出版十多年来，收到来自国内数十所院校师生的电子邮件和信函，就书中的有关问题进行交流，或对本书提出建议和批评。作者在此感谢国内广大读者对本书的关注和厚爱！ 
没想到一本小众化的教材会有几百所学校使用，欣慰之余也感到无形的压力。早该修订的第3版一直没完成，实在愧对读者！ 
在教学实践中我们发现，先理论、后应用的板块式讲解方法与当代学生心理和认知规律有较大差别。一方面，现代学生对枯燥的数学和理论有普遍的恐惧心理，理论知识过于集中，学生难以消化，也很快会对课程失去兴趣；另一方面，理论知识和应用方法相隔较远，往往在介绍应用方法之前，学过的理论知识已经被遗忘。为了解决该问题，我们重新构架了教材结构，变集中式讲解为分布式讲解，即围绕知识点，先介绍与该知识点相关的部分数学基础，马上用其进行理论证明和性质推导，紧接着讲解相关的应用方法。然后围绕下一个知识点重复上述三个过程直至完成所有知识点的介绍。我们称这种教学方法为“三明治”教法，在教学实践中取得了明显的效果。 
这次的第3版教材秉承了前两版深入浅出、通俗易懂的写作传统，更正了第2版中的错误疏漏，为使本书更符合认知规律，参照艾宾浩斯遗忘曲线，并吸收了“三明治”教法，对书的章节按照“数学基础—概念和原理—方法”的顺序进行了大幅度改动，使知识点在各章中适当分散和平衡，同时将概念和方法相近的知识点衔接得更紧密，便于读者更轻松地掌握本书知识。此外，增加了通信系统模型的描述，对部分信源编码方法的描述方式进行了修订，对信道编码基本概念和应用方法之间的逻辑关系进行了适当梳理和重新描述并进行了内容的增删，重新编写了有关密码学的内容，着重介绍信息论与密码算法安全性之间的关联关系。 
本书第1、6、7、9章由电子科技大学陈运教授编写；第2、4章由陈运和郑州轻工业学院陈新教授联合编写；第3章由陈新编写；第8章8.1～8.2节由陈运教授编写，8.3～8.5节由电子科技大学陈伟建副教授编写；第5章5.1节由陈运教授编写，5.2～5.4节由陈运在电子科技大学周亮教授第2版内容基础上修改。全书由陈运教授统稿。 
各高校可根据所开课的专业和要求选择全部章节或部分章节进行教学，研究生层次的教学除本教材外，还可选用配套网站上的大量学习材料补充教学内容。其中第2、3章，4、5章，7、8章分别是香农信息论信源熵、信道容量和信息率失真函数三个基本概念及其对应的三种编码应用。注重应用的专业和学校可选第1、2、3、5章进行教学，计算机和信息安全专业的学生需要学习第9章内容。通信专业的学生可以全选，不关注连续信源和信道的，可以跳过第6章和7.3节及7.4节的内容。 
为了方便教学，第3版配套的多媒体课件和部分习题答案或题解将随后修改，免费提供给使用本教材授课的教师，授课教师可登录华信教育资源网(www.hxedu.com.cn)注册后下载；课程网页也将随后修改。 
编著者在此特别感谢陈俊副教授、万武南副教授、索望讲师、陈艾东副教授。张从玺、朱冰、刘鹤、许森等十多名研究生先后参与了第2版之后的课件制作，网页和网上题库开发，习题解答以及录入等相关工作，在此一并表示感谢！ 
由于时间和编著者的知识水平所限，书中错误疏漏之处在所难免，热忱希望广大读者批评指正。联系方式：chenyun@uestc.edu.cn 
 
 
 编著者 
2015年11月于成都

显示全部信息

《信息论与编码》（第3版）下载

《信息论与编码》（第3版）

发布书评

相关图书推荐