信息论

信息论课程：前往报名学习

信息论视频慕课课程简介：

您想知道神秘非凡，多维度，多模态纷繁复杂的时空世界中隐系着关于能量与信息量之间的关系吗？请您来学堂在线学习《信息论》这门课程吧，它将带您走进一个神奇的充满魅力的世界，为您揭开能量与信息量之间的奇妙联系。《信息论》课程以信道容量的精准化估算为目标，以 平均互信息与 信息率失真函数 为主体，以信源编码 和 信道编码 为两翼，以 熵函数 为工具，实现信息传输的有效性与可靠性之间的优化折中。该课程能帮助读者触摸到信息论知识的深层次的核心脉络，从而学会驾驭该门课程的能力。该门课程对于RNN 、Q-Learning 以及深度强化学习，支持向量机学习将很大的支撑作用。认真学习该课程的各个环节，旨在为同类专业的硕士研究生、博士研究生以及博士后从事科研工作奠定坚实的理论支撑。

前往报名学习

信息论课程列表：

第一章 信息论概述与基本概念

-第一讲 信息论课程介绍以及信息论的概念 描述

--第一讲 信息论与信息论的基本概念视频

--讨论变量之间的相关性

--课件PPT

-第一章 学习材料

--第一章 学习材料课件

--思考与扩展

-第一章 作业

--第一章 作业

-同步阅读训练 关于中国新型肺炎数学模型的建立

--同步训练

--关于信息概念的讨论

第二章 信源与信息熵率、冗余度与冗余压缩编码

-第二讲 离散熵 离散互信息 连续随机变量的熵与互信息

--第二讲 离散熵 离散互信息 连续随机变量的熵与互信息视频

--课堂辅助材料 各种概率的讨论

--课件PPT

-第三讲 熵函数的定义

--第三讲 熵函数的定义视频

--第3讲PPT

-第四讲 熵函数的上凸性证明 案例的思考与扩展 熵函数的进一步讨论

--第四讲 熵函数的上凸性证明 案例的思考与扩展 熵函数的进一步讨论视频

--课堂辅助材料 结合国际著名教授的讲义熟悉凸函数的性质

--课件PPT

-第五讲二元变量的联合熵 联合熵的几种情形的讨论 联合熵不等式的证明

--第五讲 二元变量的联合熵 联合熵的几种情形的讨论 联合熵不等式的证明视频

-第六讲 互信息的定义 互信息的公式推导 平均互信息的几种情形的讨论

--第六讲 互信息的定义 互信息的公式推导 平均互信息的几种情形的讨论视频

--平均互信息与熵函数关系的讨论

--评论互信息证明过程的讨论

-第七讲多变量平均互信息关系式证明 互信息函数的性质 互信息函数公式的进一步研究

--第七讲 多变量平均互信息关系式证明 互信息函数的性质 互信息函数公式的进一步研究视频

-第八讲 连续随机的熵函数与互信息

--第八讲 连续随机的熵函数与互信息

-第九讲 鉴别信息

--第九讲 鉴别信息视频

--鉴别信息在机器学习聚类问题中的应用

--课外辅导材料 关于强化机器学习的讨论

-第二章 课程课件PPT

--第二章 学习材料

-第二章 作业练习与思考

--第二章 作业

--课外材料补充

第三章 信源的熵率、冗余度与马尔科夫信源编码

-第十讲 平稳 离散 无记忆稳恒信源

--第十讲 平稳 离散 无记忆稳恒信源视频

-第十一讲 定长编码定义与渐进等同分割定理

--第十一讲 定长编码定义与渐进等同分割定理视频

-第十二讲 唯一可译码定理以及前缀码的构造

--第十二讲 唯一可译码以及前缀码的构造视频

-第十三讲 变长编码的平均码长定理

--第十三讲 变长编码的平均码长定理视频

-第十四讲 Huffman编码

--第十四讲 Huffman编码课程视频

-第十五讲 平稳有记忆Markov信源

--第十五讲 平稳有记忆Markov信源课程视频

-第十六讲 Markov信源的变长编码以及案例介绍

--第十六讲 Markov信源的变长编码以及案例介绍课程视频

--马尔科夫链的基本内容

-第三章 学习材料课件

--第三章 学习材料PPT 与罗智泉教授的优化讲义

-第三章 作业练习与思考

--第三章 作业

第四章 信道与信道容量与信道的有效利用

-第十七讲 信道、 信道模型以及分类

--第十七讲 信道、 信道模型以及分类课程视频

--阅读材料 ： 无线信道的传播与衰落特性的分析

-第十八讲 前向信道状态转移概率矩阵引入与平均互信息

--第十八讲 前向信道状态转移概率矩阵引入与平均互信息课程视频

-第十九讲 离散无记忆信道的信道容量以及传输速率

--第十九讲 离散无记忆信道的信道容量以及传输速率课程视频

-第二十讲 信道容量解的充分必要条件以及优化方法的介绍

--第二十讲 信道容量解的充分必要条件以及优化方法的介绍课程视频

-第二十一讲 对称离散无记忆信道

--第二十一讲 对称离散无记忆信道课程视频

-第二十二讲 准对称离散无记忆信道 删除信道 案例分析

--第二十二讲 准对称离散无记忆信道 删除信道 案例分析课程视频

-第二十三讲 准对称离散无记忆信道案例分析

--第二十三讲 准对称离散无记忆信道案例分析课程视频

-第二十四讲 串联信道的信道容量

--第二十四讲 串联信道的信道容量课程视频

-第二十五讲 并联信道信道分类

--第二十五讲 并联信道信道分类课程视频

-第二十六讲 连续信道

--第二十六讲 连续信道课程视频

-第二十七讲 高斯分布函数在信道估计中的应用

--第二十七讲 高斯分布函数在信道估计中的应用课程视频

-第二十八讲 重要定理的证明过程(重点关注证明过程技巧 如等效 与对数不等式的应用)

--第二十八讲 重要定理的证明过程课程视频

-第二十九讲 并联信道的信道容量费用函数优化建模以及在MIMO中的应用（5G 6G中应用）

--第二十九讲 并联信道的信道容量费用函数优化建模以及在MIMO中的应用课程视频

-第三十讲 模拟信道下的信道容量费用函数

--第三十讲 模拟信道下的信道容量费用函数课程视频

--KKT算法以及优化问题的讨论

-第四章 学习材料课件

--课堂课件PPT

--正交变换

-第四章 课外阅读材料 衰落信道描述 优化方法及介绍 5G 6G介绍

-- 课外阅读材料1

--关于信道物理层 5G下的 物联网 课外阅读材料2

--阅读材料3

--关于麻省理工学院郑教授与黄博士的观点讨论

-第四章 作业练习与思考

--第四章 作业

--第四章主观性习题以及答案

第五章 信源的信息率失真函数与墒压缩编码

-第三十一讲 熵压缩编码与信源的信息速率失真函数

--第三十一讲 熵压缩编码与信源的信息速率失真函数课程视频

-第五章 学习材料课件

--学习材料的补充

-第五章 作业

--第四章主观性试题与答案

第六章 信道编码

-第三十二讲 错误概率与译码似然准则

--第三十二讲 错误概率与译码课程视频

--错误概率译码课件PPT

-第三十三讲 有噪信道编码以及最大似然准则引入

--第三十三讲 有噪信道编码以及最大似然准则引入课程视频

--菲诺不等式的讨论

--课件PPT

-第三十四讲 信道编码基本概念介绍

--第三十四讲 信道编码基本概念介绍课程视频

--信道编码基本概念PPT

-第三十五讲 线性分组码的数学支撑 线性空间的引入

--第三十五讲 线性分组码的数学支撑 线性空间的引入课程视频

--线性代数中特征值与特征向量的讨论

--课件PPT

-第三十六讲 线性分组码的生成矩阵与校验矩阵引入

--第三十六讲 线性分组码的生成矩阵与校验矩阵引入课程视频

--课件PPT关键是生成矩阵 与监督矩阵

-第三十七讲 伴随式 、错图样与译码

--第三十七讲 伴随式 、错图样与译码课程视频

--课件PPT

-第三十八讲 循环码及其多项式描述 生成多项式引入

--第三十八讲 循环码及其多项式描述 生成多项式引入课程视频

--课件PPT

-第三十九讲 循环码及其矩阵描述

--第三十九讲 循环码及其矩阵描述

--课件PPT

-第四十讲 循环码的构造

--第四十讲 循环码的构造课程视频

--课件PPT

-第四十一讲 卷积码基本概念介绍

--第四十一讲 卷积码基本概念介绍课程视频

--课件PPT

-第四十二讲 卷积码及其图形描述 篱笆图 树形图

--第四十二讲 卷积码及其图形描述 篱笆图 树形图 课程视频

--卷积码格型码在MIMO信道编码中的应用

--课件PPT

-第四十三讲 卷积码的译码过程

--第四十三讲 卷积码的译码过程课程视频

--卷积码解码过程课件PPT

-第六章 学习材料课件

--第六章 学习材料

-第六章 课外阅读材料 卷积码 阅读材料

--第六章 课外阅读材料 卷积码的应用

-第六章 作业练习与思考

--第六章 作业

--第六章信道编码主观性试题以及答案

-翟永智关于Fano不等式以及Shannon第二定理 抗干扰定理知识点的详细解读

--关于fano不等式的证明与信道抗干扰能力的详细解读

第七章 最大熵原理以及最小鉴别信息原理

-第四十四讲 最小鉴别信息原理与最大熵原理

--第四十四讲 最小鉴别信息原理与最大熵原理课程视频

-第七章 学习材料课件

--第七章 学习材料

-第七章 作业练习与思考

--第七章 作业

各章主观性课后习题（学员用笔作答）计算证明+期终考试（各学习期终考试试题以及答案）

-强化训练

--辅导资料 创新思维与科研能力的培养

--强化训练

-第二三四章计算证明题，请大家点击并下载 2020-2021期末考试试题以及答案

--第二章 信息量 熵 马尔科夫链主观性习题与答案

--第三章信源与信源编码的主观性习题与答案

--第四章主观性习题与答案

--第六章信道编码主观性习题与答案

--2020-2021信息论期终考试题（命题人 翟永智 郑文秀 冯丹）

-2020年专家讲座PPT

--杰青讲座

--院士的讲座

教学大纲

-信息论教学大纲（研究生与本科生）以及教学日历

信息论开设学校：西安邮电大学

也许你还感兴趣的课程: