当前课程知识点：电子信息科学与技术导引(1) > 第四讲：比特与逻辑 > 第四节 比特与信息 > 第四节 比特与信息
那么讲完了编码之后呢
我们要看比特与信息的关系
那么信息引入是为了干什么呢
是要解决编码好坏的一个问题
比如说我们要通过信息的度量
给编码一把尺子那么比特呢
我们前头讲它是01在这里呢
我们要引入新的概念比特是
信息量的单位是对信息的
一种度量可以理解为编码
所需的比特数或者说编码
所需的最少比特数
那么它是一个什么含义呢
对于m个集合元素来说
我们可以用log2(M)长度
比特串来表示也就是说
我们以前呢说的是具体的
01等等那么现在呢我们说
的是这个比特串的长度
我们也称为比特这两个名字
虽然都叫比特含义是不一样的
在这里比特是一种单位
我们看一个最简单的例子
我们投硬币如果投的话
它会有两种结果一种是
正一种是反那么如果用
前面我们用的比特呢来代表
一个是0一个是1如果我们用
信息量的单位来说的话
那么就是 需要用一个比特来
表示投硬币的一个结果那么
如果我们用更复杂的我们去
掷簛子它的信息量是多少呢
LOG以2为底6约等于
2.58个比特
那么有了这样一种对
长度的度量或者说对信息量的
度量以后我们看一下我们
前头说的2进制编码的
效率如何那么对于一个
无符号的整数来说那么
我们看012 到2的N次方
减一那么这时正好用
2的N次方个比特来表示的
那么如果我们用前头的
度量来说呢n个比特表示
2的N次方个元素应该说是
非常非常高效的也就是说
2进制是达到编码极限的
因此呢它说是一个非常
好的编码
我们用这种比特作为
信息量的度量来说呢
2进制是一个高效的编码
那么有了这种度量之后
我们看一个例子看看
它到底有什么用我们
假设呢一个人不知道
这种度量的规律那么
他设计一种编码的方式
那么对以下的一个场景
我们看说一个吝啬鬼
他非常希望省钱他什么事呢
都不想花钱那么有一天呢
吝啬鬼甲要拜访乙
那么他需要告知乙明天呢
是几点几分到访那么2个人就
约定了一种非常省钱的方法
光打手机手机响了以后
不接手机利用这种方式来
传递信息那么他们怎么
约定的呢首先呢我要
高诉我要到访的分钟
我是几分钟到的那么
他们约定中午12点从
00分到60分之间的
第几分钟拨响就是
第几分钟到达然后呢
从1点到12分之间
第几分钟拨响呢就是
几点到访然后到1点的
12分到14分之间呢表示
前一分钟拨响是上午后
一分钟拨响是下午那么
这两个人呢就通过这种
方式传递了一个信息比如
他希望明天下午5.34分到
访那么他怎么办呢那么
第一次呢12.34拨一次两边
都知道对应的34分到访然后呢
到13.05再拨一次对应着
5.到访然后在13.13分呼叫
一次代表下午到访这样呢
通过3次呼叫就完成了
下午5.34分到访的
这样一个消息的传递
那么这样一个编码的
方式我们从信息量的角度
度量一下是否是一个高效的
编码呢那么我们知道
一天如果精确到分钟的话
一共有1440分钟那么也就是说
我们要用01比特来编码
这1440种情况那么理论上
需要多少比特呢
log2(1440)≈10.5(比特)
也就是说11分钟就应该
完成告知了而不是
前头说的1个多小时
那么我们采用刚才说的
最紧凑的2进制的编码方式来
完成这样一个编码
下午5.34分钟对应的
第1054分用2进制表示的
话10000011110也就是说
如果我们用11分钟2进制的
呼叫方式呢我们就是
1分钟的呼叫5分钟的
静默然后4分钟连着
呼叫4次最后一分钟静默
那么这样一个振铃的方法呢
用很短的时间就完成了
信息的告知它比这种
刚才说的吝啬鬼的
方式要节省很多时间
那么通过这么一个方式
我们可以看到编码是
有好坏的有效率的
高下的我们掌握这种度量
那么对于编码的指导
非常重要的意义呢
下面呢我们思考一个和
信息量相关的问题我们看到
这上有2个条码如果大家
扫一扫的话可以发现这是
2本一模一样的书一本是
中文版的一本是英文版的
大家会发现这个中文版的
页数是600多页英文版的是
1000多页那我要问
大家一个问题为什么
同样一本书中文版会
比英文版的薄很多
-第一节 序言
--第一节 序言
-第二节 电磁学和分析数学发展史：磁学
-第三节 电磁学与分析数学发展史：静电
-第四节 电磁学和分析数学发展史：动电
-第五节 电子器件的发明及电子技术的发展
-第六节 电磁学的广泛应用
-第七节 电磁系统理论
-第八节 电子科学技术各学科间的关系
-第九节 电子科学技术的学科体系
-第一讲：电磁学与分析数学史概览--第一次作业
-第一节 序言
--第一节 序言
-第二节 电磁场（一）
-第三节 电磁场（二）
-第四节 物质
--第四节 物质
-第五节 电磁场与物质的相互作用：非共振作用
-第六节 电磁场与物质的相互作用：共振作用
-第七节 电磁场理论与电路理论
-第一节 空间离散化
-第二节 静场电路分析
-第三节 非静场电路抽象
-第三讲：电路抽象--电路抽象 练习题
-第四节 电路元件抽象
-第五节 非线性元件抽象
-第六节 电路抽象三原则
-第七节 分层抽象思想
-第八节 电路基本问题
-第九节 数字化抽象
-第三讲：电路抽象--Quiz 3
-第一节 序言
--第一节 序言
-第二节 什么是比特
-第三节 比特与编码
-第四节 比特与信息
-第五节 比特的用途示例
-第六节 什么是逻辑
-第七节 逻辑的用途示例
-第八节 与数字电路的关系
-第九节 小结
--第九节 小结
-第四讲：比特与逻辑--Quiz4
-第一节：从算盘到ENIAC
-第二节：通用计算机模型
-第三节：指令集体系结构
-第四节：程序和程序设计语言
-第五节：处理器的工作原理
-第六节：性能问题
--第六节：性能问题
-第七节：小结
--第七节：小结
-第一节：数据与数据处理技术的发展
-第二节：数据处理举例
-第三节：数据模型和算法的概念
-第四节：问题的抽象和建模
-第五节：数值分析问题研究
-第六节：数据和算法的关系I
-第七节：数据和算法的关系II
-第八节：大数据
--第八节：大数据
-第九节：数据挖掘技术和数据算法的展望
-第六讲：数据与算法--Quiz6
-第一节：基本内容简介
-第二节：信息的基本概念和传输的几种方式
-第三节：交换的概念和网络的几种形式
-第四节：模拟与数字通信
-第五节：调制和解调
-第六节：传输涉及的基本理论
-第七节：信息论和几种相关的编码方式
-第八节：多址方式
--第八节：多址方式
-第九节：交换的基本概念
-第十节：网络分层的基本概念
-第十一节：互联网的基本原理和有限状态机模型
-第七讲：通讯与网络--Quiz7
-第一讲：内容简介
--第一讲：内容简介
-第二讲：信息与媒体
-第三讲：人类感知与认知
-第四讲：智能信息处理
-第五讲：媒体与认知相互作用
-第六讲：媒体认知应用
-第七讲：总结
--第七讲：总结
-第八讲：媒体与认知--Quiz8
-期末考试--Final Exam
