科学通识观后笔记之 15 信息论重要模型
材料
概念
1. 人类文明最重要的三个公式
2. 信息量与信息熵
信息量：用来把信息熵消除掉的信息所需要的能量，单位：比特
信息熵：描述一个东西的不确定程度的量（搞清楚一件事情的难度）
盲盒信息熵案例
3. 霍夫曼编码
较短的编码分配给高频出现的词汇
而把那些较长的编码分配给低频出现的词汇
4. 奥卡姆提刀
如无必要，勿增实体
5. 帧间压缩算法
6. 互信息
两件事情之间的互信息越大，就表明它们之间的相关性越强
7. 信息等价
只要知道事件A发生的信息就等同知道事件B发生的信息
8. 冗余度
资源的重复度
冗余度如果太低就会增加人类接收信息的难度
冗余度不是越高越好，因人而异
悟
1. 在日常生活中模拟两可的态度是最没有信息量的
2. 为了提高效率，我们应该把生活中最重要的资源分配给人生中最高频出现的场景
3.
4. 读书效率提升方法： 不平均用力
快速阅读的前提：基础知识牢固
5.
6. 不要错把相关性当成因果性
7. 掌握高密度信息的方法： 画分析框架
