科學(xué)通識(shí)觀后筆記之 15 信息論重要模型

材料?

概念
1. 人類(lèi)文明最重要的三個(gè)公式

2. 信息量與信息熵?
信息量:用來(lái)把信息熵消除掉的信息所需要的能量,單位:比特
信息熵:描述一個(gè)東西的不確定程度的量(搞清楚一件事情的難度)

盲盒信息熵案例

3. 霍夫曼編碼
較短的編碼分配給高頻出現(xiàn)的詞匯
而把那些較長(zhǎng)的編碼分配給低頻出現(xiàn)的詞匯

4.?奧卡姆提刀
如無(wú)必要,勿增實(shí)體
5. 幀間壓縮算法


6. 互信息
兩件事情之間的互信息越大,就表明它們之間的相關(guān)性越強(qiáng)

7. 信息等價(jià)

只要知道事件A發(fā)生的信息就等同知道事件B發(fā)生的信息
8.?冗余度
資源的重復(fù)度

冗余度如果太低就會(huì)增加人類(lèi)接收信息的難度
冗余度不是越高越好,因人而異


悟
1.?在日常生活中模擬兩可的態(tài)度是最沒(méi)有信息量的
2.?為了提高效率,我們應(yīng)該把生活中最重要的資源分配給人生中最高頻出現(xiàn)的場(chǎng)景
3.?

4. 讀書(shū)效率提升方法: 不平均用力
? ? 快速閱讀的前提:基礎(chǔ)知識(shí)牢固

5.

6.?不要錯(cuò)把相關(guān)性當(dāng)成因果性
7. 掌握高密度信息的方法: 畫(huà)分析框架

標(biāo)簽: