最美情侣中文字幕电影,在线麻豆精品传媒,在线网站高清黄,久久黄色视频

歡迎光臨散文網(wǎng) 會員登陸 & 注冊

幾個概率不等式(七) -Chernoff_bounds另外一種推導(dǎo)結(jié)果

2023-08-29 11:28 作者:樂吧的數(shù)學(xué)  | 我要投稿

這個文章再推導(dǎo)一種不同的 Chernoff bounds。

(錄制的視頻在:https://www.bilibili.com/video/BV1yu4y1D7Qv/)


P(X%20%5Cge%20(1%2B%5Cdelta)%5Cmu)%20%3D%20P(e%5E%7BtX%7D%20%5Cge%20e%5E%7Bt(1%2B%5Cdelta)%5Cmu%7D)%20%20%5Cle%20%5Cfrac%7BE(e%5E%7BtX%7D)%7D%7Be%5E%7Bt(1%2B%5Cdelta)%5Cmu%7D%7D%20%20%5Ctag%201

其中 %20%5Cdelta%20%3E%200?并且?


%5Cmu%20%3D%20E(X)%20%20%3D%20E(%5Csum_%7Bi%3D1%7D%5En%20X_i)%20%3D%20%5Csum_%7Bi%3D1%7D%5En%20E(X_i)%20%3D%20%5Csum_%7Bi%3D1%7D%20p_i


進一步推導(dǎo)公式 (1) 中的那個數(shù)學(xué)期望:

E(e%5E%7BtX%7D)%3DE(e%5E%7Bt%5Csum_%7Bi%3D1%7D%5En%20X_i%7D)%20%3D%20%5Cprod_%7Bi%3D1%7D%5En%20E(e%5E%7Bt%20X_i%7D)%20%5Ctag%202

其中

E(e%5E%7Bt%20X_i%7D)%20%3D%20p_i%20e%5E%7Bt%5Ctimes%201%7D%20%2B%20(1-p_i)e%5E%7Bt%5Ctimes%200%7D%20%5Ctag%203%20%3D%20p_i%20e%5Et%20%2B%201-p_i%20%3D%201%20%2B%20p_i%20(e%5Et%20-1%20)

從這一步開始,用了與之前視頻/文章不同的縮放不等式,上一次是用代數(shù)幾何平均不等式,這次是使用:

1%20%2B%20x%20%5Cle%20e%5Ex%2C%20%5Cquad%20%5Ctext%7B%E5%BD%93%7D%20%20%5Cquad%20%20x%20%5Cge%200

所以,公式 (3) 中的:

1%20%2B%20p_i%20(e%5Et%20-1%20)%20%5Cle%20e%5E%7Bp_i%20(e%5Et%20-1%20)%7D%20%20%5Ctag%204

把公式 (4) 代入公式? (3):

E(e%5E%7Bt%20X_i%7D)%20%5Cle%20e%5E%7Bp_i%20(e%5Et%20-1%20)%7D%20%5Ctag%205

把公式 (5) 代入公式 (2):

E(e%5E%7BtX%7D)%20%5Cle%20%5Cprod_%7Bi%3D1%7D%5En%20e%5E%7Bp_i%20(e%5Et%20-1%20)%7D%20%3D%20e%5E%7B%20(e%5Et%20-1%20)%20%5Csum_%7Bi%3D1%7D%5En%20p_i%20%7D%20%3D%20e%5E%7B%5Cmu%20(e%5Et%20-1%20)%7D%20%5Ctag%206

把公式 (6) 代入公式 (1):

P(X%20%5Cge%20(1%2B%5Cdelta)%5Cmu)%20%5Cle%20%5Cfrac%7Be%5E%7B%5Cmu%20(e%5Et%20-1%20)%7D%7D%7Be%5E%7Bt(1%2B%5Cdelta)%5Cmu%7D%7D%20%3D%20e%5E%7B%5Cmu%20%5Be%5Et%20-1%20-%20t(1%2B%5Cdelta)%20%5D%7D%20%5Ctag%207

求公式 (7) 的最小值:

%5Cfrac%7B%5Cpartial%7B%5Cmu%20%5Be%5Et%20-1%20-%20t(1%2B%5Cdelta)%20%5D%7D%7D%7B%5Cpartial%20t%7D%20%3D%20e%5Et%20-%20(1%2B%5Cdelta)%20%3D%200%20%20%5C%5C%20%5C%5C%0A%0A%0A%0A%20e%5Et%20%3D%201%20%2B%20%5Cdelta%20%5C%5C%0A%0A%20%20t%20%3D%20ln(1%2B%5Cdelta)%0A%0A%5Ctag%208

把公式 (8) 代入公式 (7):

P(X%20%5Cge%20(1%2B%5Cdelta)%5Cmu)%20%5Cle%20e%5E%7B%5Cmu%5B1%2B%5Cdelta%20-%201%20-%20(1%2B%5Cdelta)(ln(1%2B%5Cdelta))%5D%7D%20%3D%20e%5E%7B%5Cmu%5B%5Cdelta%20%20-%20(1%2B%5Cdelta)(ln(1%2B%5Cdelta))%5D%7D%20%20%5C%5C%0A%0A%20%3D%20%5Cleft%20(%5Cfrac%7Be%5E%5Cdelta%7D%7B(1%2B%5Cdelta)%5E%7B(1%2B%5Cdelta)%7D%7D%20%5Cright%20)%5E%5Cmu%20%20%20%5Ctag%209

從這里出發(fā),還有兩種方法進一步縮放


方法 1:


如果?%20%5Cdelta%20%3E%202e-1


%201%20%2B%20%5Cdelta%20%3E%202e? ,? 代入公式 (9)

P(X%20%5Cge%20(1%2B%5Cdelta)%5Cmu)%20%3C%20%5Cleft%20(%5Cfrac%7Be%5E%5Cdelta%7D%7B(2e)%5E%7B(1%2B%5Cdelta)%7D%7D%20%5Cright%20)%5E%5Cmu%20%3C%20%5Cleft%20(%5Cfrac%7Be%5E%5Cdelta%7D%7B(2e)%5E%5Cdelta%7D%20%5Cright%20)%5E%5Cmu%20%20%3D%20e%5E%7B-%5Cmu%20%5Cdelta%7D

方法 2:


因為?ln(1%2B%5Cdelta)%20%5Cge%20%5Cfrac%7B%5Cdelta%7D%7B1%2B%5Cdelta%2F2%7D%20


所以,公式 (9)

P(X%20%5Cge%20(1%2B%5Cdelta)%5Cmu)%20%5Cle%20%20e%5E%7B%5Cmu%5B%5Cdelta%20%20-%20(1%2B%5Cdelta)(%5Cfrac%7B%5Cdelta%7D%7B1%2B%5Cdelta%2F2%7D)%5D%7D%20%3D%20%20e%5E%7B-%5Cmu%20%5Cfrac%7B%5Cdelta%5E2%7D%7B1%2B%5Cdelta%7D%7D



對于? P(X%20%5Cle%20(1-%5Cdelta)%5Cmu)%20?用同樣的方法可以證明,把前面的 t 換成 -t ,結(jié)果就是把公式(9) 中的 %5Cdelta?換成? -%5Cdelta? ?,可得到:

P(X%20%5Cle%20(1-%5Cdelta)%5Cmu)%20%20%5Cle%20%5Cleft%20(%5Cfrac%7Be%5E%7B-%5Cdelta%7D%7D%7B(1-%5Cdelta)%5E%7B(1-%5Cdelta)%7D%7D%20%5Cright%20)%5E%5Cmu%20%20%20%5Ctag%20%7B10%7D

再用:

ln(1-%5Cdelta)%20%3D%20-%5Cdelta%20-%20%5Cfrac%7B%5Cdelta%5E2%7D%7B2%7D%20-%20%5Cfrac%7B%5Cdelta%5E3%7D%7B3%7D-%5Ccdots%20%20%5C%5C%0A%0A%5Cbegin%7Baligned%7D%0A%0A(1-%5Cdelta)ln(1-%5Cdelta)%20%3D%20%26-%5Cdelta%20-%20%5Cfrac%7B%5Cdelta%5E2%7D%7B2%7D%20-%20%5Cfrac%7B%5Cdelta%5E3%7D%7B3%7D-%5Ccdots%20%20%5C%5C%0A%0A%26%5Cquad%20%5Cquad%20%2B%20%5Cdelta%5E2%20%2B%20%5Cfrac%7B%5Cdelta%5E3%7D%7B2%7D%20%2B%20%5Cfrac%7B%5Cdelta%5E4%7D%7B3%7D%2B%5Ccdots%20%5C%5C%0A%0A%20%26%20%3D%20-%5Cdelta%20%2B%20%5Cfrac%7B%5Cdelta%5E2%7D%7B2%7D%20%2B%20%20%5Cfrac%7B%5Cdelta%5E3%7D%7B6%7D%20%2B%20%5Ccdots%20%5C%5C%0A%0A%20%26%20%5Cge%20-%5Cdelta%20%2B%20%5Cfrac%7B%5Cdelta%5E2%7D%7B2%7D%0A%0A%5Cend%7Baligned%7D

則:

(1-%5Cdelta)%5E%7B(1-%5Cdelta)%7D%20%5Cge%20e%5E%7B-%5Cdelta%20%2B%20%5Cfrac%7B%5Cdelta%5E2%7D%7B2%7D%7D%20%20%5Ctag%20%7B11%7D

把 (11) 代入 (10):

P(X%20%5Cle%20(1-%5Cdelta)%5Cmu)%20%20%5Cle%20%20%5Cleft%20(%5Cfrac%7Be%5E%7B-%5Cdelta%7D%7D%7Be%5E%7B-%5Cdelta%20%2B%20%5Cfrac%7B%5Cdelta%5E2%7D%7B2%7D%7D%20%20%7D%20%5Cright%20)%5E%5Cmu%20%20%20%20%3D%20e%5E%7B-%5Cfrac%7B%5Cdelta%5E2%7D%7B2%7D%5Cmu%7D%20%5Ctag%20%7B12%7D



可以看到最終都能是隨著 %5Cdelta?遞增而呈指數(shù)衰減.


幾個概率不等式(七) -Chernoff_bounds另外一種推導(dǎo)結(jié)果的評論 (共 條)

分享到微博請遵守國家法律
霍林郭勒市| 舞阳县| 太谷县| 大姚县| 页游| 濮阳市| 睢宁县| 奉贤区| 巢湖市| 张家港市| 多伦县| 遂昌县| 右玉县| 天台县| 晋城| 台安县| 凤台县| 邯郸市| 富裕县| 黄骅市| 东港市| 友谊县| 丰宁| 长沙市| 四平市| 张家口市| 白银市| 英吉沙县| 和静县| 泸西县| 闵行区| 黄龙县| 临安市| 留坝县| 基隆市| 宁强县| 调兵山市| 手游| 海南省| 伊吾县| 儋州市|