几个概率不等式(七) -Chernoff_bounds另外一种推导结果
这个文章再推导一种不同的 Chernoff bounds。
(录制的视频在:https://www.bilibili.com/video/BV1yu4y1D7Qv/)
其中 并且
进一步推导公式 (1) 中的那个数学期望:
其中
从这一步开始,用了与之前视频/文章不同的缩放不等式,上一次是用代数几何平均不等式,这次是使用:
所以,公式 (3) 中的:
把公式 (4) 代入公式 (3):
把公式 (5) 代入公式 (2):
把公式 (6) 代入公式 (1):
求公式 (7) 的最小值:
把公式 (8) 代入公式 (7):
从这里出发,还有两种方法进一步缩放
方法 1:
如果
则 , 代入公式 (9)
方法 2:
因为
所以,公式 (9)
对于 用同样的方法可以证明,把前面的 t 换成 -t ,结果就是把公式(9) 中的
换成
,可得到:
再用:
则:
把 (11) 代入 (10):
可以看到最终都能是随着 递增而呈指数衰减.