欢迎光临散文网 会员登陆 & 注册

极化码数学原理(六)-证明定理5.2中用到的公式5.74

2023-08-27 04:16 作者:乐吧的数学  | 我要投稿



定义一个集合:


%5Cmathcal%7BU%7D_%7Bm%2Cn%7D%20(%5Ceta)%20%20%3D%20%5Cleft%20%5C%7B%20%20%5Comega%20%5Cin%20%5COmega%3A%20%5Csum_%7Bi%3Dm%2B1%7D%5En%20B_i(%5Comega)%20%3E%20(1%2F2-%5Ceta)(n-m)%20%20%20%5Cright%20%5C%7D


其中 B_i  是概率为 1/2 的伯努利随机变量.


证明下式成立:

P(%5Cmathcal%7BU%7D_%7Bm%2Cn%7D%20(%5Ceta))%20%5Cge%201-%202%5E%7B-(n-m)(%201-H(1%2F2-%5Ceta)%20)%7D


其中 n > m > 0  , 0%3C%20%5Ceta%20%3C%201%2F2


证明

 定义

X%20%3D%5Csum_%7Bi%3Dm%2B1%7D%5En%20B_i(%5Comega)%20%3D%20%5Csum_%7Bi%3Dm%2B1%7D%5En%20X_i

其中,为了表示方便,令 X_i%20%3D%20B_i(%5Comega)

P(%5Cmathcal%7BU%7D_%7Bm%2Cn%7D%20(%5Ceta))%20%3D%201%20-%20P(%5Cleft%20%5C%7B%20%20%5Comega%20%5Cin%20%5COmega%3A%20%5Csum_%7Bi%3Dm%2B1%7D%5En%20B_i(%5Comega)%20%5Cle%20(%5Cfrac%7B1%7D%7B2%7D-%5Ceta)(n-m)%20%20%20%5Cright%20%5C%7D)%20%20%5Ctag%201

其中:

P(%5Cleft%20%5C%7B%20%20%5Comega%20%5Cin%20%5COmega%3A%20%5Csum_%7Bi%3Dm%2B1%7D%5En%20B_i(%5Comega)%20%5Cle%20(%5Cfrac%7B1%7D%7B2%7D-%5Ceta)(n-m)%20%20%20%5Cright%20%5C%7D)%20%20%3D%20P(X%5Cle%20(%5Cfrac%7B1%7D%7B2%7D-%5Ceta)(n-m)%20)%20%5C%5C%20%5C%5C%0A%0A%3D%20P(%5Cfrac%7BX%7D%7Bn-m%7D%5Cle%20%5Cfrac%7B1%7D%7B2%7D-%5Ceta%20)%20%20%5Ctag%202

根据 chernoff-hoeffding 不等式(参考我专栏中有对这个公式的详细推导):


(注意:公式 (3) 是一个引用,其中的 m 和 n 的符号,与前面公式 (1) (2) 是不同的含义,公式 (3) 是一个通用不等式)

%5Cbegin%7Baligned%7D%0A%0AP(X%20%5Cle%20m%20)%3DP(%5Cfrac%7BX%7D%7Bn%7D%20%5Cle%20p-%5Cvarepsilon%20)%20%26%20%5Cle%20%5Cleft%20%5C%7B%20%20%5Cleft%20%5B%5Cfrac%7B(1-p%2B%5Cvarepsilon)%7D%7B(1-p)%20%7D%20%5Cright%20%20%5D%5E%7B(1-p%2B%5Cvarepsilon)%7D%0A%0A%20%5Cleft%20%5B%20%5Cfrac%7Bp-%5Cvarepsilon%7D%7Bp%20%7D%20%5Cright%20%20%5D%5E%7Bp-%5Cvarepsilon%7D%0A%0A%20%5Cright%20%5C%7D%20%5E%7B-n%7D%0A%0A%5Cend%7Baligned%7D%20%20%5Ctag%7B3%7D



则公式(2)继续推导为: (p=1/2, %5Cvarepsilon%3D%5Ceta)

P(%5Cfrac%7BX%7D%7Bn-m%7D%5Cle%20%5Cfrac%7B1%7D%7B2%7D-%5Ceta%20)%5Cle%20%5Cleft%20%5C%7B%20%20%5Cleft%20%5B%5Cfrac%7B(1%2F2%2B%5Ceta)%7D%7B(1%2F2)%20%7D%20%5Cright%20%20%5D%5E%7B(1%2F2%2B%5Ceta)%7D%0A%0A%20%5Cleft%20%5B%20%5Cfrac%7B1%2F2-%5Ceta%7D%7B1%2F2%7D%20%5Cright%20%20%5D%5E%7B1%2F2-%5Ceta%7D%0A%0A%20%5Cright%20%5C%7D%20%5E%7B-(n-m)%7D%20%20%20%5Ctag%204

对公式(4) 右侧,取以 2为底的对数的变化,则:

%0AP(%5Cfrac%7BX%7D%7Bn-m%7D%5Cle%20%5Cfrac%7B1%7D%7B2%7D-%5Ceta%20)%5Cle%20%20%0A%0A2%5E%7B%0A%0A-(n-m)%20%5Cleft%20%5C%7B%20%20(1%2F2%2B%5Ceta)log_2%5Cfrac%7B(1%2F2%2B%5Ceta)%7D%7B(1%2F2)%20%7D%0A%0A%2B%0A%0A%20(1%2F2-%5Ceta)log_2%5Cfrac%7B1%2F2-%5Ceta%7D%7B1%2F2%7D%0A%0A%20%5Cright%20%5C%7D%0A%0A%20%7D%20%20%20%5C%5C%20%5C%5C%0A%0A%20%3D2%5E%7B-(n-m)%20%5Cleft%20%5C%7B%0A%0A%20(1%2F2%2B%5Ceta)log_2(1%2F2%2B%5Ceta)%20%2B%20(1%2F2-%5Ceta)log_2(1%2F2-%5Ceta)%20%2B%201%0A%0A%20%5Cright%20%5C%7D%20%20%7D%20%5C%5C%20%5C%5C%0A%0A%20%0A%0A%20%3D%202%5E%7B-(n-m)%20%5B1-H(1%2F2-%5Ceta)%5D%7D%0A%0A%20%5Ctag%205

其中:

H(1%2F2-%5Ceta)%20%3D%20%20(1%2F2-%5Ceta)%20log_2%20%5Cfrac%7B1%7D%7B(1%2F2-%5Ceta)%7D%20%2B%20(1%2F2%2B%5Ceta)%20log_2%20%5Cfrac%7B1%7D%7B(1%2F2%2B%5Ceta)%7D



极化码数学原理(六)-证明定理5.2中用到的公式5.74的评论 (共 条)

分享到微博请遵守国家法律