欢迎光临散文网 会员登陆 & 注册

LDPC 软判决算法之似然比形式 (三) tanh-lambda 规则

2022-08-26 23:39 作者:乐吧的数学  | 我要投稿

LDPC低密度奇偶校验码的比特翻转译码浅析

LDPC 低密度奇偶校验码的软判决译码算法浅析(一)

LDPC 低密度奇偶校验码的软判决译码算法浅析(二)--降低运算量

LDPC 低密度奇偶校验码的软判决译码算法浅析(三)--算法和代码

LDPC 软判决算法之似然比形式 (一)

LDPC 软判决算法之似然比形式 (二)--算法和代码

LDPC 软判决算法之似然比形式 (三) tanh-lambda 规则


我们研究 二进制域下的 tanh rule, x 为二进制随机变量,%5Coplus 代表二进制加法,满足:

0%5Coplus%200%3D0%20%5C%5C%0A0%5Coplus%201%3D1%20%5C%5C%0A1%5Coplus%200%3D1%20%5C%5C%0A1%5Coplus%201%3D0%20%5C%5C

(录制的视频:https://www.bilibili.com/video/BV1Pa411V7VK/

定义 %5Clambda  函数为概率比的对数,即:

%5Clambda(x)%20%3D%20log%20%5Cfrac%7Bp(x%3D1)%7D%7Bp(x%3D0)%7D
其中 p(x=1) 表示 x 取数值 1 的概率。

换一种写法:

e%5E%7B%5Clambda(x)%7D%20%3D%20%5Cfrac%7Bp(x%3D1)%7D%7Bp(x%3D0)%7D


我们引入两个相互独立的随机变量 x_1%2C%20x_2
%5Clambda(x_1%20%5Coplus%20x_2)%20%3D%20log%20%5Cfrac%20%7B%20p(x_1%20%5Coplus%20x_2%3D1)%20%7D%20%7B%20p(x_1%20%5Coplus%20x_2%3D0%20)%20%20%7D%20%20%5Cquad%20----%20%5Cquad%20%20%E5%85%AC%E5%BC%8F(1)

其中分子, x_1%20%5Coplus%20%20x_2%20%3D1 有两种情况,x_1%3D0%2C%20x_2%3D0x_1%20%3D0%20%2C%20x_2%20%3D%201,则:

p(x_1%20%5Coplus%20x_2%3D1)%20%20%3D%20p(x_1%3D1%2C%20x_2%3D0)%20%20%2B%20p(%20x_1%20%3D0%20%2C%20x_2%20%3D%201%20)

因为我们已经假设两个随机变量相互独立,则:

p(x_1%3D1%2C%20x_2%3D0)%20%20%3D%20p(x_1%3D1)%20%20p(x_2%3D0)%20%20%5C%5C%0Ap(x_1%3D0%2C%20x_2%3D1)%20%20%3D%20p(x_1%3D0)%20%20p(x_2%3D1)%20%20%5C%5C
那么,最终:

p(x_1%20%5Coplus%20x_2%3D1)%20%20%3D%20%20p(x_1%3D1)%20%20p(x_2%3D0)%20%2B%20p(x_1%3D0)%20%20p(x_2%3D1)


同理:

x_1%20%5Coplus%20%20x_2%20%3D0%20 有两种情况,x_1%3D0%2C%20x_2%3D0x_1%20%3D1%20%2C%20x_2%20%3D%201,则:

p(x_1%20%5Coplus%20x_2%3D0)%20%20%3D%20p(x_1%3D0%2C%20x_2%3D0)%20%20%2B%20p(%20x_1%20%3D1%20%2C%20x_2%20%3D%201%20)


因为我们已经假设两个随机变量相互独立,则:

p(x_1%3D0%2C%20x_2%3D0)%20%20%3D%20p(x_1%3D0)%20%20p(x_2%3D0)%20%20%5C%5C%0Ap(x_1%3D1%2C%20x_2%3D1)%20%20%3D%20p(x_1%3D1)%20%20p(x_2%3D1)%20%20
那么,最终:

p(x_1%20%5Coplus%20x_2%3D0)%20%20%3D%20%20p(x_1%3D0)%20%20p(x_2%3D0)%20%2B%20p(x_1%3D1)%20%20p(x_2%3D1)


把上面的结果代入公式 (1) 可以得到:

%5Clambda(x_1%20%5Coplus%20x_2)%20%20%3D%20log%20%5Cfrac%0A%7B%20%20%20p(x_1%3D1)%20%20p(x_2%3D0)%20%2B%20p(x_1%3D0)%20%20p(x_2%3D1)%20%7D%0A%7B%20%20%20p(x_1%3D0)%20%20p(x_2%3D0)%20%2B%20p(x_1%3D1)%20%20p(x_2%3D1)%20%20%7D


分子分母同时除以 p(x_1%3D0)%20%20p(x_2%3D0), 可得:

%0A%5Clambda(x_1%20%5Coplus%20x_2)%20%20%3D%20log%20%5Cfrac%0A%7B%20%20%20%5Cfrac%7Bp(x_1%3D1)%7D%7Bp(x_1%3D0)%7D%20%20%2B%20%20%5Cfrac%7Bp(x_2%3D1)%7D%20%7Bp(x_2%3D0)%7D%20%20%7D%0A%7B%20%20%201%2B%20%5Cfrac%7Bp(x_1%3D1)%7D%7Bp(x_1%3D0)%7D%20%20%20%5Cfrac%7Bp(x_2%3D1)%7D%20%7Bp(x_2%3D0)%7D%20%20%7D%0A%3D%0Alog%20%5Cfrac%0A%7B%20e%5E%7B%5Clambda(x_1)%7D%20%20%2B%20e%5E%7B%5Clambda(x_2)%7D%7D%0A%7B%201%20%2B%20e%5E%7B%5Clambda(x_1)%20%2B%20%5Clambda(x_2)%7D%7D%20%20%5C%5C%20%5Cquad%20%20%5C%5C%0A%3D%20log%20%5Cfrac%0A%7B%20%20(%20e%5E%7B%5Clambda(x_1)%7D%20%2B%201%20)%20%20(%20%20e%5E%7B%5Clambda(x_2)%7D%20%2B%201%20)%20%20%20-%20%20%20(%20e%5E%7B%5Clambda(x_1)%7D%20-%201%20)%20(%20%20e%5E%7B%5Clambda(x_2)%7D%20-%201%20)%20%20%7D%0A%7B%20%20%20(%20e%5E%7B%5Clambda(x_1)%7D%20%2B%201%20)%20%20(%20%20e%5E%7B%5Clambda(x_2)%7D%20%2B%201%20)%20%20%20%2B%20%20%20(%20e%5E%7B%5Clambda(x_1)%7D%20-%201%20)%20(%20%20e%5E%7B%5Clambda(x_2)%7D%20-%201%20)%20%20%20%20%7D%20%20%20%5C%5C%0A%3D%0A%20log%20%5Cfrac%0A%7B%20%201%20%20%20-%20%20%5Cfrac%7B%20(%20e%5E%7B%5Clambda(x_1)%7D%20-%201%20)%7D%7B%20(%20e%5E%7B%5Clambda(x_1)%7D%20%2B%201%20)%20%20%7D%20%20%5Cfrac%7B%20(%20%20e%5E%7B%5Clambda(x_2)%7D%20-%201%20)%20%7D%20%7B(%20%20e%5E%7B%5Clambda(x_2)%7D%20%2B%201%20)%20%7D%20%7D%0A%7B%20%201%20%20%2B%20%20%5Cfrac%7B%20(%20e%5E%7B%5Clambda(x_1)%7D%20-%201%20)%7D%7B%20(%20e%5E%7B%5Clambda(x_1)%7D%20%2B%201%20)%20%20%7D%20%20%5Cfrac%7B%20(%20%20e%5E%7B%5Clambda(x_2)%7D%20-%201%20)%20%7D%20%7B(%20%20e%5E%7B%5Clambda(x_2)%7D%20%2B%201%20)%20%7D%20%20%20%7D%20%20%5C%5C%0A%0A%5Cquad%20----%20%5Cquad%20%20%E5%85%AC%E5%BC%8F(2)
现在,我们引入 tanh 函数, tanh 函数定义如下:

tanh(x)%20%3D%20%5Cfrac%20%7B%20e%5Ex%20-%20e%5E%7B-x%7D%20%20%7D%20%7B%20e%5Ex%20%2B%20e%5E%7B-x%7D%20%20%7D%20%3D%20%5Cfrac%20%7B%20e%5E%7B2x%7D%20-1%20%7D%7B%20e%5E%7B2x%7D%20%2B%201%7D




tanh(%5Cfrac%7Bx%7D%7B2%7D)%20%3D%20%5Cfrac%20%7B%20e%5E%7Bx%2F2%7D%20-%20e%5E%7B-x%2F2%7D%20%20%7D%20%7B%20e%5E%7Bx%2F2%7D%20%2B%20e%5E%7B-x%2F2%7D%20%20%7D%20%3D%20%5Cfrac%20%7B%20e%5E%7Bx%7D%20-1%20%7D%7B%20e%5E%7Bx%7D%20%2B%201%7D%0A%5Cquad%20----%20%5Cquad%20%20%E5%85%AC%E5%BC%8F(3)


用上面的结论,把公式 (2)  进一步推导为:

%5Clambda(x_1%20%5Coplus%20x_2)%20%20%3D%20%20%20log%20%5Cfrac%0A%7B%201%20-%20%20tanh(%20%5Cfrac%7B%5Clambda(x_1)%7D%7B2%7D%20)%20%20tanh(%20%5Cfrac%7B%5Clambda(x_2)%7D%7B2%7D)%20%7D%0A%7B%201%20%2B%20tanh(%20%5Cfrac%7B%5Clambda(x_1%7D%7B2%7D%20)%20%20tanh(%20%5Cfrac%7B%5Clambda(x_2)%7D%7B2%7D)%20%7D%0A%0A%5Cquad%20----%20%5Cquad%20%20%E5%85%AC%E5%BC%8F(4)


我们再从公式 (3) 出发,导出有 log 的表达式:



t%20%3D%20%5Cfrac%7B%20e%5Ex%20-%201%7D%7B%20e%5Ex%20%2B%201%7D


x%20%3D%20log%20%5Cfrac%7B%201%20%2B%20t%20%20%7D%20%7B%201%20-%20t%20%7D


把前两个推导结果,代入公式 (3) 得到:

tanh%20(%20%5Cfrac%7B1%7D%7B2%7D%20%20log%20%5Cfrac%7B%201%20%2B%20t%20%20%7D%20%7B%201%20-%20t%20%7D%20)%20%3D%20t


稍微整理一下得到:

log%20%5Cfrac%7B%201%20%2B%20t%20%20%7D%20%7B%201%20-%20t%20%7D%20%3D%202%20tanh%5E%7B-1%7D%20(t)


用上面这个结论,我们来推导公式 (4) ,把公式 (4) 中的

tanh(%20%5Cfrac%7B%5Clambda(x_1)%7D%7B2%7D%20)%20%20tanh(%20%5Cfrac%7B%5Clambda(x_2)%7D%7B2%7D)


看成  t ,则:

%5Clambda(x_1%20%5Coplus%20x_2)%20%3D%20-2%20tanh%5E%7B-1%7D%20(%20tanh(%20%5Cfrac%7B%5Clambda(x_1)%7D%7B2%7D%20)%20%20tanh(%20%5Cfrac%7B%5Clambda(x_2)%7D%7B2%7D)%20%20)%0A%5Cquad%20----%20%5Cquad%20%20%E5%85%AC%E5%BC%8F(5)


由于 tanh 函数是奇函数,所以:

tanh(%20%5Cfrac%7B%5Clambda(x_1)%7D%7B2%7D%20)%20%20tanh(%20%5Cfrac%7B%5Clambda(x_2)%7D%7B2%7D)%20%3D%20tanh(%20%20-%5Cfrac%7B%5Clambda(x_1)%7D%7B2%7D%20)%20%20tanh(%20%20-%5Cfrac%7B%5Clambda(x_2)%7D%7B2%7D)


则公式 (5) 也可以写成:

%5Clambda(x_1%20%5Coplus%20x_2)%20%3D%20-2%20tanh%5E%7B-1%7D%20(%20tanh(%20%20-%20%5Cfrac%7B%5Clambda(x_1)%7D%7B2%7D%20)%20%20tanh(%20%20-%20%20%5Cfrac%7B%5Clambda(x_2)%7D%7B2%7D)%20%20)%0A%5Cquad%20----%20%5Cquad%20%20%E5%85%AC%E5%BC%8F(6)


用数学归纳法,可以证明多个独立随机变量,以上关系也是成立的。我们证明一下三个独立随机变量的。
根据公式 (6), 我们把  x_1%5Coplus%20x_2 看成一个数,则:

%5Clambda(%20(x_1%20%5Coplus%20x_2)%20%20%20%5Coplus%20x_3)%20%3D%20-2%20tanh%5E%7B-1%7D%20(%20tanh(%20%20-%5Cfrac%7B%5Clambda(x_1%20%5Coplus%20x_2)%7D%7B2%7D%20)%20%20tanh(%20%20-%5Cfrac%7B%5Clambda(x_3)%7D%7B2%7D)%20%20)%0A%5Cquad%20----%20%5Cquad%20%20%E5%85%AC%E5%BC%8F(7)


再把公式 (6) 代入公式 (7)

%0A%5Clambda(%20(x_1%20%5Coplus%20x_2)%20%20%20%5Coplus%20x_3)%20%3D%20-2%20tanh%5E%7B-1%7D%20(%0A%20%20tanh(%20%20-%5Cfrac%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%7B%20%20%20-2%20tanh%5E%7B-1%7D%20%20(%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20tanh(%20%20-%5Cfrac%7B%5Clambda(x_1)%20%7D%20%7B2%7D%20%20)%20%20%20%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20tanh(%20%20-%20%5Cfrac%7B%5Clambda(x_2)%7D%7B2%7D%20%20%20)%20%20%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20)%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%7D%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%7B2%7D%0A%20%20%20%20%20%20%20%20%20%20%20)%20%20%0A%20%20tanh(%20%20-%5Cfrac%7B%5Clambda(x_3)%7D%7B2%7D)%20%20)%20%20%5C%5C%0A%0A%20-2%20tanh%5E%7B-1%7D%20(%0A%20%0A%20tanh(%20%20-%5Cfrac%7B%5Clambda(x_1)%20%7D%20%7B2%7D%20%20)%20%20%20%0A%20tanh(%20%20-%20%5Cfrac%7B%5Clambda(x_2)%7D%7B2%7D%20%20%20)%20%20%0A%20tanh(%20%20-%5Cfrac%7B%5Clambda(x_3)%7D%7B2%7D)%20%20)%20%20%5C%5C%0A%0A%5Cquad%20----%20%5Cquad%20%20%E5%85%AC%E5%BC%8F(8)


依次类推,可以得到:

%5Clambda(x_1%20%5Coplus%20x_2%20%5Coplus%20x_3%20%5Coplus%20%5Ccdots%20%5Coplus%20x_n)%20%3D%20%20-2%20tanh%5E%7B-1%7D(%20tanh(-%5Cfrac%7B%5Clambda(x_1)%7D%7B2%7D)%20tanh(-%5Cfrac%7B%5Clambda(x_2)%7D%7B2%7D)%20tanh(-%5Cfrac%7B%5Clambda(x_3)%7D%7B2%7D)%20%5Ccdots%20tanh(-%5Cfrac%7B%5Clambda(x_n)%7D%7B2%7D)%20)%20%5C%5C%0A%20%3D%20-2%20tanh%5E%7B-1%7D(%5Cprod_%7Bi%3D1%7D%5E%7Bn%7D%20tanh(-%5Cfrac%7B%5Clambda(x_i)%7D%7B2%7D))


系列文章目录:

https://www.bilibili.com/read/cv16586792   LDPC低密度奇偶校验码的比特翻转译码浅析
https://www.bilibili.com/read/cv16780969   LDPC 低密度奇偶校验码的软判决译码算法浅析(一)
https://www.bilibili.com/read/cv17935263   LDPC 低密度奇偶校验码的软判决译码算法浅析(二)--降低运算量
https://www.bilibili.com/read/cv18151695   LDPC 低密度奇偶校验码的软判决译码算法浅析(三)--算法和代码
https://www.bilibili.com/read/cv18274954   LDPC 软判决算法之似然比形式 (一)
https://www.bilibili.com/read/cv18310069   LDPC 软判决算法之似然比形式 (二)--算法和代码
https://www.bilibili.com/read/cv18310658   LDPC 软判决算法之似然比形式 (三) tanh-lambda 规则





LDPC 软判决算法之似然比形式 (三) tanh-lambda 规则的评论 (共 条)

分享到微博请遵守国家法律