高斯白噪声信道下后验概率的计算

这篇小笔记，是对文章和视频《LDPC 低密度奇偶校验码的软判决译码算法浅析》的一个补充。在留言区有人问，后验概率为什么是已知的，所以，我就写了这个小短文。

录制的视频在：https://www.bilibili.com/video/BV1SV4y1T7pe/

这篇文章也可以独立看，就是如何分析高斯白噪声信道下的后验概率。



我们知道高斯白噪声符合以下概率密度（这是均值为 0 ，方差为  的高斯分布）：

系统框图如下：

那么，发送 c 的情况下，收到的是 r 的概率是多少呢？

r = c + n

则：

n = r -c

则：

c 是已知，确定的，所以，上面的式子中隐含的一个条件是 c 已知，在 c 已知并且是确定某个值的情况下， r - c 与 r 是一一对应的，则

这是先验概率公式，即确定发送的数据，计算收到 r 的概率。



下面，需要推导一个后验概率：

发送的是 c，收到的是 r，则，我们想要知道一个概率，即“ 收到  r 的情况下，发送端发送的 c 是 1 的概率”：

p(c|r)

我们用条件概率和全概率公式，做一个推导

其中 p(c) 表示发送的是 c 的概率，我们一般假定，发送的数据，是等概率出现的，例如我们发送的是 0  和 1 两种数据，则 0 和 1 是等概率出现的。

所以，根据上面的公式，就可以计算出后验概率。



补充：

在视频中，我讲解的时候，写的公式有点不准确，现在补充如下：

例如，我们收到的数据是  0.23. 我们想知道发送的数据是 1 的概率，假设噪声是符合均值为 0 方差为 1 的高斯分布，则：

同理，可以计算出来收到的数据是  0.23 的情况下. 我发送的数据是 0 的概率


我们看到，上面的计算还是挺复杂的，需要计算 e 的指数，那么，就有把

如果这个值大于 1， 则可以判决 发送的数据 c 是 1，如果小于 1，则认为发送的数据 c 是 0.  如果对上面再去自然对数，则可以把指数的计算拿掉：