欢迎光临散文网 会员登陆 & 注册

高斯白噪声信道下对数似然比的推导--- QPSK+BPSK

2022-08-10 00:26 作者:乐吧的数学  | 我要投稿


在通信系统中,我们经常需要计算 Log Likelihood Ratio (LLR) 对数似然比,尤其是在信道译码采用软译码的时候。这个小文章,就来推导一下在不同调制下,如何根据接收到的信号,计算 LLR,我们主要讨论 三种调制:BPSK, QPSK, 8-PSK.

----------------------------------------

录制了视频(录制的中间被打断了,就分成两个视频了,抱歉):

(一)https://www.bilibili.com/video/BV1PW4y1q7N8/

(二)https://www.bilibili.com/video/BV1zP4y1d7t4/

---------------------------------------
我们先讲 QPSK 的,这个比较有代表性,简化后就是 BPSK,进一步扩展就是 8-PSK.

一组 0 和 1 组成的序列,经过 QPSK 编码后变成一个复数,每两个比特调制成一个复数.
经过高斯白噪声信道传输,这里我们把实部和虚部看成是分别独立传输的,分别加上独立的高斯白噪声的干扰。

(注 1:实际上是实部和虚部在相同的信道上传输,只是由相互正交的高频信号做载波发送的,可以看成是分别传输的
注 2:实部我们称之为 in-phase,用 I 做下标,虚部我们称之为 quadrature,用 Q 做表示)。


通信系统中,我们关心的是在收到信号 y 的情况下,判断发送方发送的比特是 1 或者 0 的概率,可以表示成  p(b=0|y)  和 p(b=1|y).

很多情况下,我们关心两者的比值,因为如果  p(b=0|y)  大于 p(b=1|y),我们就有理由可以判断 b=0,否则,我们更倾向于判断 b=1.  用比值来表示就是:

%5Cbegin%7Bcases%7D%0A%20%20%5Cfrac%7Bp(b%3D0%7Cy)%20%20%7D%7Bp(b%3D1%7Cy)%20%20%7D%20%3E%201%26%20%20%20b%3D0%5C%5C%20%5C%5C%0A%20%20%20%5Cfrac%7Bp(b%3D0%7Cy)%20%20%7D%7Bp(b%3D1%7Cy)%20%20%7D%20%3C%201%26%20b%3D1%0A%5Cend%7Bcases%7D


为了更简化一些运算(后面会解释),一般还要再取对数,即:
log%20%5Cfrac%7Bp(b%3D0%7Cy)%20%20%7D%7Bp(b%3D1%7Cy)%20%20%7D


那么判决准则为:

%5Cbegin%7Bcases%7D%0A%20%20log%5Cfrac%7Bp(b%3D0%7Cy)%20%20%7D%7Bp(b%3D1%7Cy)%20%20%7D%20%3E%200%26%20%20%20b%3D0%5C%5C%20%5C%5C%0A%20%20%20log%5Cfrac%7Bp(b%3D0%7Cy)%20%20%7D%7Bp(b%3D1%7Cy)%20%20%7D%20%3C%200%26%20b%3D1%0A%5Cend%7Bcases%7D


接下啦我们把上面的比值,做一下推导,推导出似然比的形式,因为  p(y|b) 的形式,称之为似然函数,而 p(b|y) 一般称之为后验概率。

先对 p(b|y) 做一下推导:

p(b%7Cy)%20%3D%5Cfrac%7Bp(b%2Cy)%7D%7Bp(y)%7D%20%3D%5Cfrac%7Bp(y%7Cb)p(b)%7D%7Bp(y)%7D
则:
log%20%5Cfrac%7Bp(b%3D0%7Cy)%20%20%7D%7Bp(b%3D1%7Cy)%20%20%7D%20%3D%20log%20%5Cfrac%20%7B%20%20%20%5Cfrac%7Bp(y%7Cb%3D0)p(b%3D0)%7D%7Bp(y)%7D%20%20%20%7D%0A%7B%20%20%20%20%5Cfrac%7Bp(y%7Cb%3D1)p(b%3D1)%7D%7Bp(y)%7D%20%20%20%20%20%7D%0A%3D%20log%20%5Cfrac%20%7B%20%20%20p(y%7Cb%3D0)p(b%3D0)%20%7D%0A%7B%20%20%20%20p(y%7Cb%3D1)p(b%3D1)%20%20%20%20%7D%0A%3D%20log%20%5Cfrac%20%7B%20%20%20p(y%7Cb%3D0)%20%7D%0A%7B%20%20%20%20p(y%7Cb%3D1)%20%20%7D

上式推导的最后一步,我们是假定发送数据是 0 还是 1 的概率是相等的,都是 0.5,这个假定大部分情况下都是成立的,在数据生成的阶段,一般都有一步做 伪随机化,即让 0 和 1 出现的数量是相等的。

则上面公式的最后结果,我们称之为 对数似然比 Log Likelihood Ratio (LLR)  。

我们实际上关心的是后验概率的对数比值,但是,在在 0 还是 1 的概率是相等的假设前提下,其实是与对数似然比等同的,所以,后面我们就直接推导对数似然比的具体表达式了。

均值为 0 方差为 %5Csigma%5E2 的白噪声,符合以下公式的高斯分布:

p(n)%20%3D%20%5Cfrac%7B1%7D%7B%5Csqrt%7B2%5Cpi%7D%20%5Csigma%7D%20e%5E%7B%20%20-%5Cfrac%7Bn%5E2%7D%7B2%5Csigma%5E2%7D%20%20%7D


则如果发送的是 x 收到的是 y 的概率就是:

p(y%7Cx)%20%3D%20%5Cfrac%7B1%7D%7B%5Csqrt%7B2%5Cpi%7D%20%5Csigma%7D%20e%5E%7B%20%20-%5Cfrac%7B(y-x)%5E2%7D%7B2%5Csigma%5E2%7D%20%20%7D
QSPK 下,两个比特调制为一个复数,我们把这两个比特记为  b_1%20b_0,调制后的符号记为 s_I%20%2B%20j%20s_Q,接收到的复数信号为 y_I%20%2B%20j%20y_Q.

映射关系如下图所示:


b_1%20b_0%3D00%20%20%20%20--------%3E%20%5Cquad%20%20%20%5Cfrac%7B%5Csqrt%202%7D%7B2%7D%20%2B%20j%5Cfrac%7B%5Csqrt%202%7D%7B2%7D%20%20%20%5C%5C%0Ab_1%20b_0%3D01%20%20%20%20--------%3E%20%5Cquad%20%20%20-%5Cfrac%7B%5Csqrt%202%7D%7B2%7D%20%2B%20j%5Cfrac%7B%5Csqrt%202%7D%7B2%7D%20%20%20%5C%5C%0Ab_1%20b_0%3D11%20%20%20%20--------%3E%20%5Cquad%20%20%20-%5Cfrac%7B%5Csqrt%202%7D%7B2%7D%20-%20j%5Cfrac%7B%5Csqrt%202%7D%7B2%7D%20%20%20%5C%5C%0Ab_1%20b_0%3D10%20%20%20%20--------%3E%20%5Cquad%20%20%20%5Cfrac%7B%5Csqrt%202%7D%7B2%7D%20-%20j%5Cfrac%7B%5Csqrt%202%7D%7B2%7D

下面来分析,如何计算  b_0 的对数似然比,即:

LLR(b_0)%20%3D%20log%20%5Cfrac%20%7B%20%20%20p(y%7Cb_0%3D0)%20%7D%0A%7B%20%20%20%20p(y%7Cb_0%3D1)%20%20%7D


所以,需要分别求出来 p(y%7Cb_0%3D0) 和 %20p(y%7Cb_0%3D1)

我们分析其中一个,另外一个是类似的。
b_0%20%3D0 有两种情况,即 b_1%20b_0%20%3D00b_1%20b_0%20%3D10
则:

p(y%7Cb_0%3D0)%20%3D%20p(y%7Cb_1%3D0%2C%20b_0%3D0)%20*0.5%20%2B%20p(y%7Cb_1%3D1%2C%20b_0%3D0)%20*0.5


其中:

p(y%7Cb_1%3D0%2C%20b_0%3D0)%20%3D%20p(y%7Cs_I%2Bjs_Q%20%3D%20%5Cfrac%7B%5Csqrt%202%7D%7B2%7D%20%2B%20j%5Cfrac%7B%5Csqrt%202%7D%7B2%7D%20)%20%5C%5C%0A%3D%20p(y_I%2Bj%20y_Q%7Cs_I%2Bjs_Q%20%3D%20%5Cfrac%7B%5Csqrt%202%7D%7B2%7D%20%2B%20j%5Cfrac%7B%5Csqrt%202%7D%7B2%7D%20)%20%5C%5C%0A%3Dp(y_I%7Cs_I%3D%5Cfrac%7B%5Csqrt%202%7D%7B2%7D)%20*p(y_Q%7Cs_Q%3D%5Cfrac%7B%5Csqrt%202%7D%7B2%7D)%20%5C%5C%0A%3D%5Cfrac%7B1%7D%7B%5Csqrt%7B2%5Cpi%7D%20%5Csigma%7D%20e%5E%7B%20%20-%5Cfrac%7B(y_I-%5Cfrac%7B%5Csqrt%202%7D%7B2%7D)%5E2%7D%7B2%5Csigma%5E2%7D%20%20%7D%20*%0A%5Cfrac%7B1%7D%7B%5Csqrt%7B2%5Cpi%7D%20%5Csigma%7D%20e%5E%7B%20%20-%5Cfrac%7B(y_Q-%5Cfrac%7B%5Csqrt%202%7D%7B2%7D)%5E2%7D%7B2%5Csigma%5E2%7D%20%20%7D



p(y%7Cb_1%3D1%2C%20b_0%3D0)%20%3D%20p(y%7Cs_I%2Bjs_Q%20%3D%20%5Cfrac%7B%5Csqrt%202%7D%7B2%7D%20-%20j%5Cfrac%7B%5Csqrt%202%7D%7B2%7D%20)%20%5C%5C%0A%3D%20p(y_I%2Bj%20y_Q%7Cs_I%2Bjs_Q%20%3D%20%5Cfrac%7B%5Csqrt%202%7D%7B2%7D%20-%20j%5Cfrac%7B%5Csqrt%202%7D%7B2%7D%20)%20%5C%5C%0A%3Dp(y_I%7Cs_I%3D%5Cfrac%7B%5Csqrt%202%7D%7B2%7D)%20*p(y_Q%7Cs_Q%3D-%5Cfrac%7B%5Csqrt%202%7D%7B2%7D)%20%5C%5C%0A%3D%5Cfrac%7B1%7D%7B%5Csqrt%7B2%5Cpi%7D%20%5Csigma%7D%20e%5E%7B%20%20-%5Cfrac%7B(y_I-%5Cfrac%7B%5Csqrt%202%7D%7B2%7D)%5E2%7D%7B2%5Csigma%5E2%7D%20%20%7D%20*%0A%5Cfrac%7B1%7D%7B%5Csqrt%7B2%5Cpi%7D%20%5Csigma%7D%20e%5E%7B%20%20-%5Cfrac%7B(y_Q%2B%5Cfrac%7B%5Csqrt%202%7D%7B2%7D)%5E2%7D%7B2%5Csigma%5E2%7D%20%20%7D


p(y%7Cb_0%3D0)%20%3D%0A%5Cfrac%7B1%7D%7B%5Csqrt%7B2%5Cpi%7D%20%5Csigma%7D%20e%5E%7B%20%20-%5Cfrac%7B(y_I-%5Cfrac%7B%5Csqrt%202%7D%7B2%7D)%5E2%7D%7B2%5Csigma%5E2%7D%20%20%7D%20*%0A%5Cfrac%7B1%7D%7B%5Csqrt%7B2%5Cpi%7D%20%5Csigma%7D%20e%5E%7B%20%20-%5Cfrac%7B(y_Q-%5Cfrac%7B%5Csqrt%202%7D%7B2%7D)%5E2%7D%7B2%5Csigma%5E2%7D%20%20%7D%20*%200.5%20%2B%0A%0A%5Cfrac%7B1%7D%7B%5Csqrt%7B2%5Cpi%7D%20%5Csigma%7D%20e%5E%7B%20%20-%5Cfrac%7B(y_I-%5Cfrac%7B%5Csqrt%202%7D%7B2%7D)%5E2%7D%7B2%5Csigma%5E2%7D%20%20%7D%20*%0A%5Cfrac%7B1%7D%7B%5Csqrt%7B2%5Cpi%7D%20%5Csigma%7D%20e%5E%7B%20%20-%5Cfrac%7B(y_Q%2B%5Cfrac%7B%5Csqrt%202%7D%7B2%7D)%5E2%7D%7B2%5Csigma%5E2%7D%20%20%7D%20*%200.5%20%5C%5C%0A%3D%20%20e%5E%7B%20%20-%5Cfrac%7B(y_I-%5Cfrac%7B%5Csqrt%202%7D%7B2%7D)%5E2%7D%7B2%5Csigma%5E2%7D%20%20%7D%0A(%0A%5Cfrac%7B1%7D%7B2%5Cpi%20%5Csigma%5E2%7D%20e%5E%7B%20%20-%5Cfrac%7B(y_Q-%5Cfrac%7B%5Csqrt%202%7D%7B2%7D)%5E2%7D%7B2%5Csigma%5E2%7D%20%20%7D%20%20%2B%0A%5Cfrac%7B1%7D%7B2%5Cpi%20%5Csigma%5E2%7D%20%20e%5E%7B%20%20-%5Cfrac%7B(y_Q%2B%5Cfrac%7B%5Csqrt%202%7D%7B2%7D)%5E2%7D%7B2%5Csigma%5E2%7D%20%20%7D%0A)%20*%200.5


b_0%20%3D1 有两种情况,即 b_1%20b_0%20%3D01b_1%20b_0%20%3D11
则:

p(y%7Cb_0%3D0)%20%3D%20p(y%7Cb_1%3D0%2C%20b_0%3D1)%20*0.5%20%2B%20p(y%7Cb_1%3D1%2C%20b_1%3D1)%20*0.5


其中:

p(y%7Cb_1%3D0%2C%20b_0%3D0)%20%3D%20p(y%7Cs_I%2Bjs_Q%20%3D%20-%5Cfrac%7B%5Csqrt%202%7D%7B2%7D%20%2B%20j%5Cfrac%7B%5Csqrt%202%7D%7B2%7D%20)%20%5C%5C%0A%3D%20p(y_I%2Bj%20y_Q%7Cs_I%2Bjs_Q%20%3D%20-%5Cfrac%7B%5Csqrt%202%7D%7B2%7D%20%2B%20j%5Cfrac%7B%5Csqrt%202%7D%7B2%7D%20)%20%5C%5C%0A%3Dp(y_I%7Cs_I%3D-%5Cfrac%7B%5Csqrt%202%7D%7B2%7D)%20*p(y_Q%7Cs_Q%3D%5Cfrac%7B%5Csqrt%202%7D%7B2%7D)%20%5C%5C%0A%3D%5Cfrac%7B1%7D%7B%5Csqrt%7B2%5Cpi%7D%20%5Csigma%7D%20e%5E%7B%20%20-%5Cfrac%7B(y_I%2B%5Cfrac%7B%5Csqrt%202%7D%7B2%7D)%5E2%7D%7B2%5Csigma%5E2%7D%20%20%7D%20*%0A%5Cfrac%7B1%7D%7B%5Csqrt%7B2%5Cpi%7D%20%5Csigma%7D%20e%5E%7B%20%20-%5Cfrac%7B(y_Q-%5Cfrac%7B%5Csqrt%202%7D%7B2%7D)%5E2%7D%7B2%5Csigma%5E2%7D%20%20%7D


p(y%7Cb_1%3D1%2C%20b_0%3D1)%20%3D%20p(y%7Cs_I%2Bjs_Q%20%3D%20-%5Cfrac%7B%5Csqrt%202%7D%7B2%7D%20-%20j%5Cfrac%7B%5Csqrt%202%7D%7B2%7D%20)%20%5C%5C%0A%3D%20p(y_I%2Bj%20y_Q%7Cs_I%2Bjs_Q%20%3D%20-%5Cfrac%7B%5Csqrt%202%7D%7B2%7D%20-%20j%5Cfrac%7B%5Csqrt%202%7D%7B2%7D%20)%20%5C%5C%0A%3Dp(y_I%7Cs_I%3D-%5Cfrac%7B%5Csqrt%202%7D%7B2%7D)%20*p(y_Q%7Cs_Q%3D-%5Cfrac%7B%5Csqrt%202%7D%7B2%7D)%20%5C%5C%0A%3D%5Cfrac%7B1%7D%7B%5Csqrt%7B2%5Cpi%7D%20%5Csigma%7D%20e%5E%7B%20%20-%5Cfrac%7B(y_I%2B%5Cfrac%7B%5Csqrt%202%7D%7B2%7D)%5E2%7D%7B2%5Csigma%5E2%7D%20%20%7D%20*%0A%5Cfrac%7B1%7D%7B%5Csqrt%7B2%5Cpi%7D%20%5Csigma%7D%20e%5E%7B%20%20-%5Cfrac%7B(y_Q%2B%5Cfrac%7B%5Csqrt%202%7D%7B2%7D)%5E2%7D%7B2%5Csigma%5E2%7D%20%20%7D


p(y%7Cb_0%3D1)%20%3D%0A%5Cfrac%7B1%7D%7B%5Csqrt%7B2%5Cpi%7D%20%5Csigma%7D%20e%5E%7B%20%20-%5Cfrac%7B(y_I%2B%5Cfrac%7B%5Csqrt%202%7D%7B2%7D)%5E2%7D%7B2%5Csigma%5E2%7D%20%20%7D%20*%0A%5Cfrac%7B1%7D%7B%5Csqrt%7B2%5Cpi%7D%20%5Csigma%7D%20e%5E%7B%20%20-%5Cfrac%7B(y_Q-%5Cfrac%7B%5Csqrt%202%7D%7B2%7D)%5E2%7D%7B2%5Csigma%5E2%7D%20%20%7D%20*%200.5%20%2B%0A%0A%5Cfrac%7B1%7D%7B%5Csqrt%7B2%5Cpi%7D%20%5Csigma%7D%20e%5E%7B%20%20-%5Cfrac%7B(y_I%2B%5Cfrac%7B%5Csqrt%202%7D%7B2%7D)%5E2%7D%7B2%5Csigma%5E2%7D%20%20%7D%20*%0A%5Cfrac%7B1%7D%7B%5Csqrt%7B2%5Cpi%7D%20%5Csigma%7D%20e%5E%7B%20%20-%5Cfrac%7B(y_Q%2B%5Cfrac%7B%5Csqrt%202%7D%7B2%7D)%5E2%7D%7B2%5Csigma%5E2%7D%20%20%7D%20*%200.5%20%5C%5C%0A%3D%20%20e%5E%7B%20%20-%5Cfrac%7B(y_I%2B%5Cfrac%7B%5Csqrt%202%7D%7B2%7D)%5E2%7D%7B2%5Csigma%5E2%7D%20%20%7D%0A(%0A%5Cfrac%7B1%7D%7B2%5Cpi%20%5Csigma%5E2%7D%20e%5E%7B%20%20-%5Cfrac%7B(y_Q-%5Cfrac%7B%5Csqrt%202%7D%7B2%7D)%5E2%7D%7B2%5Csigma%5E2%7D%20%20%7D%20%20%2B%0A%5Cfrac%7B1%7D%7B2%5Cpi%20%5Csigma%5E2%7D%20%20e%5E%7B%20%20-%5Cfrac%7B(y_Q%2B%5Cfrac%7B%5Csqrt%202%7D%7B2%7D)%5E2%7D%7B2%5Csigma%5E2%7D%20%20%7D%0A)%20*%200.5
最后,

log%20%20%20%20%5Cfrac%20%7B%20%20%20p(y%7Cb_0%3D0)%20%7D%20%20%7B%20%20%20%20p(y%7Cb_0%3D1)%20%20%7D%20%3D%20%20%0Alog%0A%20%20%20%20%5Cfrac%7Be%5E%7B%20%20-%5Cfrac%7B(y_I-%5Cfrac%7B%5Csqrt%202%7D%7B2%7D)%5E2%7D%7B2%5Csigma%5E2%7D%20%20%7D%20%7D%0A%20%20%20%20%20%20%20%20%20%20%20%20%7B%20e%5E%7B%20%20-%5Cfrac%7B(y_I%2B%5Cfrac%7B%5Csqrt%202%7D%7B2%7D)%5E2%7D%7B2%5Csigma%5E2%7D%20%20%7D%20%7D%0A%3D%0Alog%20e%5E%7B%20%5Cfrac%7B%5Csqrt%202%20y_I%7D%20%7B%5Csigma%5E2%7D%20%7D%20%3D%20%20%5Cfrac%7B%5Csqrt%202%20y_I%7D%7B%5Csigma%5E2%7D


用同样的方法,可以得出:

log%20%5Cfrac%20%7B%20%20%20p(y%7Cb_1%3D0)%20%7D%7B%20p(y%7Cb_1%3D1)%20%20%7D%0A%3D%20%20%0Alog%0A%20%20%20%20%5Cfrac%0A%20%20%20%20%20%20%20%20%20%7Be%5E%7B%20%20-%5Cfrac%7B(y_Q-%5Cfrac%7B%5Csqrt%202%7D%7B2%7D)%5E2%7D%7B2%5Csigma%5E2%7D%20%20%7D%20%7D%0A%20%20%20%20%20%20%20%20%20%7B%20e%5E%7B%20%20-%5Cfrac%7B(y_Q%2B%5Cfrac%7B%5Csqrt%202%7D%7B2%7D)%5E2%7D%7B2%5Csigma%5E2%7D%20%20%7D%20%7D%20%20%0A%3D%20log%20e%5E%7B%20%5Cfrac%7B%5Csqrt%202%20y_Q%7D%7B%5Csigma%5E2%7D%20%7D%0A%3D%20%20%5Cfrac%7B%5Csqrt%202%20y_Q%7D%7B%5Csigma%5E2%7D


对于 QPSK , 我们最终得到一个比较简洁的关系,即两个比特的对数似然比分别直接对应接收到复数的实部和虚部!

对于 BPSK,因为只有一个 比特,我们直接记为 b,现在快速列出来相关的推导过程:

LLR(b)%20%3D%20log%20%5Cfrac%20%7B%20%20%20p(y%7Cb%3D0)%20%7D%20%20%7B%20%20%20%20p(y%7Cb%3D1)%20%20%7D%20%20%5C%5C%0A%3Dlog%20%5Cfrac%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%7B%20p(y_I%20%2B%20j%20y_Q%20%7C%201%20%2B%200j)%20%20%20%7D%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%7B%20p(y_I%20%2B%20j%20y_Q%20%7C%20-1%20%2B%200j)%20%20%20%7D%20%20%20%5C%5C%0A%3Dlog%20%5Cfrac%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%7B%20p(y_I%7C1)%20p(%20y_Q%20%7C0)%20%7D%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%7B%20p(y_I%7C-1)%20p(%20y_Q%20%7C0)%20%7D%20%20%20%5C%5C%0A%3Dlog%20%5Cfrac%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%7B%20%20e%5E%7B%20%20-%5Cfrac%7B(y_I-1)%5E2%7D%7B2%5Csigma%5E2%7D%20%7D%20%20%20%20%20%20%20%20%20%20%20%20%20%7D%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%7B%20%20e%5E%7B%20%20-%5Cfrac%7B(y_I%2B1)%5E2%7D%7B2%5Csigma%5E2%7D%20%7D%20%20%20%20%20%20%20%20%20%20%20%20%20%7D%20%20%5C%5C%0A%3D%5Cfrac%7B2%20y_I%7D%7B%5Csigma%5E2%7D

而对于 8-PSK,则没有这么优美的结果,由于内容较多,我们放到下一篇文章中去推导。
https://www.bilibili.com/read/cv18034533


高斯白噪声信道下对数似然比的推导--- QPSK+BPSK的评论 (共 条)

分享到微博请遵守国家法律