调制模式下的信道容量限

在如下这个信道容量公式中，其前提是没有对输入端做任何约束，能达到这个容量的时候，输入端是连续的高斯分布：

但是，在实际系统中，我们用的都是离散的输入，即是经过调制之后的离散的数据，那么在这种情况下，其信道容量的上限是多少呢？不同的信噪比条件下，其信道容量的上限是多少呢？



我们从信道容量的最基本公式出发，我们假定输入端的调制后的数据是等概率分布的，则信道容量就是：

根据基本的信息论知识，我们对公式 (2) 进一步推导有：

其中 H(X) 很容易计算：

所以，关键是计算 H(X|Y) 这个条件熵，根据信息论的基本知识有：

公式 (5) 可以用蒙特卡洛算法来计算这个积分，所以，关键是要计算出来 H(X|Y=y) 这个概率.

公式 (6) 中：

因为 x 是等概率分布的，所以，公式 (7) 中的  与 x 的具体取值无关，因此

所以，可以把 p(y|x) 对每个 x 计算出来，然后 归一化之后，就是  p(x|y) 的概率。

matlab 代码：