对称DMC信道的信道容量公式
什么是对称DMC信道？
对称离散记忆信道（Symmetric Discrete Memoryless Channel，SDMC），也称为对称离散信道（Symmetric Discrete Channel，SDC），是指发送方和接收方拥有相同的码本和概率分布。
在对称DMC信道中，只要编码器和解码器之间共享的信息是相同的，即使使用不同的编码方案，我们也可以最大化通道的信道容量。如果说一个给定的SDC信道容量是C，那么在对称的SDC信道中，容量保持不变。
如何计算对称DMC信道的信道容量？
对称DMC信道的信道容量公式是由Gelfand和Pinsker提出的仿射积分公式，也被称为GP公式。该公式利用了对称信道刻画以及对称形式的刻画来简化信道容量的计算。
GP公式的数学推导：
对于对称离散信道输出字母表大小为M，输入字母表大小为N，概率分布矩阵为P(Y|X)，对称离散信道的容量公式为：
C = sup(I(X;Y))
其中，X和Y分别表示信道输入和输出的随机变量，I(X;Y)表示X和Y之间的互信息。
首先对m定义：
m = max(p(Y))
若Y为信道输出随机变量，而p(Y)表示其概率分布，则m为概率分布中最大元素的值。我们的目标是找到一组概率分布Q(x,y)，使得：
1. Q(x,y)的边缘分布分别等于所给信道输入和输出信号的概率分布，即Q(x) = p(x)和Q(y) = p(y)；
2. 对于任意x∈{1,…,N}，y≠y^∈{1,…,M}，使得q(x,y)≠0和q(x,y^)=0，那么q(x,y)≥q(x,y^)。
这样，我们就得到了下面的GP公式：
C = logN − HL(μ∗)
其中，μ∗是一个由信道的输出概率分布统计量m计算得到的常数，HL(μ)为熵函数的上凸包。
GP公式的应用：
由GP公式可知，在对称DMC信道中，通过寻找最优概率分布，我们可以将信道容量最大化，从而得到该信道的最大传输速率。
同样，GP公式也可以应用于对称连续信道（SDC）和对称高斯信道（SGC）等其他类型的对称信道中。
总之，在对称DMC信道模型中，GP公式具有简洁有效的计算代价，可以为我们提供一个优秀的通信工具。
