对称dmc信道的信道容量公式(探讨对称DMC信道的信道容量公式)

探讨对称DMC信道的信道容量公式
了解DMC信道与信道容量
理解对称DMC信道的信道容量公式
对于对称 DMC 信道,Shannon 在 1949 年提出了一个经典的信道容量公式。设信道的信号集合大小为 M,噪声集合大小为 N,信噪比为 r=1/p,即在每个收到的信号中,有 1 个来自传输的比特位而 p-1 个来自噪声集合。考虑两个恰好相邻排列式之间的距离定义为它们在两个集合中第一次出现与最后一次出现之间的 Hamming 距离。我们定义条件概率矩阵 P(i|j)表示从集合 j 中接受一个符号 i 的条件概率,其中 i 属于信号集合,j 属于噪声集合。则对于对称 DMC 信道,其信道容量 C 可以用如下公式来计算:C= max_{p}{I(p)} =max_{p} \\frac{1}{n} \\log_2 (\\sum_{i=1}^{M} Q_i^n)}其中,Q 表示条件概率向量中,噪声符号的加权平均,n 为编码字母个数。该公式很难通过直接求解来得出,但可以通过构造具有对称特征的矩阵,将公式简化为求得矩阵的特征值。具体来说,可以构造一个幂矩阵 Q^n,其中 Q 是条件概率矩阵的转置,其 i,j 元素表示从集合 j 中接受一个符号 i,之后用均方误差(MSE)来计算 Q^n 矩阵经过奇异值分解(SVD)后的最小特征值,最终利用这个特征值计算出信道容量。应用对称DMC信道的信道容量公式