通信原理第八章-离散信道及信道容量|一般离散信道的信道容量

第八章离散信道及信道容量

信道，顾名思义就是信号的通道。图8.1中位于调制器和解调器之间的信道指用来传输电信号的传输介质，如电缆，光缆，自由空间等，我们把这样的信道称为狭义信道。狭义信道的输入为波形信号，输出为连续信号。还有一种定义即凡是信号经过的路径都称为信道，这就是广义信道的概念。如图8.1所示，由调制器，信道和解调器构成了一个广义编码信道。

编码信道的输入和输出均为数字信号，因此，我们也将这类信道称为离散信道。

编码信道

图8.1信道的定义

本章首先讨论离散信道的统计特性和数学模型，然后定量地研究信道传输的平均互信息及其性质，并导出信道容量及其计算方法。

8.1离散信道的数学模型及分类

我们已知信源输出的是携带着信息的消息，而消息必须首先转换成能在信道中传输或存储的信号，然后通过信道传送到收信者。信道会引入噪声或干扰，它使信号通过信道后产生错误和失真。故信道的输入和输出信号之间一般不是确定的函数关系，而是统计依赖的关系。离散信道的数学模型一般如图8.1所示。图中输入和输出信号用随机矢量表示。输入信号x=（x1，…，xi，…，xn），输出信号y=（y1，…，yi，…，yn），其中i=（1，…，n）表示时间或空间的离散值。而每个随机变量xi和yi又分别取值于符号集a={a1，…，ar}和b={b1，…，bs}，其中r不一定等于s。图中条件概率p=（y|x）描述了输入信号和输出信号的依赖关系，它由调制器、信道和解调器的性能共同决定。

图8.1离散信道模型x

y

根据信道的统计特性即条件概率p（y|x）的不同，离散信道又可分为三种情况。

（1）无干扰（无噪）信道。信道中没有随机性的干扰或者干扰很小，输出信号y与输入信

号x之间有确定的一一对应的关系。即，y=f（x）

1y=f（x）并且p（y|x）={（8.1）0y≠f（x）

（2）有干扰无记忆信道。实际信道中常有干扰（噪声），即输出符号与输人符号之间无确

定的对应关系。若信道任一时刻输出符号只统计依赖于对应时刻的输人符号，而与非对应时刻的输入符号及其他任何时刻的输出符号无关，则这种信道称为无记忆信道。满足离散无记忆信道的充要条件是

p（y|x）=p（y1y2…yn|x1x2…xn）=∏ni=1p（yi|xi）（8.2）

（3）有干扰有记忆信道。这是更一般的情况，即有干扰（噪声）又有记忆。实际信道往往

是这种类型。例如在数字信道中，由于信道滤波使频率特性不理想时造成了码字之间的干扰。在这一类信道中某一瞬间的输出符号不但与对应时刻的输入符号有关，而且还与此以前其他时刻信道的输入符号及输出符号有关，这样的信道称为有记忆信道。这时信道的条件概率p（y⁄x）不再满足式（8.2）。

下面我们着重研究离散无记忆信道，并且先从简单的单符号信道人手。设单符号离散信

道的输入变量为x，可能取值的集合为{a1，a2，…，ar}；输出变量为y，取值于{b1，b2，…，bs}。并有条件概率

p（y|x）=p（y=bj|x=ai）=p（bj|ai）i=（1，2，…，r;j=1，2，…，s）

这一组条件概率称为信道的传递概率或者转移概率。

因为信道中有干扰（噪声）存在，若信道输入为x=ai时，输出是哪一个符号事先无法

确定。但信道输出一定是b1，b2，…，bs中的一个。即有

s

∑p（bj|ai）=1i=（1，2，…，r）（8.3）

j=1

由于信道的干扰使输入的符号x，在传输中发生错误，所以可以用传递概率p（bj|ai）（i=

（1，2，…，r;j=1，2，…，s）来描述干扰影响的大小。因此，一般简单的单符号的离散信道的数