null第三章:信道容量 第三章:信道容量 null信息论对信道研究的
内容
财务内部控制制度的内容财务内部控制制度的内容人员招聘与配置的内容项目成本控制的内容消防安全演练内容
:
信道的建模:用恰当的输入/输出两个随机过程来描述
信道容量
不同条件下充分利用信道容量的各种办法null什么是信道?
信道是传送信息的载体——信号所通过的通道。
信息是抽象的,信道则是具体的。比如:二人对话,二人间的空气就是信道;打电话,电话线就是信道;看电视,听收音机,收、发间的空间就是信道。信道的作用
在信息系统中信道主要用于传输与存储信息,而在通信系统中则主要用于传输。null研究信道的目的
实现信息传输的有效性和可靠性
有效性:充分利用信道容量
可靠性:通过信道编码降低误码率
在通信系统中研究信道,主要是为了描述、度量、
分析
定性数据统计分析pdf销售业绩分析模板建筑结构震害分析销售进度分析表京东商城竞争战略分析
不同类型信道,计算其容量,即极限传输能力,并分析其特性。
通信技术研究--信号在信道中传输的过程所遵循的物理规律,即传输特性
信息论研究--信息的传输问题(假定传输特性已知)
信道分类与描述信道分类与描述信道分类
从工程物理背景——传输媒介类型;
从数学描述方式——信号与干扰描述方式;
从信道本身的参数类型——恒参与变参;
从用户类型——单用户与多用户;nullnullnull 信道可以按不同的特性进行分类,根据输入和输出信号的特点可分为: 波形信道 信道的输入和输出都是时间上连续,并且取值也连续的随机信号。 半连续信道 输入序列和输出序列一个是离散的,
而另一个是连续的。 连续信道 信道的输入和输出都是时间上离散、取值连续的随机序列,又称为模拟信道 离散信道 信道的输入和输出都是时间上离散、取值离散的随机序列。离散信道有时也称为数字信道。null无记忆信道X的各时刻取值相互独立。有记忆信道 X的各时刻取值互相有关联。 根据统计特性,即转移概率p (yx )的不同,信道又可分类为: null卫星通信短波通信nullnull其中: c1为连续信道,调制信道;
c2为离散信道,编码信道;
c3为半离散、半连续信道;
c4为半连续、半离散信道。信道划分是人为的,比如null一般信道的数学模型转移概率矩阵输入输入信道模型null第二节 单符号离散信道的信道容量null输入输出对应关系:[P] → 信道矩阵=1特点:(1)0≤ p(bj/ai) ≤ 1
(i=1,2,…,n;j=1,2,…,m)(2)nullp (b1 a1 )a1a2b1b2anbmp (bm an )单符号离散无记忆信道null1. DMC信道的容量
信道容量I(X;Y)=H(X)-H(X/Y)=H(Y)-H(Y/X) 信道上每传送一个符号(每使用一次信道)所能携带的比特数,即比特/符号(bits/symbol或 bits/channel use)信息传输率:R=I(X;Y)(用一个符号所占的平均时间多单位时间)或:R= r I(X;Y) (1秒传输r个符号)null这里存在两个问题,
一是I(X;Y)的最大值是否存在?
二是如果最大值存在,怎样才能找到它? 给定转移概率矩阵P后,平均互信息I(X;Y)是概率矢量Px的上凸函数。3.2.2几种特殊离散信道的信道容量3.2.2几种特殊离散信道的信道容量1.一一对应一.离散无噪信道的信道容量:C=log nnull2.具有扩展性能C=log nnull3.归并性能C=log mnull二.强对称离散信道的信道容量:输入分布满足均匀分布null三. 对称离散信道的信道容量:对称信道输入分布满足均匀分布nullnull四. 准对称离散信道的信道容量:对称信道准对称信道null 如果信道转移概率矩阵P中,每一行元素都是另一行相同元素的不同排列,则称该信道关于行(输入)对称。 如果信道转移概率矩阵P中,每一列元素都是另一列相同元素的不同排列,则称该信道关于列(输出)对称。 如果信道转移概率矩阵P可按输出符号集Y分成几个子集(子矩阵),而每一子集关于行、列都对称,称此信道为准对称信道。null例如:下列各信道即为准对称信道。 null例:求所给信道的信道容量 :
解:该信道为准对称信道(判)
⑴ 先求p(yj) :p(y1) =1/2×(0.7+0.2) = 0.45=P(y3)
P(y2) =1/2×(0.1+0.1)=0.1
null例:求所给信道的信道容量 :
解:该信道为准对称信道(判)
⑴ 先求p(yj) :p(y1) =1/2×(1/2+1/4) =3/8=P(y2)
P(y3)=1/2×(1/8+1/8)=1/8= P(y4)
∴
null3.3 多符号离散信道的信道容量第一时刻:null第 二时刻:第N时刻:null一、输入符号集:二、输出符号集:null三、传递特性:nullnull3.3.2离散无记忆信道的N次扩展信道 则称该信道为离散无记忆信道的N次扩展信道。若多符号离散信道的传递概率满足:null无记忆信道null例1. BSC(二进制对称信道)1. 输入:null2. 输出:3. 传递概率:nullnullnullnullnullN次扩展无记忆信道的容量null定理 若信道的输入和输出分别是N长序列X和Y,且信道是无记忆的,则
当信源也是无记忆时等号成立。 null 对于N次扩展信道,如果信道的输入序列中的每一个随机变量均取值于同一信源符号集并且具有同一种概率分布(取自于同一概率空间),通过相同的信道传送到输出端,则输出序列中的每一个随机变量也取自同一符号集,并且具有相同的概率分布。 null由定理,输入、输出序列长为N的离散无记忆信道 当信源无记忆,同时输入序列中的每一个随机变量的分布各自达到最佳输入分布时,N次扩展信道达到信道容量NC。null例1.nullnull三、独立并联信道的信道容量
若将上述结果加以推广:
输入/输出随机序列取自不同符号集。
信道仍为无记忆信道。
输入端各随机变量统计独立。
则有: