230 likes | 389 Views
通信原理第二讲. 李晓红 www.lxh.lctu.cn. 1.4 信息及其度量. 恒量信息多少的物理量. 一 . 信息量. 1. 原则 :. ① 信息量是概率的函数. ②P(x) 越小,. I 越大. P(x). 0. I. P(x) 越大,. I 越小. P(x). 1. I. 0. ③ 若干个独立事件所含的信息量 = 每个独立事件所含信息量的和 (可加性). 2. 结论. 单位:. a=2 bit (比特). a=e nit (奈特). a=10 Hartly (哈特莱).
E N D
通信原理第二讲 李晓红 www.lxh.lctu.cn
1.4信息及其度量 恒量信息多少的物理量 • 一.信息量 1.原则: • ①信息量是概率的函数 ②P(x)越小, I越大 P(x) 0 I P(x)越大, I越小 P(x) 1 I 0
③若干个独立事件所含的信息量=每个独立事件所含信息量的和(可加性)③若干个独立事件所含的信息量=每个独立事件所含信息量的和(可加性) 2.结论 单位: a=2 bit (比特) a=e nit (奈特) a=10 Hartly (哈特莱)
(1)、单一符号出现时的信息量计算 • 【例1 】 已知二元离散信源只有“0”、“1”两种符号,若“0”出现概率为1/3,求出现“1”所含的信息量。 例2:消息A和B出现的概率分别为0.765和0.023,分别求出它们的信息量。
例3:设二进制离散信源,以相等概率发送数字信号0或者1,计算每个符号出现时的信息量。例3:设二进制离散信源,以相等概率发送数字信号0或者1,计算每个符号出现时的信息量。 结论:对于等概的二进制波形,其每个符号 (码元)所包含的信息量为1bit 例4:四进制离散信源,等概发送,求平均每个符号所含的信息量 同理,8进制独立等概,每一波形出现时的信息量?
对于离散信源,M个波形等概率(P=1/M)发送,且每一个波形的出现是独立的,即信源是无记忆的,则传送M进制波形之一的信息量为对于离散信源,M个波形等概率(P=1/M)发送,且每一个波形的出现是独立的,即信源是无记忆的,则传送M进制波形之一的信息量为
[例5]一信息源由4个符号0,l,2,3组成,它们出现的概率分别为3/8,l/4,l/4,l/8,且每个符号的出现都是独立的。试求某个消息20l02013021300120321010032l0l0023l020020l0312032l00l202l0的信息量。[例5]一信息源由4个符号0,l,2,3组成,它们出现的概率分别为3/8,l/4,l/4,l/8,且每个符号的出现都是独立的。试求某个消息20l02013021300120321010032l0l0023l020020l0312032l00l202l0的信息量。 在此消息中,0出现 23次,l出现 14次,2出现13次,3出现7次,消息共有 57个符号。 其中出现 0的信息量为 23log28/3= 33 bit, 出现 1的信息量为 14log24= 28 bit, 出现 2的信息量为 13log24=26 bit, 出现3的信息量为7log28=21 bit, 故该消息的信息量为 I=33+28+26+21=108bit 平均(算术平均)一个符号的信息量应为
(2)、对于由一串符号构成的消息信息量的计算(2)、对于由一串符号构成的消息信息量的计算 假设各个符号的出现是相互独立的,根据 信息量相加的概念,整个消息的信息量
(3)离散信源的平均信息量(信源熵) 每个符号所含信息的平均值(平均信息量)(信源熵):
【例题6】 求例题5中消息的平均信息量。 • 解 因为消息有57个符号,所以该消息所含信息量为 I=57×1.906≈108.64bit
不同的离散信息源可能有不同的熵值。 • 期望熵值愈大愈好。 信息源的最大熵发生在每一符号等概率出现时 即 P(xi)= l/n,i= l,2,…,n, 最大熵值等于
例7:某信源的符号集由A,B,C,D,E,共5个符号组成,各符号间独立出现例7:某信源的符号集由A,B,C,D,E,共5个符号组成,各符号间独立出现 • (1)若他们出现的概率分别为7/16,5/16,3/16,1/32和1/32,试求该信源符号的平均信息量 • (2)若各符号等概出现,计算该信息源符号的平均信息量
1.5 主要性能指标 在设计或评价通信系统时,用主要性能指标来衡量其质量的优劣。 一:通信系统的性能指标(6性): 有效性、可靠性、适应性、标准性、经济性及维护使用等等。 有效性:是指消息传输的“速度”问题; 可靠性:指消息传输的“质量”问题。
二、模拟通信系统的性能指标 传输频带宽度 • 1、有效性: 占相同带宽下的传信能力大小来衡量 2、可靠性: 用接收端最终输出的信噪比衡量 均方误差:是衡量发送的模拟信号与接收端复制的模拟信号之间误差程度的质量指标。 均方误差越小,说明复制的信号越逼真。
三、数字通信系统主要的性能指标: 有效性:传输速率 可靠性:差错率 1、传输速率 ①码元传输速率RB(码元速率、传码率,符号传输速率,波特率)。 每秒钟传送码元的数目 单位为“波特” (Baud) , “B” 。 • 数字信号有多进制和二进制之分,但传码率与进制数无关,只与传输的码元长度T有关:
例8:某2进制调频波,一个“1”或“0”的 持续时间为T=833×10-6秒,求RB • ②信息传输速率Rb(信息速率, 传信率、比特率)。 单位时间内传递的信息量 单位:比特/秒,bit/s ,或 b/s ,或bps。
例9:若某信息源每秒钟传送1200个符号,而每一符号的平均信息量为lbit,求该信息源的信息速率。例9:若某信息源每秒钟传送1200个符号,而每一符号的平均信息量为lbit,求该信息源的信息速率。 ★码元速率与信息速率在数值上的关系 在二进制下,码元速率与信息速率在数值上 相等,只是单位不同
例10:码元速率为1200B,采用8进制等概传输时,信息速率为多少?采用二进制传输时信息速率又是多少?例10:码元速率为1200B,采用8进制等概传输时,信息速率为多少?采用二进制传输时信息速率又是多少? 例11:某信源的符号集由A,B,C,D,E 组成,每一符号独立出现,其出现的概率为1/4, 1/8,1/8,3/16,5/16,信源以1000B 速率传送消息 (1)求传送一小时的信息量 (2)求传送一小时的最大信息量
例12:已知二进制信号在3min内共传送了7200个码元例12:已知二进制信号在3min内共传送了7200个码元 问(1)其码元速率RB2和信息速率Rb2 (2)如果码元宽度保持不变,但改为8进制数字信号, 其RB和Rb为多少? • 例13某信源的符号集由A,B,C,D所组成,各符号间独立。 • (1)若每个符号的时间宽度为2ms,计算: • ①各符号等概出现时的符号速率和平均信息速率 • ②各符号出现概率分别为1/16,3/6,5/16,7/16时的符号速率和平均信息速率 • (2)若每个符号均以二进制脉冲编码A-00,B-01,C-10,D-11,且每个脉冲宽度为1ms,重复(1)计算
单位频带内的传输速率 • ③频带利用率 频带利用率越大,有效性越好
①误码率(码元差错率,误符号率) (Symbol Error Rate, SER) • 2、差错率(误码率和误信率) 指发生差错的码元数在传输总码元数中所占 的比例 即码元在传输系统中被传错的概率 单位时间内错误接收的码元数/ 单位时间内传输的总码元数
误信率(信息差错率,误比特率)(Bit Error Rate, BER ) • Pb是指发生差错的比特数在传输总比特数中 • 所占的比例 (码元的信息量在传输系统中被丢失的概率) • 在二进制中有: Pb=Pe
例14:已知:某四进制数字信号传输系统的信息速率为2400bit/s,在半小时内共接收到216个错误码元,试计算系统Pe的值例14:已知:某四进制数字信号传输系统的信息速率为2400bit/s,在半小时内共接收到216个错误码元,试计算系统Pe的值 作业:1-2,1-4,1-5,1-6, 1-7,1-9 请自己独立完成作业