第六讲 : 概率模型

数学建模理论与实验 第六讲: 概率模型 ---水鹏朗拉普拉斯：“生活中最重要的问题，绝大部分其实只是概率问题。”

6.1 必然性(Causality)与或然性(Randomness) • 或然性(随机性）：在条件给 • 定的情况下，没有唯一确定的 • 结果出现，有多个可能的结果 • 出现，而每个结果的出现是随 • 机的。 • 概率论和统计学是描述这种或然性的主要学科方向。 • 必然性（确定性）：在条件给 • 定的情况下，结果出现是必然的 • 、唯一的。 • 物理定律、数学定理很多都是 • 描述这种必然性的。 • 必然性与或然性不是一对矛盾体，而是认识现实世界可以相互辅助的工具。 • 必然性和或然性经常是可以相互转化的； • 概率统计是从或然性中发现必然性规律的理论和方法。老子“道德经”：“福兮祸所伏，祸兮福所倚” 爱因斯坦：“波尔，上帝在掷骰子吗？”波尔：“爱因斯坦，别去指挥上帝应该怎么做！”

6.1 必然性与或然性 必然性中的或然性一门大炮。同批次的炮弹，相同的出射角，炮弹也不是总落在同一点，为什么？或然性：相同的初始条件产生的结果不唯一且具有随机性。原因：风速的不确定性(不考虑）和同一批次炮弹出膛速度上的差异性。炮弹出膛速度v可以看成是在区间上随机变化的一个量，因此d也是随机变化的。一枚炮弹以初速度v,与地面夹角射出，确定炮弹从原点(射出点)到弹着点的距离d.从牛顿定律可以得到：重力加速度必然性：在初速度和出射角给定的情况下，炮弹的弹着点总是相同的。(给定条件情况下，结果唯一确定）。事实上，即使同 ---弹这点最大偏差 ---平均射程必然性与或然性的结合能更好描述物理现象！

6.1 必然性与或然性 或然性中的必然性掷质地均匀的正方体骰子一次，“1-6”点都有可能出现，且那种结果出现是不确定的(或然性）。如果掷骰子30000次，那么“1-6”点出现的次数都大约是5000次(或然性中包含的必然性结论）掷一枚质地均匀的硬币一次，“正面朝上”和“反面朝上”都有可能出现，出现的情况完全是随机的(或然性）。赌神如果同时抛洒10000枚质地均匀的硬币或把一枚质地均匀的硬币掷10000次，那么“正面”和“反面”出现的次数都是约5000次。或然性中的必然性结论。（大数定理）赌博不存在“神、圣、侠”的传奇，只存在“老千”和“赌鬼”。学好概率论，是预防赌博的“利器”。或然性研究就是从或然中发现必然性的规律！

6.2 离散型随机变量 设随机变量x取离散的值(有限个或可列多个) 离散型随机变量的连续化描述概率密度函数(Probability density function, pdf) 假设发生的概率是概率分布(Probability distribution) 称作是随机变量x的概率质量函数(Probability mass function) -函数不是传统意义上的函数，是一个广义函数，满足：

6.2 离散型随机变量 均值表明了随机变量取值的平均值，而方差表明了随机变量取值在均值附近的散布程度。方差越小，取值在均值附近分布越集中，方差越大，取值在均值附近分布越分散。离散型随机变量的均值与方差随机变量的函数 f(x)是一个确定的函数。随机变量y是取值在的离散型随机变量。数学期望

6.2 离散型随机变量 当p=q=0.5时，对应于掷均匀硬币的游戏，“出现正面”记随机变量的值为1，出现反面记随机变量的值为0. 均值0.5，方差0.25. 常用离散型随机变量分布伯努利(Bernoulli)分布概率质量函数概率质量函数，p=0.8 概率分布概率分布

6.2 离散型随机变量 常用离散型随机变量分布 n=10,p=0.3,q=0.7的二项式分布二项式分布概率质量分布二项式展开

6.2 离散型随机变量 常用离散型随机变量分布二项式分布当p=q=0.5时，二项式分布等价于掷n枚质地均匀的硬币或把一枚质地均匀的硬币掷n次，正面出现的次数(随机变量的取值k).下面考虑正面出现接近一半的的概率。随着投掷次数的增加，正面出现次数越n/2的概率越来越接近1. 伯努利定理：假设在单次试验中，事件A发生的概率是p, 那么在n次独立试验中事件A发生的次数k满足：

6.2 离散型随机变量 常用离散型随机变量分布几何分布 p=0.4的几何分布泊松分布P() =2的泊松分布

6.3 离散概率模型举例 变量、假设、与目标例1：一家工厂生产各种类型的二极管，质量控制工程师试图保证出厂前次品被检测。估计有0.3%的二极管是次品（次品率）。方案1：测试每个二极管，单个二极管测试的代价0.05元。方案2：所有二极管被分成n个一组串联测试。测试成功则所有二级管都是好的，测试代价0.04+0.01n元被；测试失败，则组内每个二极管必须被逐一测试。问题：找出最优的测试方案。 • 变量 • n=每个测试组二级管的数目(决策变量) • C=一组的测试代价 • A=每个二极管的平均测试代价 • 假设： • n=1,A=0.05 • n>1 • (1).如果组内的n个二级管都是正品， • 串联测试一次过关，代价0.04+0.01n; • (2).如果组内的n个二极管至少有一个 • 是坏的，则每一个需重新测试，测试代价(0.04+0.01n)+0.05n; • 平均代价A=C/n. • 目标：发现使得A最小的n.

6.3 离散概率模型举例 • 对于单个二极管，正品被记做“1”，次品被记做“0”。随机变量x服从伯努利分布： • 设从二级管中随机抽取n个购成一组进行测试，n个中正品的数目k可以看做随机变量 • y=服从二项式分布： • 随机变量C是随机变量y的 • 函数 • 随机变量C的数学期望

6.3 离散概率模型举例 目标函数写成决策变量的函数数学和数学建模的灵活使用会达到“事半功倍” 的效果！求目标函数的最小值点最优分组时每组由n=17个二极管构成，每个二极管的最小平均测试代价是 0.0148元。

6.3 连续型随机变量 设随机变量x在实直线上取值均值与方差随机变量x的分布函数定义为条件概率当是可微分的函数时，它的导函数称作随机变量x的概率密度函数：反映了事件B 发生的情况下事件A发生的概率

6.3 连续型随机变量 例:设x是一个连续型随机变量，具有分布函数是F(x),事件写出条件概率Pr{A|B}的表达式条件概率例:在掷骰子的游戏中，事件 B={点数是偶数}={2,4,6} A={点数不超过3}={1,2,3} A and B={点数是不超过3的偶数}={2}

6.3 连续型随机变量 常用的连续型概率密度函数 1.均匀分布均值密度函数概率密度函数方差分布函数概率分布函数在离散信号到数字信号的转化中，量化误差服从均匀分布其中a是均匀量化的量化间隔。例如实数x被量化为整数

6.3 连续型随机变量 常用的连续型概率密度函数密度函数 2.正态或高斯分布方差均值概率密度函数分布函数概率分布函数高斯或正态分布是非常有用的概率分布： • 物理解释：当一个量的随机性是由众多因素引起，并没有某几个因素占优时，一般服从正态分布(中心极限定理 CLT) • 正态分布在线性系统下具有类型不变性。

6.3 连续型随机变量 常用的连续型概率密度函数密度函数 3.指数分布分布函数概率密度函数概率分布函数均值方差

6.3 连续型随机变量 常用的连续型概率密度函数密度函数 4.Gamma分布概率密度函数概率分布函数方差均值

6.3 连续型随机变量 常用的连续型概率密度函数密度函数 5.对数正态分布概率密度函数 6.柯西分布这两个分布都由于 X趋于无穷大时衰减太慢，均值和方差都不存在。？无穷限积分的收敛性条件。概率密度函数

6.4 直方图与概率分布拟合 这是一幅SAR图像，它的灰度值服从什么分布？概率分布建模

6.4 直方图与概率分布拟合 Trees Barbara 一幅人物照片，一幅世界名画，它的灰度值服从什么分布？

6.4 直方图与概率分布拟合 样本直方图设x(n)，n=1,2,…,N是某个未知分布的随机变量x的样本。假设样本的取值范围把该区间分成M个小区间定义函数样本直方图的性质图像灰度样本直方图计算有限集合中元素的数目样本直方图

6.4 直方图与概率分布拟合 样本直方图示例直接对图像的灰度概率分布建模似乎很难找到典型的概率分布类型

6.4 直方图与概率分布拟合 单层小波分解

6.4 直方图与概率分布拟合 直方图到概率密度拟合直方图经验的概率密度函数

6.4 直方图与概率分布拟合 直方图到概率密度拟合从形状观察，经验概率密度函数接近正态分布关键是估计参数方法2：样本均值与方差方法1：曲线拟合方法

6.5 概率建模举例 例1：出租车公司车辆调配问题有一家出租小汽车的公司在西安和咸阳分别设有两个分公司。每个分公司可以出租小汽车给游客用于在关中地区游玩使用。从西安或咸阳分公司租的车可以还回西安或咸阳任一分公司。公司运行一年的数据统计记录： • 从西安租的车，80%还回西安分公司，20%还回咸阳分公司； • 从咸阳租的车，70%还回西安分公司，30%还回咸阳分公司；问题：1. 假如开始时，所有200台车都在西安分公司，运行一段长的时间后，西安和咸阳分公司各有约多少台车？ 2.公司新增200台新车，应如何调配？

6.5 概率建模举例 两状态Markov过程 n时刻在状态A的概率状态A 状态B n时刻在状态B的概率状态转移方程初始状态 n+1时刻：A B 状态转移矩阵稳态概率 n时刻: A B 稳定状态的概率往往是实际应用中感兴趣的东西

6.5 概率建模举例 问题求解状态转移方程 n时刻车在西安的百分比 n时刻在咸阳车的百分比初始状态 n+1时刻：A B 状态转移矩阵计算稳态概率 n时刻: A B

6.5 概率建模举例 问题回答：经过一段时间运行后，西安约有156台出租车，而咸阳约有44辆出租车。新购200辆出租车也应按上面比例分别放在西安和咸阳分公司。

6.5 概率建模举例 例2：预测美国能从“两党轮流执政”变为“三党轮流执政”吗？ • 美国目前是“民主”和“共和”两党轮流执政，每四年进行一次总统选举。 • 根据美国各周在前10届选举中，“共和”“民主”和“独立参数人”民众投票在相邻两届的投票选民的转移概率调查，得到下面转移概率矩阵：下届本届共和民主独立共和民主独立第一列：本届投“共和党”的选民中在下届有75%仍支持“共和党”，而5%的转而支持 “民主党”，20%转而支持“独立参选人”。

6.5 概率建模举例 状态转移图下届本届共和民主独立独立参选人共和党民主党共和民主独立

6.5 概率建模举例 按照目前的调查数据，3届 12年的时间后，独立参选人的选票将超过“民主党”, 10 届选举后将接近稳态，共和党得票率56%，民主党19% ，独立参选人25%。模型不精确的地方： • 转移矩阵随时间改变； • 竞选经费左右选情； • 偶发事件改变结果。差点成为第一个美国女总统美国第一个黑人总统民主选举，一切皆有可能！

6.5 概率建模举例 “概率”代表着“机会” 和谐社会意味着“每个人都有近似均等的机会” 而不是“近似均等的财富”

6.5 概率建模举例 例3:“老千”的秘密？一个骰子由六个面，每个面上分别标着数字“1,2,3,4,5,6”点，把骰子放在罐中反复摇晃，试用概率模型描述骰子朝上一面的点数演化的过程。揭示“老千”的秘密所在？设第k次摇晃后骰子朝上的点数是“1,2,3,4,5,6”的概率是骰子的初始状态是人随机放置的，因此6个面朝上的概率是相等的，即

6.5 概率建模举例 状态转移矩阵一个骰子的状态转移概率是指一次摇晃翻转中从“一个点”转向“另一个点”的概率。状态转移矩阵取决于骰子的结构本身。对于均匀骰子，无论翻转多少次，由谁操作，6个点出现的概率总是相等的。没人能拿着均匀骰子玩出“老千”。

6.5 概率建模举例 改变状态转移矩阵-“老千”的秘密 “老千”的秘密在于改变骰子的结构，改变状态转移矩阵。例如希望6点出现的概率高，可以在骰子“1”点面内部加铅块等。下面计算随着摇晃翻转次数的增加，“6”点出现的概率的变化情况。

6.5 概率建模举例 改变状态转移矩阵-“老千”的秘密经过几次摇晃翻转后，“6”点出现的概率稳定在0.6428左右。通过多次摇晃翻转虽然可以提高“6”点出现的概率，但还不能达到“必赢”的境界。并不是拿着不公平的骰子就能变成“老千”。“老千”=“不公平的骰子”+“听声辨点数能力”

6.6 雷达目标检测中的概率模型 雷达从发射的N个脉冲的回波中，接收到某距离门(固定时延)的N个观测值问题：如何从观测值中判决是否该距离门有目标？发射脉冲序列雷达接收回波在一个距离单元中脉冲串的回波序列

6.6 雷达目标检测中的概率模型

6.6 雷达目标检测中的概率模型 二元假设检验问题目标回波备择假设 Alternative Hypothesis 观测接收噪声零假设 Null Hypothesis 正确检测概率漏检概率错误概率正确概率虚警概率正确排除概率

6.6 雷达目标检测中的概率模型 随机向量的概率分布与密度密度联合分布函数联合概率密度函数独立性：如果随机变量的联合概率密度函数等于各随机变量概率密度函数的乘积。

6.6 雷达目标检测中的概率模型 所谓设计一个检测器，就是在观测空间中找出一个区域作为存在目标的判决区域： Neyman-Pearson准则给定虚警概率的情况下，找出判决区域使得检测概率是最大的---最优检测器优化问题一般介于10^(-3)到10^(-5)之间

6.6 雷达目标检测中的概率模型 对于固定的乘子，使得函数 F()最大的区域拉格朗日乘子法似然比函数 Likelihood ratio

6.6 雷达目标检测中的概率模型 H1: 有目标 Yes No 似然比检测器 H0: 无目标计算似然比接收向量

6.6 雷达目标检测中的概率模型 联合条件概率密度情况1：假定噪声序列是独立同分布的零均值正态分布，目标回波是已知的常数，构建目标的似然比检测器。

6.6 雷达目标检测中的概率模型 似然比对数似然比对数似然比检测器

6.6 雷达目标检测中的概率模型 联合条件概率密度、判决区域演示

6.6 雷达目标检测中的概率模型 联合条件概率密度情况2：假定噪声序列是独立同分布的零均值正态分布，目标回波是未知的常数，构建目标的最大似然比检测器。

第六讲 : 概率模型

第六讲 : 概率模型

Presentation Transcript