220 likes | 374 Views
第四讲 线性系统辨识方法. 最小二乘方法 极大似然法 预报误差法 梯度校正参数辨识方法. 一、最小二乘方法. 成批最小二乘方法 最小二乘估计的统计性质 递推最小二乘方法 基本最小二乘方法的缺陷及其解决办法 增广最小二乘方法、广义最小二乘方法、多级最小二乘方法、辅助变量法等 最小二乘类辨识方法的比较. 1 、时不变 SISO 系统与最小二乘问题. SISO 系统. 最小二乘辨识问题:. 根据输入输出数据,在极小化下列准则函数. 2. 成批估计. 假设有 L 组观测数据. 可写成矩阵向量形式.
E N D
第四讲 线性系统辨识方法 • 最小二乘方法 • 极大似然法 • 预报误差法 • 梯度校正参数辨识方法
一、最小二乘方法 • 成批最小二乘方法 • 最小二乘估计的统计性质 • 递推最小二乘方法 • 基本最小二乘方法的缺陷及其解决办法 • 增广最小二乘方法、广义最小二乘方法、多级最小二乘方法、辅助变量法等 • 最小二乘类辨识方法的比较
1、时不变SISO系统与最小二乘问题 SISO系统
最小二乘辨识问题: 根据输入输出数据,在极小化下列准则函数
2. 成批估计 • 假设有L组观测数据
Astrom于1965年给出了可辨识的充分必要条件(p137)Astrom于1965年给出了可辨识的充分必要条件(p137)
3. 参数估计的统计特性 有效性:对于固定观测次数L,方差最小的估计称为有效估计。
5. 基本最小二乘法的缺陷及解决方法 • 当模型噪声为有色噪声时,最小二乘参数估计不是无偏的,是一个有偏的估计。 • 随着数据的增长,最小二乘法出现所谓的“数据饱和”现象 解决办法:遗忘因子法 限定记忆法
6. 增广最小二乘法(RELS) 注:该方法将噪声模型的辨识考虑进出,扩充了参数向量和数据向量。
7. 广义最小二乘法 辅助变量法、两步法、多级最小二乘法
8. 最小二乘类辨识方法的比较 • 辨识精度 • 收敛性质 • 计算量 • 所需要的先验知识 参见书本198页
二、极大似然法 基本思想:构造一个以数据和未知参数为自变量的似然函数,当这个函数在某个参数值上达到极大时,就得到了系统模型参数的估计值。
注 意 • 概率密度函数和似然函数的区别,数学表达形式一致,物理含义不同。 • 物理意义见书本230页 • 极大似然估计量都具有良好的渐近性质和无偏性
三、预报误差法 预报误差法是极大似然法的一种推广,用于解决更加一般的问题(数据的概率分布不知道),当数据的概率分布服从正态分布时,预报误差法等价于极大似然法。 注:(1)该方法是通过极小化某种准则来获得参数估计值; (2)优化算法问题 (3)统计性质
四、梯度校正参数辨识法 新参数估计值=旧参数估计值+增益矩阵*新息 确定性问题的梯度校正参数辨识法 随机逼近法