用迭代的松弛算法对线性最小二乘估计的一种改进。线性最小二乘估计在模型误差为相关噪声时是有偏估计，即其估计值存在偏差。这时采用广义最小二乘估计能获得较精确的结果。

外文名

Generalized least squares estimation

性质

估计

原理

广义最小二乘估计就是使估计准则J为极小的参数估计。多项式

、

和

的系数都是未知的，所以不能用一个线性算法获得广义最小二乘估计。

案例

假设所讨论的单输入单输出系统的差分方程模型是

式中

和

分别是输入和输出序列：

和

是算子多项式，它们的系数是需要通过估计来求出的未知数;

是单位延迟算子；

是误差序列，它是零均值平稳相关噪声序列。为了进行广义最小二乘估计可以从形式上把ek变换成广义最小二乘估计，这里广义最小二乘估计广义最小二乘估计，它的系数也是未知的。如果

具有有理谱密度，则可把

当作白噪声序列来处理。

特性

广义最小二乘估计采用迭代的松弛算法：先行固定

，估计

和

,使J 趋于极小；然后固定

和

,估计

,使 J 趋于极小。如此反复迭代，直至估计值收敛。这时每步只进行简单的线性最小二乘估计运算，迭代的初值取扗

。

应用

这种算法也可推广到多输入多输出系统，并且有相应的近似递推估计算法。当误差

为正态噪声序列时，这种算法还可以解释为极大似然估计的松弛算法。

实现

广义最小二乘估计算法的估计精度高，已得到应用并获得不少成果。它的缺点在于：当信噪比较小时,J可能有多个局部极小点，估计结果不能保证收敛到全局最小点，即参数真值；它的计算量也比线性最小二乘估计增加很多。