回归分析和趋势面分析在2017软件工程论文专集中的成果

2023-10-21 理论教育版权反馈

【摘要】：回归分析方法又叫因素分析法，是数理统计中经典的预测方法之一。如果使用二次函数多项式回归分析，叫二次趋势面分析；使用三次函数多项式回归分析，叫三次趋势面分析。

回归分析方法又叫因素分析法，是数理统计中经典的预测方法之一。该方法根据现有的观测值建立一个自变量到因变量之间的数学模型，最大限度地逼近实际因变量值，然后利用这个方程预测出未来的值。如果建立的数学模型为线性方程，那就是线性回归分析[1]。

1.1.1　多元线性回归分析

假设因变量y与自变量x1，x2，…，xp间存在线性回归关系，第a次试验数据是

于是有

式中，（β0，β1，β2，…，βp）是p+1个待估参数；x1，x2，…，xp是p个可以精确测量或可控制的变量；（ε1，ε2，…，εN）是其他随机变量对y的影响总和[2]。

现在，用线性代数中矩阵的形式来描述：

则多元线性回归的数学模型就可以写成矩阵形式：

用最小二乘法对式(3)中的β进行估计，已知的是

那么假设b=(b0，b1，b2，…，bp)分别是参数β0，β1，β2，…，βp的最小二乘估计，多元线性回归方程为

把每个 xa1，xa2，…，xap代入到回归方程式(4)，得到的（回归值）和原来的ya（实际值）不是同一个数值，刻画了回归值和实际值之间的偏离程度：

因为上面是b0，b1，b2，…，bp的二次函数，又是非负的，所以它的最小值肯定存在，根据微分学中的极值原理，b0，b1，b2，…，bp应是下面方程组的解：(www.chuimin.cn)

解这个N+1方程组得到

其中，

式中，X'是矩阵X的转置矩阵；（X'X）-1表示X'X的逆矩阵。1.1.2趋势面分析

趋势面分析是拟合数学面的一种统计分析方法，是利用数学趋势面模拟观测数据在空间上分布和变化趋势的一种数学分析方法，其实质是回归分析，通过一般线性模型用最小二乘法来拟合所观察到的数据[3]。

常用趋势面的数学表达式有多项式函数和傅里叶函数，最常用的是多项式函数，因为任何函数在一个适当的范围内都可以用一个多项式来逼近，通过调整多项式的次数，使得所求的回归方程适合问题的需要。对于二元变量，多项式形式为

二次函数：

三次函数：

根据高斯-马尔科夫定理，最小二乘法给出了多项式系数的最佳线性无偏估计值，所以回归拟合就是根据观测值确定多项式系数a0，a1，a2，…，ap使残差平方和最小。如果令

这样，多项式回归问题化为多元线性回归问题，解决方法同多元线性回归分析。如果使用二次函数多项式回归分析，叫二次趋势面分析；使用三次函数多项式回归分析，叫三次趋势面分析。