查看: 2526|回复: 0

数学建模之回归分析

字体大小: 正常放大

326 主题	32 听众	1万积分

TA的每日心情

	慵懒 2020-7-12 09:52

签到天数: 116 天

[LV.6]常住居民II

管理员

群组: 2018教师培训（呼和浩

群组: 2017-05-04 量化投资实

群组: 2017“草原杯”夏令营

群组: 2018美赛冲刺培训

群组: 2017 田老师国赛冲刺课

电梯直达

1^#

发表于 2020-1-8 09:11 |只看该作者 |倒序浏览

|招呼Ta 关注Ta

应用场景

简单地说，回归分析是对拟合问题做的一种统计分析。
P.S. 曲线拟合问题的特点是，根据得到的若干有关变量的一组数据，寻找因变量与（一个或几个）自变量之间一个函数，使这个函数对那组数据拟合得最好。通常。函数的形式可以由经验、先验知识或对数据的直接观察决定，要做的工作是由数据用最小二乘法计算函数中的待定系数。

具体地说，回归分析在一组数据的基础上研究以下问题：

建立因变量y yy与自变量x1,x2,...,xm x_1,x_2,...,x_mx
1

,x
2

,...,x
m

之间的回归模型（经验公式）；
对回归模型的可信度进行检验；
判断每个自变量xi(i=1,2,...,m) x_i(i=1,2,...,m)x
i

(i=1,2,...,m)对y yy的影响是否显著；
诊断回归模型是否适合这组数据；
利用回归模型对y yy进行预报或控制。
1. 建立回归模型

1.1 筛选变量

1.1.1 确定样本空间

m mm个变量，对它们分别进行了n nn次采样（或观测），得到n nn个样本点，
(xi1,xi2,...,xim),i=1,2,...,n (x_{i1}, x_{i2}, ... , x_{im}), i = 1, 2, ..., n
(x
i1

,x
i2

,...,x
im

),i=1,2,...,n

所构成的数据表可以写成一个n×m n \times mn×m维的矩阵。

1.1.2 对数据进行标准化处理

（1）数据的中心化处理
实际上就是平移变化，即x∗ij=xij−xjˉˉˉ,i=1,2,...,n,j=1,2,...,m x_{ij}^* = x_{ij} - \overline{x_j}, i=1,2,...,n, j=1,2,...,mx
ij
∗

=x
ij

−
x
j

,i=1,2,...,n,j=1,2,...,m

这种处理，可以是样本的均值为0 00，同时它既不改变样本点的相互位置，也不改变变量间的相关性，但变换后，有许多技术上的便利。
（2）数据的无量纲化处理
在实际问题中，不同变量的测量单位往往是不同的。
为了消除变量的量纲效应，使每个变量都具有同等的表现力，数据分析中常用的消量纲的方法，是对不同的变量进行所谓的压缩处理——使每个变量的方差为1
即，
x∗ij=xij/sj，其中，sj=1n−1∑ni=1(xij−xjˉˉˉ)2−−−−−−−−−−−−−−−−−√ x_{ij}^* = x_{ij} / s_j，其中，s_j = \sqrt{\frac{1}{n-1}\sum_{i=1}^{n}(x_{ij}-\overline{x_j})^2}
x
ij
∗

=x
ij

/s
j

，其中，s
j

=
n−1
1

i=1
∑
n

(x
ij

−
x
j

)
2

当然，也有其他消量纲的方法，此处不一一列举。
（3）数据的标准化处理——对数据同时进行“中心化-压缩”处理
即，
x∗ij−xij−xjˉˉˉsj,i=1,2,...,n,j=1,2,...m x_{ij}^* - \frac{x_{ij} - \overline{x_j}}{s_j}, i=1,2,...,n, j=1,2,...m
x
ij
∗

−
s
j

x
ij

−
x
j

,i=1,2,...,n,j=1,2,...m

1.1.3 变量筛选

——选择哪些变量作为因变量的解释变量：

一方面，希望尽可能不遗漏重要的解释变量
一方面，遵循参数节省原则(自变量数目过大时，模型计算复杂，且往往会扩大估计方差，降低模型精度)，使自变量的个数尽可能少
（1）穷举法
列举出所有可能的潜在变量，再根据自变量的不同组合，选取合适的模型。
假设有m mm个潜在变量，则需要拟合与比较的方程个数为2m 2_m2
m

——当m mm较大时不现实

（2）向前选择变量法

初始：模型中没有任何解释变量
分别考虑y与每一个自变量的一元线性回归模型
对所有的这m个模型进行F检验，选择F值最高者作为第一个进入模型的自变量
对剩下的变量分别进行偏F检验
至少有一个xi通过了偏F检验？
在所有通过偏F检验的自变量中，选择Fj值最大者作为下一个被选入模型的自变量
结束
yes
no
缺点：
一旦某个自变量被选入模型，它就永远留在模型中。然鹅，随着其他变量的引入，由于变量之间相互传递的相关关系，一些先进入模型的变量的解释作用可能会变得不再显著。

（3）向后删除变量法

初始：所有自变量都在模型中（起始的全模型）
分别对模型中剩余的每一个自变量做偏F检验（以去掉xj的模型为减模型）
所有的变量都通过了偏F检验？
选择Fj值最小的自变量，将它从模型中删除
结束
yes
no
缺点：
一旦某个自变量被删除后，它就永远被排斥在模型之外。但是，随着其它变量的被删除，它对 y 的解释作用也可能会显著起来。

（4）逐步回归法——最常用

综合向前选择和向后删除，采取边进边退的方法：

对于模型外部的变量，只要它还可以提供显著的解释信息，就可以再次进入模型
对于已在内部的变量，只要它的偏F检验不能通过，则还可能从模型中删除
具体流程见书，此处不再赘述。

另外，为了避免变量的进出循环，一般取偏F检验拒绝域的临界值为：F进>F出 F_进 > F_出F
进

>F
出

，式中，F进 F_进F
进

为选入变量时的临界值，F出 F_出F
出

未删除变量时的临界值。

在所有标准的统计软件中都有逐步回归的程序。F进 F_进F
进

和F出 F_出F
出

的检验水平值也可以自定，也可以是备择的。常见的检验水平值为α进=0.05 \alpha_进 = 0.05α
进

=0.05，α出=0.1 \alpha_出 = 0.1α
出

=0.1

1.1.4 调整复判定系数

——一般的统计软件常在输出中同时给出R2 R^2R
2
和Rˉˉˉ2 \overline{R}^2
R

2
，如果两者相差过大，则应考虑减少或调整变量【个人认为，可用于检验逐步回归的结果】

统计学家主张在回归建模时，采用尽可能少的自变量，不要盲目地追求复判定系数R2 R^2R
2
的提高。
当变量增加时，残差项的自由度就会减少dfE=n−m−1 df_E = n-m-1df
E

=n−m−1，自由度越小，数据的统计趋势就越不容易显现，故而定义了一个调整复判定系数：

Rˉˉˉ2=1−Q/(n−m−1)SST/(n−1) \overline{R}^2 = 1 - \frac{Q/(n-m-1)}{SST/(n-1)}
R

2
=1−
SST/(n−1)
Q/(n−m−1)

此外，Rˉˉˉ2 \overline{R}^2
R

2
还可以用于判断是否可以再增加新的变量：
若增加一个变量，

Rˉˉˉ2 \overline{R}^2
R

2
明显增加，，可考虑增加此变量
Rˉˉˉ2 \overline{R}^2
R

2
无明显变化，不必增加此变量
1.2 最小二乘估计

一元线性回归、多元线性回归——略。

2. 回归模型假设检验

——检查自变量与因变量之间能否用一个线性关系模型表示（F FF检验）

具体检验方法见书，此处不再赘述。

3. 回归参数假设检验和区间估计

——检查每一个自变量对因变量的影响是否显著（t tt 检验）

具体检验方法见书，此处不再赘述。

4. 拟合效果分析

4.1 残差的样本方差(MSE)

MSE=1n−2∑ni=1(ei−eˉ)2 MSE = \frac{1}{n-2} \sum_{i=1}^{n}(e_i - \overline{e})^2
MSE=
n−2
1

i=1
∑
n

(e
i

−
e
)
2

可以计算残差的样本均值 eˉ=0 \overline{e} = 0
e
=0
记，
Se=MSE−−−−−√=1n−2∑i=1nei2−−−−−−−−−−−√ S_e = \sqrt{MSE} = \sqrt{\frac{1}{n-2} \sum_{i=1}{n} {e_i}^2}
S
e

=
MSE

=
n−2
1

i=1
∑

ne
i

2

Se S_eS
e

越小，拟合效果越好

4.2 判定系数（拟合优度）

——指可解释的变异占总变异的百分比，用R2 R^2R
2
表示
R2=SSRSST=1−SSESST R^2 = \frac{SSR}{SST} = 1 - \frac{SSE}{SST}
R
2
=
SST
SSR

=1−
SST
SSE

其中，
SST=∑ni=1(yi−yˉ)2，原始数据yi的总变异平方和，dfT=n−1 SST = \sum_{i=1}^n(y_i - \overline{y})^2，原始数据y_i的总变异平方和，df_T = n-1
SST=
i=1
∑
n

(y
i

−
y

)
2
，原始数据y
i

的总变异平方和，df
T

=n−1

SSR=∑ni=1(yiˆ−yˉ)2，用拟合直线可解释的变异平方和，dfR=1 SSR = \sum_{i=1}^n(\hat{y_i}-\overline{y})^2，用拟合直线可解释的变异平方和，df_R = 1
SSR=
i=1
∑
n

(
y
i

^

−
y

)
2
，用拟合直线可解释的变异平方和，df
R

=1

SSE=∑ni=1(yi−yiˆ)2，残差平方和，dfE=n−2 SSE = \sum_{i=1}^n(y_i - \hat{y_i})^2，残差平方和，df_E = n-2
SSE=
i=1
∑
n

(y
i

−
y
i

^

)
2
，残差平方和，df
E

=n−2

SST=SSR+SSE SST = SSR + SSE
SST=SSR+SSE

R2 R^2R
2
越接近1，拟合点与原数据越吻合

另外，还可证明，R2−−−√ \sqrt{R^2}
R
2

等于y yy与自变量x xx的相关系数，而相关系数的正负号与回归系数β1ˆ \hat{\beta_1}
β
1

^

的符号相同

5. 利用回归模型进行预测

其他

偏相关系数（净相关系数）

在研究两个变量之间的线性相关程度时，可考察这两个变量的简单相关系数。但在研究多个变量之间的线性相关程度时，单纯使用两两变量的简单相关系数往往具有虚假性。因为它只考虑了两个变量之间的相互作用，忽略了其他变量对这两个变量的影响。

复共线性和有偏估计方法

在一些大型线性回归问题中，最小二乘估计不总令人满意，比如系数正负号与实际意义不符，这可能是因为回归自变量之间存在着近似线性关系——复共线性(Multicollinearity)

解决方法——牺牲无偏性，改用合适的有偏估计方法，以改善估计的稳定性
例如，岭估计——可以显著改善矩阵列复共线性时最小二乘估计量的均方误差，增强估计的稳定性。
（P.S. 均方误差Mean Squared Errors：一个好的估计应该具有较小的均方误差）

再如，主成分估计——可以去掉一些复共线性

小结

采用回归模型进行建模的可取步骤如下：

建立回归模型
确立样本空间，对数据进行标准化处理，采用逐步回归法筛选自变量
————————————————
版权声明：本文为CSDN博主「鱼板: RE」的原创文章。
原文链接：https://blog.csdn.net/xxiangyusb/article/details/99762451

zan