TA的每日心情 | 奋斗 2024-7-1 22:21 |
|---|
签到天数: 2014 天 [LV.Master]伴坛终老
- 自我介绍
- 数学中国站长
群组: 数学建模培训课堂1 群组: 数学中国美赛辅助报名 群组: Matlab讨论组 群组: 2013认证赛A题讨论群组 群组: 2013认证赛C题讨论群组 |
2#
发表于 2014-9-3 22:21
|只看该作者
|
|邮箱已经成功绑定
赤池信息量准则(Akaike information criterion、简称AIC)是衡量统计模型拟合优良性的一种标准,是由日本统计学家赤池弘次创立和发展的。赤池信息量准则建立在熵的概念基础上,可以权衡所估计模型的复杂度和此模型拟合数据的优良性。8 K4 l) l3 l- t2 W O) [ _; s
& j4 V. y' |$ u! r& @
AIC5 X* D% J' l. C3 _/ C
在一般的情况下,AIC可以表示为:
$ ^: x& O2 @+ `2 Z) n
% }$ ~9 t8 {4 Z P. S其中:K是参数的数量,L是似然函数。! X$ g& ~! Q! G1 L2 D/ h
假设条件是模型的误差服从独立正态分布。
/ L0 e. S+ k+ h- T让n为观察数,RSS为剩余平方和,那么AIC变为:$ o( W0 r. X- _- ~& o1 z
9 d! ^: W# Q$ P0 x# b增加自由参数的数目提高了拟合的优良性,AIC鼓励数据拟合的优良性但是尽量避免出现过度拟合(Overfitting)的情况。
. R; _4 N' {/ a所以优先考虑的模型应是AIC值最小的那一个。赤池信息量准则的方法是寻找可以最好地解释数据但包含最少自由参数的模型。4 A# @- k/ p ?# v" R1 T- |
AICc和AICu
. y2 E9 X3 D1 n3 C7 N在样本小的情况下,AIC转变为AICc:# x3 W) n1 G1 z v& u: H4 D; ^! v
9 ?% T# s: f. \* m+ y% m2 D
当n增加时,AICc收敛成AIC。所以AICc可以应用在任何样本大小的情况下(Burnham and Anderson, 2004)。
9 }, ?: h" j6 {McQuarrie 和 Tsai(1998: 22)把AICc定义为:
# z1 V" z( K" [0 G 4 O+ q- u$ o. I$ r6 P5 q3 }- G' R
他们提出的另一个紧密相关指标为AICu:
* U7 G4 C) F$ B) g' Q* t - `- H- d1 l# a& W8 o: W
QAIC9 }* {! Q6 P5 S0 u; H
QAIC(Quasi-AIC)可以定义为:
! ^8 @/ R6 w3 z8 F7 i
/ }3 S/ L: ?" J. u: j) I其中:c是方差膨胀因素。因此QAIC可以调整过度离散(或者缺乏拟合)。 O7 F; l# G' }8 p
在小样本情况下, QAIC表示为:% s+ v' O, O8 O+ e8 u
.9 G9 z& _1 k) C Q/ n" e. q
参考文献
0 L1 v( |( V1 d# p8 i& wAkaike, Hirotsugu(1974年).A new look at the statistical model identification.IEEE Transactions on Automatic Control,19(6):716–723.' s6 s* e3 k: J4 v$ S- `
Burnham, K. P., and D. R. Anderson, 2002. Model Selection and Multimodel Inference: A Practical-Theoretic Approach, 2nd ed. Springer-Verlag. ISBN 0-387-95364-7.
! q0 E0 Y' q! ~/ u( j' X( w5 E! H--------, 2004. Multimodel Inference: understanding AIC and BIC in Model Selection, Amsterdam Workshop on Model Selection.* _( R5 S, x2 `5 k7 G1 v
Hurvich, C. M., and Tsai, C.-L., 1989. Regression and time series model selection in small samples. Biometrika, Vol 76. pp. 297-3078 V# w( _) M4 P% l/ J3 A* s
McQuarrie, A. D. R., and Tsai, C.-L., 1998. Regression and Time Series Model Selection. World Scientific.
2 w2 L [ N5 w 7 o5 c1 M2 q F4 Y* b
准确建立VAR模型的关键在于滞后期数的确定,在实际应用中,一方面希望滞后期p足够大,可以更加完整的反映构造模型的动态特征;但另一方面,滞后期越长,模型中待估参数越多,损失的自由度也越多。因此,在滞后期和自由度之间寻找一个均衡点,一般根据AIC和SC信息量取值最小的准则来确定模型的滞后阶数。根据多次的实际测算,最后确定滞后阶数为4,模型设定为VAR(4),采用OLS得到估计式如下,模型整体拟合程度较好。
& @# s7 x H: s/ \ g2 r对模型进行稳定性检验以及残差自相关检验,结果显示模型稳定且整体拟合度较高,各扰动项不与自己的滞后值相关,模型拟合效果良好,可以作为进一步分析的依据。* C8 H7 l! ]2 q+ N
+ c# [* p- w; e) @# p& ]单位根检验与协整分析
" w/ p9 Q- j$ x' x- \1 f在对时间序列进行分析时,传统上要求数据是平稳的,即没有随机趋势或确定性趋势,如果用非平稳的时间序列变量进行回归,会出现“伪回归”现象。但是,现实经济中的时间序列往往是非平稳的,为了使回归有意义,对时间序列实行平稳化处理,方法是对其进行差分后再回归,但这样做的缺点是会失去原序列中的有用信息,而这些信息对问题分析又是必须的。Enger和Granger提出的协整方法很好的解决了这个问题,而协整分析需要进行单位根检验。单位根检验的方法很多,如DF方法、ADF方法,PP方法,本文采用ADF方法。$ s V& x% }$ f
我们对各变量进行ADF检验,经过多次尝试,选择最佳滞后期和检验形式,得到单位根结果如表2。从表2可以看出,在1%的显著性水平下,所有变量序列的水平项都是非平稳序列;经过一阶差分以后,在0.01的显著性水平上都是平稳的,故它们都是一阶单整I(1),可以在此基础上进行协整检验。, [ {8 g5 ]4 b/ s/ \- w
由于VAR模型对滞后期的选择比较敏感,故先采用AIC或SC最小原则确定最佳滞后期。在滞后期数确定滞后,再对协整中是否具有常数项和时间趋势项进行验证,然后对数据进行协整检验,得到的结果如表3。从表3可以看出,GDP与两个协整方程,变量之间存在着长期的均衡关系。通过对各协整方程残差进行ADF检验,结果显示残差为平稳序列,也证明了经济增长与传统服务出口份额、传统服务进口份额之间存在着协整关系。
/ `( E G6 k0 |! ~: Q( ]AIC准则是赤池信息准则,该项准则运用下式的统计量评价模型的好坏:AIC=-2L/n+2K/n,其中L是对数似然值,n是观测值数目,k是被估计的参数个数,AIC的准则要求其越小越好。
% q( o( e" [) t, }$ r9 E5 `* f因为,AIC的大小取决于L和k。k取值越小,AIC越小;L取值越大,AIC值越小。k笑意味着模型简洁,L大意味着模型精确。因此AIC和修正的决定系数类似,在评价模型是兼顾了简洁性和精确性。% p: |9 u& X$ y2 O- j& ~$ J
赤池信息量准则(http://en.wikipedia.org/wiki/Akaike_information_criterion) 概念:赤池信息量准则,即Akaike information criterion、简称AIC,是衡量统计模型拟合优良性的一种标准,是由日本统计学家赤池弘次创立和发展的。赤池信息量准则建立在熵的概念基础上,可以权衡所估计模型的复杂度和此模型拟合数据的优良性。
( |! B% Y6 E8 e9 o' `/ x 9 }5 c. a' X- W) C0 E* y0 Y+ \
AIC和BIC是同一个指标,一般用于选择模型,也就是模型的比较优劣
' F! r$ E8 ]" a' J/ c他们的不同之处在于
# q9 c$ t5 e+ ZAIC=-2 ln(L) + 2 k 中文名字:赤池信息量 akaike information criterion8 e u; w6 t( [
BIC=-2 ln(L) + ln(n)*k 中文名字:贝叶斯信息量 bayesian information criterion$ W* N5 `1 P# c& Y% H
HQ=-2 ln(L) + ln(ln(n))*k hannan-quinn criterion
0 K z( b- }8 {0 T
; i+ k/ b2 z0 U/ I F# V$ b 4 c4 ~4 Y% ?9 `, C
构造这些统计量所遵循的统计思想是一致的,就是在考虑拟合残差的同时,依自变量个数施加“惩罚”。5 I9 t* g; [7 s N
但,倘若因此就说它们是同一个指标,恐怕还是有些不妥,毕竟“惩罚”的力度还是不尽相同的。
7 U/ W: E8 w* }5 a. B) N: `1 Z此外,这些信息量的用途不仅限于选择模型,还能用于选取合适的变换等等。而在那些时候,这些信息量又是另一个模样,也就是说它们有许多变体。因此,它们也被称为AIC准则、BIC准则等等。它们中的每一个体现的都是一系列的标准,而非单独的一个简单式子。
, Q) [; h4 g! @$ L 7 x7 h$ Q6 E. Y% ]
20世纪50年代,统计检测理论发展很快,米德尔顿等人用最小平均风险准则(贝叶斯准则)来处理最佳接受问题,使检测理论发展到一个新阶段,并使各种准则统一于风险理论。 |
|