2011年第十三届全国大学生数学建模邀请赛C题---期待高人指点~~

赤霄

急需高手指点~~~~
  P) C* F/ j! {; Y

黄窗帘

好东西大家分享

qinniyang

暴力求解有木有

一般不笑

多元约束Welsch-Kuh距离与
多元约束Cook距离
4 O; k: l& T% a, r; H& h$ K# |' W# f
唐年胜　韦博成
! L4 r. x, Q) H' \5 H6 u5 d
摘　要

1 k& [+ j% e6 M2 W7 C5 ]  g对多元约束线性回归模型,本文讨论了约束最小二乘估计的影响问题,定义了度量影响的多元约束Cook距离和多元约束W-K统计量,给出了其分布,建立了约束W-K统计量与约束广义相关系数之间的联系。
关键词　多元W-K统计量,多元Cook距离,影响,约束,广义相关系数
分类号　AMS(1991) 62F;　　　　CCL O212
  Y9 t$ M2 e/ K% h7 e
3 b$ b; [2 R) Z4 X$ \; y/ mMultivariate Restricted Welsch-Kuh Distance and
& x7 O1 i) l+ b2 {& TMultivariate Restricted Cook Distance

Tang Niansheng
(Adult Education College,Yunnan University,　Kunming 650091)
Wei Bocheng
(Department of Applied Mathematics,Southeast University,Nanjing 210096)
9 |* J& `- `1 B% v# j. y
Abstract

In this paper,the influence of the least squares estimates for the multivariate linear regression models under the restricted conditions is discussed,and multivariate restricted W-K distance and Cook distance is defined as measures of influence.Their distributions are given,and the relationships between the restricted W-K distances and the generalized correlation coefficients are also established.
" @, X, K6 p4 I+ x6 l6 z+ ?6 f
　　考虑多元线性回归模型
% v+ t& a- [5 Z
: r+ f8 B4 X( C* o1 d% MYn×p=Xn×mBm×p+En×p,　　　　　　　(1)

其中Y=(y1,…,yn)T为因变量的n次观测数据阵,X=(x1,…,xn)T为第一列元素全是1的已知自变量设计阵且rank(X)=m,B=(β1,…,βm)T为回归系数矩阵,E=(ε1,…,εn)T为随机误差阵,ε1,…,εn相互独立,且E(εi)=0,Cov(εi)=V(i=1,…,n),V为正定阵,则由［1］p348知模型(1)中B的最小二乘估计(简记为LSE)为,协方差阵V的无偏估计为,其中P=X(XTX)-1XT,残差阵为。然而,在实际问题中,由于主观和客观的种种原因,人们或多或少对B有些先验信息。即是说B总有一定的约束。
" L1 }  T6 h6 h　　记模型(1)在约束条件AB=0(A为q×m阶行满秩固定阵)下的模型为模型(2)。
2 {4 S3 G3 B, V2 w1 r7 v6 p由［1］知模型(2)中B的LSE为,其中F=AT［A(XTX)-1AT］-1A,协方差阵V的无偏估计为,其中W=YTLY,L=I-P+Q,Q=X(XTX)-1F(XTX)-1XT,残差阵为。本文约定,若A=0,则F=0。
: y* E. W5 g4 M　　考虑在模型(1)中剔除k个数据点后所得的一新的多元线性回归模型。

, E$ y" u8 o: k1 v. I: @; W, ?! v' J　　　　Y(I)=X(I)B+E(I),　　　　　　(3)
% ?/ K5 J2 h8 K$ R' a6 y+ i$ v
$ W/ y( ~4 j: F5 X; b6 h0 [这里Y(I),X(I)和E(I)的意义同［2］p350。
* y1 S3 R4 p8 c　　记模型(3)在条件AB=0下的模型为模型(4)。
记模型(3)和(4)的相应估计量分别为，，和，，。
　　对模型(1)剔除一组或多组数据对回归系数最小二乘估计的影响问题现已有许多学者做了大量研究工作,并得到了许多很好的结果,见文［2－5］。文［6］对模型(2)在p=1的情形下讨论了约束W-K统计量与广义相关系数之间的联系。本文对多元约束线性回归模型(2)考虑了类似的影响问题,§2将文［2－7］的结果推广到模型(2)的情形,得到了更一般的结果。
1 Q  S0 q% \  C* y, v) J
9 T: `& S, Q- m/ x6 y' E  i# F1　预备引理
' D  L5 B+ K" N  q
　　引理1　在模型(4)的条件下,若E(I)的各行向量均为正态随机向量,且n＞m+p-q+k,则
　　①
0 s2 q/ l: C8 o) @
5 w, o/ s- ~2 q0 |* ]　　② 相互独立,
　　③

DTX,YI=DTY,D=(di1,…,dik)为n×k阵,dij为第ij个元素是1其余全为0的n维向量。
　　证明　用同［6］完全类似的方法易得①成立。现证②,记R=L(I)Y(I),则
9 c) b9 [1 [5 V3 l7 C* \


' P0 t& v3 U$ p! y: ?; U6 i, q由文［1］知和R独立和Vec(R)独立
% W8 X6 J: A; A) Y4 Z。而后者是显然成立的,故和R独立,从而与独立,即得②成立。最后,由W1=YT(I)L(I)Y(I),L2(I)=L(I),rank(L(I))=n-m+q-k,L(I)X(I)B=0,及文［1］知③成立。
7 x; y/ k, \3 z8 Y
3 {1 M0 n- j) T9 P, a  L证毕

5 M+ U. X3 V; ^8 ?. v9 G8 B6 u, }　　引理2　对模型(2)和(4),若记且假设E的各行向量均为正态随机向量,且n＞m+p-q+k,则
3 W) \! k& j8 o0 x8 V  h. x! l$ P% ^( g　　① W1与W2相互独立,且W=W1+W2,W2～Wp(k,V),W～Wp(n-m+q,V),
　　②
$ ?$ b6 n0 p+ N  W/ y6 g, d9 W特别地,当k=1时,
　　证明　记L1=L［I-D(DTLD)-1DT］L,　L2=LD(DTLD)-1DTL,W1=YTL1Y,W2=YTL2Y。则易证W=W1+W2,L=L1+L2。由此即知L1和L2都为投影阵,且rank(L1)=n-m+q-k,rank(L2)=k。因rank(L)=rank(L1)+rank(L2)且LB=L1B=L2B=0,故由多元Cochran定理知①成立。
　　由Wilks分布的定义及①和引理1③知②成立。
; v3 E2 N- d" P2 T+ V
  ~$ o* v& ?& T* c& p0 Z证毕
  ~. h  Y" ~7 Q: U7 K% _* s
2　主要结论
7 w  c( X/ {# z  X" T  q
! s  y0 Z/ i$ ~3 |% M2 p% B" c4 x　　定义1　对模型(2),称

　　　　　　(5)

为k个数据点的多元约束广义Cook距离。对不同的M和C,可得到DHI(M,C)的各种距离和统计意义。
- b9 n0 d& P+ h4 B6 x& U　　定理1　设PI－QI的谱分解式为PI-QI=ΓΛΓT,Γ为正交阵,Λ为对角阵,其对角元素λ1,…,λk为PI-QI的特征根。则在引理2的条件下有

4 v" ^3 B) b) S! o( n3 t. k9 F　　　　　　(6)

! \" A: K! {% C6 V8 U" o& w' r" ^　　　　　　(7)
: R; l* F( ^+ ]  b$ g1 a
3 b3 F8 r' R  S% _1 k6 Z9 @　　　　　　(8)
$ J; V" v( u$ B/ i/ |. U
其中h定义为

: l$ i, x* |" H- B; w5 \3 e　　　

  l) |: R! J5 _* ?h1,…,hk相互独立且服从p元正态分布。
　　证明　由引理1①和(5)式,并经直接运算即可得定理的结论。

证毕
+ c9 K8 q# O4 r7 X7 Y
, O( b3 r8 x, V2 w6 ^) ~3 a1 K　　特别地在定理1中令A=0且k=1,则得
　　推论1　对模型(1),有
,其中。
! {+ \+ X- B/ q, t　　这与文［2］、［4－7］的相应结果一致。因此定理1是文［2］、［4－7］相应结果的推广。
5 [. X7 a4 [5 ^4 @　　因为当k＞1时的分布较复杂,因此,这里只讨论k=1的情形。
( Z/ n$ K* V: J- {　　定理2　在模型(2)的条件下,若ε1,…,εn均为正态随机向量,且n＞m+p-q+1,则,

9 T2 d) M3 [! E, T都服从Beta分布
　　证明　记,则由定理1知上述统计量全等于τ2i／(n-m+q)。因此,我们只须证明。而由引理2知
: f% c6 n$ U* P: I# V, b* J
! `$ A; Z, Y) A! \% I

) A0 K: [# ^* W/ E& Y4 l由此即得。
$ E2 j" s2 H  H5 |( s
3 }7 Z: R0 s6 U. v证毕

" Z% [8 i- |/ F4 b$ g　　特别地,若A=0,则得
% U" f* t9 @; x8 ?# C- l4 P8 ^　　推论2　对模型(1)在定理2的条件下,有


, K5 }/ }: C; e0 S
都服从Beta分布。
+ z3 {3 g4 h, o) r4 [　　定理3　在定理1的假设下,有

' |( `4 m9 U8 b1 s7 r　　　　　　(9)
$ B( u) Y* @0 b' ]7 U9 A/ T# `9 M
　　　　　　　(10)
) B3 _- l4 E, R2 T" m9 ?3 s
　　　　　　(11)
' u! z6 Y/ U4 q/ I
其中相互独立且都服从Hotelling T2(p,n-m+q-1)。
　　证明　由引理1①和(5)式,易得(9)、(10)和(11)式成立。为证定理的后一部分,须证h和相互独立。由h=(I-Λ)-1/2ΓDLY和q-k)YTL1Y,并用同引理1完全类似的方法即得h和相互独立。因此,由引理1③和定理1及文［1］知t*2j～HotellingT2(p,n-m+q-1),j=1,…,k且t*21,…,t*2k相互独立。
8 Z! E6 J+ f5 Q1 C
! \$ U: @! p) @; I证毕
8 F& g1 `! ~* J) O+ B% U
　　特别地,当k=1时,有
　　定理4　对模型(2),若ε1,…,εn均为正态随机向量,且n＞m+p-q+1,则
+ ^' i) x5 V- d8 D4 x3 p


都服从F(p,n-m+q-p)。
2 @  t; ?* V% A! h- F8 g" n3 z+ ~　　证明　因为在定理3中令k=1即得上述统计量都等于,其中,故只需证T～F(p,n-m+q-p)。用同文［2］p362完全类似的方法易得与相互独立。因此,由和定理1及文［1］知τ*2i～HotellingT2(p,n-m+q-1)。由T2分布与F分布之间的关系即得
# w, Y& }& a* O) Z; C4 a
( y2 ^! j+ C. [8 [, \　　　　T～F(p,n-m+q-p)
% d) G* V) B; z/ f) v6 P
证毕

　　现考虑k个数据点的剔除对XI处拟合值的影响。由一元线性回归分析方法得
$ u) N. n6 k# O3 R　　定义2　给定模型(2),k个数据点为XI处拟合值的影响可定义为



, C  {- p* P& y, y称WKHI为多元约束Welsch-Kuh统计量。注意,此时WKHI为k×p阶矩阵,为使用方便,考虑W-K统计量的如下形式:

) d. F$ [( w  y

由引理1①和定理3即得
1 o. @# H# p' r+ a# |$ T: A
5 s$ F$ A2 t+ Q5 E% H6 C. Q
1 e+ Z0 F" |+ R. z' F+ f
由此可知,多元约束W-K统计量与多元约束Cook距离具有相同的统计意义。这与一元线性回归的情形是一致的。
　　定义3　给定模型(2),k个数据点对XI处拟合值的影响亦可定义为



" G2 B8 |$ y. ?. L! r, T0 r　　定理5　在定理1的假设下,有

5 d% B2 [- I' A9 C4 b
- J  F: A& Z. s
其中GT2为Hotelling广义T2分布。
　　证明　记则

　　　　(n-m+q-k)-1WK2HI=tr［(h*Th*)U-1］。
/ I' F0 a# A/ K" I$ l
由定理1知,故h*Th*～Wp(m,Ip)。又
7 k% j) m# m; {
3 G  u' d, A* B% M7 r  o

  d" D) B; Y9 V1 G/ l$ V7 c% f0 _: `且与h*独立,故U～Wp(n-m+q-k,Im)且U与h*Th*相互独立。因此,
1 A+ l# o2 o! I8 b$ r8 c9 S
( {! M& n/ d  g. a. q/ j# n　　　　tr［(h*Th*)U-1］～GT2(p,m,n-m+q-k)。
' s9 L0 _1 a% i9 j* Y: n
& V2 N* e1 o, ~  h证毕

9 v# T2 u2 ~! l, q7 O) M　　现考虑第i个数据点(yTi,xTi)的剔除对xj(j≠i)处拟合值的影响。
8 j. t! x4 L0 I$ \" M　　定义4　给定模型(2),则第i个数据点对xj(j≠i)处拟合值的影响定义为:



" I) g' p  w- S- n此时,WKTHj为p维向量。因此,考虑其范数
" ]" K: ]: @( L' ]. G. B) r6 _
( E4 J8 M9 ~# \: u0 P　　　　　(12)

　　定理6

" d! _# G5 S" P　　　　　　　(13)

其中ρ(1)H为Hotelling广义相关系数［8］。
* k# o1 @! u3 c# V　　证明　记pji=xTj(XTX)-1xi,qji=xTj(XTX)-1F(XTX)-1xi,ωji=pji-qji,
则由引理1得
( @0 z- R- `* [$ c4 K
( H$ B; y/ ]9 j' q
3 m7 {& V) T5 s. r/ T- O6 B
& a; }8 B# d& |5 ?' }将上式代入(12),并令ωjj=pj-qj,ωii=pi-qi,得

　　　　　　(14)
4 W# ~9 Q# }6 q8 X
# D3 @2 d; b  {. U由于与在约束条件AB=0下的联合协方差矩阵为


2 ]* k% Q9 p, N4 T# S8 Z
则由［8］P74知与的Hotelling广义相关系数为

+ E( f$ Q# X) Y3 o, H　　　　　(15)
9 z* X0 l# N3 T6 x9 O
因此,由(14)和(15)式即得(13)式。

证毕
9 s% Q; i6 r5 A
# `( F# }5 H% P( r8 I　　由定理6可知:第一,第i个数据点(yTi,xTi)的剔除对xj(j≠i)处拟合值影响的大小仅依赖于(当i固定时)(j≠i)与的约束Hotelling广义相关系数ρ(1)H,｜ρ(1)H｜越大,其影响WK2Hj也越大,即与在AB=0下的相关程度越好,第i个数据点的剔除对xj(j≠i)处拟合值的影响就越厉害。第二,WK2Hj≤WK*Hi,当j=i时,WK2Hj达到最大值。这与一元约束线性回归［6］的情形是一致的。
* E2 O# E) W) r! Z- V' E2 t　　致谢:作者感谢审稿同志提出的宝贵意见。

基金项目：国家自然科学基金和云南省自然科学基金资助项目。
; o) M1 k$ l: F4 @2 |$ a: _作者单位：唐年胜（云南大学成人教育学院,昆明 650091）
- h" {" a# Y% H; Q7 Z$ U　　　　　韦博成（东南大学应用数学系,南京 210096）
! \, {# A+ h( p8 ?( H) Z
+ x' _8 T- L% Y, u: z" C, A/ y参考文献
3 {9 [& Z& j9 [* @
［1］方开泰.实用多元统计分析.上海:华东师范大学出版社,1989;145～159
% }$ X9 i/ [- r- w. W" q, K* Q［2］韦博成,鲁国斌,史建清.统计诊断引论.南京:东南大学出版社,1991;358～362
4 |1 w+ l3 d. r0 k. W［3］鲁国斌.多元线性回归中度量影响的置信域体积比统计量.高校应用数学学报,1993;8(2):149～156
［4］Hossain A,Naik D N.Detection of influential observations in multivariate regression.Appl Statist,1989;16(1):25～37
［5］岳珠.多元线性回归中强影响点的判别方法.高校应用数学学报,1987;2(4):343～351
6 Q  K5 Y% T/ Z3 a+ s" \［6］唐年胜,王学仁.约束Welsch-Kuh统计量与广义相关系数.数理统计与应用概率,1998;13(3):239～246
  J- B+ B. b2 W- z2 P［7］于义良,吴诗怺.约束Welsch-Kuh统计量与约束Cook距离.应用概率统计,1981;7(2):136～142
+ p6 [# ~3 Z. Q* B; p$ d# ]［8］王松桂.线性模型的理论及其应用.安徽,安徽教育出版社,1987;71～74

霍水

正在努力求解！！！

qhbsyys

第13届华东数模C题解法推荐
http://www.madio.cn/forum.php?mo ... &fromuid=296190
& S5 T" l4 n) A/ E

biqian2012

上面的楼把结果说说呗

lihsky

回复 pbj1203 的帖子
: k' G9 Y7 a0 b- @9 J4 B3 @: v
求问详细思路

pbj1203

还是没有什么想法啊……