- 在线时间
- 480 小时
- 最后登录
- 2026-6-1
- 注册时间
- 2023-7-11
- 听众数
- 4
- 收听数
- 0
- 能力
- 0 分
- 体力
- 7823 点
- 威望
- 0 点
- 阅读权限
- 255
- 积分
- 2934
- 相册
- 0
- 日志
- 0
- 记录
- 0
- 帖子
- 1174
- 主题
- 1189
- 精华
- 0
- 分享
- 0
- 好友
- 1
该用户从未签到
 |
# logistic回归) g: g: s/ q b$ u( }+ m0 i, u
实际上线性最小二乘回归和Logistic回归都是广义线性模型的一个特例。当随机变量Y服从高斯分布,那么得到的是线性最小二乘回归,当随机变量服从伯努利分布,则得到的是Logistic回归。$ ^/ O! ~/ g; ?5 D/ r
7 `: J$ n4 B: r; r. p, I
R软件提供了拟合计算广义线性模型的函数glm(),其命令格式如下:fitted.model <- glm(formula, family=family.generator, data=data.frame) 其中,formula是拟合公式;family是分布族,即前面讲到的广义线性模型的种类,如正态分布、Poisson分布、二项分布等。
[0 Y R2 c+ b7 }& J4 ^4 _ u: W g$ J
" ?/ x4 l' D8 z( W
有了上面这些分布族和连接函数,我们就可以完成相应的广义线性模型的拟合问题。
. r3 K$ U' l0 v0 O0 H6 o4 D; k& ]0 t" p7 H. y! H' g( o
1)正态分布 正态分布族的使用方法: fm <- glm(formula, family=gaussian(link=identity), data=data.frame) 其中,link=identity可以不写,因为正态分布的连接函数缺省值是恒等(identity)。事实上,整个参数family=gaussian也可以不写,因为分布族的缺省值就是正态分布。 注意:正态分布的广义线性模型实际上与线性模型是相同的,也就是 fm <- glm(formula, family=gaussian, data=data.frame) 与线性模型 fm <- lm(formula, data=data.frame)有完全相同的结果,但效率却低得多。; }# S0 ^6 I3 y0 N2 {" U6 w
5 T7 e5 q! `9 T9 w% {& |2)二项分布
. w+ Y# K3 I3 G1 Y+ }
5 v! G; P) q9 d* [
" e( u" p. O7 x5 X9 x6 o1 llogistic回归模型是一个非线性回归模型,自变量可以是连续变量,也可以是分类变量,或哑变量。但可以使用线性回归模型对参数进行估计,所以Logistic回归模型属于广义线性模型。
7 w7 Z3 h# i7 g; s, k1 s# \( I6 V: H) D9 J
Logistic回归模型的公式为: fm <- glm(formula, family=binomial(link=logit), data=data.frame) 其中,link=logit可以不写,因为logit是二项分布族连接函数的缺省状态。' \4 b y9 X) o" M( i# U
实例一、Norell实验,高压电线对牲畜的影响- #1、加载数据& J+ U7 O+ [\" r! g; T# i; g
- norell<-data.frame( x=0:5, n=rep(70,6), success=c(0,9,21,47,60,63) )2 O$ V9 y7 }( ?/ J9 _
- norell$Ymat<-cbind(norell$success, norell$n-norell$success)
+ }6 v2 h+ M2 ?1 j - # D3 A% _- {/ \\" L! c
- #2、建模
/ {\" a1 Q! A% n* K! h - glm.sol <- glm(Ymat ~ x, family=binomial, data=norell) E7 F, Z/ i. T, u9 [
- - X; J. x: l) m3 g* Q2 I; L: u3 D
- #3、模型评估
0 s0 K2 T- I$ t- t - summary(glm.sol)
复制代码- ##
7 p/ i2 Y1 q) k7 n0 \: l, v1 d - ## Call:
* U3 Y5 N6 J: R - ## glm(formula = Ymat ~ x, family = binomial, data = norell)4 M& W2 x' f) E q( w\" l
- ##
9 j& J# W, e. d - ## Deviance Residuals:
9 ?3 v U6 k7 F8 Z$ } - ## 1 2 3 4 5 6
8 K6 u9 u& g0 X1 d# J7 z0 F, \ - ## -2.2507 0.3892 -0.1466 1.1080 0.3234 -1.6679
4 v: w7 W) y+ j - ##
$ A. S7 }' C- e! G. j6 T - ## Coefficients:4 E1 W3 ?/ i4 _* I0 h
- ## Estimate Std. Error z value Pr(>|z|)
3 Z, x5 D' V# M! H\" N3 F/ Y U, C\" Q - ## (Intercept) -3.3010 0.3238 -10.20 <2e-16 ***
/ z, P; ]& n7 B- c% G) a9 ~; { - ## x 1.2459 0.1119 11.13 <2e-16 ***2 Y8 B$ w; M2 o' T6 c
- ## ---
2 p2 p0 ?2 V6 e4 \) Z$ i# T - ## Signif. codes: 0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1
+ Y6 H9 R- l6 P\" C; r2 `5 h3 M6 O5 G - ## + I( b\" H# l\" z) Y g$ c
- ## (Dispersion parameter for binomial family taken to be 1)/ @4 G) C; b5 R
- ##
% j0 D }7 I0 w- K l8 S - ## Null deviance: 250.4866 on 5 degrees of freedom- `$ A6 J4 p8 i8 G- J! S
- ## Residual deviance: 9.3526 on 4 degrees of freedom
3 p/ Q9 z* h5 J. O - ## AIC: 34.0939 u+ `. u- B5 C$ f0 J
- ##
+ U' y+ Y- K* c! T1 ^: Q - ## Number of Fisher Scoring iterations: 4
复制代码- #与线性回归模型相同,在得到回归模型后,可以作预测:电流强度为3.5毫安时,有响应的牛的概率5 e3 |/ d& Y8 G6 e4 v7 s
-
5 c. K O4 q3 m. A3 l: L - #4、预测
6 ~ F8 Y: S* R - pre <- predict(glm.sol, data.frame(x=3.5))
& `) z- ~! v: {% x6 W - (p <- exp(pre)/(1+exp(pre)))
复制代码- ## 1 5 U4 B, F: y- u- w! V2 G2 r
- ## 0.742642
复制代码- #求有50%的牛响应时的电流强度:当P=0.5时,ln(P/(1-P))=0,所以X=-b0/b1
3 Z$ s\" N4 ^0 @0 y - glm.sol$coefficients
复制代码- ## (Intercept) x ' H! x& `4 x3 s6 K
- ## -3.301035 1.245937
复制代码- (X <- -glm.sol$coefficients[[1]]/glm.sol$coefficients[[2]])
复制代码- #5、画出响应比例与logistic回归曲线:
* d; T) k' d& Y/ y) H0 _8 ~* i - d <- seq(0, 5, length=100)+ ^* y& M+ c% R3 v+ e; [\" e
- pre <- predict(glm.sol, data.frame(x=d))
* [, G7 @9 y, N+ {\" W - p <- exp(pre)/(1+exp(pre))2 `0 o8 d) ~. Z5 G. [$ d
- norell$y <- norell$success/norell$n$ J# d# j- d\" P4 n7 Y1 P
- plot(norell$x, norell$y)
4 x, d. n( p# ^\" x+ | - lines(d, p)
复制代码- #其中,d是给出曲线横坐标的点,pre是计算预测值,p是相应的预测概率。用plot函数和lines给出散点图和对应的预测曲线。
复制代码
3 I. m# O6 z; ? |
zan
|