数学建模社区-数学中国
标题:
Logistic回归实例2
[打印本页]
作者:
2744557306
时间:
2023-11-30 17:34
标题:
Logistic回归实例2
# logistic回归
6 d7 t4 F/ q- v N9 w$ q2 B
实际上线性最小二乘回归和Logistic回归都是广义线性模型的一个特例。当随机变量Y服从高斯分布,那么得到的是线性最小二乘回归,当随机变量服从伯努利分布,则得到的是Logistic回归。
% w: {- j6 U3 `# u9 B3 {' h) L* x
0 e7 N( b9 B& c0 |$ R
R软件提供了拟合计算广义线性模型的函数glm(),其命令格式如下:fitted.model <- glm(formula, family=family.generator, data=data.frame) 其中,formula是拟合公式;family是分布族,即前面讲到的广义线性模型的种类,如正态分布、Poisson分布、二项分布等。
) d) B2 x0 D% y' [
- N% e# O; a. [* h
$ c. @! L3 ^8 D4 o$ L+ Z
有了上面这些分布族和连接函数,我们就可以完成相应的广义线性模型的拟合问题。
! A( v* t4 x* ^6 ]7 _
9 N$ X, m$ d3 d g. f
1)正态分布 正态分布族的使用方法: fm <- glm(formula, family=gaussian(link=identity), data=data.frame) 其中,link=identity可以不写,因为正态分布的连接函数缺省值是恒等(identity)。事实上,整个参数family=gaussian也可以不写,因为分布族的缺省值就是正态分布。 注意:正态分布的广义线性模型实际上与线性模型是相同的,也就是 fm <- glm(formula, family=gaussian, data=data.frame) 与线性模型 fm <- lm(formula, data=data.frame)有完全相同的结果,但效率却低得多。
; h2 {+ I( t) S/ ~% E1 q9 x
M3 B, M ]- O! F0 \2 D0 z' |
2)二项分布
- C1 n4 B4 M1 K& K5 j- k
3 j0 Z' g" [7 w
( E9 t/ i) h( Q5 f0 ^* Y, n* A4 p
logistic回归模型是一个非线性回归模型,自变量可以是连续变量,也可以是分类变量,或哑变量。但可以使用线性回归模型对参数进行估计,所以Logistic回归模型属于广义线性模型。
5 u( M+ d" }3 b- X: v% v9 r1 Z! V
& N* ?" E7 C( C, K' [7 I
Logistic回归模型的公式为: fm <- glm(formula, family=binomial(link=logit), data=data.frame) 其中,link=logit可以不写,因为logit是二项分布族连接函数的缺省状态。
- j R3 u) A! N( x X* t6 R0 [$ O
实例一、Norell实验,高压电线对牲畜的影响
#1、加载数据
# ^8 i+ M, B% Q9 G6 Q& L
norell<-data.frame( x=0:5, n=rep(70,6), success=c(0,9,21,47,60,63) )
. z& z; K* B2 T
norell$Ymat<-cbind(norell$success, norell$n-norell$success)
8 T* k# t; S* ]3 k1 r5 h
0 x# Q- u% Q! V9 |' h7 _8 S" R
#2、建模
! X% F0 X5 f. o% K: @1 D
glm.sol <- glm(Ymat ~ x, family=binomial, data=norell)
+ K7 I4 ~( {; S+ V; j0 [3 G* C
+ l( l. ~5 _1 A8 U
#3、模型评估
8 d% L# |* h2 b0 b
summary(glm.sol)
复制代码
##
& M; r* H. V9 n. k; {
## Call:
$ w" ?4 P) Q7 `$ K& a
## glm(formula = Ymat ~ x, family = binomial, data = norell)
$ L/ s" c! I5 x6 R& _7 t+ d+ [
##
8 G$ J" ^& D; V- t
## Deviance Residuals:
2 c0 l8 r+ T, _# r) o3 v
## 1 2 3 4 5 6
|- r" [' Y$ ?/ [ @+ {( e
## -2.2507 0.3892 -0.1466 1.1080 0.3234 -1.6679
& K: Z$ B/ s+ T. {7 W
##
) S; Z4 m& y/ D4 A
## Coefficients:
! m' g6 c& k# O j
## Estimate Std. Error z value Pr(>|z|)
7 B% e# j- e% b& x! z
## (Intercept) -3.3010 0.3238 -10.20 <2e-16 ***
. @1 o ]& u$ j4 I! _! q" m- G
## x 1.2459 0.1119 11.13 <2e-16 ***
9 ?8 @% i \( r K" `
## ---
1 y* y- k8 i6 T4 g
## Signif. codes: 0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1
: N' o2 t4 S4 ~ W
##
6 r9 s! R7 ?+ b2 Z# K5 j) g& r
## (Dispersion parameter for binomial family taken to be 1)
: J( W5 O$ l# _* ~$ v; L
##
& `1 [6 U6 l; E# N9 |! X+ v
## Null deviance: 250.4866 on 5 degrees of freedom
! ]" y, p$ D2 q8 l
## Residual deviance: 9.3526 on 4 degrees of freedom
- j8 Y1 Y0 ?% I* Y
## AIC: 34.093
+ m" Y: X6 h; ~, F1 {4 U+ |
##
0 K6 \0 v7 w1 ]1 J
## Number of Fisher Scoring iterations: 4
复制代码
#与线性回归模型相同,在得到回归模型后,可以作预测:电流强度为3.5毫安时,有响应的牛的概率
) L: Z3 ?' s- i+ j3 A
7 E+ z! J% g$ i
#4、预测
A4 H/ W4 Q1 P% m8 z2 j! D
pre <- predict(glm.sol, data.frame(x=3.5))
: i/ ~# ~+ G2 q2 C7 m* @
(p <- exp(pre)/(1+exp(pre)))
复制代码
## 1
, }. d" f: I; ?
## 0.742642
复制代码
#求有50%的牛响应时的电流强度:当P=0.5时,ln(P/(1-P))=0,所以X=-b0/b1
) u8 \4 f0 l; n8 S
glm.sol$coefficients
复制代码
## (Intercept) x
( L5 f* c$ `" k. }$ t' n8 z
## -3.301035 1.245937
复制代码
(X <- -glm.sol$coefficients[[1]]/glm.sol$coefficients[[2]])
复制代码
## [1] 2.649439
复制代码
#5、画出响应比例与logistic回归曲线:
2 \2 \/ q! R8 H+ F- {* i: ]
d <- seq(0, 5, length=100)
& U# c+ A/ O+ D4 e
pre <- predict(glm.sol, data.frame(x=d))
/ J% R3 V1 B, _/ {
p <- exp(pre)/(1+exp(pre))
" }+ G1 n% k( X l' m' Y6 ~% Z( P
norell$y <- norell$success/norell$n
7 j" X2 x& X7 ]( @7 J
plot(norell$x, norell$y)
% T5 M! u( G* f9 c h
lines(d, p)
复制代码
#其中,d是给出曲线横坐标的点,pre是计算预测值,p是相应的预测概率。用plot函数和lines给出散点图和对应的预测曲线。
复制代码
9 ^. r: A0 V, R1 I
欢迎光临 数学建模社区-数学中国 (http://www.madio.net/)
Powered by Discuz! X2.5