数学建模社区-数学中国

标题: Logistic回归实例2 [打印本页]

作者: 2744557306    时间: 2023-11-30 17:34
标题: Logistic回归实例2
# logistic回归6 d7 t4 F/ q- v  N9 w$ q2 B
实际上线性最小二乘回归和Logistic回归都是广义线性模型的一个特例。当随机变量Y服从高斯分布,那么得到的是线性最小二乘回归,当随机变量服从伯努利分布,则得到的是Logistic回归。
% w: {- j6 U3 `# u9 B3 {' h) L* x0 e7 N( b9 B& c0 |$ R
R软件提供了拟合计算广义线性模型的函数glm(),其命令格式如下:fitted.model <- glm(formula, family=family.generator, data=data.frame) 其中,formula是拟合公式;family是分布族,即前面讲到的广义线性模型的种类,如正态分布、Poisson分布、二项分布等。) d) B2 x0 D% y' [

- N% e# O; a. [* h
$ c. @! L3 ^8 D4 o$ L+ Z有了上面这些分布族和连接函数,我们就可以完成相应的广义线性模型的拟合问题。
! A( v* t4 x* ^6 ]7 _
9 N$ X, m$ d3 d  g. f1)正态分布 正态分布族的使用方法: fm <- glm(formula, family=gaussian(link=identity), data=data.frame) 其中,link=identity可以不写,因为正态分布的连接函数缺省值是恒等(identity)。事实上,整个参数family=gaussian也可以不写,因为分布族的缺省值就是正态分布。 注意:正态分布的广义线性模型实际上与线性模型是相同的,也就是 fm <- glm(formula, family=gaussian, data=data.frame) 与线性模型 fm <- lm(formula, data=data.frame)有完全相同的结果,但效率却低得多。; h2 {+ I( t) S/ ~% E1 q9 x

  M3 B, M  ]- O! F0 \2 D0 z' |2)二项分布- C1 n4 B4 M1 K& K5 j- k
3 j0 Z' g" [7 w
( E9 t/ i) h( Q5 f0 ^* Y, n* A4 p
logistic回归模型是一个非线性回归模型,自变量可以是连续变量,也可以是分类变量,或哑变量。但可以使用线性回归模型对参数进行估计,所以Logistic回归模型属于广义线性模型。
5 u( M+ d" }3 b- X: v% v9 r1 Z! V
& N* ?" E7 C( C, K' [7 ILogistic回归模型的公式为: fm <- glm(formula, family=binomial(link=logit), data=data.frame) 其中,link=logit可以不写,因为logit是二项分布族连接函数的缺省状态。
- j  R3 u) A! N( x  X* t6 R0 [$ O实例一、Norell实验,高压电线对牲畜的影响
  1. #1、加载数据# ^8 i+ M, B% Q9 G6 Q& L
  2. norell<-data.frame( x=0:5, n=rep(70,6), success=c(0,9,21,47,60,63) )
    . z& z; K* B2 T
  3. norell$Ymat<-cbind(norell$success, norell$n-norell$success)  8 T* k# t; S* ]3 k1 r5 h

  4. 0 x# Q- u% Q! V9 |' h7 _8 S" R
  5. #2、建模! X% F0 X5 f. o% K: @1 D
  6. glm.sol <- glm(Ymat ~ x, family=binomial, data=norell)+ K7 I4 ~( {; S+ V; j0 [3 G* C

  7. + l( l. ~5 _1 A8 U
  8. #3、模型评估8 d% L# |* h2 b0 b
  9. summary(glm.sol)
复制代码
  1. ## & M; r* H. V9 n. k; {
  2. ## Call:$ w" ?4 P) Q7 `$ K& a
  3. ## glm(formula = Ymat ~ x, family = binomial, data = norell)
    $ L/ s" c! I5 x6 R& _7 t+ d+ [
  4. ##
    8 G$ J" ^& D; V- t
  5. ## Deviance Residuals:
    2 c0 l8 r+ T, _# r) o3 v
  6. ##       1        2        3        4        5        6    |- r" [' Y$ ?/ [  @+ {( e
  7. ## -2.2507   0.3892  -0.1466   1.1080   0.3234  -1.6679  & K: Z$ B/ s+ T. {7 W
  8. ## ) S; Z4 m& y/ D4 A
  9. ## Coefficients:! m' g6 c& k# O  j
  10. ##             Estimate Std. Error z value Pr(>|z|)   
    7 B% e# j- e% b& x! z
  11. ## (Intercept)  -3.3010     0.3238  -10.20   <2e-16 ***
    . @1 o  ]& u$ j4 I! _! q" m- G
  12. ## x             1.2459     0.1119   11.13   <2e-16 ***
    9 ?8 @% i  \( r  K" `
  13. ## ---
    1 y* y- k8 i6 T4 g
  14. ## Signif. codes:  0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1
    : N' o2 t4 S4 ~  W
  15. ## 6 r9 s! R7 ?+ b2 Z# K5 j) g& r
  16. ## (Dispersion parameter for binomial family taken to be 1)
    : J( W5 O$ l# _* ~$ v; L
  17. ##
    & `1 [6 U6 l; E# N9 |! X+ v
  18. ##     Null deviance: 250.4866  on 5  degrees of freedom
    ! ]" y, p$ D2 q8 l
  19. ## Residual deviance:   9.3526  on 4  degrees of freedom- j8 Y1 Y0 ?% I* Y
  20. ## AIC: 34.093
    + m" Y: X6 h; ~, F1 {4 U+ |
  21. ## 0 K6 \0 v7 w1 ]1 J
  22. ## Number of Fisher Scoring iterations: 4
复制代码
  1. #与线性回归模型相同,在得到回归模型后,可以作预测:电流强度为3.5毫安时,有响应的牛的概率) L: Z3 ?' s- i+ j3 A

  2. 7 E+ z! J% g$ i
  3. #4、预测
      A4 H/ W4 Q1 P% m8 z2 j! D
  4. pre <- predict(glm.sol, data.frame(x=3.5)): i/ ~# ~+ G2 q2 C7 m* @
  5. (p <- exp(pre)/(1+exp(pre)))
复制代码
  1. ##        1 , }. d" f: I; ?
  2. ## 0.742642
复制代码
  1. #求有50%的牛响应时的电流强度:当P=0.5时,ln(P/(1-P))=0,所以X=-b0/b1) u8 \4 f0 l; n8 S
  2. glm.sol$coefficients
复制代码
  1. ## (Intercept)           x ( L5 f* c$ `" k. }$ t' n8 z
  2. ##   -3.301035    1.245937
复制代码
  1. (X <- -glm.sol$coefficients[[1]]/glm.sol$coefficients[[2]])
复制代码
  1. ## [1] 2.649439
复制代码
  1. #5、画出响应比例与logistic回归曲线:2 \2 \/ q! R8 H+ F- {* i: ]
  2. d <- seq(0, 5, length=100)& U# c+ A/ O+ D4 e
  3. pre <- predict(glm.sol, data.frame(x=d))
    / J% R3 V1 B, _/ {
  4. p <- exp(pre)/(1+exp(pre))
    " }+ G1 n% k( X  l' m' Y6 ~% Z( P
  5. norell$y <- norell$success/norell$n7 j" X2 x& X7 ]( @7 J
  6. plot(norell$x, norell$y)
    % T5 M! u( G* f9 c  h
  7. lines(d, p)
复制代码
  1. #其中,d是给出曲线横坐标的点,pre是计算预测值,p是相应的预测概率。用plot函数和lines给出散点图和对应的预测曲线。
复制代码

9 ^. r: A0 V, R1 I




欢迎光临 数学建模社区-数学中国 (http://www.madio.net/) Powered by Discuz! X2.5