- 在线时间
- 1630 小时
- 最后登录
- 2024-1-29
- 注册时间
- 2017-5-16
- 听众数
- 82
- 收听数
- 1
- 能力
- 120 分
- 体力
- 565531 点
- 威望
- 12 点
- 阅读权限
- 255
- 积分
- 174882
- 相册
- 1
- 日志
- 0
- 记录
- 0
- 帖子
- 5313
- 主题
- 5273
- 精华
- 3
- 分享
- 0
- 好友
- 163
TA的每日心情 | 开心 2021-8-11 17:59 |
|---|
签到天数: 17 天 [LV.4]偶尔看看III 网络挑战赛参赛者 网络挑战赛参赛者 - 自我介绍
- 本人女,毕业于内蒙古科技大学,担任文职专业,毕业专业英语。
 群组: 2018美赛大象算法课程 群组: 2018美赛护航培训课程 群组: 2019年 数学中国站长建 群组: 2019年数据分析师课程 群组: 2018年大象老师国赛优 |
关于Logistics回归用于分类的解释* ~7 _7 b0 A5 G8 U9 S
logistics回归让人最搞不懂的是,明明名字里面带了个回归两个字,为什么这是一种分类算法呢?2 @+ |) F) B2 d
9 K( c& O: Y- z' T说到回归大家想到的都是根据一些点得出一条直线或者曲线。的确logistics回归也是得出一条直线,然后如果这个点在这条线的一边比如说上面属于一个类别,另一个点处于这条线的另一边比如说下边则属于另一个类别。# f4 z8 U: y1 ]* I+ N( w
& m% m4 J; Y# w% G7 M3 t5 C这条直线是怎么得出的呢?& ~, |+ c: N6 g2 }. F
0 `/ e: c3 W' ]8 Z* Z% `首先假设所有的输入为(x0,x1....xn),输入前面的系数为(w0,w1...wn),输出为y
. x5 K r: I p: t! e% S9 U0 o: U/ P& j2 j4 r# c$ h6 r
我们可以得出y=w0*x0+w1*x1...wn*xn* _9 c/ T5 k; R0 Q7 }# C/ g: J2 \7 z
! b3 O- T$ H1 g' G7 z0 V
然后将系数(w0,w1..wn)取随机值。然后开始训练网络。训练的算法叫做梯度上升算法
1 \8 F* W$ I. E0 x, g" K! P" P) y& D9 G* B+ l( v
根据y=w0*x0+w1*x1...wn*xn,我们可以对所有输入(x0,x1...xn)求导即是求梯度。
9 m4 q$ Z& D$ O8 Q; v# s: R u" q+ S9 }. c* T
7 l( n8 t: i' D, r3 v
- t! K9 @0 |$ j# _+ {; j# S( Y% i+ T8 a$ ^+ ?% {3 `
这个公式什么意思呢?学过微积分的同学都知道,问题是像我这种没学好的就放放吧。大家只要知道能通过将矩阵转一下就能得到,转一下的意思在下面4 J- W: L) T+ A; f o: ^ J, s
0 H: @, R/ b0 k% [# n9 M; V
假设dataMatIn=array([[3,3],[4,4]])
- _9 r% a! X5 A( @" c( g# S* b
! {! S, U! W p" Q" e那么dataMatIn的梯度就是dataMatIn.transpose() => array([[3,4],[3,4]])3 z1 `+ n! O0 X9 }! W+ s" D/ Z, H
$ D! [7 T- o3 h1 p3 j+ g+ P
然后就完成了。8 Z8 e- G- `9 `2 o! J
5 ^7 g% v! o) } }9 z. r' c; }
继续讲如何训练的,我们还需要计算期望结果和输出的差error以及假设一个步长a,步长a是根据经验来决定的,步长太短很可能训练了很久还没找到最适合的值,步长太长就能难准确地到达合适的值。
" d1 G/ H2 Q* Z! I& q) s% s2 q
0 W# u$ }8 d8 B1 }. f3 E9 ^, m/ K6 M然后我们的新的w=w+a*array(x0,x1...xn)*error3 @3 j* G/ J1 e
# _+ v3 E' Z# t一般设置循环多少次然后停止或者当error小于多少值得时候算法停止9 U- @/ |1 [7 C+ a8 }+ w& @
3 W7 \+ l6 c7 ]9 w$ u
最后我们还要将y输入进阶跃函数来完成分类。不过由于阶跃函数在零点没有值所以有各种各样的麻烦,所以换成sigmoid函数,当<0.5时等于0,当 >0.5时等于1
, Z n6 O! B- I+ z1 V+ I5 f5 ^+ r7 H( _" o2 P4 z$ s6 \
2 a* q- t% F% w5 h+ |/ O
. i) S- B* o6 |' p& _! X& I |
zan
|