- 在线时间
- 1630 小时
- 最后登录
- 2024-1-29
- 注册时间
- 2017-5-16
- 听众数
- 82
- 收听数
- 1
- 能力
- 120 分
- 体力
- 564620 点
- 威望
- 12 点
- 阅读权限
- 255
- 积分
- 174609
- 相册
- 1
- 日志
- 0
- 记录
- 0
- 帖子
- 5313
- 主题
- 5273
- 精华
- 3
- 分享
- 0
- 好友
- 163
TA的每日心情 | 开心 2021-8-11 17:59 |
|---|
签到天数: 17 天 [LV.4]偶尔看看III 网络挑战赛参赛者 网络挑战赛参赛者 - 自我介绍
- 本人女,毕业于内蒙古科技大学,担任文职专业,毕业专业英语。
 群组: 2018美赛大象算法课程 群组: 2018美赛护航培训课程 群组: 2019年 数学中国站长建 群组: 2019年数据分析师课程 群组: 2018年大象老师国赛优 |
关于Logistics回归用于分类的解释: a, f+ D) O( V X7 j3 y, d
logistics回归让人最搞不懂的是,明明名字里面带了个回归两个字,为什么这是一种分类算法呢?
9 ]$ D3 h5 K. B6 s; m) v# B/ e! ?) `
说到回归大家想到的都是根据一些点得出一条直线或者曲线。的确logistics回归也是得出一条直线,然后如果这个点在这条线的一边比如说上面属于一个类别,另一个点处于这条线的另一边比如说下边则属于另一个类别。
; n8 z' R# M# M/ t2 G3 Y+ |
, c7 q8 e" {3 d" T$ k3 B这条直线是怎么得出的呢?- M* `; V6 `+ q9 L: |
+ d; o; G+ t9 h' B0 P+ v1 M; i9 o首先假设所有的输入为(x0,x1....xn),输入前面的系数为(w0,w1...wn),输出为y
$ v9 k8 V" C( U4 c$ I+ N0 b& h3 u6 N
0 I! j5 S" N4 \' r1 I我们可以得出y=w0*x0+w1*x1...wn*xn& i' p- M, k6 z9 |- D
4 H. A+ P) K. D5 v/ R& R+ f然后将系数(w0,w1..wn)取随机值。然后开始训练网络。训练的算法叫做梯度上升算法( q, d' Z7 n7 z7 G* \& j
! ]4 w. u7 y, q4 V: H
根据y=w0*x0+w1*x1...wn*xn,我们可以对所有输入(x0,x1...xn)求导即是求梯度。) w# v! F$ f; W, b2 A
" B( z+ X- `. d2 U8 o" F7 W. n: ^
# [5 N$ B) F$ X* A# ~7 B) z4 P/ j. ?- _- c- D
: N) ?0 y8 ^& {5 u7 J
这个公式什么意思呢?学过微积分的同学都知道,问题是像我这种没学好的就放放吧。大家只要知道能通过将矩阵转一下就能得到,转一下的意思在下面
. J& l1 I. \+ o" z) I" u5 K9 D+ k4 n: q- v6 x( q" y- Y
假设dataMatIn=array([[3,3],[4,4]])
1 U9 E0 k3 w& U% E4 ?' |6 Y4 |( ?5 c# ^
那么dataMatIn的梯度就是dataMatIn.transpose() => array([[3,4],[3,4]])
; p4 ~, ? t# F& m" |) V# A
' v4 q- j* V3 u9 F$ n D8 V- a然后就完成了。6 m# c4 p0 `: n1 b& B9 K3 ~2 K
1 U! X' Z$ ^3 \
继续讲如何训练的,我们还需要计算期望结果和输出的差error以及假设一个步长a,步长a是根据经验来决定的,步长太短很可能训练了很久还没找到最适合的值,步长太长就能难准确地到达合适的值。
" F$ R* E# ^! L$ @% U" i
2 Q: d6 T% O, Y8 o) L# e. }然后我们的新的w=w+a*array(x0,x1...xn)*error
|0 F: b$ L- s/ w$ u2 ]) F/ B0 s" r- [+ Y( Z+ P# ^
一般设置循环多少次然后停止或者当error小于多少值得时候算法停止
5 f A2 N' C1 E! ]/ D8 P" C' t! ^5 g9 O
最后我们还要将y输入进阶跃函数来完成分类。不过由于阶跃函数在零点没有值所以有各种各样的麻烦,所以换成sigmoid函数,当<0.5时等于0,当 >0.5时等于1
$ v# q2 l' B: ?2 {- T$ B# ~" |# f! n/ b5 @) r3 n [) }. R3 I7 n
- H* j. L. o' Q" t4 S
' M: [/ \% z9 o( z |
zan
|