- 在线时间
- 1630 小时
- 最后登录
- 2024-1-29
- 注册时间
- 2017-5-16
- 听众数
- 81
- 收听数
- 1
- 能力
- 120 分
- 体力
- 541077 点
- 威望
- 12 点
- 阅读权限
- 255
- 积分
- 167701
- 相册
- 1
- 日志
- 0
- 记录
- 0
- 帖子
- 5324
- 主题
- 5250
- 精华
- 18
- 分享
- 0
- 好友
- 163
TA的每日心情 | 开心 2021-8-11 17:59 |
---|
签到天数: 17 天 [LV.4]偶尔看看III 网络挑战赛参赛者 网络挑战赛参赛者 - 自我介绍
- 本人女,毕业于内蒙古科技大学,担任文职专业,毕业专业英语。
群组: 2018美赛大象算法课程 群组: 2018美赛护航培训课程 群组: 2019年 数学中国站长建 群组: 2019年数据分析师课程 群组: 2018年大象老师国赛优 |
关于Logistics回归用于分类的解释3 [' J' F2 v1 g2 f
logistics回归让人最搞不懂的是,明明名字里面带了个回归两个字,为什么这是一种分类算法呢?
1 Q! b2 f" J- d4 e4 G9 _* {$ J
* ]6 {3 H1 {* q$ N5 s) F5 [说到回归大家想到的都是根据一些点得出一条直线或者曲线。的确logistics回归也是得出一条直线,然后如果这个点在这条线的一边比如说上面属于一个类别,另一个点处于这条线的另一边比如说下边则属于另一个类别。
- z' Y( o* Z" \+ Y' W) f r
{( D8 V& `/ I. c. L2 P这条直线是怎么得出的呢?
3 l( j7 N* V0 x* j
1 a2 \: `3 G9 F; w) A- s% [首先假设所有的输入为(x0,x1....xn),输入前面的系数为(w0,w1...wn),输出为y c' g7 m9 l8 t
+ A' ^! `. u5 w: L: j1 @+ B
我们可以得出y=w0*x0+w1*x1...wn*xn
1 G2 X& E- M- M0 b v
( {& i% ?$ f @ s. Y6 @& Y然后将系数(w0,w1..wn)取随机值。然后开始训练网络。训练的算法叫做梯度上升算法
- }. w5 s: h- A$ @+ x: [, f, Z: N0 Z* N3 l$ T( i
根据y=w0*x0+w1*x1...wn*xn,我们可以对所有输入(x0,x1...xn)求导即是求梯度。
4 G: r: t. z& e2 k" F
8 ]0 t4 S1 F I O! Q. o4 U, k3 ^
' ^+ y# I6 n3 |) T% {
* o& G& ~. s5 Z$ X1 G这个公式什么意思呢?学过微积分的同学都知道,问题是像我这种没学好的就放放吧。大家只要知道能通过将矩阵转一下就能得到,转一下的意思在下面
8 U0 j Q7 U, J2 r9 ~6 k1 i# V4 F5 ?2 q3 B& k* g6 h# j& D
假设dataMatIn=array([[3,3],[4,4]])
! X/ |4 R2 u1 |% z# h) y
! i! q0 [& g% T1 G1 [( k那么dataMatIn的梯度就是dataMatIn.transpose() => array([[3,4],[3,4]])3 ~# y1 t& q* L) I0 I
# { u, G/ ^* q1 V# i然后就完成了。4 J5 u( \. w$ i0 F: H; f2 |3 G
) e( A5 j! ], D- C" b& j& U g* a
继续讲如何训练的,我们还需要计算期望结果和输出的差error以及假设一个步长a,步长a是根据经验来决定的,步长太短很可能训练了很久还没找到最适合的值,步长太长就能难准确地到达合适的值。+ v7 M3 Q" E+ ]# E3 D% N
3 @/ }+ @7 v! U1 H9 G8 Y然后我们的新的w=w+a*array(x0,x1...xn)*error
3 v A. s7 T, j- n3 x6 g% Z8 {: _ d1 S" \. g' q$ T
一般设置循环多少次然后停止或者当error小于多少值得时候算法停止2 y G* |6 h& M) x# l
# Y# C. A0 J2 ?( O" ?" g8 Z3 M
最后我们还要将y输入进阶跃函数来完成分类。不过由于阶跃函数在零点没有值所以有各种各样的麻烦,所以换成sigmoid函数,当<0.5时等于0,当 >0.5时等于1+ l2 p" P0 \1 F! j6 A' k# v
! Q' T# K* C( R) u0 S
# {% _& E. |& n( g a% s2 C
8 M; _; }/ v0 v, {: f0 @4 f/ { |
zan
|