- 在线时间
- 1630 小时
- 最后登录
- 2024-1-29
- 注册时间
- 2017-5-16
- 听众数
- 82
- 收听数
- 1
- 能力
- 120 分
- 体力
- 563327 点
- 威望
- 12 点
- 阅读权限
- 255
- 积分
- 174221
- 相册
- 1
- 日志
- 0
- 记录
- 0
- 帖子
- 5313
- 主题
- 5273
- 精华
- 3
- 分享
- 0
- 好友
- 163
TA的每日心情 | 开心 2021-8-11 17:59 |
|---|
签到天数: 17 天 [LV.4]偶尔看看III 网络挑战赛参赛者 网络挑战赛参赛者 - 自我介绍
- 本人女,毕业于内蒙古科技大学,担任文职专业,毕业专业英语。
 群组: 2018美赛大象算法课程 群组: 2018美赛护航培训课程 群组: 2019年 数学中国站长建 群组: 2019年数据分析师课程 群组: 2018年大象老师国赛优 |
三分类网络的物理意义是什么?& C3 e7 E" ?7 K' |# {
& o7 ~% _/ e1 Z _4 [' W9 c用分类实现衰变
* y# @6 ], ^0 z6 a专栏收录该内容' y0 t4 Z3 i* h% l' k [
52 篇文章0 订阅1 o- s5 u6 ?1 u' `- v
订阅专栏
" X4 X! q; J% I5 B! n5 ^8 G(A,B)---m*n*k---(1,0)(0,1)
- A* a! g: |9 A
$ a9 a0 z/ F0 g对于一个二分类网络可以将被分类的A和B分别理解为粒子和环境,因为粒子处于环境中。于是A和B之间的距离可以理解为0。因为t=s/v,则即便A和B之间的相互作用的速度小于光速,A和B之间仍然可以实现瞬时作用,并不违反理论。
2 t8 b; ` E0 o, ?, j9 v1 w2 m4 I# }7 R" y
( A, B, C )---m*n*k---( 1, 0, 0 )( 0, 1, 0 )( 0, 0, 1 )
' m0 {. O4 L7 d2 d3 I9 I1 X& ^/ i/ E7 N# K
对于一个三分类网络要完成3次形态的变换。A⇋B,A⇋C,B⇋C,每一次形态变换就是一次二分类,因此对于一个三分类网络可以理解为由3个二分类网络组成
* C/ Q* x: |) A3 x G* j8 r1 ^- v- x9 I. E1 q1 j) ]' h
(A,B)---m*n*k---(1,0)(0,1)% ^- q$ Y4 |4 n3 A7 n
/ i! j0 S: U+ c' i/ @' }(A,C)---m*n*k---(1,0)(0,1)4 C; S% X% t- q3 [) y' M
! D4 m9 _# w# [(B,C)---m*n*k---(1,0)(0,1)
4 p H9 n' h5 Q8 ^) R# l X% }, z9 i y* {8 {& s' y
这就意味着存在3对瞬时作用,也就表明这3个粒子彼此之间的距离都是0.随着时间的推移网络的收敛误差会不断减小,而网络的分类准确率会不断变大。这个过程意味着A被错误的分成B和C的成分少了,同样B被错误的分成A和C,C被错误的分成A和B的成分也少了。
& t1 f1 Z9 Z X" f
) A8 V- Y, A- k( y; |所以这个三分网络可以被解释为,3个距离为0的粒子不断的相互作用,随着时间的演化,最终变得越来越像自己。
6 X W+ T6 c3 i) R& K! W! W y
2 s: }( I" b' D0 y9 L7 z而前面的实验表明相同收敛误差下,迭代次数取决于等位点差的绝对值的和,这次就继续验证这一猜测。
6 G/ ^$ F* k, T! @/ f( X- D1 U- X1 r( J: a" F
用的训练集是mnist的0,1,2,3,4,的第一张图片。用间隔取点的办法化成13*13.
* C! `3 Q5 B0 ^3 e/ K
5 ^5 e: Z1 e3 H6 t% C) [( 0, 1, 2 )---169*30*3---( 1, 0, 0 )( 0, 1, 0 )( 0, 0, 1 )这个网络简记为0*1*2.就只有3张图片不断循环往复,直到收敛。共进行了10组得到数据( W; b1 a7 i* g+ s, g
) u5 `1 O- @2 g3 V0 M w1*3*44 Q, j) p) r( A4 I4 m6 B/ c% @
9 W7 h# }# m8 P. k$ t
2*3*4
! O) [) N9 |/ h* G6 X( U! T% d3 e. D0 A4 S U% {' N
0*3*4& X* {( G0 n+ b- }" ^6 Z
( s0 N9 q4 a6 r: T! a
0*1*4
W7 E% s4 m$ S# B4 D7 Q7 c) d" q) m. V$ b8 F
0*1*38 x: V9 M7 F. ~1 w
2 i' d K6 d# y& }/ i+ Q. X0 w
1*2*4
" j! e5 T/ Z3 w6 a& U" Y7 u' o* H [9 r
/ A4 h+ b( @% E, G8 X1*2*3" n) m8 h& Y8 s
* z: Q. z9 n/ @; c& T+ _% {) Q* a
0*1*2/ `/ I/ W4 U( r0 G3 [' g
0 {5 X0 V- E& P9 d1 X( l
0*2*3
$ h1 v0 y$ r* d+ t$ h1 z( E3 M
% Y: n/ ?+ g" }- {9 F/ p0*2*4% b2 J6 z8 {, ^; d6 i% m
4 `+ \) l4 D: q {
δ+ C. t( X. m- N+ r0 l. E
: m$ P5 U4 G. H# M% ^迭代次数n
: y2 e7 E$ ~9 I0 [- M4 `
9 L4 n) b' j) p迭代次数n
' N) m' n1 a. J4 E6 K* ?- c' n* \, ], z0 S. K( u
迭代次数n( W3 F7 _+ b- V% B' M
& t& _5 z7 N% x& p2 B3 o
迭代次数n* a9 h4 y i& q' ]* e
: h6 S& _; f F; B- b迭代次数n8 T4 U, e/ ~( @. t6 g# B
" b+ s2 G" z- v( a5 L
迭代次数n4 ?/ L* \1 j! r9 |7 b, `
: m. z! r( _$ v迭代次数n: t" N/ r9 B0 b) u* @
: \9 w$ @6 ?0 r迭代次数n ]$ B& G+ k3 h. O! M9 J5 J2 `8 N7 v6 b
# Q# L* s5 r) b h' @( [
迭代次数n8 E, }) Q% s! p- P+ f7 G* e
: e/ e2 m& K( U" g
迭代次数n/ `+ Z4 E& Q4 N, |3 t, Y& I9 x
2 P P& R' `; Y9 A5 {
0.01
/ Z- {; a1 r2 K8 _3 j
- e4 y/ A1 h& O8 v1 a1763.18092 b, X' R* L1 y5 h
H; A' t& {0 {& P1626.5729
/ z# R: I" s3 g" _6 [& X
5 G+ {3 d8 G) ~- u1672.45238 @: ~3 x5 N# D$ k. Q
1 }$ Z% z2 L* F. s4 m1635.9196
3 P. ]% a: n1 \; l- L4 B0 t3 J9 u- q$ D) n- \
1596.7035
( M( x5 x3 |% h+ L4 }4 m; ^% `( P$ v
1620.407
. E, q" q% Z9 e4 V: K$ q H, b- z) @. S. ^7 N
1563.89450 y6 z5 Q6 e3 L' `+ ~ o
/ q, m- \1 F' z# b( c% F( X4 f7 j1444.2915
! G* L8 j# M; p( O" g5 H
3 L0 e5 m& |4 E' Y; O. [* X5 B$ [1410.0302' }% Q- i) i: q* U9 k( Q% m
4 Q8 G7 y! L9 _: T8 D1465.4171# k/ v2 ]$ A6 v7 o9 T
) V/ [) m* Z U
0.001) _6 U( B! p% H, w
4 p. ^2 J2 T) B$ J
13065.1960 I, Q4 ~* E% k/ j- B1 w
; a! ?9 v9 K1 l1 n4 l+ F
12674.9451 @. j8 _3 z/ h2 W
7 c1 R& ]5 ]% P |4 u12747.729+ q7 C9 {0 [( e) R: q. Z1 [
% r# F$ T4 l" o12386.2168 J6 K5 I ^4 {7 ]
' d' u/ |: a& D; a12349.02
% Y {4 Z) k) O1 m- G* G! K5 A: v8 `0 W1 B3 ?1 }
12282.201$ [- y; s1 C1 B" N6 Q& y
4 Y9 R2 j. S! z* _7 C12270.035$ R, O3 L1 ]3 ~6 `9 C0 B! V
4 [: l5 ?4 Q$ o/ z, m' i6 W9 c5 v$ q5 u& [
11338.477
; x7 \2 {4 j1 D9 h) S4 V6 ?* {) j6 {" H2 }0 {5 C7 T9 [& b X
10985.2015 \ f4 d/ U$ f! z$ l# g7 W
; l. G9 k' I% I- n; d6 l+ U11015.503
, S3 W4 i' n' ` _# V& M
7 J6 v w/ a" \5 l6 g9.00E-04
9 f9 q: D; w2 t- s6 X" d2 I: t
: i! ]6 T: E: H14352.452" p2 K& h5 Y: y6 P: w1 t6 k
* g% ~) ]6 T5 f* r$ d3 [1 a" v14004.633
2 x# x$ U- @0 Q2 |3 \$ o
* N5 c/ _$ Z9 G% I$ X14062.829
5 v2 a" |$ P* l) C7 z; ~; A& ~* k7 @; \9 Y
13629.467
, D, S/ M; z7 n+ I9 g
% E8 ~# E1 W7 A! S0 b4 r ~13613.362
1 ^9 l* W$ O w+ e/ {
( P7 ]8 A/ v8 l; H13609.563
9 H( C- `: M c, m: j+ g# l: Z2 _2 X# R
13530.322
5 v4 L& x/ `& w6 M; y! \1 C& r8 U2 \: [& R; P" W1 `
12458.171
7 N$ C& O& O* g3 m- z3 B
0 [9 s' w, `2 G! Y; D( a% X12176.362
! m; G# |' R- ]/ H1 Q" h$ V; ~. M* d$ N9 Z' g! Z. ^4 |
12225.96 M+ o3 ]/ X) _4 |; \
# g8 ]. }4 {4 t' i4 F: c/ A7 R( e8.00E-04/ b9 H ^) H1 E* U0 q( z @
$ j) S: m5 z! b* M8 n; q8 `
16141.206
3 o5 |) g& b; m# c- \5 X' Y% R. A) |' U2 J" g/ W
15611.101
+ |8 I: G. z, m) q( s8 d+ ]% t4 f) h8 w' X
15749.91
: P7 D8 T3 z5 p% y: n1 z- j" P: f: U- V! h' I
15264.98
$ ~+ @* |/ @. l: P$ _. Q2 p: z1 }" |" O* J5 o4 p9 @
15228.447
! b. k O; g4 a4 Q5 Z d5 Y6 G0 b/ Y1 Z3 N7 ]
15207.628
' ` ]& _# g( P8 B5 b9 F: Q4 a. R- F
15053.714
8 T6 J$ } p! X; g. P" L4 J1 g' C: T( P! r0 z( `
14044.729
# \0 {; p( W) n/ K) d9 u& @- v$ w2 g9 G
13530.397
2 d8 G; [+ h1 {5 ^
+ b4 M; I5 Y$ C1 a$ M( [13654.678+ T) C5 h0 d, L
p0 | a- C8 ?( ?# f
7.00E-04' d6 G, b) x; A/ Z
' O$ f4 E# Q( Z0 ~8 [8 k! i18194.397; \6 S) V. G( i5 D% u% m9 J
+ ^* z0 [% L: O5 F" B& k$ V- @
17760.638 W/ i1 X4 s) d# F
5 {% x7 z6 w- B2 S
17743.578 I& F9 Y! _, ?8 C3 j& I" ^
: u2 N' Z1 w% c& P; x" i& }
17333.377
* Z( v) \' E3 h$ p; a
) N1 T3 e" u, N7 B, ~17293.874! q% J, D, u; V" x/ x8 ^* j5 J& `
8 ]5 s% Q! @, ~1 ]
17204.638
/ ?. ?3 m3 V2 k: {
" |* f8 o b4 d& k, h17058.809
& E; _; S0 v" C' r7 E4 l$ w1 a0 s: j4 W
15946.101' p4 ^) H9 G; A# A/ |" ]
& r8 R. ~- n4 ^1 x/ m% ~15491.266
: E$ k6 Y$ e9 r5 g( _+ ]' g# b" u2 d7 _' E* f" X4 Q
15399.538
; B& R2 P5 E* i4 Y4 z
/ L3 c& G/ _: Q! l0 ~- O: ps
' w- n) u! g7 W0 E+ R& |; X, A2 R w, }
130
8 Q; j. M$ W; D: K3 s3 Y0 B2 ^5 ?( f6 E5 z k& U$ G. c! W4 e
218
7 z l3 U$ a' {2 A/ p* d& T2 p [
% z8 {# l7 G3 {- ^" V% x# S) ?198
9 ?5 G; `! W! j3 a1 S2 U. s/ I- J: y; e" D
206: y, e; c" @+ D. m# m) ~6 G
- K3 b& o6 }3 `6 J; ^2 {" I204# b' N0 z& }- o2 N' j
! J+ d; x" X) H6 ]9 U218
6 o7 D; _4 d# q/ q5 v8 O, z9 V. D% H2 l/ S, ~
220
% E) |: n" v/ F$ x# r9 R, ]& \" [, ^1 C$ c$ U( u4 U9 t
204 J2 G* B1 E6 J) u8 A: k+ u
5 O/ L- T; N/ X8 W220
! y2 f6 y0 ]7 W. j# Z5 W
1 g) {% ~# S% T5 G7 m216
, l" r1 ?; X' c* E) C. X9 q! w; ]- Z, z C! _. z. {
将收敛误差为7e-4的迭代次数画成图, I4 ~0 X% D* v! k% d: j
9 h1 U3 g& u* V" o/ j8 H. T- y
, \# y% f7 T: I7 w& @* u; c0 J! R2 _! v( F
再将移位距离S的曲线画成图- j: z' r5 d$ ]- l+ P6 D& w
3 G" Y) \! |9 w) z) S
) @/ `! g( B6 U4 N9 q
0 W! f2 x8 N8 I4 P) m5 A! h/ d在这组数据中s和n之间的反比关系依然存在。
3 H9 X/ @" z3 o- W8 y' X, p! i6 S4 l! ?6 a w
移位距离假设; V: M6 N0 X. |9 X
8 q2 D, D; ~& C; x& @
(A,B)---m*n*k---(1,0)(0,1)5 u/ ~ R/ ?. N: j0 O" v, ^* K
9 \# ^+ k% y# u4 i( G& n; }! G( H* u S; E8 _ K$ Z
$ u4 P8 p4 t! ~# l' f9 a
用神经网络分类A和B,把参与分类的A和B中的数字看作是组成A和B的粒子,分类的过程就是让A和B中的粒子互相交换位置,寻找最短移位路径的过程。而熵H与最短移位距离S成正比,迭代次数n与S成反比。: l" O% G& a) C$ L5 Q& S
1 C9 r* X' `" Q) ^ @' e2 l
移位规则汇总( T1 t, Z8 y0 H% O, ~6 `1 q3 r
% g/ ?$ g8 E1 C, K0 h( E+ [
移位距离就是等位点数值差的绝对值的和S=Σ|a-b|,如果训练集有多张图片取平均值,如果是多分类问题则移位距离为所有两两组合移位距离的和。
0 S! ]2 {. r# q5 D3 L* r% l9 k( i3 Y: O1 y1 K7 G* `. ]
如对一组3*3的矩阵
" ^0 j2 f) e# j/ Z
v2 H: G2 e4 c1 U4 s8 z+ F% \1 p0 F- k8 r$ ]3 G
* L P* E' ^7 X. L+ bS=s0+s1+,…,+s8=|a0-b0|+|a1-b1|+,…,+|a8-b8|7 W6 a& o9 A H0 H- u* ^8 O+ \- E
/ i) X/ I( t: j如果是3分类问题,就应该实现3个形态之间的两两分类,也就是要完成3对等位点之间的差。
5 b; H9 |7 x8 w" X5 }4 i% c1 D
. P, U# t, T; M( u% j) \6 |* E) i# L
( c# D6 ^3 k+ ~因此移位距离$ p) y* Z3 h4 W& k
: c" k9 Z) Y* cS=Sab+Sac+Sbc=
7 {8 F3 O. h; ]' U" q
, f! S& y4 |% X; `" U% l|a0-b0|+|a1-b1|+|a2-b2|+|a3-b3|+
" i) w1 N; {, U h- v. S) j$ _ [ k# @/ p% w3 G
|a0-c0|+|a1-c1|+|a2-c2|+|a3-c3|+
0 g: u! J# z# F+ p- i9 Y! @0 t! a! q7 W4 L
|b0-c0|+|b1-c1|+|b2-c2|+|b3-c3|
& {+ S/ i" C2 n3 a8 j1 q/ M8 G8 n————————————————
; m+ e" f) s8 f版权声明:本文为CSDN博主「黑榆」的原创文章,遵循CC 4.0 BY-SA版权协议,转载请附上原文出处链接及本声明。
; r5 ~0 C) c [: v& L5 M2 c8 N原文链接:https://blog.csdn.net/georgesale/article/details/126690670
5 Q8 Q; S( T5 f* g/ d5 L# g+ I
7 O9 m( T& d Q" v( ~6 z4 J# h0 T8 j& r# G, e
|
zan
|