- 在线时间
- 1630 小时
- 最后登录
- 2024-1-29
- 注册时间
- 2017-5-16
- 听众数
- 82
- 收听数
- 1
- 能力
- 120 分
- 体力
- 565164 点
- 威望
- 12 点
- 阅读权限
- 255
- 积分
- 174772
- 相册
- 1
- 日志
- 0
- 记录
- 0
- 帖子
- 5313
- 主题
- 5273
- 精华
- 3
- 分享
- 0
- 好友
- 163
TA的每日心情 | 开心 2021-8-11 17:59 |
|---|
签到天数: 17 天 [LV.4]偶尔看看III 网络挑战赛参赛者 网络挑战赛参赛者 - 自我介绍
- 本人女,毕业于内蒙古科技大学,担任文职专业,毕业专业英语。
 群组: 2018美赛大象算法课程 群组: 2018美赛护航培训课程 群组: 2019年 数学中国站长建 群组: 2019年数据分析师课程 群组: 2018年大象老师国赛优 |
三分类网络的物理意义是什么?8 P( F* Y0 f @7 N( M; x
* x' A2 Z# o0 K
用分类实现衰变
% v5 H7 d2 f5 _4 ]$ `专栏收录该内容
3 Y, [3 m+ }; G7 Y' E52 篇文章0 订阅# u' E+ u- _! }1 H* [* t
订阅专栏: h$ Z& n7 Y, F
(A,B)---m*n*k---(1,0)(0,1)
! ^ ?9 s: E: R5 r! z& m7 h" E$ g6 m, n5 m) G% u2 d
对于一个二分类网络可以将被分类的A和B分别理解为粒子和环境,因为粒子处于环境中。于是A和B之间的距离可以理解为0。因为t=s/v,则即便A和B之间的相互作用的速度小于光速,A和B之间仍然可以实现瞬时作用,并不违反理论。- m( P: ?- D& A; l' [* K/ p
# g' R" r( t, a$ `' U2 i7 E
( A, B, C )---m*n*k---( 1, 0, 0 )( 0, 1, 0 )( 0, 0, 1 )0 e! ~$ U& ?# i7 r# n( I
& \+ t2 [; s) Y( n4 N
对于一个三分类网络要完成3次形态的变换。A⇋B,A⇋C,B⇋C,每一次形态变换就是一次二分类,因此对于一个三分类网络可以理解为由3个二分类网络组成
) U$ Q) ~# _- s* A+ P! n3 a. P
1 _4 m) z" N/ f3 t. w% l(A,B)---m*n*k---(1,0)(0,1)2 E! k: N' o* d/ D6 t: c+ u
. ~ c/ @7 v' E' \(A,C)---m*n*k---(1,0)(0,1)2 p5 \+ ^- x# f' i, Z) N* ]
: T; y5 s& v9 H& |6 Z( K(B,C)---m*n*k---(1,0)(0,1)
/ b# G# q; T9 h$ V, Y- o9 z0 e( W7 q1 |0 G& l3 E
这就意味着存在3对瞬时作用,也就表明这3个粒子彼此之间的距离都是0.随着时间的推移网络的收敛误差会不断减小,而网络的分类准确率会不断变大。这个过程意味着A被错误的分成B和C的成分少了,同样B被错误的分成A和C,C被错误的分成A和B的成分也少了。* A# z6 W) w# `( A% r) R) t- f
4 ^. a+ l. T" E7 Z$ Z3 u
所以这个三分网络可以被解释为,3个距离为0的粒子不断的相互作用,随着时间的演化,最终变得越来越像自己。2 \6 k& f& F! {% I
4 f9 G2 t8 z; I) y z- @而前面的实验表明相同收敛误差下,迭代次数取决于等位点差的绝对值的和,这次就继续验证这一猜测。% X+ U2 J$ [/ y" [
8 }1 A2 h5 v- t* X用的训练集是mnist的0,1,2,3,4,的第一张图片。用间隔取点的办法化成13*13.
( _4 k& U0 N- b Y
' g* i: f4 o6 A; |4 y- @ T( 0, 1, 2 )---169*30*3---( 1, 0, 0 )( 0, 1, 0 )( 0, 0, 1 )这个网络简记为0*1*2.就只有3张图片不断循环往复,直到收敛。共进行了10组得到数据9 S0 n6 T1 O! W- `/ @
3 u1 G/ s5 Q) w" Y5 F
1*3*4
+ O ?) h5 B4 Z- U3 k; U1 U* O; |/ q' b/ X
2*3*4
8 W. _/ f* F" g% a8 V! v! z/ ?
6 _$ k' e" n! ]' q$ i! ?0*3*4
/ x, A, I* L1 ^/ B* L& X' M! d! C1 e3 A. c- O* F4 q7 ]1 \
0*1*4
2 Y7 v9 l, P5 \ O. b5 f9 [
! I& `4 l. V0 c% O$ q& z" I0*1*34 n5 f2 q0 J {9 u- k
+ D" B7 ]7 ?0 c/ M2 k- ?+ O4 R
1*2*4
5 ~. U3 z' P6 t1 z1 m
. m2 M4 W2 A* n" j1*2*3
7 t6 u q6 q0 G4 X3 Y$ b; W: O( O/ M/ ~, i+ |
0*1*28 e9 m. E! j1 K4 v0 l' W
& q' ^; \3 p) r) J9 D6 M/ p. k
0*2*3, D! R2 R: N$ C C* ?
) i! {* j0 V8 q2 j1 I. o6 ~0*2*4
' |& @7 u9 H( E5 J( d7 O O5 u( q% k4 A1 u: ?
δ
8 |- ?1 S5 _& J/ n0 C# ^5 z: v
; E1 W, M" f6 `* Z: y迭代次数n
; J. U4 n% r# ^6 v1 \, |# t* ^% |* ], \
迭代次数n8 ]8 q0 H- x1 K! c& v/ q
' K6 ]; @- r3 B# I* r- ?& p
迭代次数n
K$ A' W7 a! i4 s! s- K1 e# u2 Z+ ]! @ I( \# @
迭代次数n
3 z" m9 }" J8 k! v
k5 u5 U2 U$ f4 |9 y) Z+ o7 M5 g$ Y9 [迭代次数n
7 n: q9 q8 K8 M) X% x- h' }- Q7 V6 E/ R; ]' }4 e7 |& e
迭代次数n! a% `: d4 C* S3 E" c0 N0 [
9 N/ s: [) n0 j迭代次数n
! d0 _$ [) t3 ]( r3 _
$ K- R8 t7 f( ~8 e迭代次数n
$ J- j( t' F( x7 B$ o6 w8 M1 I6 H- Q6 E; W, ]. E' j5 J
迭代次数n- H# D2 D: {- _# N) T2 G
8 _4 ~# f0 O! g5 U5 L' z( u
迭代次数n
* P# C% o/ X2 f0 T* Y _5 ~9 x6 e0 f
0.01, Y* g( v& w% a8 S
$ n! [. H6 Q" Q) u4 |6 p
1763.1809
# ^% t: Z& m9 s4 e; v5 H
4 A( j6 N- H8 H$ _9 l1626.5729
( [9 S7 I8 g4 C& s4 x6 k( _% X
. e; A# p4 n/ t: R2 `. l% c D( Q1672.4523
& F8 r" d- W6 }4 @8 i7 ]7 a0 L( ~6 s) C1 ]! O
1635.9196
! G8 s) i) Z, t9 b
# [* K6 `- M7 d1 M0 O1596.7035
2 k7 G4 W. q7 r7 N k( h& h
! a0 m$ V8 J: F: l1620.4073 F# z! ^. v; C
) _7 b" r( a4 b" c& D# Y% I1563.8945
8 @' |- X, g1 G; {( [) h& e" M8 K5 }( X' E! E6 @
1444.29150 O [) ?1 {- |# L+ Y j; a, x
+ |' a' Y7 F0 b& `. K1410.0302
9 E4 A( _3 p W! N( e+ r
8 n: d1 F' b: S% y2 Z1465.4171
# w- z1 B1 T. _$ P8 d7 S# T# Y4 D5 C: E, P( y
0.001+ ~% }; g( F' H1 v8 c
4 g# Q! q! K7 u3 T ~ h13065.196
! A( J- L3 H: J. m
; {. D: \4 l+ N& b12674.945
# j$ P/ L9 d9 y3 E2 T. g2 ~: T7 n
8 K5 d4 ], W1 E N12747.729
5 e" L4 q7 K' q, s" O- S
- ]' O' {& {7 s9 Z" Q12386.216
/ m8 i. @! j: `6 p& N1 d
6 G( C$ v6 S: c( H12349.02
3 U8 Y) R0 A! M' O% J' H4 I8 e9 I$ N7 T' w7 M
12282.201: j3 y+ y3 `2 z
1 `* I; Z! ^1 V# i& {* y12270.0352 h" d% v3 Q5 k: O& J& s/ g
4 ?1 u/ N- k$ M) ~5 a; T( A
11338.477
9 f1 `9 h2 d* O& g" y2 T1 X& H2 x7 m
10985.201
m; k& B7 w' l J, ?( `% C4 ~' r% J$ }; u' F3 z, c
11015.503& p, B% S8 W4 u9 ?$ a+ p J
5 R" g1 `' u# ^+ Q* l Y
9.00E-04
; |. I* p4 D" d( K- \" r [- X( Z( [9 k* S- q' J
14352.452
4 b& _% d: w% E n/ Z, b; ~4 J" g* [' t$ Q' I0 r7 m
14004.633* r- g$ R' N9 `4 q0 i7 Y
+ ~! Z2 i! h9 t. ], Z1 {" F8 v, \
14062.829
+ {# Z* {" J* |0 c* b$ }0 s/ O; R P) l- c( z/ L
13629.467
! s. X4 k* _! m6 F& F: X7 L5 D/ z" X B. ?& C! K
13613.362
- ~% J- ^- N0 h* ~$ c! \ {. H2 _) J9 C
13609.5639 c. N' W# W( V6 I
2 v7 e0 w+ j* x, l13530.322
6 `# k: ~# Q# M8 X" s
- e/ ~' P# S1 q: z$ z7 m12458.171! \, r) n) `; _- o
9 D; B; Y. @ e/ }12176.362 t. ]5 n" K/ c, h; m
4 g/ I8 B g5 v8 h% I
12225.96
/ \' Q9 b( d$ S; G& X" e6 e9 z" S( [4 V# [# U
8.00E-046 N3 {* M: d3 k
9 G2 F4 r, @% j8 E5 F; Z16141.206
! R* e3 p9 u4 ~; a! a5 W& C
) F: o& s n8 U5 k/ S15611.101
( q& `# x/ O, v: H# {# ~( C) X: B0 C8 Z. Y, P( `
15749.911 X, _* j4 k2 }( i) O* p
" e, ~( ]! O% l8 Z" \+ z8 H+ r15264.983 }0 b% N; y$ w T
% r% C+ R7 y' V+ y15228.4475 Q8 k+ x& Q% T3 `- k
* z) G0 E$ O! ?
15207.628
9 u# Z8 }: Q6 {2 h2 r. q8 h' d) t
5 ?7 `& C4 t0 [6 p# W% c" U15053.7143 L6 l, E( Z) ], T" ]9 h- b
3 M1 @) s' m% q) q# d, U5 y* R
14044.729
7 R* ]: Y5 p5 T3 ~6 B1 U& _! o1 G5 R* z' O4 H2 j Z
13530.397
- U {; @: j9 [, b# v9 T" Y6 a8 Y) k6 c; w
13654.6786 ]" l1 u) s7 }; K! `: R
2 O* e8 |/ Z' C# H& _+ k
7.00E-04* G' ]) w( `4 l/ o4 ?$ r* H
* {: f6 n8 R" P p0 G0 T8 ^
18194.397# z0 H7 v$ X9 Y- q! z$ w& ?
# B. ^7 F6 }- ~; e
17760.638( s7 E8 s5 v7 ^: P0 M$ t
1 \5 m0 o% L @
17743.5783 @) t/ u9 N/ Z ^
$ k1 ?) ~5 {1 o5 w( @% t# }/ `
17333.377
1 V1 l, {4 m# \2 T! D1 |# [" z4 e" [ U1 p- S' ]0 C
17293.874: b- P6 D/ K" l0 u) y+ r( Z; P7 B* D
; u+ C' z" Y4 H! ], R7 C1 P
17204.638
( j" N. ] L9 g& s" b
4 R) {( I% Y" F, u x6 ~17058.809
+ e9 ]8 [9 a! ~6 _0 M* J' M0 p* m3 X8 t" Z- ~
15946.101( G% \9 L0 F& L- x' s. o% E
" L% C- `: i: ~0 m" u
15491.266' ^) _' b. {5 a1 r. _. X1 q5 l. h9 ~
) J I8 U3 {# M5 |7 q( R1 \' f4 q* a15399.538
; c% B4 B; B% d" R
& } y, W# _* t- o& P2 os* U, E4 a9 T, E M/ J
, K, Z% Q! V# r+ j4 p
130 h* A9 J- T/ ~/ p( L
; N# I6 r5 h/ H) k* N+ ~218
. q' }) M# a. a5 V; V9 S' F3 G \# f
198: C5 T4 O, }- T7 N
5 Y. J: m$ @$ W9 U: t2 l- e4 I5 M206+ t1 U' o* n6 N7 B+ q
" x, {/ A1 u0 M0 }; e N& v3 ]
204$ ?5 O3 E! M! f! G
2 \, G- Y3 _8 b( a/ o218. B, P. d# c4 ]0 L- L( s) u, y/ a+ D
+ U5 X0 `; }; M2 D9 F220
2 q, M3 R9 |3 A- u2 j: ]/ C
A0 `# n2 w9 x* l) \1 I+ K0 X0 \204
0 V/ g/ [9 d" L3 O8 }/ r( F9 g& v- m, ~$ c
220( D9 j+ ]3 h) l" f& f0 `7 J
0 f; }. Y# J/ z$ p9 I216
% O2 z& g+ E) R( \2 i! A, L- \/ n; m j. l% G: f! J4 ~
将收敛误差为7e-4的迭代次数画成图
! P5 a3 U8 M0 g" `/ K
8 S/ c5 Q& b C! u* X& P
$ W/ [7 ~# u, X( z: Y4 p0 C% ^8 S- p4 W
再将移位距离S的曲线画成图 G9 l2 N8 I- K2 `
! A5 _: ^5 v: v/ f [
5 B; J. p' i5 C6 N
; H4 F) ^3 A& B+ S在这组数据中s和n之间的反比关系依然存在。1 _" Z" e/ {1 {7 z
) ~6 I1 s: G& w, Z* o3 r! ~移位距离假设5 N$ h5 K Y/ Y$ i' E
! v4 w3 C+ y2 g9 a+ C& K
(A,B)---m*n*k---(1,0)(0,1)8 O8 b C% T8 {; A" b; k+ s
& O2 b' _' a) d/ V' n( v' g4 q7 g6 W) @
( O a# e/ c) J) f; j) T
用神经网络分类A和B,把参与分类的A和B中的数字看作是组成A和B的粒子,分类的过程就是让A和B中的粒子互相交换位置,寻找最短移位路径的过程。而熵H与最短移位距离S成正比,迭代次数n与S成反比。+ K1 G0 ^' V5 x# t+ B$ f
0 @4 j6 c3 z2 r- t* m8 E
移位规则汇总
4 O2 V) @& _4 S8 U! X N1 p& a5 U. h1 r) `
移位距离就是等位点数值差的绝对值的和S=Σ|a-b|,如果训练集有多张图片取平均值,如果是多分类问题则移位距离为所有两两组合移位距离的和。
. j2 x: I0 s/ d+ Z* C1 | r
. {5 B% c3 V' p+ s: b9 O4 x如对一组3*3的矩阵
2 j" B6 \( L' ~: [' Z% N- m7 A. s' i, r9 D9 i( q! Y. r1 O
) c/ D+ p" t- F
) d6 e7 E* X. r# Y! m1 [
S=s0+s1+,…,+s8=|a0-b0|+|a1-b1|+,…,+|a8-b8|" t' C3 d+ |% U
# @, r* f3 R8 ]
如果是3分类问题,就应该实现3个形态之间的两两分类,也就是要完成3对等位点之间的差。
# V5 Y* Y+ r0 w) F; G$ m1 g9 c Y
. k1 Y, q0 f$ d% C& ? ~ Q$ F4 Z$ U2 `5 k! _
9 A- }% a; r7 N* {9 [因此移位距离* S5 o" O% ?; w6 L7 y2 Z6 Z+ P
9 B: l3 S- W8 O9 v* f/ M3 }- D( B
S=Sab+Sac+Sbc=7 p* E6 x" l; t/ {9 i
# A( R& E+ D; M! c7 L1 T|a0-b0|+|a1-b1|+|a2-b2|+|a3-b3|+
: P9 C' k/ R6 @; a
5 E$ v6 }; x; U# ~|a0-c0|+|a1-c1|+|a2-c2|+|a3-c3|+. Y8 E$ R. y4 M
7 j1 l6 B/ I8 U, E! c0 r% k|b0-c0|+|b1-c1|+|b2-c2|+|b3-c3|4 ~- O& B& f& T
————————————————% l5 n! f: e! S
版权声明:本文为CSDN博主「黑榆」的原创文章,遵循CC 4.0 BY-SA版权协议,转载请附上原文出处链接及本声明。2 h+ H, L7 G( z+ y
原文链接:https://blog.csdn.net/georgesale/article/details/126690670
; o4 k9 ]. ]/ Y$ C ]
) _% k. p% _* O7 X7 J6 O0 [4 Z7 q) G8 n1 r3 x& } z; n' t
|
zan
|