- 在线时间
- 1630 小时
- 最后登录
- 2024-1-29
- 注册时间
- 2017-5-16
- 听众数
- 82
- 收听数
- 1
- 能力
- 120 分
- 体力
- 564675 点
- 威望
- 12 点
- 阅读权限
- 255
- 积分
- 174625
- 相册
- 1
- 日志
- 0
- 记录
- 0
- 帖子
- 5313
- 主题
- 5273
- 精华
- 3
- 分享
- 0
- 好友
- 163
TA的每日心情 | 开心 2021-8-11 17:59 |
|---|
签到天数: 17 天 [LV.4]偶尔看看III 网络挑战赛参赛者 网络挑战赛参赛者 - 自我介绍
- 本人女,毕业于内蒙古科技大学,担任文职专业,毕业专业英语。
 群组: 2018美赛大象算法课程 群组: 2018美赛护航培训课程 群组: 2019年 数学中国站长建 群组: 2019年数据分析师课程 群组: 2018年大象老师国赛优 |
三分类网络的物理意义是什么?
9 Z! U9 g; L" u$ Q* i0 Y0 G- ~1 F* L" j
用分类实现衰变
5 |/ K& c4 u& `专栏收录该内容8 V5 R& e5 ^0 C9 {0 Q7 P
52 篇文章0 订阅% f; @2 ^# m7 J
订阅专栏
& ?' {) y' w% e3 O1 h- a(A,B)---m*n*k---(1,0)(0,1)) T ^7 j& c) M( S& j
' z0 z$ Y4 O% c对于一个二分类网络可以将被分类的A和B分别理解为粒子和环境,因为粒子处于环境中。于是A和B之间的距离可以理解为0。因为t=s/v,则即便A和B之间的相互作用的速度小于光速,A和B之间仍然可以实现瞬时作用,并不违反理论。
, W4 X0 ?& b! W9 ~# i8 w1 O& ]6 b5 m' ?0 [6 u; J
( A, B, C )---m*n*k---( 1, 0, 0 )( 0, 1, 0 )( 0, 0, 1 ). {/ w$ h0 b' P7 N8 M% g
H8 V0 q4 I% q* g/ q9 b- W
对于一个三分类网络要完成3次形态的变换。A⇋B,A⇋C,B⇋C,每一次形态变换就是一次二分类,因此对于一个三分类网络可以理解为由3个二分类网络组成6 I) `; a1 h8 L* t0 n/ N$ B
. T$ P$ _! a: z/ ?! B
(A,B)---m*n*k---(1,0)(0,1)* s2 w# D3 Q' {+ F T' Q2 w' b
# C: |; ^( a+ ](A,C)---m*n*k---(1,0)(0,1)
" C% [( d0 g5 s- T( i1 P7 g9 D! x' }& z, g& i! s. g
(B,C)---m*n*k---(1,0)(0,1)
3 K: n- d, S; \. |) E7 ]3 e! U' E0 V2 I* O
这就意味着存在3对瞬时作用,也就表明这3个粒子彼此之间的距离都是0.随着时间的推移网络的收敛误差会不断减小,而网络的分类准确率会不断变大。这个过程意味着A被错误的分成B和C的成分少了,同样B被错误的分成A和C,C被错误的分成A和B的成分也少了。3 E0 m2 g6 B9 ?, @7 s8 [ E( w
. y" r" P# V9 Y所以这个三分网络可以被解释为,3个距离为0的粒子不断的相互作用,随着时间的演化,最终变得越来越像自己。* T7 @6 b/ P. O" L
4 g3 _/ B/ Q9 ?: ?0 L. H" R
而前面的实验表明相同收敛误差下,迭代次数取决于等位点差的绝对值的和,这次就继续验证这一猜测。
I5 z" ~. |' l* W. p) I. O s( A& m, y
用的训练集是mnist的0,1,2,3,4,的第一张图片。用间隔取点的办法化成13*13.
; B. X! ~ ?6 Y
+ m0 C8 P- q* X$ S$ l" p( 0, 1, 2 )---169*30*3---( 1, 0, 0 )( 0, 1, 0 )( 0, 0, 1 )这个网络简记为0*1*2.就只有3张图片不断循环往复,直到收敛。共进行了10组得到数据
+ R5 L5 G0 m7 @3 C; r
. m- \- I% S1 [8 [' k) f4 Z1*3*4
" G& h4 Q4 v0 ~
& m2 @! a$ |( s# j" k2*3*4
~* F C! u0 f6 J4 B( |$ r. N7 c" A* s5 `8 c
0*3*4& H, T. ` o/ k1 a: z
' }( S6 r: a( L( E& s \0*1*4
) {9 S3 Z5 I: {1 Z4 d/ s1 A- ? ?5 k+ h4 Q8 x! y
0*1*3
$ t, O2 J- ]( s8 E! T t- n
7 X5 t) p" E x& @7 e1 W5 p. P3 f1*2*4
# q/ k' J7 r% j6 S+ w& J
1 g0 ]3 D8 R4 X) Y( R2 J. C* r1*2*3
: d- x. g9 K. v' i1 @" |7 ~, m, Z u( ?+ }6 K
0*1*2
! r; g- q: r* u4 e; Q8 t- x! ~ N1 D" T1 J8 r
0*2*3
C/ }. f5 N9 Q5 l, l s! }; v; _6 N% S; k: W( \ X3 N% ?
0*2*44 L% N( Q `* o- a& p2 X
' C" t0 k6 ]4 z8 L3 N3 X: s& j
δ
1 i# M- C) i9 l3 v
: w9 a$ l- H( j0 F3 v迭代次数n
& V# W7 G! F" j/ u) w4 w9 f
& Y6 h8 d& C% D8 U. I5 e迭代次数n
+ r* x- k* e+ Y5 b: s& |3 H% _- t5 I: p" ]
迭代次数n
5 ^+ b; E6 A7 M/ J
* o- |7 c& ?3 b8 g9 \2 [2 h迭代次数n2 L; j K Y1 d' x0 f! r7 }
7 V# J& b- t! A: z. u: q, R' C6 d# y迭代次数n2 f! I( c7 S; L- E
! q0 _1 i T2 x- K迭代次数n8 K A0 C+ {1 R+ U, G
3 C' i1 Z3 W( Q2 s2 X$ I( C$ c迭代次数n
: U" t. [/ Y4 e& B: h8 v. @% `# I
迭代次数n0 E* [. R9 }9 H0 d* G" N5 Z
8 g5 S' |8 K$ s; M; _
迭代次数n! w$ Z& V: l8 A" c' X
) |9 L, H a' u3 y迭代次数n+ }3 z' u6 e' B$ R
0 X$ t1 _# f0 I7 X6 C) g1 ^3 z/ F6 @4 f
0.01( D- }0 S# Z9 f3 D" F& r
! `1 h9 V6 r1 A0 a
1763.18091 G9 p0 }3 I, _
; D* H( p8 ^# ^1 U9 |! \/ n# T1626.5729
0 N9 U6 ?% P" ^3 a- ~+ w# f
, G8 n6 z% G [3 H/ D+ P* I1672.4523
" R d. u w. t) S1 M( d8 W1 t* t
- I/ G$ `9 e7 B% u3 ^1635.9196! _. L( u/ Y7 R
; Z( D: G: O, A
1596.7035/ D9 `8 k8 I5 M7 b8 V$ W- `7 B7 c
9 C" ^9 m! M7 m, U4 V7 a- G1620.407' ]4 A; h5 t- f1 f: \
, N3 w; G8 r1 o* x9 K' U' Z1563.8945
) s0 `) o& U3 ?$ ]' O! ]! i" D
* B9 \1 }+ `4 u: z1444.2915! M- ?; E/ k0 x8 w6 E$ d
" D y6 S/ s/ a1 O; Y
1410.0302
, E- q+ ~0 |6 y W
- N/ C$ b/ J( V5 e! M2 z2 }1465.41711 D0 \2 u5 v/ d$ f
0 @/ W' D: K# r, c; v* B6 l6 r
0.001* X C! ^3 u: v0 B7 a/ U
+ `! L; h8 d" X: Z7 s
13065.196* v3 ^9 y/ a8 g; c7 F
6 j' t3 g) z5 S" w. B8 s
12674.945
+ K `7 e' l) i! y) w
% ~. n# `: M/ G* P8 V' ?12747.7292 d4 k+ i C8 ?% e+ R
3 ^( q1 F1 d9 q+ C! j
12386.2168 T }, y6 q+ A6 k& {
, I' F) L" Z, C- f! Y
12349.02, i+ B- e% W! a6 i" |* W
9 c$ ^0 O& ~ l6 \ b$ R2 a; H' F12282.201
- c1 d4 t2 ^& E4 q
. s, @ }# X; Z0 x1 S4 K) n12270.035
& g0 `# }0 z0 A ^9 S( E ]; Z ^6 b( s |9 n( J
11338.477. I- L* R" S( }( |( }% t1 d" U
+ \+ U8 c& }2 @: @: h* B8 _. G10985.201
0 Y1 ^( a. ?* u; Q8 m- n1 I( _6 f9 c3 L8 T# x2 r3 P" S
11015.5032 }( g$ j4 F6 X7 i1 K* L* [' D
6 G3 |5 e. m L1 {) { p3 a6 G9.00E-04
; u+ [( K8 J3 a$ _$ ^$ G7 v9 t8 S
- Z% D2 K$ N9 p+ }# V9 n14352.452- z5 A5 t, P4 [% v# @: f
# t, U7 P! o& r2 [, h: Z6 \
14004.633- x1 u# A. o* g+ G2 Q3 b
9 g* d1 J8 F+ r( X14062.829
8 M$ h8 [3 V) u( H% H: {7 O. z* t- J/ Z4 X+ i8 W8 D- C; M
13629.4673 q x: O# }3 C
) q5 ^( H9 w7 E+ c n- c) |7 Q1 p+ G
13613.362
' x/ P) `) y" ^; I3 D9 `
& X, [ N% f p- X# P7 `7 [3 `13609.563
+ d- Y9 S6 X' h, u' J/ q7 ]: b4 `& N7 A
13530.322( _3 ]0 q. ^% E
: d8 L+ k) R8 T1 d- A12458.171
, e' ]/ d! j$ D8 x* {+ e: h7 @+ m8 b" g1 R9 H
12176.362
& b% h' t* c4 @( N: `. G. b- A8 S. j% J
12225.960 e9 ]$ P- G3 u
; m S8 T3 k/ T( f! { A1 N
8.00E-045 J& o, S$ h& {0 v, G* j
% d/ K! K( }7 r3 ]% A
16141.206+ T: G% q( [( c) u
: G$ I- w& A0 @: w
15611.101; ?) ^: V, j% @/ D0 c8 f" U! p
9 c. F+ p" |& u$ R5 i' \, J1 B
15749.91
, E" }4 Q- h3 e- a
, j+ {, Z- u' G/ |$ u% i; ?2 O8 b15264.98; R8 R+ p% C. w+ `1 x
E R% [" [7 t15228.447
5 h! H2 L, @/ w* M' f, z- C6 G' J: O& D
15207.628) p+ x* W- P0 c' v+ C
* D. f' j% A5 x9 i
15053.7143 t* B& y- J& U* {2 y) l. A: I! o
2 q" P/ a7 I9 N O) y1 R+ f14044.729' c2 s; C. J( t% W- s
, y( w' K; l1 V- j6 J+ P& f13530.397
% |! b5 X. A7 B# C& M) M' |. \% w8 Y) h4 v" V" n
13654.678. F! d% `% i: E8 ~( H
, w. h2 _5 _2 U0 s; d* U) |7.00E-04
; ] D7 \" r8 H- Q% m& L
; W# p7 X2 \' g6 L18194.397
/ ? `5 X0 Z/ X
0 \) j9 ~; B( O% [% K17760.638; U: x7 R% l& b- y r$ Z7 Y1 b
c# T& R5 V+ g6 q3 _17743.578
8 Y/ F7 Y- W# ^4 ^3 I7 e U P* E) @- ?, `7 _0 B
17333.377* n6 \+ Y* i$ e9 f: h
2 v1 f7 o: u r( ^% U
17293.8749 ^1 O0 m" Q1 H* s! {, f0 v/ b
" B4 z- m& @9 F% Q5 f( I4 R4 x17204.638
5 W2 f( w$ J2 W5 O% F
7 {# i2 K; k7 p% |17058.809
; J& v& C4 m3 e
' K& y L; V: P' r* I15946.101
% S+ H5 q( E+ {, d' D
, } R* m+ j8 [15491.266
% B& S5 Q* B8 M$ U
0 L, O9 }: p) e, a; u4 U* \15399.5381 Q c: D4 z; [2 o
; Y+ f( T2 Y& U7 M0 ]
s
/ A' R) j% J- N$ Q& E4 n/ j* h& a$ _" u. U& a# l2 J0 n
130
% [" P n X: a" Q; j$ M/ X: F8 A! q
218
/ p3 H2 V- _2 a. _2 p
; y" Z6 j3 M9 G; j- S7 f198
2 b' h: g( {: j5 J( e5 O3 d$ U+ }0 J8 D" M; \ v
206
- ]6 Z: N& Y2 X+ v+ c) p( `( c- p7 T$ R* D$ O
2041 X o2 @0 h! |- x5 p
W( T$ M8 M" M8 F218
) L4 b/ ]+ }/ a
* i2 O, m I! Q0 i. N7 R5 }8 c2200 ]6 Q/ E; K! o
g4 N2 D4 s7 {- M! m8 \* z3 m; S
2040 C) Q7 W1 p& }6 _& f
, R8 m$ S! y/ [9 J1 j3 V' ~6 @220
$ o* A4 t. l: N3 ]; T: P
7 d" Z7 p# c5 p) h: s& Q6 V216. H, G) o. ~2 U0 \+ @% r4 }
* ?% V, ?, W( x5 l& D. T% ~; a- N将收敛误差为7e-4的迭代次数画成图8 c) W2 z% J; f
8 K* R1 @ q$ p( r% E5 k! ]& _
) f. ^" f! p3 D3 I0 [/ y) e3 {; ]! z$ r2 A
再将移位距离S的曲线画成图: f! M e9 l X. M/ V
1 L* L4 U i1 |, C8 C% v0 D
9 j. J; o* G+ ^4 F
$ k# J" A+ |* M5 S+ m3 K* E `
在这组数据中s和n之间的反比关系依然存在。
v6 ~! d6 K6 U% ~! i n% q$ _1 u) u2 `& V
移位距离假设( @8 [6 L' [% O2 q- P9 g
& L7 x, x* c* Z- j(A,B)---m*n*k---(1,0)(0,1)8 c% E7 U/ Z% `
. S% `, j1 `3 Y1 A L9 b$ R6 r
. i5 I, {1 _! I& V6 h3 _
; ]: ^# q3 G5 H* U1 L用神经网络分类A和B,把参与分类的A和B中的数字看作是组成A和B的粒子,分类的过程就是让A和B中的粒子互相交换位置,寻找最短移位路径的过程。而熵H与最短移位距离S成正比,迭代次数n与S成反比。
0 D( d7 C) J/ [" K% o
8 N) R2 \3 ]- u( k6 _/ C; Z$ ]移位规则汇总
, i! a6 }% m/ [" b/ R5 C& i
1 |' m( A' Z+ m4 U8 P, d移位距离就是等位点数值差的绝对值的和S=Σ|a-b|,如果训练集有多张图片取平均值,如果是多分类问题则移位距离为所有两两组合移位距离的和。% a1 a6 w3 R% F# g
+ Z7 _1 Y" j A0 u$ L
如对一组3*3的矩阵
: w% i# k- m( t+ F o' _
; l+ a& B# d& X3 P
6 [% Y! j" I6 P* ^% | A
4 {) N& {! u' w( ]% MS=s0+s1+,…,+s8=|a0-b0|+|a1-b1|+,…,+|a8-b8|
8 y D' L- c( D, i6 _; c3 M3 a% t3 O2 I; U- k" s- b
如果是3分类问题,就应该实现3个形态之间的两两分类,也就是要完成3对等位点之间的差。: o/ m% q* {! C" X
! u( \6 R+ H8 E& B/ m
. J4 E/ s$ ~0 s' R# f
# }) u: Q- [! ~ w# v( l% x' b* d2 `
因此移位距离7 A) h; \" C& m4 ^; F
8 @+ z* ^6 D: x
S=Sab+Sac+Sbc=
0 H" L6 n: \$ Y- k( D3 Q# Q0 Q# h: u6 u1 v8 R! i9 s% U2 E- d
|a0-b0|+|a1-b1|+|a2-b2|+|a3-b3|+$ v% v) w7 S7 g" L+ k+ F8 @
2 F( T- V0 e p5 E% M# @
|a0-c0|+|a1-c1|+|a2-c2|+|a3-c3|+8 v7 k- E9 {: ^
5 Y0 K' j; {8 D+ j* g4 c" E
|b0-c0|+|b1-c1|+|b2-c2|+|b3-c3|7 c j9 p$ U0 n' {% v* F9 |" L5 N
————————————————& T- B# b; e, f D7 Z; Z
版权声明:本文为CSDN博主「黑榆」的原创文章,遵循CC 4.0 BY-SA版权协议,转载请附上原文出处链接及本声明。1 n0 [+ Y% l3 c$ y/ a/ H; z
原文链接:https://blog.csdn.net/georgesale/article/details/126690670
6 p3 R2 m; S# w& P5 Y0 ]2 Q. W7 f: w# t) _! F# _
% k3 B% K) D* L% S3 J |
zan
|