数学建模社区-数学中国
标题:
三分类网络的物理意义是什么?
[打印本页]
作者:
杨利霞
时间:
2022-9-5 16:00
标题:
三分类网络的物理意义是什么?
三分类网络的物理意义是什么?
; \- z+ b4 ~( l( R% B) X. d6 h
# d8 I+ @1 o3 {- _0 G
用分类实现衰变
* z8 {* o- y1 q* [- p- a
专栏收录该内容
: R1 w3 V5 Q% `, v0 |( C8 G9 Y
52 篇文章0 订阅
6 F$ ^9 S5 a' @. b7 l
订阅专栏
& c; A3 _9 Y' ~. H0 x
(A，B)---m*n*k---(1,0)(0,1)
7 m9 s" Z# c: K6 P, k
" S6 X& M4 T. F0 `$ d, |
对于一个二分类网络可以将被分类的A和B分别理解为粒子和环境，因为粒子处于环境中。于是A和B之间的距离可以理解为0。因为t=s/v，则即便A和B之间的相互作用的速度小于光速，A和B之间仍然可以实现瞬时作用，并不违反理论。
3 Y* N* _3 l2 D
( z/ r6 T! ~* h2 Z; Z: r
( A, B, C )---m*n*k---( 1, 0, 0 )( 0, 1, 0 )( 0, 0, 1 )
2 F$ w7 j# S- @/ X3 s
* ~% h7 a, @. _8 `
对于一个三分类网络要完成3次形态的变换。A⇋B，A⇋C，B⇋C，每一次形态变换就是一次二分类，因此对于一个三分类网络可以理解为由3个二分类网络组成
. N$ K- J* u" a% c1 v% ?
' ]% }2 W7 |2 c( H% Q- O
(A，B)---m*n*k---(1,0)(0,1)
& [: I% S0 l k8 F; t9 ^
: w2 }4 c& F2 l% v3 U/ g0 G2 X4 ]2 b
(A，C)---m*n*k---(1,0)(0,1)
1 W$ c- A2 J: l! J/ D4 g4 m' O! e5 J
6 q! ]/ M/ H5 O) U; `
(B，C)---m*n*k---(1,0)(0,1)
2 \) C7 B# p, M. ^* |/ N1 v
8 e4 t0 z; l6 I/ @
这就意味着存在3对瞬时作用，也就表明这3个粒子彼此之间的距离都是0.随着时间的推移网络的收敛误差会不断减小，而网络的分类准确率会不断变大。这个过程意味着A被错误的分成B和C的成分少了，同样B被错误的分成A和C，C被错误的分成A和B的成分也少了。
. [- h* n/ T& V2 \1 u7 T7 D
* ]6 T6 R& X* K$ \0 [+ P# f0 M6 ^
所以这个三分网络可以被解释为，3个距离为0的粒子不断的相互作用，随着时间的演化，最终变得越来越像自己。
- C6 I: y2 u# ~ M! c% E, S1 m
1 T# w+ I) {5 m% O
而前面的实验表明相同收敛误差下，迭代次数取决于等位点差的绝对值的和，这次就继续验证这一猜测。
4 F4 [; d. \; d; H) {& ~
/ e+ T' [1 ~3 ?& J+ p- h' }1 }
用的训练集是mnist的0，1，2，3，4，的第一张图片。用间隔取点的办法化成13*13.
/ R0 N B+ X- `2 T% ?7 R
- Y! X) [, Q, }: o: H
( 0, 1, 2 )---169*30*3---( 1, 0, 0 )( 0, 1, 0 )( 0, 0, 1 )这个网络简记为0*1*2.就只有3张图片不断循环往复，直到收敛。共进行了10组得到数据
R4 X6 T. U# H4 V" w
1 P1 z5 z- a. S: B+ s- k8 ]% [1 d( r
1*3*4
* K# I# m; K* B& U/ W N: Y( B
% I* n" Z- g. _% M+ b$ ?/ k' d
2*3*4
n" p. h1 H+ o D( V
5 ]( j( y3 o) f
0*3*4
0 }" M6 X8 `# ~* n7 U7 V1 t+ m
: ]7 s$ D6 o. v& p* Y; D
0*1*4
- Z- O' [1 _6 Y
" S( m$ H1 ?3 S" R! ?3 _2 M" B
0*1*3
- U* m% ^: H' `' Q9 O3 ~* i( f; f
/ K7 ^2 \9 L" i& }; }
1*2*4
5 u( L( p5 V# J, d+ ?
& H, y/ M- [+ a7 x: e) s8 L: B
1*2*3
/ |' G! _# V% [) g3 a W, ?
# }. M- M* {% {7 l( F7 h* B3 Q
0*1*2
; J7 T# G* f& c% g
3 U% y0 @$ Y6 d8 b7 D
0*2*3
4 g( W3 O' R% F5 F
* m. t1 M( \- b' u
0*2*4
# f- h' @- v$ a {, K
8 h* M* `7 `* r7 ?, `
δ
6 k- ?) N9 x& D1 @6 `7 {
. B5 `1 a! O! Z7 \5 t: |) f+ ^
迭代次数n
8 n* E" P4 z: ?8 T1 w' `
' F& L; f d" N! K, e& Z+ L
迭代次数n
8 ~8 V6 L% u# i4 y9 A) S# j
2 ^1 b! C" r' Q3 _! J5 z2 q
迭代次数n
- N6 Q8 R. H* L1 p
. w5 M( X' Y5 |: Z* n; g' D
迭代次数n
Q- M" D! K# c: E! B$ P" y( ^
% m/ s" v9 I8 Z2 t* `' I
迭代次数n
2 M4 ?& p5 F, j
# r5 R# r% p# q, I, w9 O4 m8 h
迭代次数n
Y, l" Z8 @) s; x6 S! w3 F
# k4 p5 _- }0 u' p
迭代次数n
6 w2 b! m' }7 `6 o6 F0 H, r6 S
9 r( Z' e2 v2 H F$ a* f( U% ^+ S
迭代次数n
: ~. A5 n }2 @- Z+ d( T* B; w2 u+ E
v' E. ]- K( t5 F2 [: O' Y) p; ~
迭代次数n
4 K; u* S1 ^$ }% L! h) X) j0 z2 O
/ s' c' `0 f+ V. _1 O
迭代次数n
4 e& i2 F' E' T. O! z
p8 Z& f3 f0 q% P, h3 N6 |
0.01
" d6 t2 N6 ^. m* Y8 [
; [9 h& e- d0 X6 ]7 D+ C: f
1763.1809
& n$ r/ `, q( Z% Y9 t; g
# V' h5 v1 E4 f- H# k
1626.5729
, R; @* d l7 |2 o8 F0 [
: j8 O- [6 ]" O8 `1 e9 ]$ M4 i& z
1672.4523
% C* G w" P8 C
4 F2 U" E. ^+ c
1635.9196
- \3 f, q: O* O& e3 v
2 w6 r5 t+ m4 u% i0 G
1596.7035
: w/ w+ M' T, k0 [
+ ?9 e+ C9 k6 M
1620.407
3 _( ]7 f; \% L! e' o, [
a' Q3 }4 d. d( i9 S. U
1563.8945
7 C9 S2 ^2 s# V& L
+ H& `$ t$ t7 i* [5 J
1444.2915
6 s1 W- p$ L8 g N4 @: [9 n3 z
- g4 E) S* T4 A
1410.0302
. [5 q( y! D; m
" D+ x1 K5 `8 `8 I& J
1465.4171
. C5 k2 A a2 ^: V& E2 w6 e. Q
9 ?5 A0 Y- a! j. {7 G; l
0.001
5 `8 M* z# m) L5 _2 ]
) X5 o% j3 ^, d* U/ T3 I
13065.196
1 Z" k0 f- i4 f1 e
) h1 A, `5 H3 t
12674.945
: u4 i; t) j, y2 c+ T9 c+ S
' P3 K2 H+ j% T5 ]7 q. g
12747.729
6 V# `( S& G6 G& P
- J @$ m [& C: S& k' d* g
12386.216
' h( {' D; m8 ^% X7 E1 P4 i) @7 d
3 Y2 \3 ]0 a$ r" ~
12349.02
" I1 L# E3 S- o( |, ^5 d2 {; _4 H! b% V
6 w* x! E7 P# N4 n9 t& L% H
12282.201
) R! J0 X* ?4 K$ q' Q) V4 v1 x
, a. q }# r! ]) p3 ^$ |$ d! N
12270.035
: [0 [2 s0 P& N8 R9 ~0 m$ V
" z6 B/ }% V$ @# F& w( m" A
11338.477
) r4 V9 c4 ?( j/ W
8 w X: `5 N3 W7 w6 I5 I, Y
10985.201
" O/ `. V$ U/ Z
2 L; k6 F" I% t5 x8 I
11015.503
2 N2 {& I# s' a+ B
( L/ [8 x& }, w2 B7 `
9.00E-04
" @' K- O. x( Y9 O3 Y. P
3 R1 }2 K" a- O. X+ I
14352.452
- Q E2 R' ]2 O% @
; n, N6 {( ]# m4 ~- `: }; Z
14004.633
. x% K/ r8 |! v4 n6 d2 u
- }" j( r" x9 \$ p8 x8 d
14062.829
2 f6 V: L& U3 A$ b
4 M3 Q/ e0 Y# ?+ k3 \
13629.467
9 Q" i2 L0 ?& }- |
7 F+ o. y! C! c( q( t5 V
13613.362
' }9 G( ?2 }5 b. F R( n
. u; O* S' b" F+ }) h) W, Z* L: q
13609.563
5 D9 ?: a4 l% |' X; x8 z3 G8 u# d$ G
( Y" o) w( \$ @0 q4 v
13530.322
, F8 N. L3 h" A
+ |$ q6 q, ] z) N" s
12458.171
+ `; k0 V2 m& G, Q
; o" {* b7 l2 O) {' a: u
12176.362
- d2 t6 E5 o6 ~- D) @& D8 F8 L4 X
7 }( k1 J2 o0 J: m5 ~
12225.96
! ^6 p8 @- \! V
3 y7 \' ]9 o3 X( \ ^# W& c
8.00E-04
2 \2 @2 A% C- k! M+ ?! A
1 O. t+ |& ^. Y/ [6 \2 |
16141.206
}8 i8 \/ S, K3 E- L
2 h9 ?6 G. d: v6 e* F# x
15611.101
$ \% T& I* V$ |& p6 r
3 w, @+ U) P+ e, P
15749.91
) V+ {! }6 W( C- T7 F
9 V) a6 v& y! `( R7 `' b/ T+ l
15264.98
/ E9 E( k3 v0 a
5 R& p @% T8 `, w0 l
15228.447
2 `- a2 f5 D7 O( m2 O) \
' l' `" w* E% L0 s: H1 N
15207.628
6 l; M0 X/ R, q7 Y k" K
% i" H. n3 x/ T3 o( `
15053.714
* W2 U9 J' p& d4 b
8 Y. F. L9 u1 ]' s# r2 H
14044.729
4 ]6 t1 V- r& s( g( k
; `; Z+ c( s7 X9 N0 _& j, F
13530.397
0 R9 K& A. r% V7 H3 B" C1 j0 }
* L, k! g+ S# G5 ?3 C
13654.678
6 t7 |: Y' }, |; |6 V% o+ l3 T
* j7 P1 e b9 t2 U( ^! t: W+ l, i
7.00E-04
: N5 h- D4 b$ ~( O7 k
8 y* A w$ A/ N% Z5 a7 m3 R
18194.397
3 {0 a2 _; m7 |4 T8 x
0 x y( C, t& N( f) e
17760.638
. h% i" h1 J: R* p n. Y" F
# C- j" O1 S2 |4 E$ A$ p
17743.578
* k6 X3 ]! z0 x# k
; t" U% X% [# y c# x( k
17333.377
/ B% N! O. L D( d
, d- o6 U- L/ f- X. I
17293.874
( `2 s' Q$ U, R% i( i i. o# e7 d
) J* Z" \( S9 g4 j0 V9 I! p7 X5 S
17204.638
6 U t! Y2 m7 m8 [, h
# f) |* R* u, ^! Q3 n! U* {# n1 R
17058.809
) R8 f# n, ?/ w$ t
' i7 Z/ B+ T9 x s
15946.101
: k V# B0 ^; \; M) ]; O) K
# N, N; X+ B$ n7 z# i) U2 H
15491.266
! f# z+ T1 ~6 D. J5 u
* \" x5 g8 u" v( ?" @- {
15399.538
, w4 [9 h6 m# u% T: I
9 A0 S; Z6 i1 s
s
) f5 l! g# `9 O Z- w Q U+ @
) C" @3 z9 C3 w4 d _6 R2 [1 y; c: L! R5 e
130
# }; M/ w0 ^9 n7 `
$ ~# c( B3 v; z2 Q9 k
218
% q. y& d5 E. Z/ Y, Y8 v" B6 T
! l* A; C& Q2 K3 X* ?. K9 k8 u
198
" X, }1 S8 D+ ^5 P3 o7 O
- o7 F# X+ z" e/ f! v* |% W& p
206
' w3 H* d" D* d* o [
" j9 w: S) h7 g, S4 q4 J
204
1 S9 Z$ a ?9 f+ p: J5 F8 S
4 S+ ? N! b1 c/ z2 G2 M8 y, d6 y
218
' e) E& w8 F* @. s8 r, ]
* O9 @* I8 _3 F, ]% R2 E# T
220
4 s9 d x; j2 x/ `
2 O6 U6 d- ^: T' g! Q9 E
204
( F g% j c X/ U3 R+ i
+ I: Z; Q9 `1 u7 Y
220
5 q, G' u6 y* u- B( O. X d- y
+ _/ H6 D" g: G) r5 M' j) R; a
216
, ^+ T0 ], p1 x) ^. J0 k1 W6 G& ?
$ n; t0 g. p- _" e1 _* g2 C
将收敛误差为7e-4的迭代次数画成图
9 J7 @" m* `% H" I6 O
% O$ M$ ~0 P' D" P+ B; o1 C" d
4 g' w9 x8 A ~+ m
2 ]9 I( Y8 @' D+ N
再将移位距离S的曲线画成图
- Z# e) ~! v4 l
/ v5 Z5 L! u7 Y8 q' x- R1 s1 x o
9 X* v+ P' e9 }% g- v- b- c
3 k* c3 E d( |* a' g# k0 `
在这组数据中s和n之间的反比关系依然存在。
, Z0 ~' w* n& H& q) r
) t/ A+ @4 O! {4 q: y _
移位距离假设
M: u$ a7 t j! E% M
, I D. W) ~ S
(A，B)---m*n*k---(1,0)(0,1)
! m& j2 r+ T+ o( Q* b/ t/ n7 z4 e0 Z
3 @: v" n) X2 s4 A
: x% U5 Y3 L0 k( Y7 P9 D1 |" \
4 W1 I/ u7 X4 B+ ~: L# {) s' T1 Q! d
用神经网络分类A和B，把参与分类的A和B中的数字看作是组成A和B的粒子，分类的过程就是让A和B中的粒子互相交换位置，寻找最短移位路径的过程。而熵H与最短移位距离S成正比，迭代次数n与S成反比。
' Z9 E, \8 u% S% t9 x* v
8 _8 t8 y Y- F2 Y
移位规则汇总
$ k8 y8 w: V, I ^5 H0 m
" X) g' e& y5 W* B4 A4 c
移位距离就是等位点数值差的绝对值的和S=Σ|a-b|，如果训练集有多张图片取平均值，如果是多分类问题则移位距离为所有两两组合移位距离的和。
. `/ C- r- V2 T& l0 B
3 `3 L( r8 n2 N: b
如对一组3*3的矩阵
1 Q( ]0 ?7 `0 j; M1 h/ g
/ H8 x' l1 X" q
) ~. j q, r r: ]2 {
4 L5 m$ t. u- Q2 B+ Q' g0 p4 S" \4 t
S=s0+s1+，…，+s8=|a0-b0|+|a1-b1|+,…,+|a8-b8|
9 C; c1 f5 l: R8 _5 M) ?2 a. _; K
* a8 Y! l! d# g
如果是3分类问题，就应该实现3个形态之间的两两分类，也就是要完成3对等位点之间的差。
; z$ I$ ? g2 y' i8 H& ^ P
+ R9 ]( T* Q$ U8 {: s8 V0 Y
$ F2 R3 w F4 `( R1 A4 N
. H% \( ~) u5 m5 l9 M" y4 J% `% Y
因此移位距离
9 p$ H- | F+ j7 e
- t$ g2 _8 M7 K8 X0 [0 f
S=Sab+Sac+Sbc=
+ ~% w& l: `5 f; q
2 D4 L9 V# R1 f/ ~
|a0-b0|+|a1-b1|+|a2-b2|+|a3-b3|+
) c3 I2 n9 O: r$ S, u2 I2 e
% t+ r2 d! n l4 C. r4 z: [
|a0-c0|+|a1-c1|+|a2-c2|+|a3-c3|+
8 Q. e3 r+ K6 S0 R V
9 p0 c) _8 A% a9 i$ L) f
|b0-c0|+|b1-c1|+|b2-c2|+|b3-c3|
4 W# N! v p N: w( i! @2 S
————————————————
' R$ k( D& V$ l$ j" w' R* Z
版权声明：本文为CSDN博主「黑榆」的原创文章，遵循CC 4.0 BY-SA版权协议，转载请附上原文出处链接及本声明。
4 x, y- L5 `; E4 \1 I
原文链接：https://blog.csdn.net/georgesale/article/details/126690670
, Q$ k, L6 E" m+ s3 ]
' t+ i3 d, J. j7 G; m. s
8 a$ m* y" N" o0 d5 ^/ r
欢迎光临 数学建模社区-数学中国 (http://www.madio.net/)
Powered by Discuz! X2.5