三分类网络的物理意义是什么?

杨利霞

三分类网络的物理意义是什么?

用分类实现衰变
( G( P5 i) C! U3 Q( S( K# i* Z& B$ [专栏收录该内容
; a' N2 j/ t7 h7 K) M52 篇文章0 订阅
订阅专栏
" ^/ P% M3 A. m9 P( S! g5 e(A，B)---m*n*k---(1,0)(0,1)

对于一个二分类网络可以将被分类的A和B分别理解为粒子和环境，因为粒子处于环境中。于是A和B之间的距离可以理解为0。因为t=s/v，则即便A和B之间的相互作用的速度小于光速，A和B之间仍然可以实现瞬时作用，并不违反理论。
& \$ w% f5 B2 T. w! f
- `: U/ L# V( g; c, o( A, B, C )---m*n*k---( 1, 0, 0 )( 0, 1, 0 )( 0, 0, 1 )

对于一个三分类网络要完成3次形态的变换。A⇋B，A⇋C，B⇋C，每一次形态变换就是一次二分类，因此对于一个三分类网络可以理解为由3个二分类网络组成
1 r: `4 V4 [3 a
(A，B)---m*n*k---(1,0)(0,1)

! m) h$ @5 i3 z0 e' p8 K(A，C)---m*n*k---(1,0)(0,1)
, K0 H$ J! t/ }6 ~$ R
(B，C)---m*n*k---(1,0)(0,1)
0 H- K, B( ^! b5 K( N( }3 ?( C7 T
这就意味着存在3对瞬时作用，也就表明这3个粒子彼此之间的距离都是0.随着时间的推移网络的收敛误差会不断减小，而网络的分类准确率会不断变大。这个过程意味着A被错误的分成B和C的成分少了，同样B被错误的分成A和C，C被错误的分成A和B的成分也少了。
$ ]  k$ f' Z6 B$ M- N! k
' C3 x% u& ~* B所以这个三分网络可以被解释为，3个距离为0的粒子不断的相互作用，随着时间的演化，最终变得越来越像自己。

而前面的实验表明相同收敛误差下，迭代次数取决于等位点差的绝对值的和，这次就继续验证这一猜测。
$ S- n% B9 F% ]4 q+ r) E/ P
; ?% g2 N+ Q; b) L0 O用的训练集是mnist的0，1，2，3，4，的第一张图片。用间隔取点的办法化成13*13.

; t. x# i/ V/ \/ u2 b6 p( 0, 1, 2 )---169*30*3---( 1, 0, 0 )( 0, 1, 0 )( 0, 0, 1 )这个网络简记为0*1*2.就只有3张图片不断循环往复，直到收敛。共进行了10组得到数据

1 f% q6 e; b$ A! H) |1*3*4

2*3*4

0*3*4

  W- Y" _1 P" q0*1*4

! M/ n0 _8 e8 B% A9 o* ~: A0*1*3
+ r& b6 s" N. p; u  Y
8 |: l9 E8 w( a! h( o1 C1*2*4

1*2*3
% d7 \' _9 R8 q# I. W" F- K1 l: ~
  H( ?/ F. m3 c' |5 d( U; h, v0*1*2
5 N1 X! [& r% _! j/ d7 W* m
% e7 x* @" C' N# w; p# G+ H$ {0 a& W. x0*2*3
- n0 V) X5 m$ B0 g
0*2*4
& l7 b; |; s3 v" t
4 f! |* C; }4 H- nδ

$ u) ?! a1 r, O( k迭代次数n

迭代次数n
; W2 j0 a! e' [& m3 `5 o3 Y
迭代次数n

5 }# w9 H  C! Q$ y7 n迭代次数n
- S  h+ x; C# {. `0 d
1 A: {9 P' w  |! _4 K, Z迭代次数n

  `1 @6 }+ i7 \$ g迭代次数n

6 g- T, y2 t8 }4 M迭代次数n
, o* j2 r) `! `
5 m$ S# f9 K7 v+ ^- U  G, q9 S3 Y迭代次数n
, C8 G% s2 }+ _$ u. j8 ^  ~- ?" l
, f% T; A2 t0 }4 R迭代次数n

3 m, C7 A9 E# C9 |迭代次数n
# F' x0 y9 ?' G0 x1 l
6 D, A# Y+ Q  I2 k0.01

1763.1809
; d2 k9 v$ s  `1 M! a0 O6 |
% T/ Q: p9 l' k) J% b1 C1626.5729
6 r8 k$ b1 g$ X$ h" y
+ }9 R5 h; R' m1672.4523
2 J3 f3 C3 l+ h6 G5 c1 O1 v
1635.9196
) z% f. }) D$ T5 g- ~$ `/ x
1596.7035
' {' w5 s: k: [. u- O  q
$ f" W- Z5 M& e1620.407
7 _) O  x( ]2 Y* q2 _: j3 D
6 X8 L" o; S5 Z( P1563.8945

  e, `3 {5 \" {" r1 g1444.2915
) [3 m& w) w! B6 m- U/ g. S! `4 e
# M$ L; a/ [! E, u2 z1410.0302
. |3 a3 [4 w. K6 @7 @, g
1465.4171

5 B  H' b; ~$ F# O0.001

, I% b2 h+ g' P6 N2 u9 v9 \13065.196

( C. G8 m  k) n. Z: O! ^12674.945

12747.729

12386.216
: V3 B- P; a+ k: q" h5 l
12349.02

& r; O: U; C. ~$ I/ p# }12282.201

7 h. G8 u, Z: e8 z3 Z, x2 p# j12270.035
& C2 h# g+ v: |7 n: k- |
11338.477
2 q/ T' W0 T3 a& }, E$ V' K
10985.201
! I& ]1 C" v( k+ _- u8 R! P# C
11015.503

9.00E-04
7 j" P5 K8 s" P, n  a. M  P8 C
14352.452

7 G5 I# \: P5 @+ q" J# ~! Q4 Y5 |14004.633

% ^+ ~: d/ g! _14062.829
: \) q8 }& S0 S- E* R
! @4 Q7 \- X6 s: H* C6 P13629.467
! `5 R& I  n+ `+ r$ \, T
13613.362

5 Q- b' m2 t' `+ G2 {1 |13609.563
9 X) W4 M/ |9 R# g3 _) u' g
1 O! T; J% l8 R7 n' j2 I13530.322

12458.171

12176.362

6 |" h. c$ S& s4 {12225.96
; ^1 o4 V5 X5 G2 g
8.00E-04
* q" m  P7 d, K. ]
* W7 X& U$ ?. L/ m& f8 h8 T16141.206

6 F* a1 L2 C: F, X6 s% q" F( ^1 {15611.101
2 \1 r, _7 Z& Z' W% f# `
# \: e  o; y7 d9 S15749.91

3 Y. i/ v  p8 g15264.98

15228.447
9 {9 B9 z+ Z: e$ G: }; {/ U
15207.628
  N" t5 r' f1 u# B: x
. g3 L# @2 ?. U2 R: p15053.714
. l. ]5 Y$ [: l$ i0 n% b. G; P
14044.729
6 m3 L7 e; E  \* d& s
13530.397
/ W: `8 e7 H' F% t% U( f, Q3 _8 z
: U+ N( j0 @% I$ R13654.678

7.00E-04

18194.397
+ ~5 @+ G9 j- |9 g
17760.638
3 p: x. N4 J$ H, _( a$ [. b5 P3 i
& o- O$ V9 y2 A: V/ P" u17743.578
" C  s; P7 w8 ]8 f# h" z6 o
0 Q3 Q0 T" L! \4 J5 l3 q9 Y' g17333.377
" O' l+ s' a4 `( J
17293.874
* L: o0 o# M& ^7 B
& j* @( Y" F. X3 r6 o, j- [4 a17204.638

17058.809
( `" \# v( b% {
, z$ T) @( ^7 `, k15946.101

15491.266
6 I* E* q: Y  U# V* C% O
! S2 x8 k2 J+ n* R1 [; c2 e3 q15399.538
8 B7 R7 V  B8 X# p2 x
s
- ?. q$ i! |" r9 V2 |/ z: J: @7 T( V
130

218
' m* S4 C* b- x% G& V
198

206

( E9 y% X! S3 S2 Y6 _, F$ {3 u$ s204
+ Q' j! ^8 w, ~) B& `3 z4 z
218

# r3 k. \) H$ Z% p  J220
) H" o; g7 U' b# Q$ y, R) q
204
$ k5 m2 q. Q5 ~. `9 V9 w' _
220

8 D! h2 H8 v( N216

) N. `+ E3 G/ G( R* G将收敛误差为7e-4的迭代次数画成图
5 W4 b; U" @2 p# Q$ Q1 a


5 S5 \  {7 Q/ ?- F再将移位距离S的曲线画成图
$ c, r; u; e$ k: S. `5 L, H1 H" A


$ F8 Z* g# g+ Z8 ?/ s9 h在这组数据中s和n之间的反比关系依然存在。
# ~3 i! s- u3 k- m
移位距离假设
+ S& j8 I. J( V4 h0 z
, J; b7 _1 `; k$ H+ g. }7 f(A，B)---m*n*k---(1,0)(0,1)
# n! c8 a; ?- v+ {1 E2 l
+ \3 R. p5 l+ I* Q$ {6 t; I

" _9 H7 T0 E' u) V$ l/ D5 |0 Y- _7 O  j用神经网络分类A和B，把参与分类的A和B中的数字看作是组成A和B的粒子，分类的过程就是让A和B中的粒子互相交换位置，寻找最短移位路径的过程。而熵H与最短移位距离S成正比，迭代次数n与S成反比。

移位规则汇总
5 _3 Y+ U- Q2 j2 [, u
移位距离就是等位点数值差的绝对值的和S=Σ|a-b|，如果训练集有多张图片取平均值，如果是多分类问题则移位距离为所有两两组合移位距离的和。
$ T( S, @- r" l
如对一组3*3的矩阵
& Y+ x- _/ b' K/ _

) I( m& Y5 L, P
9 {0 C& S' }9 }/ W8 ]" TS=s0+s1+，…，+s8=|a0-b0|+|a1-b1|+,…,+|a8-b8|

/ L; ]6 T; O! a9 P6 @如果是3分类问题，就应该实现3个形态之间的两两分类，也就是要完成3对等位点之间的差。
( [3 M5 F7 N( C( Y  h. \$ v* P
. L' z% k: ?1 ]. `# `: r" E9 T. W
6 L) m" M: u; S8 p( A+ @5 K7 d1 E
. S6 n2 m7 W3 E* l) M因此移位距离

S=Sab+Sac+Sbc=
5 I- K/ q- T1 U0 Z
|a0-b0|+|a1-b1|+|a2-b2|+|a3-b3|+

+ P( h2 ^: j" v* z8 j|a0-c0|+|a1-c1|+|a2-c2|+|a3-c3|+

8 l* d, i9 c/ Y/ @: \|b0-c0|+|b1-c1|+|b2-c2|+|b3-c3|
* e- j8 |* [6 A& b; E# A, B" j1 B————————————————
; A. L6 o( s7 {6 ^- k' N  l% Z版权声明：本文为CSDN博主「黑榆」的原创文章，遵循CC 4.0 BY-SA版权协议，转载请附上原文出处链接及本声明。
1 P" b# T! w# T4 j6 M; l' H( H原文链接：https://blog.csdn.net/georgesale/article/details/126690670
7 H- {4 v2 w. l
" _, A" k9 o/ x: l9 z# F  V+ I