三分类网络的物理意义是什么?

杨利霞

三分类网络的物理意义是什么?

0 a& k& n+ \$ t  a2 X8 i
(A，B)---m*n*k---(1,0)(0,1)
; n$ @( t' y2 ~, u' E6 i' y
1 `5 i: A; F' y# n6 q: D; W对于一个二分类网络可以将被分类的A和B分别理解为粒子和环境，因为粒子处于环境中。于是A和B之间的距离可以理解为0。因为t=s/v，则即便A和B之间的相互作用的速度小于光速，A和B之间仍然可以实现瞬时作用，并不违反理论。
" E3 Y* J  i4 k0 F
( A, B, C )---m*n*k---( 1, 0, 0 )( 0, 1, 0 )( 0, 0, 1 )
5 a2 t6 Y5 Q5 ], g! N
; r7 ?; h, |$ P. Q' b7 q对于一个三分类网络要完成3次形态的变换。A⇋B，A⇋C，B⇋C，每一次形态变换就是一次二分类，因此对于一个三分类网络可以理解为由3个二分类网络组成
+ |" L7 ~2 N2 B, H; q
. {7 }8 M6 v3 y" {(A，B)---m*n*k---(1,0)(0,1)
7 a5 `, d! z& I2 s+ y. [
(A，C)---m*n*k---(1,0)(0,1)

(B，C)---m*n*k---(1,0)(0,1)
+ D- b1 ~+ O4 M" A
1 z& o, W+ I7 ^7 R: u8 ^) r! W6 w 这就意味着存在3对瞬时作用，也就表明这3个粒子彼此之间的距离都是0.随着时间的推移网络的收敛误差会不断减小，而网络的分类准确率会不断变大。这个过程意味着A被错误的分成B和C的成分少了，同样B被错误的分成A和C，C被错误的分成A和B的成分也少了。

所以这个三分网络可以被解释为，3个距离为0的粒子不断的相互作用，随着时间的演化，最终变得越来越像自己。

, K4 o! p3 c3 w0 k而前面的实验表明相同收敛误差下，迭代次数取决于等位点差的绝对值的和，这次就继续验证这一猜测。

用的训练集是mnist的0，1，2，3，4，的第一张图片。用间隔取点的办法化成13*13.

( 0, 1, 2 )---169*30*3---( 1, 0, 0 )( 0, 1, 0 )( 0, 0, 1 )这个网络简记为0*1*2.就只有3张图片不断循环往复，直到收敛。共进行了10组得到数据

# d) b4 J0 O* z, R' K* j1*3*4
, c1 _/ K3 m2 B* ~9 F/ h% y
) \$ |$ b/ K% m2*3*4

/ Y% [3 W& p2 ~' w0*3*4

/ F1 _8 F  z5 [& g0*1*4
- R! |6 j( A  I
5 y8 P: r6 z! ~0*1*3
& E" z% E" ~6 o2 A
3 ]4 W; P9 k8 A1*2*4

+ n1 K, k& a1 i& W0 ?% \1*2*3
. `: p5 b: ^7 `; I. g# ]6 Z
0*1*2

0*2*3

  e8 X" l) G9 ^/ j4 b( v4 H0*2*4
9 U$ |3 t9 v, M
$ D) }* }7 L, h# g7 E! Lδ

. ?- C2 [; p" U迭代次数n

迭代次数n
$ u9 v; T2 O! D; O
迭代次数n

迭代次数n
0 |. G" Z! H8 e+ U2 a0 m1 B. u& M
7 _7 ~1 H6 r+ h迭代次数n
3 U6 o! a* N& O6 k2 N
& U+ V& O  J: Z$ p& ~1 D& J迭代次数n
; [/ k% e# h, g3 R; g
9 Y" q2 a3 l8 F$ \  w迭代次数n

+ u8 _7 F% g. G迭代次数n
4 c% c- Z' N  {0 n7 ^
迭代次数n
& p$ Y% E% {' v- C% C$ V, z3 n
. x  N; g6 n, m8 Y# z: h) x1 l迭代次数n
/ i1 U7 ?. E+ o
0.01

1763.1809
0 C$ p$ ]3 o( r3 n
' h; ?( Y% c% Q  ]1626.5729
/ o5 j; B$ ?$ V, J) J$ D) i3 s
1672.4523
( U. ]. z1 G0 v. O) ^. T' G
  l+ f/ F0 d) F4 Z# t# s1635.9196

1596.7035
3 ~5 q* P% C+ u
1620.407
2 M2 j. P! @( M/ O6 [1 [) x9 ~
. l" Z$ J, \9 P  i. b# v& G" @1563.8945

( Z5 K4 J" Q& \* X7 [1444.2915
9 u1 k4 h  d0 @; \" Z+ H
1410.0302

1465.4171

0.001

3 L$ r* q8 _0 q7 T13065.196
) _6 v. l7 \$ P  N
* j1 R& g4 m) s4 a& c. R12674.945

7 f# b; G7 x# n" W1 Z12747.729

% S5 H# Q& d0 T" B12386.216

12349.02

+ E' r0 M! {# G12282.201

8 A1 F! |5 ]7 {" I9 u8 k12270.035
1 p5 N) E* q: X1 j* y6 A
11338.477

% g/ ?' s. }- N4 }! b5 K* n0 u10985.201
; a- d9 p( I! Z( U  E- b
: D  \. ^6 s+ x) v# q$ x11015.503

9.00E-04

14352.452

14004.633

7 M+ m+ X% C$ s' Z* o- j9 A14062.829
7 Z- ?0 n6 ]1 f- Y- K! U
6 N. N( m5 `/ a) [  w1 l13629.467

0 T8 Z0 P# e- C+ E5 m0 C/ r& U13613.362

3 \: {: {. X% o5 T- |1 j13609.563
4 Y0 o! p" x. i9 R: ?
13530.322
0 W' G0 _  |( U
4 L/ O2 n; N3 C, h12458.171

12176.362

12225.96

8.00E-04

4 ?$ Y0 G0 `8 |) c8 N16141.206

15611.101
( v0 D4 |6 M$ U2 n$ c2 J' W) T
- V" j  |1 G4 i) s' L- v15749.91
- I2 T5 `# W! }
15264.98
1 t7 v; Z  ?% h& d# X
8 `: F: w  }& l: `) T/ g8 _15228.447

0 j% `- A: U2 [, c3 T15207.628

15053.714

6 y: d+ U% n; z" x. u14044.729

1 o/ `. C& C# C3 I" l13530.397
) q$ U1 c! o: s
13654.678

7.00E-04
# i0 a, h1 A$ U0 b$ s/ F
18194.397

/ S* L9 y( B8 l5 z17760.638
1 B. Q" ?9 O) n" `" T
17743.578
) X+ O: Q" ^9 R( _$ V: U0 {3 d. Y
17333.377
# c5 |8 d! Q2 W- O
5 p- J: o) X# N! S17293.874
3 }& D9 @3 i8 c7 C. ?! J0 o) x' v
17204.638

17058.809

15946.101
! b+ S: P; M: S% r2 E" G
9 A. x2 ^' S; s3 G( L7 q9 a15491.266

15399.538

" u4 V) A- G8 s& c, ]! u/ m6 us

130

218

. q& z) U% {9 z2 p+ _198
. L/ O# `: v. }! O8 o4 \3 n
206
$ v% h6 s9 o% L5 \+ P1 ?9 a0 [
204
* f% b1 ^8 x; C8 q, A; r' P8 G
218

2 G+ p5 p4 \! u$ L4 c220
7 d5 r9 a9 G; n; `3 K
204
6 K+ y3 Y3 E1 Q3 {6 A! b5 L
$ q" |; b$ P$ P  h- K% ~# a5 a220

; \: k) G/ ~, |: |, R4 ^0 U% f216
# c, h; j+ c" H; ?" X
将收敛误差为7e-4的迭代次数画成图


5 w2 O0 v) d8 c4 ]0 L
再将移位距离S的曲线画成图


6 \( s1 s* ]8 E
$ i- H' y3 P0 F: X. p! M% X在这组数据中s和n之间的反比关系依然存在。
9 H+ D9 q  E$ _9 \6 C! A
2 L6 x( A- R2 |7 [& f移位距离假设
& J: H, ?* s3 {7 X# e% [% X* Y
/ f% W( M" v9 T& H(A，B)---m*n*k---(1,0)(0,1)

/ q2 ?2 b: L' c- z1 c" p
; l2 p8 ^# _( _4 @0 ?- @5 Q8 A
0 [# V! R1 z2 \/ t8 F  O8 o用神经网络分类A和B，把参与分类的A和B中的数字看作是组成A和B的粒子，分类的过程就是让A和B中的粒子互相交换位置，寻找最短移位路径的过程。而熵H与最短移位距离S成正比，迭代次数n与S成反比。
; i! N2 X0 j- U( @/ h
移位规则汇总

移位距离就是等位点数值差的绝对值的和S=Σ|a-b|，如果训练集有多张图片取平均值，如果是多分类问题则移位距离为所有两两组合移位距离的和。

如对一组3*3的矩阵



% @7 H; @6 @4 D0 o; MS=s0+s1+，…，+s8=|a0-b0|+|a1-b1|+,…,+|a8-b8|

如果是3分类问题，就应该实现3个形态之间的两两分类，也就是要完成3对等位点之间的差。
6 I1 h1 N6 I) |; O) J1 D1 Y

$ x" }4 H* s- k4 u3 T. v
! @: Q, s/ |+ v; Z2 G因此移位距离
6 K4 i8 f1 c* R; m
  p! r# h( M3 O. iS=Sab+Sac+Sbc=
& K, b/ E6 P6 U0 k
8 }! B: Z6 y8 w5 k|a0-b0|+|a1-b1|+|a2-b2|+|a3-b3|+

8 P5 j. n; ^; i: D|a0-c0|+|a1-c1|+|a2-c2|+|a3-c3|+
- o& H9 s- _, e# G  ?% Y2 C
9 f$ A  A! a9 }( n+ i|b0-c0|+|b1-c1|+|b2-c2|+|b3-c3|
* C" G! h( i1 g; z2 @: Y% N0 o————————————————
/ Q, o, W! Q9 Q. O3 v版权声明：本文为CSDN博主「黑榆」的原创文章，遵循CC 4.0 BY-SA版权协议，转载请附上原文出处链接及本声明。
" ?6 {. l& q3 {+ Z( D, D# C原文链接：https://blog.csdn.net/georgesale/article/details/126690670


" Q) D4 ?6 u) u0 Z4 s; j( z; V