三分类网络的物理意义是什么?

杨利霞

三分类网络的物理意义是什么?
# N; a# G- V3 t% F8 V

) _4 x9 X0 c, Y* u4 Z4 R(A，B)---m*n*k---(1,0)(0,1)
( s4 |' S0 P( k$ u7 h9 U; Y
对于一个二分类网络可以将被分类的A和B分别理解为粒子和环境，因为粒子处于环境中。于是A和B之间的距离可以理解为0。因为t=s/v，则即便A和B之间的相互作用的速度小于光速，A和B之间仍然可以实现瞬时作用，并不违反理论。

" \  d% J; S7 s7 U* K) w" l( A, B, C )---m*n*k---( 1, 0, 0 )( 0, 1, 0 )( 0, 0, 1 )

4 _3 F+ ^) x- Z# m- j对于一个三分类网络要完成3次形态的变换。A⇋B，A⇋C，B⇋C，每一次形态变换就是一次二分类，因此对于一个三分类网络可以理解为由3个二分类网络组成

' G  a8 V' k+ @3 E# R, g(A，B)---m*n*k---(1,0)(0,1)

(A，C)---m*n*k---(1,0)(0,1)
! K- ?, b: U: a
- Z5 V  I7 g. k( c(B，C)---m*n*k---(1,0)(0,1)

0 K6 m' i6 O0 F, n8 C% g0 i 这就意味着存在3对瞬时作用，也就表明这3个粒子彼此之间的距离都是0.随着时间的推移网络的收敛误差会不断减小，而网络的分类准确率会不断变大。这个过程意味着A被错误的分成B和C的成分少了，同样B被错误的分成A和C，C被错误的分成A和B的成分也少了。

所以这个三分网络可以被解释为，3个距离为0的粒子不断的相互作用，随着时间的演化，最终变得越来越像自己。

而前面的实验表明相同收敛误差下，迭代次数取决于等位点差的绝对值的和，这次就继续验证这一猜测。
, ^' H4 U( h% o* @% d. ^
用的训练集是mnist的0，1，2，3，4，的第一张图片。用间隔取点的办法化成13*13.
8 ^2 p' p9 ?  d, `, B+ J6 z
" `# C' R& o* z, @( 0, 1, 2 )---169*30*3---( 1, 0, 0 )( 0, 1, 0 )( 0, 0, 1 )这个网络简记为0*1*2.就只有3张图片不断循环往复，直到收敛。共进行了10组得到数据

: t* V+ g1 W. C3 e. I! o. r: ^1 L1*3*4
% E( \. f3 e  K1 d' b) O3 S
2*3*4

0*3*4
  \  o/ U% W$ ?$ u0 h$ Y
: W; o  U" |: ?4 N- r1 {9 `. G0*1*4

0*1*3
3 X6 p+ w6 q% b) c
1*2*4

1*2*3

) ?+ Z8 k, m/ }0 r0*1*2
: n8 J! H, s2 E
0*2*3

2 ?7 }2 N* s0 w9 _9 F$ T2 q0*2*4
% A* e1 E( c  @$ g8 s" `
δ

/ @) K" P0 m# o& t' [迭代次数n
- W$ W  v& U  C' o' g
迭代次数n

迭代次数n
$ i5 R9 [5 J2 w+ ?4 F% ?9 L/ V+ ]
. \/ e6 t: v% r9 G) p3 g迭代次数n

迭代次数n

迭代次数n

迭代次数n

8 j2 o  D9 w: m; c0 |迭代次数n
/ V8 \) H$ [; N8 H
" y, e# w6 b7 U: G迭代次数n

: x; m) |  A* Z8 N9 ~5 h迭代次数n
2 W) p( b7 S- q# z/ a* ~6 |6 T
: S2 B! z! D  f( H7 `4 x0.01
6 I3 W6 k* e: k9 ^/ J
1763.1809

3 W5 R! d* s* y: C6 h/ O4 b/ l1626.5729
8 h4 l5 x0 h, \, {9 v+ G" Q
1672.4523
: Q! O: {9 s% g7 Q6 M" X+ q
1635.9196

% z) [3 G1 l; v$ v/ ], ~1596.7035
8 R% f7 D8 {7 c
1620.407
, L) ^+ v% J1 x4 H! s; K6 J
- o0 h' s4 W: c6 s1563.8945

- C% e6 ?# U. _1444.2915

1410.0302

1465.4171
' f- b( k' ~, E9 i. c5 {
$ y' V+ ]1 `- ~" ~0 ?2 J0.001

' R9 `$ R: E; {13065.196

12674.945
+ n% J6 A( g% F. U9 v' T3 }
12747.729
' I( ]3 r9 J' c& ]7 x1 s( C
8 |9 I# |' [4 R! k9 ?12386.216
" c/ m" V, a  J: h; Z% I
" M" q" ^& Q2 Z3 K% G0 u! x12349.02
, A# n5 M% o( r  k7 @; E; o1 P
12282.201
) t. z4 K3 x. S  \$ }# F
12270.035

11338.477

10985.201

- X% B, u& H$ f5 G7 v/ `5 \' B11015.503

9.00E-04
& `; M  R0 ]: f8 @/ p
1 N( T3 f, Z1 b14352.452
& G/ z0 k$ V9 C1 A/ j5 O& j5 l9 C
' O9 U& o% h: b0 f8 z! a( o* n) B7 d# X14004.633

14062.829
: U- W' ?8 N6 @' F% [
13629.467

13613.362

13609.563
/ Z5 E& B( J. J% F2 L- |
13530.322
7 r4 h0 }0 l' `" u& [4 U
3 Q: G1 g  w9 e) Q4 \& l12458.171

12176.362

12225.96
+ H: h/ d7 B3 P% ?0 m4 j5 K+ k: K
8.00E-04

; U9 Y. n1 A% }16141.206

8 D* g* V2 b* `" v0 g. I15611.101

8 t! ~' ], n' m0 \15749.91

' O' y1 n6 K5 K' C' e15264.98

15228.447
0 f2 a: p3 }5 G+ B& }# o3 \
15207.628

: w0 Q  Q$ v5 U: }& a$ G15053.714

14044.729

4 l( Y/ k4 w) A13530.397

13654.678
+ h  Z5 w$ ?' h% y3 @- Y
7.00E-04

4 d& v+ P# w; ~1 P$ J18194.397
% x! r. z$ S8 y- L/ ~
3 V  a8 B. ]9 a; ]17760.638

  N6 {. g; r9 G- E' X: P17743.578

17333.377

17293.874
% b2 u# Z9 k0 B5 [/ e% }9 X2 w
6 |" p9 A0 ?7 C8 \0 n17204.638

17058.809
/ M; D  @3 g$ J. x" S- s
' ^$ T' i9 n" A  ?# h8 Z! r15946.101
, Y0 i9 t6 u0 Y5 G3 u
15491.266
4 F( K: ~: f5 M: g
15399.538

s

130
* ?' D% U  i. ^
218

198

206

9 O( |. p" ^( O3 a: W8 h' }/ K204

218
7 r( f3 w7 G+ g1 ~; x5 R8 u) y
9 g( D3 _+ @  A6 U220

204

, J, ~" {& W" y220

; ~. h, |; s) B4 n+ q216
; P8 K: e8 C. i' j  M/ P
将收敛误差为7e-4的迭代次数画成图

' l; q0 b1 m6 ?; D

- P; z. B* U' H% V3 A: ]" V* v再将移位距离S的曲线画成图
& l1 r; L% K( y& i


0 ?/ b2 _7 }. @+ k& T: ~在这组数据中s和n之间的反比关系依然存在。

0 A- O; h9 p" j/ }- {# i: ^- N/ Y: s  o移位距离假设

, ]! S, U( ?# ~2 [% b(A，B)---m*n*k---(1,0)(0,1)
8 ^  @' v! s' @1 Z4 g, F

5 A9 v) }, y  n2 u8 Q6 K5 z
用神经网络分类A和B，把参与分类的A和B中的数字看作是组成A和B的粒子，分类的过程就是让A和B中的粒子互相交换位置，寻找最短移位路径的过程。而熵H与最短移位距离S成正比，迭代次数n与S成反比。

移位规则汇总
/ T/ s& g4 Q  m8 S
移位距离就是等位点数值差的绝对值的和S=Σ|a-b|，如果训练集有多张图片取平均值，如果是多分类问题则移位距离为所有两两组合移位距离的和。
) @- N* E! v/ ^% J
* H) i4 o8 I2 _; ^2 c如对一组3*3的矩阵

0 L! p* s8 c: v+ T4 c" C( }

S=s0+s1+，…，+s8=|a0-b0|+|a1-b1|+,…,+|a8-b8|

/ a, C6 v* T! E; t, s9 @如果是3分类问题，就应该实现3个形态之间的两两分类，也就是要完成3对等位点之间的差。
& j* ]5 t( w- R, D( B' o( n
5 b3 l. O% O8 ^& R9 d9 O5 F2 I

- J/ }& t/ @9 c8 \- X0 y& m因此移位距离
1 \. r. E% |3 ^
) F, G' k' x; uS=Sab+Sac+Sbc=

$ N' }; d! o( w! a( t|a0-b0|+|a1-b1|+|a2-b2|+|a3-b3|+
7 W! x# r; k2 A6 ~' n  N. p* |
|a0-c0|+|a1-c1|+|a2-c2|+|a3-c3|+
3 Z' R9 p& w4 A6 g  C7 \4 t# D
|b0-c0|+|b1-c1|+|b2-c2|+|b3-c3|
! ^8 R( ~( m/ c  {. X————————————————
版权声明：本文为CSDN博主「黑榆」的原创文章，遵循CC 4.0 BY-SA版权协议，转载请附上原文出处链接及本声明。
  g( o1 d' W  }4 x/ O# {) I3 b原文链接：https://blog.csdn.net/georgesale/article/details/126690670

7 A5 m) Y; A3 m3 @; C
- h& P6 V' y: Y! a