三分类网络的物理意义是什么?

杨利霞

三分类网络的物理意义是什么?

/ D0 b- t* x% u
5 }# O* `7 |7 G(A，B)---m*n*k---(1,0)(0,1)
- I( _9 w! B3 I2 @( D" _0 Z  }5 z
7 i5 a) ]3 W' w1 @对于一个二分类网络可以将被分类的A和B分别理解为粒子和环境，因为粒子处于环境中。于是A和B之间的距离可以理解为0。因为t=s/v，则即便A和B之间的相互作用的速度小于光速，A和B之间仍然可以实现瞬时作用，并不违反理论。
% @. H* ^0 z/ O1 |# t+ {
" y6 H, T4 |' D' C" ~( A, B, C )---m*n*k---( 1, 0, 0 )( 0, 1, 0 )( 0, 0, 1 )

  }# [" e& s; Y( Q对于一个三分类网络要完成3次形态的变换。A⇋B，A⇋C，B⇋C，每一次形态变换就是一次二分类，因此对于一个三分类网络可以理解为由3个二分类网络组成

3 g$ d, ?1 Q. L# v) J(A，B)---m*n*k---(1,0)(0,1)

(A，C)---m*n*k---(1,0)(0,1)

(B，C)---m*n*k---(1,0)(0,1)

5 E4 O5 e0 N+ f3 m 这就意味着存在3对瞬时作用，也就表明这3个粒子彼此之间的距离都是0.随着时间的推移网络的收敛误差会不断减小，而网络的分类准确率会不断变大。这个过程意味着A被错误的分成B和C的成分少了，同样B被错误的分成A和C，C被错误的分成A和B的成分也少了。

5 F7 x! z0 C, F所以这个三分网络可以被解释为，3个距离为0的粒子不断的相互作用，随着时间的演化，最终变得越来越像自己。

而前面的实验表明相同收敛误差下，迭代次数取决于等位点差的绝对值的和，这次就继续验证这一猜测。

用的训练集是mnist的0，1，2，3，4，的第一张图片。用间隔取点的办法化成13*13.

( 0, 1, 2 )---169*30*3---( 1, 0, 0 )( 0, 1, 0 )( 0, 0, 1 )这个网络简记为0*1*2.就只有3张图片不断循环往复，直到收敛。共进行了10组得到数据
! }" `  h$ U- B5 o
  N3 t: R5 K8 m5 F1*3*4

8 O+ O+ u8 [4 ?5 L( W# x1 O2*3*4

1 _: [( k8 w2 {0*3*4

0*1*4

0*1*3

; Y4 j( O. e$ S0 }; `5 ]1*2*4

& k4 }! R! X2 A1*2*3

0*1*2

1 x5 a1 a/ }6 `; m4 G: D! {9 N0*2*3
8 W. x4 e" {% {  c7 y( _) U( Z
0*2*4

δ
! u$ q) c# {+ z  ~1 p( d( ~
迭代次数n

迭代次数n

2 G+ z# s0 s7 C& u迭代次数n
1 `+ D, l: U: |3 a% k7 ]; ]
' z( F4 f) A6 }7 a, u/ @' g# x7 Y迭代次数n
0 P7 a* Y0 F6 t4 [& C) `1 ~* Z0 o
) h2 K: W, D; o) _$ u& x迭代次数n
; u  R- s6 |* q
迭代次数n

: ]3 h5 K' I2 A3 v* |9 C迭代次数n

迭代次数n

7 p% V" }3 M% l) e迭代次数n

8 A/ W" @3 C/ ^* x& i迭代次数n

! z3 ]3 [' b* Z" r. ]7 T7 U$ U( y0.01
! t. N7 ]7 l; ]9 C/ R% z5 b
1763.1809

0 ]8 s, e6 O' S. p$ ]' v: w1626.5729
  q$ P2 _+ t4 h4 S* f$ O* M5 n
1672.4523
$ |: y6 R5 o; C& Q8 \+ ~' F
8 x- n+ }4 |( q8 Q  a0 J1635.9196

% b& A& i6 D: r' I" `3 c1596.7035

1620.407
9 `% U% W0 r* G* o
* ]5 H/ R: c0 B3 w% F/ b1563.8945

1444.2915

7 W" @& {7 }$ y4 m1 C8 V8 [% V2 p1410.0302

" q, h! D; ~2 P4 x1465.4171

+ S4 t) T; d1 X7 G- W0 Z8 A9 ]# g6 [* K8 |0.001
/ A, p6 U& B3 j( P# r& N9 L
13065.196
: T& N5 q+ S: O# s* S
( I) v% Z  g3 o: I+ Z- j. {12674.945

12747.729
6 O" K+ {9 y. M
, |5 h! j6 X/ `# G! a12386.216
7 c4 |7 _# z. |' Y2 d
' u4 L! T7 g4 Z% c% b: g0 A6 l3 |12349.02
( G0 J% s* G; h! E! F% f! o, ?
4 n1 _$ H  `0 E$ |# |12282.201

& R9 n. E& P" T( R5 g2 l6 o12270.035
: q: T0 U, G; C: S. g
11338.477

10985.201

) h( z* ^0 b5 W. H" c11015.503

- C4 ^; [8 I3 ~$ T& `9.00E-04
0 w$ u4 L3 }* U+ K6 n9 P- K
14352.452

9 ^/ k3 P/ P% I8 j14004.633

14062.829

13629.467
! _3 N' r) c; K. E2 x2 `
( e$ W$ j2 ?$ l' H7 S13613.362
4 U- \" H* X! |% ]0 G
13609.563
, s( b3 Q7 E& r( o. C
13530.322
9 L8 c3 ~! V  b' H2 [6 y
& H7 V9 D8 K! }12458.171
. p  m' g5 V& J1 N
& |( h- g& s  \" @. D) j1 C% C12176.362
: f" u! y$ ^+ S# i5 Z8 B
7 m7 \; O1 A! w$ G2 J7 J12225.96
/ V6 V# N5 o% }" Q- p5 A- V
8.00E-04

0 p1 |/ n" a. {* g3 l" Q16141.206
1 V2 @5 S- m: M9 d9 t0 r  Z
15611.101
4 \* T' l3 M9 E
15749.91
$ C2 D" h3 l9 ~/ `' ?1 i! A
- l: \& O; @; V5 a15264.98
! ^9 u* P6 @3 ^) N9 \& a( y
15228.447
5 a; s: |6 Q! B+ P. {" p
15207.628
# U+ U/ K% }& Q7 L
15053.714
" W* s9 H# v, v- k9 ?3 n
, J: d6 v3 A! G2 N  H; a- Q14044.729
: {/ c( A& }. B8 C- t
$ K- _. b, w4 B; u+ B13530.397
( Q& ^3 V  M" S6 h& T5 \/ p' |
7 i4 B: N; X$ b& |  M" N' u7 H13654.678
2 G8 z. h4 _. \+ K! \
: l$ F6 Z" ?  y+ U" e& ?, d1 h9 v- V7.00E-04
8 x: `9 p8 H; I! E& U
18194.397
$ P  r4 ~) c. f; s) M
7 c7 T( Y( u1 y17760.638

17743.578

17333.377

17293.874

  `* g! N" ]# r: |* c" C3 |# t6 `17204.638
1 l6 m& ?% Q" J+ J+ v8 h* b. d. Q0 S
17058.809
% I; _+ q$ s$ s6 ~& b3 s
15946.101

8 w: p2 x7 V: \& P; U15491.266

15399.538
4 c: L5 ]6 D: e  x' {
/ S1 `: C9 L8 ~- Vs

130
# o+ z7 P" f6 {$ h
- `) B- o8 n  p: V% A- V( o218

8 M* h3 m' X* T+ J+ C* g+ X# [198

$ o3 i: K' x' p$ G# t4 M9 _1 X0 s% d206

# y1 N( J- M6 W9 a2 t4 A$ E9 J204

218

: d1 ?$ S8 W0 [4 [, N* S7 U, H220

1 W5 f' I; m  @+ z. N3 |- u( T204
4 \, n) `- y( I, t
, v  P7 `$ ?+ t220
0 ]: g  A' D1 T  ?; S* F! }
8 S# C) Y! E' ?, W216
6 h8 t- c. j/ K
5 V; Q" |8 k; p9 I8 T将收敛误差为7e-4的迭代次数画成图
, H0 f9 _$ o* U' Y! p# n9 x9 @, \
* ?# y9 C8 r$ w" b8 A% r$ u: N3 X
2 w6 B) x9 V) v; p1 P7 F
再将移位距离S的曲线画成图

4 k% w7 _/ z4 V2 D- x1 q4 t: ?
5 |  h  B9 W+ F& a3 @/ V
在这组数据中s和n之间的反比关系依然存在。
6 _; L4 O; P% u5 T' U$ ?
# r, A; @# M9 M移位距离假设
; Z1 t( P* ~, P8 P, A1 R# k
(A，B)---m*n*k---(1,0)(0,1)



  ?1 `. ~8 I% T3 K用神经网络分类A和B，把参与分类的A和B中的数字看作是组成A和B的粒子，分类的过程就是让A和B中的粒子互相交换位置，寻找最短移位路径的过程。而熵H与最短移位距离S成正比，迭代次数n与S成反比。

! T# O4 E( ?& `& ]) i* w7 k移位规则汇总

移位距离就是等位点数值差的绝对值的和S=Σ|a-b|，如果训练集有多张图片取平均值，如果是多分类问题则移位距离为所有两两组合移位距离的和。
- ?' L: Z3 e3 P3 R& D
如对一组3*3的矩阵

9 P  K  p  ~2 w( G  F& J  I9 @
4 r* t5 ~+ Z' }0 Z
; p8 J. o) U. J# A- mS=s0+s1+，…，+s8=|a0-b0|+|a1-b1|+,…,+|a8-b8|

如果是3分类问题，就应该实现3个形态之间的两两分类，也就是要完成3对等位点之间的差。
' R9 L9 ]+ N6 K/ a7 t: M) F4 a7 k5 ^& b


: y$ F+ g6 \$ A0 V: R9 ~0 b因此移位距离
9 V3 J; w5 f8 g/ R( |
S=Sab+Sac+Sbc=

|a0-b0|+|a1-b1|+|a2-b2|+|a3-b3|+
4 N. Y' H6 \) H
|a0-c0|+|a1-c1|+|a2-c2|+|a3-c3|+
4 b2 b! f; c( \" |+ d
; L5 t. p; O+ o" `|b0-c0|+|b1-c1|+|b2-c2|+|b3-c3|
————————————————
版权声明：本文为CSDN博主「黑榆」的原创文章，遵循CC 4.0 BY-SA版权协议，转载请附上原文出处链接及本声明。
# W8 O" d1 g4 P% B原文链接：https://blog.csdn.net/georgesale/article/details/126690670
9 |5 {. y% n" B' E. ?* W2 F" ]+ j4 H