三分类网络的物理意义是什么?

杨利霞

三分类网络的物理意义是什么?
2 D' g0 m8 H, P' ]
$ s( j( I8 A$ `/ f& p% e# H3 D& G用分类实现衰变
" o, B8 e! j% h专栏收录该内容
, G: H9 V+ @- L52 篇文章0 订阅
订阅专栏
+ D9 E) {% v0 C(A，B)---m*n*k---(1,0)(0,1)

! J% U/ \; v1 V9 _对于一个二分类网络可以将被分类的A和B分别理解为粒子和环境，因为粒子处于环境中。于是A和B之间的距离可以理解为0。因为t=s/v，则即便A和B之间的相互作用的速度小于光速，A和B之间仍然可以实现瞬时作用，并不违反理论。
* P; q* f. x$ O0 `! y' B
( A, B, C )---m*n*k---( 1, 0, 0 )( 0, 1, 0 )( 0, 0, 1 )
5 N$ Y# `* y* o- @0 G
5 i/ `! T2 S' y3 J对于一个三分类网络要完成3次形态的变换。A⇋B，A⇋C，B⇋C，每一次形态变换就是一次二分类，因此对于一个三分类网络可以理解为由3个二分类网络组成
  M+ ]3 a" F& G/ ?
(A，B)---m*n*k---(1,0)(0,1)
. \6 k$ \* |, Z$ ^' O
  \! n6 W* _+ Y$ c# k(A，C)---m*n*k---(1,0)(0,1)

(B，C)---m*n*k---(1,0)(0,1)
- u0 g) ?3 ~- q& u
4 O% O9 @! h/ J, ?. P; a 这就意味着存在3对瞬时作用，也就表明这3个粒子彼此之间的距离都是0.随着时间的推移网络的收敛误差会不断减小，而网络的分类准确率会不断变大。这个过程意味着A被错误的分成B和C的成分少了，同样B被错误的分成A和C，C被错误的分成A和B的成分也少了。
# ?$ a0 C: n5 A! g
所以这个三分网络可以被解释为，3个距离为0的粒子不断的相互作用，随着时间的演化，最终变得越来越像自己。

而前面的实验表明相同收敛误差下，迭代次数取决于等位点差的绝对值的和，这次就继续验证这一猜测。
% l: P. g& I; _' s
% [, _& ^8 |, K% t用的训练集是mnist的0，1，2，3，4，的第一张图片。用间隔取点的办法化成13*13.
! ^$ R; d/ I. t. Y
( 0, 1, 2 )---169*30*3---( 1, 0, 0 )( 0, 1, 0 )( 0, 0, 1 )这个网络简记为0*1*2.就只有3张图片不断循环往复，直到收敛。共进行了10组得到数据

% D7 c) s/ C) b1*3*4
4 y  H. J+ J& D  F
2*3*4

0*3*4

3 [0 g9 ?# i- j! O. F( [0*1*4

* N& t( J2 r0 P, M0 U- G# ~0*1*3
* w9 i5 M. d9 I& b7 L9 Z6 T2 z
0 L0 q! S! q0 a1 M. c4 o1*2*4
7 D/ v# U/ _7 L! u
- ~0 o- ?0 W- H+ c- a- E1*2*3

( M- O+ j, e$ y) |8 v0*1*2

- K  c  }4 Y6 j3 Y. G0*2*3

0*2*4

0 t% J! u# M$ z# r8 I% Lδ

迭代次数n
0 d' l$ H9 u# |0 a5 c: Y5 r0 d  b
. P; g) ~/ @$ {. D! C迭代次数n
6 W, o$ b" z9 S$ T# D7 U
' ?' ^/ X1 S& Z6 ?迭代次数n

4 x" _, ]# l" I) D  t8 U- \, {迭代次数n
; J7 K- y. a! j
迭代次数n
0 E, b$ T6 h# j- O" o" W
迭代次数n

迭代次数n
! Y2 I6 S7 a3 P  |2 x1 S
迭代次数n
, ~0 D& h0 x$ c2 N6 s
迭代次数n
1 N/ j: W0 e# \2 S6 \
7 L# Y. p5 Q- N8 z7 Y, r1 G迭代次数n
& m1 d5 J. V' N  x. x
! h  G% j0 Y% i1 E1 H0.01

1763.1809
6 ]0 X  f. Z5 q
1626.5729

! Y4 X; W3 `+ q' ]" E8 t1672.4523

1635.9196

1596.7035
7 X% i8 J8 E9 ?6 D/ B
1620.407

: @, V* y5 g. q( ], Z1563.8945

8 ]7 H  n4 Y" ~) e$ b$ `- J1444.2915
3 T/ O" o  H% ?- n) F
1410.0302

1465.4171
% \! Q, Q9 n# h6 E$ N4 f# Q2 y
0.001
* G4 M) r; p0 ~* Y5 f4 S$ A
: s% ?9 O3 ?9 e% K13065.196

- G' J& A: U/ R6 l" V1 H5 A, p12674.945

! Y0 c0 U- }% a* W12747.729

12386.216
. U! G5 X0 P. }- q" c/ }- t: p" ^. o
! }) N5 d- ]# ^8 ~. t12349.02
4 ]+ M2 f8 N4 q+ W
12282.201

12270.035

( N: v5 _& \# U0 A11338.477
, k$ b* v+ D1 e* K( h: L6 A
% @3 q( N: y/ h. w/ [0 v10985.201
( Y) J; F$ [( z- I, A5 P; I/ B
11015.503

9.00E-04

4 ~+ u/ k8 H. w1 B4 f# u, T) k14352.452

14004.633
) f% D  S9 S( q$ Q0 C- ?- b
0 G4 b( W0 |) P; T14062.829

13629.467

13613.362
: g% D8 W  R, F% T2 W! Q5 ~* d
# w; r* e5 j. ]/ F4 j; ?13609.563
9 H& f; }: Z5 ^/ L0 O
. r* ^1 P& U6 D% b- g13530.322

7 u, U8 D5 G0 ?+ V! U12458.171
4 a+ g6 c; S. @
12176.362

12225.96
- L6 E, T! m& K& l' Q" y; j7 }
8.00E-04
; d& Y1 S4 w+ j; u& b
* P. ]6 i( g% r1 |16141.206

15611.101

# m7 Y4 K' U$ R# P15749.91
% r0 o! j0 l2 X  E. K
15264.98
. y! @7 W( y* v! m* y( I
( ]8 Q6 J6 n% I; Y+ D7 M! K( T15228.447
) u/ D) j' s0 h4 K  ?& ?& l; l
1 U+ s$ X6 \6 K5 a& Y* G5 W" p15207.628
9 r0 z0 f5 d4 i: I# _- g
; C# _' P& ?/ ^' m0 n3 Z2 B15053.714

14044.729

13530.397

: r1 W/ a* e  ]! |* {13654.678

7.00E-04
9 D( R% t* ~& i% z
7 V( T. H, t; f/ g/ ?2 {* L, K$ E! A18194.397

  m, |. F) K+ L17760.638
( w. j% W3 H  u  @0 `
" \: N+ ?) z7 q5 ^& s* G17743.578

1 u' [1 y1 V+ f+ g17333.377

17293.874

17204.638

17058.809
* K+ I( B( N6 V1 `  B) c9 |5 u1 ~) N  U
15946.101
/ N* d4 g2 l7 X. }; _2 a$ G
: u, E) M+ B1 x9 D% ^; n% D  ~15491.266

5 ~7 b2 N' U6 K1 h15399.538
! h* k. C' l- }! r4 K, o
s
8 s2 a; h7 ~$ e$ t
130
3 Z/ T7 L2 t9 H
218

5 W0 h4 v; n, c" c1 h& C198

206
6 u  \' u9 E& J  d
) R3 n! i8 ~4 }4 x6 A204
* [3 b- j; x) ]7 g
218

220

204
$ g+ h% ~3 z8 w, e
% }% D" ?! q. f$ [, ~3 L! J# y220

- E' p# `( R" V! u$ X216
2 }/ ~% D3 Q" q; V4 R/ w/ N
$ m, ^# l7 g4 E! Q1 z% Z' U9 \将收敛误差为7e-4的迭代次数画成图
- s- p1 @& X8 P. k; b+ J0 r1 N
& v% u7 ^5 a* [- [# A1 [3 T
1 y' {0 Y. h1 `  j- |
再将移位距离S的曲线画成图

: U5 j/ Z, ]" C% v, z6 ]- f
4 K2 E& `1 Q8 @6 U9 a1 C
在这组数据中s和n之间的反比关系依然存在。

/ x4 U$ [; P6 e8 I' A' b$ B, F移位距离假设

( c2 {: T4 [  @& E) o2 `2 n(A，B)---m*n*k---(1,0)(0,1)
0 l6 E5 P; v' `' Z  e. D


* x8 d6 g: y) B4 f# ]用神经网络分类A和B，把参与分类的A和B中的数字看作是组成A和B的粒子，分类的过程就是让A和B中的粒子互相交换位置，寻找最短移位路径的过程。而熵H与最短移位距离S成正比，迭代次数n与S成反比。

( ?0 g: v2 x  g$ W移位规则汇总
) I$ U: C1 v, ~
移位距离就是等位点数值差的绝对值的和S=Σ|a-b|，如果训练集有多张图片取平均值，如果是多分类问题则移位距离为所有两两组合移位距离的和。
  x" A+ Q+ ]6 v9 p! |: K
5 Y% @/ [( Z, o' N8 Z' G% P如对一组3*3的矩阵


# Q$ G! P% z7 O6 f/ p, }
S=s0+s1+，…，+s8=|a0-b0|+|a1-b1|+,…,+|a8-b8|

6 ]* v9 j% F& ^( ~& w) B6 |2 [如果是3分类问题，就应该实现3个形态之间的两两分类，也就是要完成3对等位点之间的差。

5 j9 Z  x+ j, T. E* X+ O
. O6 @$ P+ O9 V8 ~3 K+ v1 ]
6 ]; H' p9 B- |1 \! k8 p% g因此移位距离

9 f4 I+ F3 Z/ |, \, s# g1 }S=Sab+Sac+Sbc=

6 f8 N! H( H( O|a0-b0|+|a1-b1|+|a2-b2|+|a3-b3|+

|a0-c0|+|a1-c1|+|a2-c2|+|a3-c3|+
2 ?. T, g& E6 `/ `
8 S+ Y8 w; t, [+ l9 o  U|b0-c0|+|b1-c1|+|b2-c2|+|b3-c3|
————————————————
版权声明：本文为CSDN博主「黑榆」的原创文章，遵循CC 4.0 BY-SA版权协议，转载请附上原文出处链接及本声明。
( m+ R0 ?  ]! R+ V8 H- s原文链接：https://blog.csdn.net/georgesale/article/details/126690670

0 s; t! I  }; Z, _4 H
: \. _/ l4 I5 t+ D# g7 Z7 C6 C( ?