三分类网络的物理意义是什么?

杨利霞

三分类网络的物理意义是什么?
1 t/ d. s- d7 W  e3 z; ~
用分类实现衰变
1 u" d# N; K! k专栏收录该内容
9 P+ {; g' S  I3 Q5 h52 篇文章0 订阅
订阅专栏
) }" J# j5 z) w) u3 p) a2 ?& a6 }(A，B)---m*n*k---(1,0)(0,1)

2 S+ ^9 G. i. ]; v2 W8 d" b, N对于一个二分类网络可以将被分类的A和B分别理解为粒子和环境，因为粒子处于环境中。于是A和B之间的距离可以理解为0。因为t=s/v，则即便A和B之间的相互作用的速度小于光速，A和B之间仍然可以实现瞬时作用，并不违反理论。

+ G+ X& s* t6 c( m0 s0 c8 D/ I5 i( A, B, C )---m*n*k---( 1, 0, 0 )( 0, 1, 0 )( 0, 0, 1 )
. Y7 n6 y, I- ?4 I# l1 a( `% [" j
对于一个三分类网络要完成3次形态的变换。A⇋B，A⇋C，B⇋C，每一次形态变换就是一次二分类，因此对于一个三分类网络可以理解为由3个二分类网络组成

* t5 {4 k5 G- l; n. x* {(A，B)---m*n*k---(1,0)(0,1)

(A，C)---m*n*k---(1,0)(0,1)
/ ~# i/ v" c3 M% J' B8 v) a. _+ E; F
(B，C)---m*n*k---(1,0)(0,1)

7 v9 P) h4 d/ W5 C6 O 这就意味着存在3对瞬时作用，也就表明这3个粒子彼此之间的距离都是0.随着时间的推移网络的收敛误差会不断减小，而网络的分类准确率会不断变大。这个过程意味着A被错误的分成B和C的成分少了，同样B被错误的分成A和C，C被错误的分成A和B的成分也少了。

所以这个三分网络可以被解释为，3个距离为0的粒子不断的相互作用，随着时间的演化，最终变得越来越像自己。

% y; \, O$ w# i) |$ X0 g而前面的实验表明相同收敛误差下，迭代次数取决于等位点差的绝对值的和，这次就继续验证这一猜测。

6 r; q) D8 K7 ?' ?/ I6 Y/ c5 [用的训练集是mnist的0，1，2，3，4，的第一张图片。用间隔取点的办法化成13*13.
. w8 @+ X( }" Z/ n3 M* x
( 0, 1, 2 )---169*30*3---( 1, 0, 0 )( 0, 1, 0 )( 0, 0, 1 )这个网络简记为0*1*2.就只有3张图片不断循环往复，直到收敛。共进行了10组得到数据
" \" m; S( [$ Z% ?
1*3*4
. Y) I* K# ~' i/ l
; @1 c! G. q1 [# I' K  r3 {2*3*4

0*3*4
/ _" n' c$ `, A0 f& v) l
0*1*4

1 ^3 t4 p& i5 Q. @9 d0*1*3
+ q. x# m. f+ }8 A+ E2 B
- D6 I/ R* ]" r5 [1*2*4

  t: {' G, P1 A& e) g. ~* n3 X1*2*3

0*1*2
- m- D1 N, R7 u" k% J' i5 I5 w
0*2*3
6 T+ N6 O) R; C1 g% ?* W
- z% b7 C/ X# v( l6 E- k0*2*4
* S. \+ o, `, m( z
0 Y2 @  a* b1 l; r' s7 Jδ
9 k* ]& E( {0 t0 Q
迭代次数n
# Z6 U  V) U) c6 ?
迭代次数n
7 ~8 a* b2 m4 h) f! A
迭代次数n

迭代次数n

迭代次数n

迭代次数n
( V6 }- P" b- o7 k
) z% D8 E% Q5 H. h3 K迭代次数n
9 x4 Q+ ^1 Y, A' T/ h
迭代次数n

迭代次数n

! K. ^" B: U. b2 j; l( t. \2 D& c6 S迭代次数n
1 x' g2 N; `2 K, N4 G
/ g  e* |4 F5 A- D2 v) c0.01

9 m( D: w# _8 N- Y1763.1809
) ?) P" z* c- X; ^
1626.5729
, u& r  g- g; N; r; I3 i( y1 h
' A6 x# O. Z% G2 z* @1672.4523
/ @4 |! ~( }) @8 K, ?0 Z0 I' x
+ I/ T2 ?- V6 C3 ?8 o+ L1635.9196

1 v% T% b+ ~" U" c2 I9 y1596.7035
& [$ v7 Z* ~" V4 M( Q' W; h! P
$ z1 L1 t2 b# n6 ^1620.407

1563.8945
9 w7 z# P$ p5 k- l
1444.2915
/ W; k6 `: C- f9 }
% M# y2 h4 }- D8 L  `6 H' f1410.0302
# I4 |, F* r, j* g. Y
1465.4171
5 }; `, C& \# F+ ?) `
3 e# Z3 K* S$ K0 h0.001
$ z; [3 p5 A8 Y1 d7 @* Y2 b/ Y
+ o; _% P3 ?; V, f3 z13065.196
# A* s; s: k& Y6 m3 d! _3 i
12674.945
; q! X) @0 F9 H, A# e1 h1 [
12747.729
1 Z9 J+ V: j2 `# ^  W
12386.216

0 N7 C, p* V/ V0 i: {9 y12349.02

0 B* g/ k, h0 X2 B) A& J- z& {2 g2 X12282.201

8 ^: S0 t, }  n! e5 e" V12270.035
8 f4 ^5 J' W3 F7 K" O
11338.477
0 s8 U  E( F( q9 y! R2 n; Y/ I
$ q8 U# s% ^3 ]0 a( z0 n10985.201

11015.503

9.00E-04
2 d5 M: x2 N- d2 e& I
14352.452
# Z3 z1 l2 ?$ R: V, Q( p
# x8 n- w: x  I, c5 b14004.633

+ ]; Q% t' G8 ~7 W( n, D' w$ F14062.829

) B; |- S! G$ L8 i6 N( r( I13629.467

5 R9 E2 @8 q; w  p( a9 x3 C13613.362

13609.563
4 E/ }) H. P# y5 k- ^% j
13530.322

+ y# C& U2 a4 e12458.171

12176.362
$ Z* D2 d+ V5 l
  O( l1 g! W( j8 t# S% h12225.96
; G% w% r  ]# ?* A; x
8.00E-04

* {5 U0 E& P: t% l- I16141.206

15611.101
/ |$ k8 q# h2 M
# I3 k! N( p& w" n2 q6 J, N" n6 W15749.91
# T# J4 h/ X4 n3 q2 B% R
1 Y( E1 T& ^7 C15264.98

15228.447
+ \7 N" v" `$ V# {3 T3 I
. r8 V' o: _  ?: E15207.628

15053.714
& h7 S: R6 X3 ^
14044.729
8 B. |& Q7 _7 b2 j) o
13530.397
! Q) \/ d1 t. D$ N
13654.678

7.00E-04

18194.397
2 ]5 G- S& T5 E2 S% j
17760.638

- }0 N& x8 v% X4 E" @( y  ^- A17743.578

% Q/ [1 }/ X4 t& v" |4 q17333.377
, G* O. G( v& [+ A" @; D
% j% V) w9 C5 ~7 S6 K9 C17293.874

17204.638
' l" P. r. o5 g  @1 S1 i
" L1 c1 u$ p# m, |17058.809

# L9 I, I+ l2 @2 n9 A* H! \15946.101

. L7 [& p3 ^: s% T: h15491.266

15399.538

s

6 v8 Q6 Z* E8 v& b  r5 ~6 O130

1 a4 {. _# \9 v2 N218
# Q( q4 i* h5 s7 N7 t" D
! U/ y6 ?* k! Z198

206

) [: \# i: V8 i" q" `204

218

- C+ K% p: }1 q% w  o: e( M9 r220

204

3 E4 N1 N& p/ ]# h220

216
# I( Z/ U: w9 }% x0 k* h1 \
将收敛误差为7e-4的迭代次数画成图


5 S+ D! Q2 p) O3 l
' I9 U0 V3 ^  W$ e3 B再将移位距离S的曲线画成图
5 R- }0 |# d3 p: F
1 o6 Y( _2 ^8 A* q8 W  L$ w, B3 o
5 J. M' ^; D: s3 n3 [
在这组数据中s和n之间的反比关系依然存在。
% ]8 [9 ]' i0 w: f2 ?: e
3 ^5 P) f+ C9 {; N( O( Z移位距离假设
+ W+ Z4 Z1 t; @# i: z+ ~0 R
(A，B)---m*n*k---(1,0)(0,1)
, s( c- R) {: L/ w


2 T8 s4 ?/ P" b! _5 j用神经网络分类A和B，把参与分类的A和B中的数字看作是组成A和B的粒子，分类的过程就是让A和B中的粒子互相交换位置，寻找最短移位路径的过程。而熵H与最短移位距离S成正比，迭代次数n与S成反比。
: C% n! |8 q8 |7 Z7 {
移位规则汇总

移位距离就是等位点数值差的绝对值的和S=Σ|a-b|，如果训练集有多张图片取平均值，如果是多分类问题则移位距离为所有两两组合移位距离的和。
, w% j$ y9 r& A& J) a
9 ^) s# x/ l9 \9 P4 H  U如对一组3*3的矩阵


( X" j5 G# w7 i5 z' {
S=s0+s1+，…，+s8=|a0-b0|+|a1-b1|+,…,+|a8-b8|
7 s# J+ e, H) Z- Z9 Z
1 ]5 L& |3 |6 b7 T/ B如果是3分类问题，就应该实现3个形态之间的两两分类，也就是要完成3对等位点之间的差。



; B6 ]% Z- h) f. I因此移位距离

3 O. t% t4 g) F8 `5 }S=Sab+Sac+Sbc=
9 i* S( q& a6 m
- Y- B7 E2 K& G- I( m+ P9 t|a0-b0|+|a1-b1|+|a2-b2|+|a3-b3|+
. q/ S# E4 v4 m5 p
|a0-c0|+|a1-c1|+|a2-c2|+|a3-c3|+
% A' ~2 p' v$ y4 p7 {, S
' U: i0 j8 d' h6 E|b0-c0|+|b1-c1|+|b2-c2|+|b3-c3|
————————————————
9 A: ?) |$ M& h7 n4 l% f/ P版权声明：本文为CSDN博主「黑榆」的原创文章，遵循CC 4.0 BY-SA版权协议，转载请附上原文出处链接及本声明。
( M: ~+ J/ s7 ~+ i5 f$ }原文链接：https://blog.csdn.net/georgesale/article/details/126690670
; @9 T. T$ j4 V9 j7 @1 q# h9 z

4 Z0 a! X6 ^  `# p