三分类网络的物理意义是什么?

杨利霞

三分类网络的物理意义是什么?
( Q  s$ |" ?; `1 x/ Q6 F  u
用分类实现衰变
- C) t9 w6 Q& r; O) Q  F专栏收录该内容
7 w) F; m! E  [# K$ j2 F& ^52 篇文章0 订阅
0 h4 @$ j. P+ K订阅专栏
(A，B)---m*n*k---(1,0)(0,1)
9 K6 w: A; J# ~
对于一个二分类网络可以将被分类的A和B分别理解为粒子和环境，因为粒子处于环境中。于是A和B之间的距离可以理解为0。因为t=s/v，则即便A和B之间的相互作用的速度小于光速，A和B之间仍然可以实现瞬时作用，并不违反理论。
' n. j* S, u% F, H2 U; e+ P% y* e
( A, B, C )---m*n*k---( 1, 0, 0 )( 0, 1, 0 )( 0, 0, 1 )

; R; [/ @2 a9 r% J: `; i+ S对于一个三分类网络要完成3次形态的变换。A⇋B，A⇋C，B⇋C，每一次形态变换就是一次二分类，因此对于一个三分类网络可以理解为由3个二分类网络组成
) ~& }$ N( z, M
(A，B)---m*n*k---(1,0)(0,1)

(A，C)---m*n*k---(1,0)(0,1)
1 `. L! j8 {: L7 u8 b, U
(B，C)---m*n*k---(1,0)(0,1)
  L* N+ G2 i# e, |2 ^+ t- X2 _8 a* T
6 J/ Z; Z  a' d2 k 这就意味着存在3对瞬时作用，也就表明这3个粒子彼此之间的距离都是0.随着时间的推移网络的收敛误差会不断减小，而网络的分类准确率会不断变大。这个过程意味着A被错误的分成B和C的成分少了，同样B被错误的分成A和C，C被错误的分成A和B的成分也少了。

2 V, E& v) j( w# K: H# \' f# X所以这个三分网络可以被解释为，3个距离为0的粒子不断的相互作用，随着时间的演化，最终变得越来越像自己。

/ y0 T/ V  q5 M而前面的实验表明相同收敛误差下，迭代次数取决于等位点差的绝对值的和，这次就继续验证这一猜测。

用的训练集是mnist的0，1，2，3，4，的第一张图片。用间隔取点的办法化成13*13.

7 _# g9 b' Q  ^# ^2 }: M( 0, 1, 2 )---169*30*3---( 1, 0, 0 )( 0, 1, 0 )( 0, 0, 1 )这个网络简记为0*1*2.就只有3张图片不断循环往复，直到收敛。共进行了10组得到数据

; r6 d: Q  K# i. e6 U1*3*4

2*3*4
9 b" i: H( ^; U4 K1 L, ^8 l8 X
0*3*4

0*1*4
$ E" Y& ~: e' q% L: F& W4 a
0*1*3

% Q, h1 Z5 j* @" i3 G1*2*4
8 P* P% j7 A. j$ l4 E4 Z. G
1*2*3

0*1*2

- h1 n/ ]! U$ v# P: ~0*2*3
! a. Z3 b3 {: h! C: l3 n, M" n
0*2*4
+ i9 T0 q; E1 H1 a7 `& F
δ
* u4 {2 p- [1 ~" E+ ~
5 \$ g2 ]1 w7 Q3 _迭代次数n
  b9 K" p! m4 s8 q5 C
- e: V  E9 W2 S9 u: \- n" v4 v/ ~迭代次数n
9 G( M) ?% D- M% w! ?. {- x
迭代次数n
! d! t: ?! l8 k( K6 f0 ^. n) T
迭代次数n

  L; f$ l3 ~0 x迭代次数n

迭代次数n

迭代次数n

迭代次数n

4 F1 V" c. h  K1 F, O3 R迭代次数n

7 h6 ~/ L6 |6 H4 |1 M迭代次数n
& U8 ^1 G  b' Y2 M( R2 a% a
- h& Q9 W: \& @! e% E/ C0.01
* [) g: D3 A' c. i  r+ `( c3 I
1763.1809

5 f! d3 x7 h# o4 h+ O% h1626.5729

' q' K/ A8 G% R5 E+ g  D2 L1672.4523
* G: f+ U7 |! A/ M: Y" q
1635.9196

1596.7035

1620.407
5 ~1 t& S: V, l: T- |. f
1563.8945

/ }9 G/ Q6 `' X) X0 E1444.2915

1 c' a) O( a, B$ g) q! L3 a1410.0302
7 x* h0 Y* \" N/ T& s
+ _* @! }7 G! i' }3 }1465.4171
( V- S2 ?6 {! W# B& `2 M2 s
0.001
0 L6 o0 \& {* W( v6 Z5 Q
9 d$ k; `! o2 o, i8 M13065.196
, u/ _, ?; t- J9 P1 e
1 S0 q/ }8 H: n! t; X5 c/ d12674.945

12747.729
& M+ R# \# R/ \) A" w& ]$ r
, y6 F3 q; c) u7 `8 h1 X2 N12386.216

. T" ~8 m8 c- P8 [' }1 q; R12349.02
% s4 |/ W. d  p0 z( g! _2 ?/ }/ d
12282.201
) }# r/ W' z6 |9 \0 l5 c
12270.035
4 y0 I1 E5 \' M" H  H) \' ~" ]1 B
11338.477
! Y/ A7 s, n* Y6 c
10985.201

7 b- Z4 g. [! A3 i: h$ m* J. D11015.503
3 Q. {& a5 M7 k+ a  ^1 N
9.00E-04
7 ]; Z' E* U" I! i
/ ?' n3 `1 a+ V) x14352.452

' O# J/ u4 |- R0 g14004.633

14062.829
* e: K  i6 M4 k( v5 G; }' Z! F6 u
$ s+ k, R- ~# W) u: G13629.467
! O8 @) q8 W, f# r
13613.362

13609.563
$ c* n2 j5 [6 |) H& C- r
+ _) Z# Z# ]5 U13530.322
1 p: q2 k' [5 o( ?. t& E+ m: c
+ @  W  r0 ^' s5 w12458.171
: E! X, b4 S& N! m6 s5 O2 r# R3 R
5 _7 `$ H5 F/ t3 R  ?7 d12176.362

$ V! ~  r4 T( [. G12225.96
0 ^$ h5 w, g, r" _: h! l
; b1 T  L0 ~/ o3 x% F4 }8.00E-04

16141.206
: `% b2 ]0 r; E. j. ]! ^
  a7 p( r% W+ v$ y15611.101
3 o$ g' r1 j& ^
15749.91

15264.98

15228.447
' J: ?. U& j* x6 Y/ C6 f& a3 R" D# g
6 P0 a  U, Y$ V- o15207.628
8 z5 s8 M+ f  d9 u
. I- C$ V6 v" k; [* q15053.714
" u2 h8 {. W( R9 i: @# W6 O
14044.729
# V( E  g: _; A/ f, O
13530.397

13654.678

7.00E-04

1 D8 d3 r3 I" [, \. `18194.397
9 z# v  `0 R2 l+ {
2 C( d& k& p  e  v/ S( C- v17760.638

  \/ }/ m: k. r17743.578

17333.377

4 [7 f6 b3 [& \6 ?17293.874

17204.638

17058.809

; z% c8 Y& e5 \* A15946.101

15491.266
  Y/ Z5 t1 c. f
15399.538

! E6 \& {! Z3 F0 ^s
  |1 c# g# {% }6 m2 ^/ a, N
  m* d9 p+ K* p% Z130

218

) [, b( ^9 R" x198
6 Z' M7 o. s( `! c; x0 O- f. v
) G+ u$ ^5 G( D5 ~3 v  Y206

204

8 H8 x. g8 z; N+ Y218

220

204
* v$ Q& D; e% L  b
220

/ ?* a/ U' e& T) z! N; F. k1 u216
7 Q  Z+ z, y# I+ \; B9 B: n+ W
将收敛误差为7e-4的迭代次数画成图

" f1 k, E# p* _, G6 d

再将移位距离S的曲线画成图

& H# d/ p2 t1 v( r! d5 _9 K5 C3 [

! N- w' @2 x3 W) v% \6 B7 @在这组数据中s和n之间的反比关系依然存在。

+ q3 C* A  l7 R9 D7 C1 ~移位距离假设

(A，B)---m*n*k---(1,0)(0,1)

7 l8 w' R0 H7 s3 v) L6 ]$ P7 O
5 y, R' h: X0 Z
$ y, ?' \6 z% J0 q$ z/ d8 U: f, Y用神经网络分类A和B，把参与分类的A和B中的数字看作是组成A和B的粒子，分类的过程就是让A和B中的粒子互相交换位置，寻找最短移位路径的过程。而熵H与最短移位距离S成正比，迭代次数n与S成反比。

2 f3 z7 p$ [+ u! [移位规则汇总

移位距离就是等位点数值差的绝对值的和S=Σ|a-b|，如果训练集有多张图片取平均值，如果是多分类问题则移位距离为所有两两组合移位距离的和。
8 C( r5 k$ C& X3 X3 U' Z
9 P1 ~. K; p' s8 S如对一组3*3的矩阵
6 f* D( n0 u; l0 n! g* }' k
0 H$ |" g/ f, W5 R7 Y

7 o4 U( }- t+ \. W+ _: zS=s0+s1+，…，+s8=|a0-b0|+|a1-b1|+,…,+|a8-b8|

& R1 b' s! F; P7 E2 l如果是3分类问题，就应该实现3个形态之间的两两分类，也就是要完成3对等位点之间的差。

, O) L( m3 x4 t9 N% {' b
+ C5 K) {& Y" V2 ]' |
8 j6 K8 u3 B# Q2 n1 M因此移位距离
- a# o; a  h& g7 x& b$ M
S=Sab+Sac+Sbc=

* Z/ @% E. q7 G0 ~* ?|a0-b0|+|a1-b1|+|a2-b2|+|a3-b3|+

|a0-c0|+|a1-c1|+|a2-c2|+|a3-c3|+
% }( R' e. U7 @7 U) p
* s$ F1 I! j/ p: s: F  N$ w" M|b0-c0|+|b1-c1|+|b2-c2|+|b3-c3|
+ q5 _& I; ^1 N$ q( ^' k: N) [. z. s; r————————————————
版权声明：本文为CSDN博主「黑榆」的原创文章，遵循CC 4.0 BY-SA版权协议，转载请附上原文出处链接及本声明。
% l. {5 m# @1 f; {6 a8 `1 ?原文链接：https://blog.csdn.net/georgesale/article/details/126690670