三分类网络的物理意义是什么?

杨利霞

三分类网络的物理意义是什么?

3 y4 u( h* E* \) }+ D# ^+ C用分类实现衰变
专栏收录该内容
52 篇文章0 订阅
订阅专栏
(A，B)---m*n*k---(1,0)(0,1)
- v# w' {7 o8 W" Q  `
对于一个二分类网络可以将被分类的A和B分别理解为粒子和环境，因为粒子处于环境中。于是A和B之间的距离可以理解为0。因为t=s/v，则即便A和B之间的相互作用的速度小于光速，A和B之间仍然可以实现瞬时作用，并不违反理论。

( A, B, C )---m*n*k---( 1, 0, 0 )( 0, 1, 0 )( 0, 0, 1 )
5 x3 U, }) R" c- G7 i; a# A
对于一个三分类网络要完成3次形态的变换。A⇋B，A⇋C，B⇋C，每一次形态变换就是一次二分类，因此对于一个三分类网络可以理解为由3个二分类网络组成

(A，B)---m*n*k---(1,0)(0,1)
" `5 Q% w6 V# k
5 i- D. K6 x& c: G4 u(A，C)---m*n*k---(1,0)(0,1)

(B，C)---m*n*k---(1,0)(0,1)

, S- I# y4 ]8 {  u, L- R/ ?1 G 这就意味着存在3对瞬时作用，也就表明这3个粒子彼此之间的距离都是0.随着时间的推移网络的收敛误差会不断减小，而网络的分类准确率会不断变大。这个过程意味着A被错误的分成B和C的成分少了，同样B被错误的分成A和C，C被错误的分成A和B的成分也少了。

所以这个三分网络可以被解释为，3个距离为0的粒子不断的相互作用，随着时间的演化，最终变得越来越像自己。
/ T# P& g1 d* ]8 u( j/ |
, y' Y. \6 z) P' l7 W6 x而前面的实验表明相同收敛误差下，迭代次数取决于等位点差的绝对值的和，这次就继续验证这一猜测。
7 h6 `6 U+ K3 H, [- t
6 U) |/ x1 W6 x5 \: E8 j用的训练集是mnist的0，1，2，3，4，的第一张图片。用间隔取点的办法化成13*13.

" S: f& M6 S& m. G2 W+ D( 0, 1, 2 )---169*30*3---( 1, 0, 0 )( 0, 1, 0 )( 0, 0, 1 )这个网络简记为0*1*2.就只有3张图片不断循环往复，直到收敛。共进行了10组得到数据

: L# |/ b3 [0 t1*3*4

2*3*4
7 K! _) a( h0 I! U! ~
0*3*4
4 d- Q$ D5 b! `6 `* L) t/ `3 L4 M
! w9 l5 s  i. ~! H/ A2 a4 g0*1*4
( I) |) H0 f9 x6 b1 n( _. q
0*1*3

1*2*4
% y' g) K8 Z  b! M
1*2*3

0*1*2
* Q" i, m* s) D4 S
6 y' c9 D. }8 L% L0*2*3

% p5 ]1 x5 e) b& F2 e7 n0 K0*2*4

δ
' u8 k: b3 {: X3 [/ y" I; J
迭代次数n

) S$ @. K0 ?5 _迭代次数n
5 b8 s  }% c3 H
迭代次数n

迭代次数n
" |) ~: g9 v# o' |
迭代次数n

- l. r, ?# A, r9 m8 b8 a' {, t迭代次数n
3 ]" ]% Q6 k7 y
, H0 w, q4 s! n$ v' b( s6 B+ ?迭代次数n

迭代次数n
; i5 m6 w0 u% {6 q- B+ ~& v
迭代次数n
6 w5 L" K  f4 v( s! Y+ |8 S
迭代次数n
1 l; t$ ^% r- W: I
" ~" \& l1 A6 o' A( `- F0.01

: q( i7 \3 c* ]/ [' u1763.1809

1626.5729

1672.4523
/ }2 d0 m2 B# ?; }
. @& c- U. I) w! N1 c+ g  H( i8 K1635.9196

/ m& E0 e  B, d( R0 x+ Z1596.7035
. n  a) e/ W; t. O+ o8 t: ~* |
0 n7 @8 `+ t9 i+ R" |* q' o1620.407

1563.8945

1444.2915
+ h2 I* p8 O2 U* n) F2 o. v
1410.0302

' E  ^# Q$ U, T9 u+ `/ f1465.4171

0.001
( {2 D  I, F9 L6 H: x/ k& s0 R
13065.196
  ?1 \( }0 _+ K) Q7 j0 m
6 S4 k& G9 l- p1 w7 f6 l12674.945

12747.729
. m9 q, ]6 R; L. M2 E
9 v9 r- S% I' R, Y9 l: y$ G, _12386.216

12349.02

12282.201
  A! E4 u& G5 }0 X* I0 q
12270.035

11338.477

10985.201
% ^- m5 j" T* Z. ?( I0 ]# C% {
11015.503
, m$ W  `4 s' k; u* ~
; b0 n) W: H- B1 `% z) m, A( d9.00E-04
' Z0 M) J+ ?! I
14352.452
7 O8 a+ E# B. E5 D$ b# ]
; T" O  o6 s$ }" Q+ ^1 w2 v8 D4 t- T14004.633

& N2 Z3 I: z2 N14062.829

; G- ]) K4 e( N13629.467
! ]9 K- P! H  x" i, P" D1 A+ Z
13613.362

# h5 X( z8 W" H( |  Z) i2 p0 \13609.563
) W% {4 o. f8 ?  E: ^1 g
13530.322

12458.171

12176.362
3 B4 ^3 `0 }( a
12225.96

8.00E-04
  _# G  F1 s7 P7 f9 {$ Y% V! M/ J/ A
16141.206

15611.101

% \4 L! Y" E1 Y. \5 q15749.91
) A9 o% ~2 f9 v9 |* {
5 R, o9 E: r) }8 J15264.98
# u: R1 q& l! v+ ?0 d5 p" N1 P
7 p$ R  [1 ?, I& j% d' O2 j15228.447

) g$ [; M6 V2 A5 I7 p$ l$ l' B15207.628

15053.714
" ~( S& o( O9 d
14044.729

13530.397

7 u1 b% r# D/ v  B- E1 ]) ^+ v! V13654.678
" x- v: w9 H8 @7 z
7.00E-04

18194.397

17760.638
* k& d& ]0 q4 w
* f' |! D3 M; T6 Y17743.578
. l- X2 g1 V( ~& `* q8 |; Q
( ~! f  U# p- K, O17333.377

17293.874
: ~# A, J4 T* E8 G5 d
17204.638
: E, K+ b8 L/ b
17058.809
5 {* ]+ m5 d& f( W9 E* d7 O
% z/ q% o5 ]/ Z6 D# ?5 }& f9 V15946.101
$ B* y' s: u! d- y& H- n
3 n" a/ E( u: s' D: T. r15491.266
: O3 z. u. m8 K+ |
. m7 X: I0 V# X7 s' `) T15399.538

3 ^8 n5 q  U- u( O1 Hs
6 w1 N) E% d; p, Y5 R9 G/ C
+ `9 _4 P% t1 l( d130

! C5 Z, q+ E" B' Q/ h; u. {218
+ T8 q- Y# d0 O7 e
* A$ D0 Y2 W4 U198
! k2 w* K7 a* T2 x+ I6 T& P
, E9 R. Y& `7 l, Z% r. D4 X206
; C6 V' C" z# r- l8 i! \: c6 ?
204

218

220
8 K6 B5 H4 S5 g6 Z8 Q, N
204

220
' n  X" ~+ B8 w, n' |. W
216

将收敛误差为7e-4的迭代次数画成图



再将移位距离S的曲线画成图



. X) D& x0 Y% S! M- y" p7 |% z" l在这组数据中s和n之间的反比关系依然存在。

/ Y- @- w: B  ^5 ]% s- n移位距离假设

- U. F0 M' z; y) c$ P(A，B)---m*n*k---(1,0)(0,1)

/ w1 }) |9 m' t& J' b0 ~4 m
7 {4 e9 t! J9 {1 [$ i. j% R
  J$ t$ R3 T8 l+ E/ d: o% z/ X用神经网络分类A和B，把参与分类的A和B中的数字看作是组成A和B的粒子，分类的过程就是让A和B中的粒子互相交换位置，寻找最短移位路径的过程。而熵H与最短移位距离S成正比，迭代次数n与S成反比。

移位规则汇总

$ y3 U8 V: _, n7 `5 x, f! w6 J/ ?移位距离就是等位点数值差的绝对值的和S=Σ|a-b|，如果训练集有多张图片取平均值，如果是多分类问题则移位距离为所有两两组合移位距离的和。

如对一组3*3的矩阵


+ j3 p( `8 j$ c2 ?& N. N
S=s0+s1+，…，+s8=|a0-b0|+|a1-b1|+,…,+|a8-b8|
$ i0 N  T) v6 y7 u
2 x7 j  W) E+ y如果是3分类问题，就应该实现3个形态之间的两两分类，也就是要完成3对等位点之间的差。
; ?  q5 x/ G2 T1 O1 V


0 P/ X- H; r9 i4 o( p因此移位距离

0 r6 L  M* \  o8 gS=Sab+Sac+Sbc=
! n/ R. G+ l. M" [( q$ c
|a0-b0|+|a1-b1|+|a2-b2|+|a3-b3|+

|a0-c0|+|a1-c1|+|a2-c2|+|a3-c3|+
' J- H4 H7 F% F( ~/ r9 q
|b0-c0|+|b1-c1|+|b2-c2|+|b3-c3|
. r3 m+ u6 `3 c6 O8 ^————————————————
+ v1 b) q) Q9 u* s* x! ^! m版权声明：本文为CSDN博主「黑榆」的原创文章，遵循CC 4.0 BY-SA版权协议，转载请附上原文出处链接及本声明。
原文链接：https://blog.csdn.net/georgesale/article/details/126690670

8 n% M$ n, k1 z