三分类网络的物理意义是什么?

杨利霞

三分类网络的物理意义是什么?

用分类实现衰变
专栏收录该内容
52 篇文章0 订阅
. {: Q9 ^) V* F& o订阅专栏
(A，B)---m*n*k---(1,0)(0,1)
. n+ `% J! S: x$ ]
; ]5 n5 x" Z; T6 I5 r5 ~( _$ o2 b- ^对于一个二分类网络可以将被分类的A和B分别理解为粒子和环境，因为粒子处于环境中。于是A和B之间的距离可以理解为0。因为t=s/v，则即便A和B之间的相互作用的速度小于光速，A和B之间仍然可以实现瞬时作用，并不违反理论。

( A, B, C )---m*n*k---( 1, 0, 0 )( 0, 1, 0 )( 0, 0, 1 )
) N& ~, T2 t2 \/ B0 N$ ?
对于一个三分类网络要完成3次形态的变换。A⇋B，A⇋C，B⇋C，每一次形态变换就是一次二分类，因此对于一个三分类网络可以理解为由3个二分类网络组成

(A，B)---m*n*k---(1,0)(0,1)
5 N) j7 n+ W3 \1 G# P: m7 L& ?
(A，C)---m*n*k---(1,0)(0,1)
1 W  {5 ~$ d$ U
(B，C)---m*n*k---(1,0)(0,1)
: {( b: f1 E( q* I, q7 ^) Z8 Y: s* H8 J
这就意味着存在3对瞬时作用，也就表明这3个粒子彼此之间的距离都是0.随着时间的推移网络的收敛误差会不断减小，而网络的分类准确率会不断变大。这个过程意味着A被错误的分成B和C的成分少了，同样B被错误的分成A和C，C被错误的分成A和B的成分也少了。

$ O2 N! R# y* p( L9 ^; D所以这个三分网络可以被解释为，3个距离为0的粒子不断的相互作用，随着时间的演化，最终变得越来越像自己。

& S) s/ k& ?% z; ]' T+ b而前面的实验表明相同收敛误差下，迭代次数取决于等位点差的绝对值的和，这次就继续验证这一猜测。
3 r, a4 c6 r" a
# h$ d7 A$ G5 e+ j1 f6 {: f用的训练集是mnist的0，1，2，3，4，的第一张图片。用间隔取点的办法化成13*13.

( 0, 1, 2 )---169*30*3---( 1, 0, 0 )( 0, 1, 0 )( 0, 0, 1 )这个网络简记为0*1*2.就只有3张图片不断循环往复，直到收敛。共进行了10组得到数据

1*3*4

2*3*4

' M0 O/ q- Z9 g3 X; w0*3*4

" O' |, a& f: u0*1*4

0*1*3

8 }. M4 }  M4 w3 h5 a9 T3 \; }1*2*4

3 f2 ?, X! ~4 g0 B9 g$ ]2 d& }6 ?( b1*2*3
2 Y# W; Y( J2 |* Y- K7 R' f
0*1*2

7 g( n* a( P! w0*2*3
3 A, O) \3 _; E( P$ Y: A
/ B3 G5 P0 e# H0 v5 N0*2*4
1 L. U) a* s/ p
δ

& B9 v. b# i. }  I迭代次数n

  D- w1 z" b2 a. b5 d迭代次数n
3 U2 W4 B+ v% Y$ `* v8 d
迭代次数n
9 W; b' [% |* W! S; F
1 N2 t, Z; z& D# P3 v' e$ x迭代次数n
" X+ o  c; [; d
' U* I# M6 {. b8 ^. Y6 Y$ V迭代次数n
0 B0 Y: I0 u. N/ z( \- T, }
6 M6 S9 N) V4 G  w4 _迭代次数n
/ G) V$ e5 |. g1 {6 d& F% D
8 a! }+ g# _3 M* h5 t1 S+ R迭代次数n
% B3 M) \( f  V0 w2 U1 `% @" ?7 C* Q
迭代次数n

0 b1 R% V, p" n& |9 S' U. B迭代次数n
3 Y$ R+ a8 W5 B
; b' f5 o% `4 B迭代次数n

0.01
: P7 W* k3 X9 Q! x! g9 p
1763.1809
8 e0 I  V" H0 T% T/ P8 t$ T/ ~
) V  T# I% K5 o8 ]4 r1626.5729
# v0 B! u9 y9 ~' K; J
1672.4523

0 `& U4 [+ f/ \' H  A1 S3 p1635.9196
+ a! h& X  f- D5 `7 d3 L+ C
1 X2 K- D9 o9 u. g4 G1 p9 e# u1 P1596.7035

$ g0 M( p7 C7 t' d6 X6 }+ I1620.407
% i" B. `+ a& O3 Y7 v% g! {8 h
0 z; X1 k1 T- [: ?4 u1563.8945
+ O# R2 y. s+ Y0 }2 [. K; o' G
1444.2915
* Q( B; ?0 b$ O) t# Y6 d
( q5 P( X0 w2 Q8 Q# y0 K1410.0302

1465.4171

0.001

, `. P+ v+ [1 h0 x" i8 M13065.196

12674.945
! X6 M/ L9 |4 f8 Z) h& F% E8 m2 K
12747.729

12386.216

* Y' T* Y2 C9 c6 o12349.02
4 T& G2 @* c; r( N) N% K
* I9 X; Y) B# E5 [- r/ R* u12282.201

/ a" j* U% |* ^8 s$ o3 P" A0 `7 g12270.035

11338.477

) x* y8 v) X! G$ K6 ]$ q, y10985.201

11015.503
# I& H' H, {6 ]0 h9 q
9.00E-04
. Y' d1 {; C+ H1 J  f
14352.452

14004.633

14062.829

13629.467
9 @3 p; _' Z8 o6 d
13613.362

& ^/ s5 F' N# m13609.563

13530.322
9 g& {6 M- |* _! P+ u% g2 F
  I$ x6 h/ h# E4 X5 I, r, N12458.171

12176.362
* y- a- A) k1 _& h
12225.96
" |& S4 x" [* i* ?
8.00E-04

16141.206

5 y+ z% O; H: x# \, j" p15611.101
, m3 s3 z1 D) Y% [( u. [* r
4 o9 J/ t0 k3 m# k+ x8 o# B15749.91

, i( a! B# p3 A5 z! c3 B15264.98
, t, u: G  d( ?- Q' g, [
15228.447

15207.628
$ `( L) F, q9 |# _6 t# F- z3 y
3 l( M8 b$ y) z# F  Y2 M15053.714
+ G& @/ ^* X+ k+ p, ?- }$ o
14044.729

13530.397
7 T. c) F, s# z: R/ G
13654.678

6 s! A) D6 d0 l. _/ N7.00E-04
& b; N) V% }- R/ u  M& O+ u  r
2 i8 z/ g, d0 ^* I8 B6 z18194.397

17760.638
4 W4 T9 R' U) z# D
0 F; [: X* J, a17743.578
6 @: o1 j9 y  i
' B2 ~2 w' K. P6 p- p) u0 `17333.377
/ C' K) Y  A" c' D! }6 I6 L
17293.874

! G! T' v7 J3 h& B5 k9 r: W0 }: r& q" [17204.638
" r" z- k7 T/ U
" {5 v& u$ y- m6 p8 U17058.809

/ L, E# a4 v5 r, P# q) _- m15946.101
' V7 O  I# H# g0 T
15491.266

15399.538
1 O5 E! S. [3 @5 y1 i  c! {% b
s

1 H: n: d2 }* O6 @: W' @130

218

198

- x! t, H3 \% F# V206

204

218

220

204

220

216
0 e& Z/ Y% x4 q1 \
将收敛误差为7e-4的迭代次数画成图
2 |8 a* @9 E% o9 b. @$ K
5 h/ j5 R' V1 f" b+ G

- d0 r/ E  F9 R* p! t8 {$ W再将移位距离S的曲线画成图

2 r+ o9 X% Q0 B; R' s, B0 m: r

# p6 S/ l% S4 \在这组数据中s和n之间的反比关系依然存在。

移位距离假设

3 r  W8 B  R; o% c  D9 z0 d(A，B)---m*n*k---(1,0)(0,1)



6 [2 u: a" X# i2 W/ Z用神经网络分类A和B，把参与分类的A和B中的数字看作是组成A和B的粒子，分类的过程就是让A和B中的粒子互相交换位置，寻找最短移位路径的过程。而熵H与最短移位距离S成正比，迭代次数n与S成反比。
7 U, H! L) F6 l/ Z  R* a
移位规则汇总
0 x  k5 b* K3 y4 o  q! S/ r
4 w9 [2 Q4 P( {移位距离就是等位点数值差的绝对值的和S=Σ|a-b|，如果训练集有多张图片取平均值，如果是多分类问题则移位距离为所有两两组合移位距离的和。
7 G9 ^4 N3 I' [  ~4 w. F
如对一组3*3的矩阵
7 |& R* x6 u# i$ u6 u

5 u5 T8 I1 Z, _# G2 N5 I
S=s0+s1+，…，+s8=|a0-b0|+|a1-b1|+,…,+|a8-b8|
1 i1 M+ e3 X+ |. s9 b$ O
如果是3分类问题，就应该实现3个形态之间的两两分类，也就是要完成3对等位点之间的差。
8 G( C0 o7 _' j) q) T  b4 L4 ]

* O4 S9 I. q( \0 B% k5 |
因此移位距离
  G# W9 p/ _$ E7 w7 e
S=Sab+Sac+Sbc=

|a0-b0|+|a1-b1|+|a2-b2|+|a3-b3|+
2 o! V# R- Y6 k( N- X$ Q
|a0-c0|+|a1-c1|+|a2-c2|+|a3-c3|+
# N& o* |8 R! K& e0 ~  }  J. g- `* I
|b0-c0|+|b1-c1|+|b2-c2|+|b3-c3|
' m7 |9 C# I  t/ r————————————————
版权声明：本文为CSDN博主「黑榆」的原创文章，遵循CC 4.0 BY-SA版权协议，转载请附上原文出处链接及本声明。
/ `% e. D0 Q- P7 e  ]+ y* c原文链接：https://blog.csdn.net/georgesale/article/details/126690670
: j8 j, J2 v* y! a+ j0 K