三分类网络的物理意义是什么?

杨利霞

三分类网络的物理意义是什么?
$ u6 Y; w- b8 n. B3 c) v+ r
* v# K  o- n/ W- d& n2 G: t用分类实现衰变
( B% A% g& ?3 [7 I! i' C! S+ g专栏收录该内容
52 篇文章0 订阅
' P% F2 i  t4 I4 x* [% H2 [订阅专栏
(A，B)---m*n*k---(1,0)(0,1)

+ m! P% `" V. H3 Y: Q/ g7 w9 ^对于一个二分类网络可以将被分类的A和B分别理解为粒子和环境，因为粒子处于环境中。于是A和B之间的距离可以理解为0。因为t=s/v，则即便A和B之间的相互作用的速度小于光速，A和B之间仍然可以实现瞬时作用，并不违反理论。
. L$ n' Q2 J  E! n! K, x
9 i" [1 ^6 V( e8 P( A, B, C )---m*n*k---( 1, 0, 0 )( 0, 1, 0 )( 0, 0, 1 )

对于一个三分类网络要完成3次形态的变换。A⇋B，A⇋C，B⇋C，每一次形态变换就是一次二分类，因此对于一个三分类网络可以理解为由3个二分类网络组成

(A，B)---m*n*k---(1,0)(0,1)
3 b" V" \" G/ T5 l
(A，C)---m*n*k---(1,0)(0,1)
+ D0 H+ }/ Q% Q3 B* E$ ~, o& V
(B，C)---m*n*k---(1,0)(0,1)

这就意味着存在3对瞬时作用，也就表明这3个粒子彼此之间的距离都是0.随着时间的推移网络的收敛误差会不断减小，而网络的分类准确率会不断变大。这个过程意味着A被错误的分成B和C的成分少了，同样B被错误的分成A和C，C被错误的分成A和B的成分也少了。

  _# D7 @$ J5 c) z" u所以这个三分网络可以被解释为，3个距离为0的粒子不断的相互作用，随着时间的演化，最终变得越来越像自己。
$ Z6 ^, W' p3 \7 f( u- Y( K; ?
3 J& N8 ]% n% k4 m而前面的实验表明相同收敛误差下，迭代次数取决于等位点差的绝对值的和，这次就继续验证这一猜测。

8 N( v7 c. A5 u+ a用的训练集是mnist的0，1，2，3，4，的第一张图片。用间隔取点的办法化成13*13.
7 @0 s/ s  [; z
0 [  _2 ?9 }5 O( 0, 1, 2 )---169*30*3---( 1, 0, 0 )( 0, 1, 0 )( 0, 0, 1 )这个网络简记为0*1*2.就只有3张图片不断循环往复，直到收敛。共进行了10组得到数据
. \( Q1 `" m' \! {- Y$ x! ~
2 N; E/ [% d2 ]( |& T7 x! i5 O4 y4 O/ |1*3*4
# o) E) v7 S3 v
4 h2 v( j/ f4 ^4 t# }! j$ ?6 w+ [' G' I: B2*3*4

0*3*4

0*1*4
9 q4 S8 y( ?1 {, u
0*1*3

$ h- o% K1 b- r( w8 B1*2*4

2 g" R7 o, }& ^1 M1*2*3

0*1*2
. N) |4 D3 j$ [, j
+ C8 L8 f; f' X0*2*3

0*2*4

7 d. H; B, `# a6 rδ
( h& e* h9 s- l
9 @" A8 z" P2 g迭代次数n
5 s( @4 Y- u5 o' W3 a/ Y
( ^+ }" T, P, B迭代次数n

迭代次数n

2 B% b: C" H/ g* [2 Y  |5 D; ^7 C迭代次数n
& E! z0 F. S. Q  i4 @' a
6 l( D  V$ b4 T9 ?1 G3 \0 P迭代次数n
/ C% I% m5 W* R
迭代次数n
4 `, P& ~( R! o5 \9 G
迭代次数n
, t: i0 S" u+ L8 S9 O6 s
迭代次数n
2 ^) r. M! A1 T1 w8 C! l! v
, I( e" i' A3 `/ [1 {迭代次数n

迭代次数n

* h3 j: k$ u& p" f2 R+ ~7 E0.01
$ Z) v# e0 j3 K+ N1 \
+ V. Q2 u' H' m8 y: O' H1 e6 {1763.1809

. B0 }7 y  [0 ^, J! P1626.5729
; ?$ Y/ @) K* H+ E6 G$ p  U! C
1672.4523
& Z4 w6 x& V: T4 u% z" {2 ~
1635.9196

  W! [& X4 R$ V1596.7035

1620.407
* G3 `3 ^# @' j9 W6 v
1563.8945
+ @8 q3 C: d$ Q, j
1444.2915

4 X/ v5 U1 E' ~6 x4 K3 j9 v1 a5 h1410.0302

& t7 k8 {  b" G& S1465.4171

0.001

13065.196
( u% S1 D; _: o/ t: l+ B
12674.945
  t9 m. ]) A" A( ^
$ V8 r! E! B+ ]$ H3 q6 |$ X12747.729

  \6 Z& u" v+ e8 n4 g7 O12386.216
5 {+ o4 |5 ]  U' V7 P
12349.02
/ Q( U1 E/ g- v: t" M
' ?& t" a3 ^7 X" _9 l12282.201
7 r6 d2 i/ h1 q- P* z
  m* P2 L$ a2 m, _( G/ L5 k; @$ d6 L12270.035
3 G8 ?& [3 S+ E$ g( N" @
3 r: ]/ y: m. o4 U! U# o2 p11338.477

10985.201
1 d6 k( k* _0 v0 E4 o! @# u7 g: M
3 Y9 y6 j4 b0 g& R: Z11015.503

9.00E-04
5 {) v( q- @4 o7 C# v9 ~1 V# M  d
# b' _& ]# g' g9 D1 r/ M14352.452

* ~7 G' T, P; J1 d14004.633

2 z1 @0 F; e, N7 b4 q! h14062.829
% D, a4 d; p/ x, J$ l- _9 `7 {6 n% Z
13629.467
5 u/ M* _6 k4 M1 A' _9 ?! i$ r- e
13613.362

. K; q0 D- e+ ^( t& U13609.563
$ O) d7 A' a. o- n* h$ m
13530.322

12458.171
! t) E1 Z1 l6 w( l
1 U% @+ E- x+ s5 s- m- \12176.362

* z$ R( F+ N8 C" H0 k* T! M1 g; r12225.96

' B8 U7 W  A- n  H8.00E-04
9 o! k- h5 ~4 `; s+ H$ J* |5 H
$ C# C" Y8 `2 o7 U, b& x7 Z16141.206
! p% L( d$ n+ d' Y. g4 o8 Q
15611.101
3 _( Z- Z$ O  O! Q* {+ q5 z8 W
. v3 v& _. c) e  U15749.91
% Z' y$ a5 p: Y/ b4 ~
6 X! h6 i. h' }. f% f, p9 i15264.98

15228.447

15207.628
, b5 @( N6 s  B( x8 Z
9 ^% m, c- T! c6 {# N15053.714

6 Y1 x( e9 {  b14044.729
/ B5 S8 y  d) y9 i. o) X2 L
! l# a0 t1 Z, q; a& {% c7 s13530.397
4 B/ ]; U" N) U, c
4 x/ z# y, Z3 F6 I% V13654.678
* m/ f8 y7 l" h( k7 Y5 H" E
  C; q3 [' L1 l! k# }  v) O7.00E-04
# n9 m( T" t5 f- ?8 y
18194.397
( h4 F+ j( Z% Z' j" w2 k
8 S& G3 R0 K7 r" B4 r( \& l/ J17760.638

3 z) H# B( l( ]3 b3 A* ^! H17743.578
1 C1 B; z) v; b6 a2 }" J
17333.377

17293.874

# n2 _1 J  e  q5 s% J17204.638

17058.809
% C4 S  [7 d2 b4 e/ G# s* R7 Z% R
* u7 S, ^& D+ }+ R: v8 |15946.101
" J$ R/ N  F$ C) ^8 p% q! C6 E
+ w) F0 D0 Q, ?1 U# y7 J15491.266
5 M% |) p5 ]3 G# ?6 y" w. n6 A$ t. b
6 S& n1 y* O- ]- H, z" I2 r15399.538
+ a% ^" A! V1 Y. E! k
s

130
" R3 h1 I5 k8 P+ L+ M
9 \/ ^) _' Y7 f/ W+ a218

& q( }& K% R6 I; l& R: J198

206

204
, k2 y" R$ q2 {0 p0 [
218

220

# u& p: x/ f6 E  ^204
9 g. f9 i" Y2 P) w" u! P4 q
; F7 g! K! @' \' I" i# J# u: E220

- H2 ?( c0 o/ N$ ]216

' s; Q: y/ R( l3 f将收敛误差为7e-4的迭代次数画成图



再将移位距离S的曲线画成图
* }& h% D  V; M+ V5 ~" D8 ^
6 x* G3 g: O3 P" h" C* B
% k+ \( M( {3 _) T/ D! R- V) G
在这组数据中s和n之间的反比关系依然存在。
1 j( c& J' B2 L( N
移位距离假设
+ U1 q+ I$ S  i% v( f3 S$ P  \, i
; L2 f( I9 [( Y) o: s' W$ l  m(A，B)---m*n*k---(1,0)(0,1)
# a4 J& ^7 C) J% O5 L: S0 v
  z6 a" C: ^9 M, V; k2 G1 |2 S
3 N7 x( S8 j( b* B* O$ y
# t( a  ~5 E  P用神经网络分类A和B，把参与分类的A和B中的数字看作是组成A和B的粒子，分类的过程就是让A和B中的粒子互相交换位置，寻找最短移位路径的过程。而熵H与最短移位距离S成正比，迭代次数n与S成反比。

移位规则汇总
4 x4 n, b# o* Y; R
" M( x* c6 y9 x3 H移位距离就是等位点数值差的绝对值的和S=Σ|a-b|，如果训练集有多张图片取平均值，如果是多分类问题则移位距离为所有两两组合移位距离的和。
3 l) r) I( m* a3 f0 p1 b
3 M  s# S' q! u7 z" s2 ^. D如对一组3*3的矩阵
! I  K& {4 e/ Z6 J7 B5 X


S=s0+s1+，…，+s8=|a0-b0|+|a1-b1|+,…,+|a8-b8|
  v" X+ o) v0 G9 C; K7 M3 T- Q
2 ~7 R, R8 u1 U. a- J$ `如果是3分类问题，就应该实现3个形态之间的两两分类，也就是要完成3对等位点之间的差。
, {* P* |6 J3 C  x3 v- Q( |  n* t
: |4 B5 U& }$ g9 H) l" b8 z8 F" Q

因此移位距离

- g9 k$ q9 K5 R" VS=Sab+Sac+Sbc=
) h: I0 P& e" ^* L* L( m) \
|a0-b0|+|a1-b1|+|a2-b2|+|a3-b3|+

|a0-c0|+|a1-c1|+|a2-c2|+|a3-c3|+

0 u  m8 M' O* M- [) M" q! G: W|b0-c0|+|b1-c1|+|b2-c2|+|b3-c3|
————————————————
, `+ V4 R* v5 v7 o版权声明：本文为CSDN博主「黑榆」的原创文章，遵循CC 4.0 BY-SA版权协议，转载请附上原文出处链接及本声明。
/ v( V4 P2 }& r; F原文链接：https://blog.csdn.net/georgesale/article/details/126690670
1 i. y( n) v; X