三分类网络的物理意义是什么?

杨利霞

三分类网络的物理意义是什么?

用分类实现衰变
专栏收录该内容
8 I, C  [$ Y( b5 n5 d4 V52 篇文章0 订阅
" N( X- _& F  ]2 g; a订阅专栏
(A，B)---m*n*k---(1,0)(0,1)

对于一个二分类网络可以将被分类的A和B分别理解为粒子和环境，因为粒子处于环境中。于是A和B之间的距离可以理解为0。因为t=s/v，则即便A和B之间的相互作用的速度小于光速，A和B之间仍然可以实现瞬时作用，并不违反理论。

3 r0 w$ ]7 R; n! T6 v, W( A, B, C )---m*n*k---( 1, 0, 0 )( 0, 1, 0 )( 0, 0, 1 )

( F7 @) B* S4 E  w对于一个三分类网络要完成3次形态的变换。A⇋B，A⇋C，B⇋C，每一次形态变换就是一次二分类，因此对于一个三分类网络可以理解为由3个二分类网络组成
- ?- E2 v1 I/ [7 }* _, m" {
8 K- |& ]  m- b0 Y9 T) z(A，B)---m*n*k---(1,0)(0,1)

(A，C)---m*n*k---(1,0)(0,1)

3 u  w) `. J- i$ O/ j; O! R(B，C)---m*n*k---(1,0)(0,1)

这就意味着存在3对瞬时作用，也就表明这3个粒子彼此之间的距离都是0.随着时间的推移网络的收敛误差会不断减小，而网络的分类准确率会不断变大。这个过程意味着A被错误的分成B和C的成分少了，同样B被错误的分成A和C，C被错误的分成A和B的成分也少了。
7 u" P" c" Z/ z6 ^
所以这个三分网络可以被解释为，3个距离为0的粒子不断的相互作用，随着时间的演化，最终变得越来越像自己。

而前面的实验表明相同收敛误差下，迭代次数取决于等位点差的绝对值的和，这次就继续验证这一猜测。
; L: d) i) b6 s: c% t
用的训练集是mnist的0，1，2，3，4，的第一张图片。用间隔取点的办法化成13*13.

3 L. ?: T& f' z( 0, 1, 2 )---169*30*3---( 1, 0, 0 )( 0, 1, 0 )( 0, 0, 1 )这个网络简记为0*1*2.就只有3张图片不断循环往复，直到收敛。共进行了10组得到数据
  o" P: n5 w8 ~
7 N& E0 D; y& U% o7 i0 p1*3*4

2*3*4

0*3*4

0*1*4
$ q2 Q9 [9 L% a7 k" ]
0*1*3
- Q, ^* e5 P: d3 C2 j) H5 ?, s; ^; R
; h( D0 G; X' U+ W1*2*4
* T3 z! B# i  h% x4 R5 e: M/ \, M
1*2*3
: p7 @' @7 C! |1 A3 V) @
0*1*2
9 C6 K# K2 R- w. S* U7 [; Z
: q5 Q+ G2 Q: i+ ~% z0*2*3

0*2*4

- b8 o* B1 T. g  n3 pδ
2 `8 s8 o  z/ b# K% Y2 Z! {
迭代次数n

迭代次数n
0 n: q7 @- P/ j% j
5 e' r$ n# P; b迭代次数n
" v( ^8 o1 F1 ^# h3 o/ p
# F9 Z) w) D/ z& x0 n; H迭代次数n
9 I/ H" X( E$ @* B. Z! g! k
+ U. W' b5 T1 I! A' \" v迭代次数n

迭代次数n

迭代次数n
1 e2 \/ T) q$ q8 E: g
! ^3 B+ S1 |) K% ~5 Q5 P迭代次数n

. D0 f9 j0 |/ v; H/ E* c6 ~迭代次数n
1 f" Y* Z! q! n! m
迭代次数n
8 P3 A+ U; G, q9 y0 I5 I5 G
0.01
8 C( n% C- q7 u+ L. Q& Y! k7 C
* o" P0 y: t( V2 n1763.1809
6 ~- N, Q. w8 e3 g, r6 W
7 U. C" _/ [: F1626.5729

1672.4523

1635.9196
; j' k1 n2 p% Y- u0 J$ j3 Y
5 F* n2 o8 L) u! a1596.7035
$ n9 y$ v: o1 `' y# Y) M
1620.407
. c, m5 Q$ Z7 B7 x
7 `9 [$ J, l: H4 o0 i1563.8945
; Z  Y) S; v* W$ Y6 g, b
1444.2915

1410.0302

1465.4171

0.001
5 O9 @3 p# \; x5 f4 k* ^& d
13065.196
* b: g- C; t" B; R: u
9 m4 m& N% V; O; c1 O4 j# p12674.945
1 X* \4 m* `3 y, o! }- ]& _- L$ J
12747.729

5 t$ t, w1 D1 T6 k4 t5 O12386.216

" ^3 v- K* _. [" i; ^/ J) E& R- ?6 v12349.02

12282.201

12270.035
5 ~- Q+ o: R* a7 n( `
11338.477

10985.201
2 `' b2 M: W6 ], P9 ?! ^( X: }' _
, T1 p4 V) w( F' a/ |1 o11015.503

9.00E-04
" R  s- M4 _9 c& k- n
14352.452
, \' |/ p; x) E: |" E. D
14004.633

5 s( ^8 U, w; E$ R" d14062.829
% i* c( }2 F$ ^- v
8 h6 d. O0 J# m- O: R13629.467
2 V+ G! _, ~0 X: e( b( J
13613.362

13609.563

1 T( m% M8 S$ v+ M% E13530.322
% A0 Q5 F( u: Z
& w9 r. k6 l! m! S$ h; x% }6 L12458.171
8 g% E0 y1 `3 M5 G5 i: Z
3 V+ z$ ^# M, M4 p12176.362

12225.96
/ z0 d2 Q' t( s/ s+ H# L; j
8.00E-04

16141.206
& `* N+ W* u0 @$ G* Z! J
& y8 {6 i3 W2 _% i1 Q15611.101

15749.91
: k  X- o( O/ h- g- W* U" r' {0 `
  \1 X* d  u$ E1 k15264.98

1 f/ n4 }8 S' ~$ q$ ~; _9 n15228.447

15207.628

& ]4 o' J% L! r# M. U, A" o- A4 w7 m3 V15053.714
/ U; L* _; J. U) Z
14044.729

  G4 g$ S+ n5 M# x! \3 `& ?13530.397
& q3 e, P* D# a5 p
' r* t7 {, i2 O5 Q13654.678
4 o- G$ |: R. x& K: R3 {- x
/ h  F$ r, D' `. e# |7.00E-04

' g& i3 t$ N: K" t2 u! S4 E; h18194.397

17760.638
6 j: r. A% e: f/ }5 y
17743.578
% b8 N1 B9 x% d2 C8 A
2 u" E  U) \5 I; I17333.377
2 h5 w/ F, m- q1 V
' k0 m5 ^# o" t0 @17293.874

17204.638
  l) h6 ~) o3 A! W
17058.809
! h( L4 a9 r: }/ l" O- h2 X9 E
15946.101

15491.266
$ Y1 S1 V' v& W5 s
7 W) I( w5 Q+ y' M$ Y: J" C6 f! C15399.538

s

130
- n7 ]8 A  v0 z( g, p' \5 g; C, N  D
  R; k( X2 \( }- f218
1 k8 f! x* z/ w
198

2 ^: u2 _4 {0 O& z3 z  }  m206
( ?+ }2 A3 X$ [( f' f/ n& a: @
  U0 n8 ?2 y0 s. a' w3 N204

, }* }9 g, B: O5 u1 ?218
6 E. t4 s6 |0 u  N4 ]& D
220
5 |, w$ S) f/ Y& c- E
204

220

216
* I/ O6 I7 d. r
将收敛误差为7e-4的迭代次数画成图
7 k" V# a+ P( \

3 I2 H1 x2 b. c
  R$ q4 K* w, |1 _# v' {再将移位距离S的曲线画成图
3 }; }$ X% H) k, I; G3 H


在这组数据中s和n之间的反比关系依然存在。
6 E+ ^4 r; r- l" b" X
移位距离假设
; x; P& H( D/ t- K9 F" m
. i  F2 M) n6 f& O4 T7 m1 |* l(A，B)---m*n*k---(1,0)(0,1)

6 d: N; G3 U+ t9 l1 O4 j2 h# Y

4 b6 x& j- s8 k$ R; H6 b7 `; G. ]用神经网络分类A和B，把参与分类的A和B中的数字看作是组成A和B的粒子，分类的过程就是让A和B中的粒子互相交换位置，寻找最短移位路径的过程。而熵H与最短移位距离S成正比，迭代次数n与S成反比。
2 `; T0 ?2 J5 w& H% A: E+ f, i
. y3 f# @  D3 q2 ^  M$ t移位规则汇总
6 E. y# p6 y1 V
移位距离就是等位点数值差的绝对值的和S=Σ|a-b|，如果训练集有多张图片取平均值，如果是多分类问题则移位距离为所有两两组合移位距离的和。
' i$ ]/ |8 e0 ?" |+ k! M' \4 }
如对一组3*3的矩阵



9 U, s, J) H" J* X! nS=s0+s1+，…，+s8=|a0-b0|+|a1-b1|+,…,+|a8-b8|
3 `5 `; i: C5 n& \- L- P
如果是3分类问题，就应该实现3个形态之间的两两分类，也就是要完成3对等位点之间的差。
7 ]' V( s  h9 T7 e( {1 j$ w
8 t6 P! e( f; L  ~
+ B7 c7 _* r# X4 S# R" u, C  J
因此移位距离
. f+ i7 X" B8 i( K1 X- ^& X, Z8 K' j
S=Sab+Sac+Sbc=
6 H. _/ A, s- O* X+ M
* }" R% ~  Z  B) A; F|a0-b0|+|a1-b1|+|a2-b2|+|a3-b3|+
  a5 @: d2 q3 o7 u6 M
|a0-c0|+|a1-c1|+|a2-c2|+|a3-c3|+

|b0-c0|+|b1-c1|+|b2-c2|+|b3-c3|
————————————————
版权声明：本文为CSDN博主「黑榆」的原创文章，遵循CC 4.0 BY-SA版权协议，转载请附上原文出处链接及本声明。
原文链接：https://blog.csdn.net/georgesale/article/details/126690670
9 a' k7 {. h/ C3 ~! o
7 w: [- x) B* @6 N
0 _! `6 P  N, t. V