三分类网络的物理意义是什么?

杨利霞

三分类网络的物理意义是什么?

( B( B; L  N. g4 `9 k4 s& Y' E* N用分类实现衰变
专栏收录该内容
52 篇文章0 订阅
( i  s& ~, \8 a9 Z' B$ A订阅专栏
! {! A9 |" Y4 ?; Q(A，B)---m*n*k---(1,0)(0,1)
/ \# K7 e8 D" h0 I! B
对于一个二分类网络可以将被分类的A和B分别理解为粒子和环境，因为粒子处于环境中。于是A和B之间的距离可以理解为0。因为t=s/v，则即便A和B之间的相互作用的速度小于光速，A和B之间仍然可以实现瞬时作用，并不违反理论。
) P7 Z& U% f8 S$ S$ H& Q' d- R7 v5 d
( A, B, C )---m*n*k---( 1, 0, 0 )( 0, 1, 0 )( 0, 0, 1 )
  x7 b5 X3 `0 U
对于一个三分类网络要完成3次形态的变换。A⇋B，A⇋C，B⇋C，每一次形态变换就是一次二分类，因此对于一个三分类网络可以理解为由3个二分类网络组成
& ?) N3 s" k8 C& @9 u+ b# e
(A，B)---m*n*k---(1,0)(0,1)

3 m% k$ R- Z* z( U1 ^9 z; P(A，C)---m*n*k---(1,0)(0,1)
2 K+ Q! L! u. |- k
(B，C)---m*n*k---(1,0)(0,1)
6 `) M2 @8 J9 L( v
! k' z6 s1 I( R$ G, S. e 这就意味着存在3对瞬时作用，也就表明这3个粒子彼此之间的距离都是0.随着时间的推移网络的收敛误差会不断减小，而网络的分类准确率会不断变大。这个过程意味着A被错误的分成B和C的成分少了，同样B被错误的分成A和C，C被错误的分成A和B的成分也少了。
* W. g" y- b+ ?
1 z7 g# {, l& u/ M5 B2 S所以这个三分网络可以被解释为，3个距离为0的粒子不断的相互作用，随着时间的演化，最终变得越来越像自己。

而前面的实验表明相同收敛误差下，迭代次数取决于等位点差的绝对值的和，这次就继续验证这一猜测。
% E& l3 C! Y1 [! X
用的训练集是mnist的0，1，2，3，4，的第一张图片。用间隔取点的办法化成13*13.

4 I! R% C- `! Y, J( 0, 1, 2 )---169*30*3---( 1, 0, 0 )( 0, 1, 0 )( 0, 0, 1 )这个网络简记为0*1*2.就只有3张图片不断循环往复，直到收敛。共进行了10组得到数据
  p  R! Z$ z/ w9 ?% s$ `
5 P' z# A3 C" N9 }2 m1 E) D1*3*4

6 I: u& ]- Y# @- Z- I2*3*4
# w  g1 M% d% s& w) ]% K4 T
2 t! N# \3 H, o2 F0*3*4

4 Y3 A5 W8 |# V: i% A+ s0*1*4

0*1*3
* w# D9 @! l1 s+ D
1*2*4
% [8 Y8 C# n5 d
1 R5 W* X# L+ A1*2*3
' o) }7 o0 m3 r
6 F) \) E/ K! g9 k1 ~0*1*2
& _) \: p, v7 H' X8 U
0*2*3
8 y; u' x7 G/ O- G& {2 B% v
0 F7 H* K5 N% g# |5 A0*2*4
5 }4 ?% G6 e7 `  ^/ J6 O
δ

迭代次数n

迭代次数n

* C, S1 M1 w& D( Z迭代次数n

! }0 e9 n' E: ]" l0 i1 c/ z9 K迭代次数n

迭代次数n

2 x, q5 p  O  C4 Q+ b3 @5 K; l迭代次数n
) ~0 H: b, g( a) T
1 y) Y: o6 H/ @! z- _: ^  ^( q9 R迭代次数n
5 A  |" q, j) ?& F
迭代次数n
9 @3 D- w& g, J& n" x
迭代次数n
" |- ?. w* T' _! [
迭代次数n

0.01
0 O, T; A$ C  q  m* L. ?( M
& B' B- I, g9 K0 {7 z1763.1809

: x# N  q1 x+ w; }3 E7 H1626.5729

# d- i$ e( a' @' G) u- ~' M1672.4523
+ S! I) S; p4 ^( e9 T
" _. O; z8 o9 V4 W1635.9196
% F+ M  K1 D5 _! Z( D. t$ ]; l3 h! K) X
. b) e3 q/ ^0 }. k. [7 _7 t2 O1596.7035

1620.407
6 h* W$ S2 b; U9 w. e9 N2 }4 w" x+ i
1563.8945

1444.2915
5 ~* s+ u8 g" J7 j, N
1410.0302
8 U7 C/ `) j/ p! x) `0 N
1465.4171
+ Z: V. O$ v  t- U
0.001
* w  m& y& B. ^9 ~  o
13065.196

12674.945

12747.729

6 w7 j* l. [  |/ j12386.216

12349.02
+ z- P( d6 E4 Q# j$ w. c
12282.201
$ \9 x0 e2 i. `8 p  O$ J4 o$ @) N  D% Y
3 o* {2 c: ~6 D; a! w- T12270.035
5 _+ e' I. f1 N# i: j" Y6 w
11338.477

10985.201

11015.503
2 d4 L2 ]6 R# _5 ^' L+ R
9.00E-04

14352.452

( n/ Y0 w; w6 c% j; \% f  m14004.633

( ^  l9 Z- q  t% n, o14062.829
: d6 b3 J6 B! e: k/ _8 b
13629.467

, J- Y" A' ^; [# T: `# e- Q. |13613.362
! S; b; {% a1 C. U1 ^: N
& T8 r  u  U+ ?5 d) O* ?13609.563
" D3 ~- R+ C/ |  M
13530.322

5 m3 u: Q3 d6 U) F' ^: A1 P, X) O" T12458.171
. I- t5 n1 G8 T/ I; A) a
12176.362
4 k3 K' j4 `1 H4 K8 C. |  R
* D2 g, C  M% L4 ^12225.96
5 R, w7 D! n/ W0 v
8 a' S  Z! V7 P. E8.00E-04
4 p. C9 U& P; G/ w6 p8 t
! p% F- d+ B' w" n( {. u16141.206
" E% D! u0 Y* d. p; M
15611.101

15749.91
& C1 P! j7 G1 Z9 J% P! Q% M+ E! S
15264.98

0 l/ v* ]$ F! M7 {1 n9 T15228.447

15207.628

15053.714
' [4 d8 p* x' a0 S
6 b% V' ^: M8 H6 l- v14044.729
0 Y. v8 \" h9 ^- S! b
13530.397
5 l5 Y* w/ s# D( q, C5 N7 l8 m1 h2 ~
5 [3 V0 |2 P+ ~- }- M7 Q13654.678

" V+ m! B) v3 y$ V7.00E-04

18194.397
- `, c/ a$ S; a5 @2 u' P
17760.638
3 K+ V4 I$ C4 V  D# }) F9 ^) O
17743.578
6 {  M- w! m! W" B; t% n- x) u
17333.377

3 n& t% m7 a5 t4 _. Q: f& v17293.874
, \% ~2 g2 c2 ?0 p( u' g
17204.638

. E; A# O. h& E" F  s17058.809

* i! ~" x. U- H) P7 I4 k& e15946.101

2 B, z# \) ?. t7 r; t15491.266
% D, N% n; b/ p* U
15399.538

s

130

& j( _) _# H6 M0 O  e$ |1 F9 {3 k218

3 B5 j5 U% Y% @/ r: ]8 I( t198

2 v6 {/ ~9 p' v/ f7 K, {, t206
1 e9 r7 T$ m. ]5 r/ A. p
: g; V4 d" K, @+ T7 m204
- K( [& T3 q. n# l' l$ R
218

2 T' E7 {5 w& h220
: e& e' x# V% ^# {; x
0 L7 [) k9 @/ q' T& z. M204

& d/ L$ z" y2 m2 Z% ~220

216
/ j8 h; o1 ?2 N& j; ~
6 L, K; ]. O, V* g6 _3 L7 G4 T将收敛误差为7e-4的迭代次数画成图

( I& I1 b1 O+ n* W, a5 d
& G+ |) s4 X* z' S0 W% G7 \
! p$ d% `. ^* O. A% H: D" a再将移位距离S的曲线画成图
1 B- w& }( a( o, ~& x' |


在这组数据中s和n之间的反比关系依然存在。

移位距离假设
7 i, \' j$ p6 N) X
(A，B)---m*n*k---(1,0)(0,1)

1 n8 J# a8 D/ G/ U9 a& X/ a+ L/ V
0 |( N# u) h: ^( _: }4 ^
- i3 I9 `) _: O) Z/ K用神经网络分类A和B，把参与分类的A和B中的数字看作是组成A和B的粒子，分类的过程就是让A和B中的粒子互相交换位置，寻找最短移位路径的过程。而熵H与最短移位距离S成正比，迭代次数n与S成反比。

移位规则汇总
) z; `# H* `# A
9 g6 P6 j. U% c: G" L移位距离就是等位点数值差的绝对值的和S=Σ|a-b|，如果训练集有多张图片取平均值，如果是多分类问题则移位距离为所有两两组合移位距离的和。
( v! R3 j# `7 v; V' ]
* E( l" [; l" z* B" w5 l: x9 S如对一组3*3的矩阵

3 I: Q) c* k8 R/ V: Y% e
, }' F4 ]1 e( Z& i: S8 }
8 y% d$ t0 X5 W3 `S=s0+s1+，…，+s8=|a0-b0|+|a1-b1|+,…,+|a8-b8|

: Q$ C: E1 N1 \3 q- W) q1 z如果是3分类问题，就应该实现3个形态之间的两两分类，也就是要完成3对等位点之间的差。



3 _! B) [8 A* ~6 t+ a2 R. b: D因此移位距离
6 M0 P. }1 M2 m
S=Sab+Sac+Sbc=

|a0-b0|+|a1-b1|+|a2-b2|+|a3-b3|+
' I, |* \: d! ]
9 W- E0 O1 d' V9 H7 s|a0-c0|+|a1-c1|+|a2-c2|+|a3-c3|+

|b0-c0|+|b1-c1|+|b2-c2|+|b3-c3|
$ k. c% C. y; W/ G4 }————————————————
. B; z& p" T7 r. m) r版权声明：本文为CSDN博主「黑榆」的原创文章，遵循CC 4.0 BY-SA版权协议，转载请附上原文出处链接及本声明。
原文链接：https://blog.csdn.net/georgesale/article/details/126690670
, p* c* f  c  C; p0 ?! D