三分类网络的物理意义是什么?

杨利霞

三分类网络的物理意义是什么?
) e" T1 l0 t5 g
# R' e( b) {) s  b% v) ^' I" D4 v
8 G* i  {1 [1 t5 h1 _! e8 i(A，B)---m*n*k---(1,0)(0,1)

对于一个二分类网络可以将被分类的A和B分别理解为粒子和环境，因为粒子处于环境中。于是A和B之间的距离可以理解为0。因为t=s/v，则即便A和B之间的相互作用的速度小于光速，A和B之间仍然可以实现瞬时作用，并不违反理论。

* f2 O; v5 T4 k: o" r2 H5 |' X( A, B, C )---m*n*k---( 1, 0, 0 )( 0, 1, 0 )( 0, 0, 1 )
" d4 A. h0 n+ v9 ]6 d' Q
- o) ~/ c! Z2 r$ J% \: C5 p: _4 w1 N对于一个三分类网络要完成3次形态的变换。A⇋B，A⇋C，B⇋C，每一次形态变换就是一次二分类，因此对于一个三分类网络可以理解为由3个二分类网络组成
) g8 \8 g9 b+ w$ ^: b. W
" N4 _  k# w4 w( }0 \(A，B)---m*n*k---(1,0)(0,1)
2 H8 m! K+ \- @* n9 q% F
! {/ u2 r$ h$ c4 P6 ?/ q* F(A，C)---m*n*k---(1,0)(0,1)
3 E6 [2 P0 Q; k5 J! {( i
. H# ^) Q# G4 g% M5 T. g6 }(B，C)---m*n*k---(1,0)(0,1)

这就意味着存在3对瞬时作用，也就表明这3个粒子彼此之间的距离都是0.随着时间的推移网络的收敛误差会不断减小，而网络的分类准确率会不断变大。这个过程意味着A被错误的分成B和C的成分少了，同样B被错误的分成A和C，C被错误的分成A和B的成分也少了。
0 m* W9 r% L0 ~, U: z2 O  \& [
# ^7 W0 X, e) L- D所以这个三分网络可以被解释为，3个距离为0的粒子不断的相互作用，随着时间的演化，最终变得越来越像自己。

而前面的实验表明相同收敛误差下，迭代次数取决于等位点差的绝对值的和，这次就继续验证这一猜测。
" A5 B) h* {  m
4 q/ H% t! d# E  F用的训练集是mnist的0，1，2，3，4，的第一张图片。用间隔取点的办法化成13*13.
9 @2 X: m# B- S# L( e" H
( 0, 1, 2 )---169*30*3---( 1, 0, 0 )( 0, 1, 0 )( 0, 0, 1 )这个网络简记为0*1*2.就只有3张图片不断循环往复，直到收敛。共进行了10组得到数据
# N/ ?- }% E/ u7 m
1*3*4
& ]) a2 V" D4 X+ k. ~
! Q! m6 U# }9 V: Q# O5 [2*3*4

0*3*4
3 k) t( j+ e% v5 {- i+ W9 m
0*1*4
2 e( E/ Y" z8 G( e
+ |/ }, F$ c" K0*1*3
2 Q+ Y* |% T+ J7 u3 R  t
4 ~/ O+ x6 G7 y0 b5 w$ X1*2*4

# ~7 \. b4 V. T( q2 J! f* F+ C1*2*3
! _) V6 Y! a5 }$ {9 a
7 t# F  P1 d! P9 N% Q0*1*2
! \2 p' f9 _: m/ \# A: a2 Q
0*2*3
, p, H2 Q9 K8 G
0*2*4

δ
0 a3 c) \$ E5 I) D* B" }, g
迭代次数n

迭代次数n
. h5 }3 `7 s3 n! J- J
* q' u$ C6 J9 A迭代次数n

迭代次数n
( V: R6 \4 H1 x% d! a5 V
迭代次数n

迭代次数n

% ^0 C8 `2 e: @7 W& h; j) j- S迭代次数n
# l) D" Y& f: e5 Z4 r4 I* o
迭代次数n

迭代次数n

迭代次数n

6 w2 D0 ~7 q' v# h1 w0.01
5 I) _" I3 q- |' J; ?5 Y: w
# Y/ x: p3 i& j- S1763.1809
5 g7 J% Q& g4 f/ w2 }$ g5 j& Y
1626.5729

$ S4 c5 e+ s( b/ d9 L/ ?1672.4523

* a& H% {6 m9 Z6 e1635.9196

1596.7035

1620.407

9 r0 @0 w2 I% y2 {0 ^; v5 E# B1563.8945
# A  I- R  B4 T3 v9 }. D4 W1 L4 H
1444.2915

. u% C: N6 q) b2 [; S8 V3 I" r1410.0302

" r' r4 X2 ?7 |1465.4171
; B: p' {9 o1 ~4 d. A) g& O
0.001
9 i! {; Z5 f# P& A
: h2 E7 q. [( B13065.196

12674.945
0 k3 \; h" u! V( |5 W. P* u; }) W% _! n
& v  @& o; s) Q8 l9 d7 W) v* n12747.729

12386.216
. b& m$ |8 P9 z- N6 S6 X
% Z6 Q' t* V/ d1 }' j12349.02
- ?  G5 ?8 M0 m$ Y0 G6 k9 p2 o7 H
12282.201
' w/ ~* h' n/ s0 v* \  T! l5 D
12270.035

; }+ J$ o9 X6 M% r0 K. c0 L! ?$ K11338.477

10985.201
3 V9 P3 U. h" h* e# w! T7 O* ^3 l2 {
6 x$ H9 `) R$ q$ Z- v& z7 P. K11015.503
- a5 y9 S; h4 K2 C4 q8 i' \- W/ v
9.00E-04

$ c$ E# \) `8 Y7 _0 [14352.452
/ w% g5 Y! [/ S8 ~  Z7 G8 t
14004.633
, H+ s( J( P/ m! J1 o6 f, W1 ~" v
14062.829

6 C$ q" Q7 y( w: Y8 b13629.467

13613.362

5 z/ ]$ k+ k. w, s  s13609.563
, f$ t( s: k" @& B  L1 J( J
13530.322

3 `( \. D1 w5 E12458.171

12176.362

- _) p$ e3 g. j. [+ ^12225.96
, L4 r& N6 ?' H# \3 t- o5 B
7 G$ q2 y+ O# t3 R# z3 p8.00E-04

16141.206

3 d3 s) N: A/ b3 P) U. x9 t15611.101
6 L; @$ ^  ?) n$ T/ i
15749.91

15264.98

. A& T. V- N- s" X: }1 b15228.447

15207.628
$ Y% U, a. b  k7 d
15053.714
' _( Q& r7 g5 j/ N: K9 _
14044.729
6 j, |% t' a( W3 v# o: E9 ^
13530.397
4 w' h1 P5 o: y) C9 K+ ^; q9 K
13654.678
4 r/ c5 j9 T! \6 [$ K8 y
; |2 Z, y, E& P5 _; O% p7.00E-04

$ T$ j6 a% R4 {18194.397

( i9 L+ Y! \8 |, D# @/ \+ d3 F1 _17760.638
/ d9 @, B4 U: o7 l1 r" ]
17743.578

" l  ~  }/ f3 [4 }, k: t17333.377
6 }. e) p" m) [7 r
3 y# ~' C" C8 n* s* @$ @( x17293.874
" v0 w  Z$ e1 ^! P& m! R  Q+ |
17204.638

17058.809
: Q% f6 L1 f5 c" W+ z4 l
% q" y% s7 E0 `# R: D, y15946.101
4 [+ ^' S) Y3 }
15491.266

15399.538
4 J  ~5 d. K# B! E9 s/ z" r
1 o3 P& _5 P" l  Y& M# ls

130
! P4 W7 o" x2 z1 Y* V
218

- y( |& b' U: _198

206

204
% f8 [" o: Q  ?, j$ M! K
218

220

204

220
: E+ E; l! y/ D/ r& C) w
216
+ j: z9 B+ `% N  L" [) P+ j
* f; O( j/ T  Q2 L3 G将收敛误差为7e-4的迭代次数画成图



再将移位距离S的曲线画成图
, e  o1 L9 k" g7 z$ n; N$ W

- y* U: r8 k3 C( S/ y3 e
在这组数据中s和n之间的反比关系依然存在。
: S* q: t3 B; r6 A% b
4 d7 x0 }$ y& I移位距离假设
1 p& J9 m$ q. a  B( `2 r1 A, T
" k! X- J6 i7 B(A，B)---m*n*k---(1,0)(0,1)



用神经网络分类A和B，把参与分类的A和B中的数字看作是组成A和B的粒子，分类的过程就是让A和B中的粒子互相交换位置，寻找最短移位路径的过程。而熵H与最短移位距离S成正比，迭代次数n与S成反比。

移位规则汇总

  L4 `$ r6 d2 c! s, m! b, O0 d4 o: o移位距离就是等位点数值差的绝对值的和S=Σ|a-b|，如果训练集有多张图片取平均值，如果是多分类问题则移位距离为所有两两组合移位距离的和。
  v* R5 N+ K6 `' P( `
, L1 T2 S& M1 U3 \3 V. B! v如对一组3*3的矩阵

! d: C3 j0 o, W& o" L
  A( u6 y- C7 l- y" l4 O0 a
; T! \  T7 ~( C+ ~8 h# k0 I' s: N: vS=s0+s1+，…，+s8=|a0-b0|+|a1-b1|+,…,+|a8-b8|
6 A; M, E0 }2 F
如果是3分类问题，就应该实现3个形态之间的两两分类，也就是要完成3对等位点之间的差。

* N1 }& a6 Q' v

因此移位距离

S=Sab+Sac+Sbc=

|a0-b0|+|a1-b1|+|a2-b2|+|a3-b3|+

|a0-c0|+|a1-c1|+|a2-c2|+|a3-c3|+

4 ^% v1 |* W; q1 e4 `" L|b0-c0|+|b1-c1|+|b2-c2|+|b3-c3|
————————————————
版权声明：本文为CSDN博主「黑榆」的原创文章，遵循CC 4.0 BY-SA版权协议，转载请附上原文出处链接及本声明。
& s4 y) Y: A) L( V( o% A2 x原文链接：https://blog.csdn.net/georgesale/article/details/126690670

- R& f8 n# y& A# Z