三分类网络的物理意义是什么?

杨利霞

三分类网络的物理意义是什么?
) {. F  ], u5 s' _8 P! j& ?
: }, V7 ]% |1 b; y! n3 q; c用分类实现衰变
/ q; A5 N- `8 Q: W5 m1 o" l' n专栏收录该内容
: f& |/ N  B! S: O' i, L: a52 篇文章0 订阅
订阅专栏
) X, _. O6 G: \(A，B)---m*n*k---(1,0)(0,1)
3 k7 O: h5 O6 \8 W
对于一个二分类网络可以将被分类的A和B分别理解为粒子和环境，因为粒子处于环境中。于是A和B之间的距离可以理解为0。因为t=s/v，则即便A和B之间的相互作用的速度小于光速，A和B之间仍然可以实现瞬时作用，并不违反理论。
9 A2 g! E" P6 a# P% M
; }8 a5 O. v+ N2 J/ S& X2 y( A, B, C )---m*n*k---( 1, 0, 0 )( 0, 1, 0 )( 0, 0, 1 )
7 e# ~4 D3 s1 _7 a" ]+ j+ S
对于一个三分类网络要完成3次形态的变换。A⇋B，A⇋C，B⇋C，每一次形态变换就是一次二分类，因此对于一个三分类网络可以理解为由3个二分类网络组成

$ _* h1 J! p  |(A，B)---m*n*k---(1,0)(0,1)
" e% ]# c, |' ^/ S! k  j
$ C6 B) I# d  X5 ^(A，C)---m*n*k---(1,0)(0,1)

/ s6 T& x  A: }& h. i(B，C)---m*n*k---(1,0)(0,1)

这就意味着存在3对瞬时作用，也就表明这3个粒子彼此之间的距离都是0.随着时间的推移网络的收敛误差会不断减小，而网络的分类准确率会不断变大。这个过程意味着A被错误的分成B和C的成分少了，同样B被错误的分成A和C，C被错误的分成A和B的成分也少了。
9 `7 O  Z$ K( m) S3 f& w' {; u9 X% t
! ?/ I5 b0 s" J/ t. H' X/ z4 }/ P所以这个三分网络可以被解释为，3个距离为0的粒子不断的相互作用，随着时间的演化，最终变得越来越像自己。

. R) K/ N( z0 j) w而前面的实验表明相同收敛误差下，迭代次数取决于等位点差的绝对值的和，这次就继续验证这一猜测。

9 f" v% [6 T9 K+ [用的训练集是mnist的0，1，2，3，4，的第一张图片。用间隔取点的办法化成13*13.
, F5 E: D1 h& x
( 0, 1, 2 )---169*30*3---( 1, 0, 0 )( 0, 1, 0 )( 0, 0, 1 )这个网络简记为0*1*2.就只有3张图片不断循环往复，直到收敛。共进行了10组得到数据

! O0 R& R( }: w4 a2 N- G1*3*4
& {3 m, p) S1 \# @$ R7 a( E7 \
2*3*4

0 o% A/ H6 c( B9 U- i; r7 P( l0*3*4

0 S' l! \& U4 G0*1*4
) |$ Z8 w5 |9 f8 _8 i
5 z2 s$ V8 @% v- `) A- b2 U9 X/ V0*1*3
1 B1 C( P' X0 Q/ B6 @
8 @- n& E6 x7 I& X7 D1*2*4
% j2 C; v7 @+ o2 ]: E5 u; {
/ Q- _/ X4 u8 x2 _- d2 s  B1*2*3

3 @* T$ t; z1 D  |* a0*1*2
+ A! W! U+ @) {- {
0*2*3

  |" }0 ?# T5 |% D+ k: q% l0*2*4
& c: `/ K8 O( V( S/ M1 R3 q
δ
2 ~" D5 X& `  m  c
迭代次数n

迭代次数n

迭代次数n
8 X* x2 v, |; n' M" F  Y
迭代次数n

$ h" A9 P2 Y1 _8 F$ b  E$ V2 z+ a9 M迭代次数n

7 ^3 t2 m( A. x8 l1 ~) T5 L迭代次数n
$ R; e6 ]4 K  a2 ^
; |# s! ]5 k# e  R! j迭代次数n
' b1 x0 k2 X) d  z
迭代次数n
0 X4 S, l( H8 R, c0 A2 j% n9 w
迭代次数n
* y# @6 ], q1 @( J7 W$ e/ R! T
迭代次数n
2 n8 ~8 l  R! z3 \: Z
0.01

1763.1809
- Y( F$ ~. v& S( G: v8 t
, J( `4 d* b- E: Q4 Z# Y0 ?1626.5729

1672.4523
3 m! L/ l- S* E4 T; y$ y
) h* f: \4 v& T1635.9196

1596.7035
+ W; Y; t4 S. z- G; p! ^
8 x: g1 w, A& D  ^0 l1620.407
0 F1 n9 R; @( n3 V% e
" U( G0 ?0 c- K  X$ }) i1563.8945
) G1 n. p: \$ G5 B! U+ @/ z6 ]/ _
1444.2915

- f3 H9 [/ I' }/ B5 ^7 c1410.0302

1465.4171
7 |5 W+ d6 ?1 }1 F0 `
) `% {1 `5 V2 `' q7 h0.001
3 J' a4 m4 T) a& S  u7 N( G
/ L, X8 ?' e5 p6 h) _1 C4 Y5 j13065.196

12674.945
  O0 e" A& [4 j4 ?' q  e
12747.729
) l* j0 v) B' k1 R0 d' b
12386.216
1 ?- x: P+ A2 C7 n
12349.02
+ S9 S# o, H2 e8 B) r5 i/ p" o; K
: [. c6 J" G7 c8 K' H- p% I: G12282.201
2 N- f+ c" {4 e- v6 s
12270.035

11338.477

) t1 T# |( ]* b% i% E10985.201

11015.503

9.00E-04
- e- n* _4 y* }
14352.452
9 @1 S2 Q- v" I, ^1 P1 ~
% C' A9 `7 F5 o+ n9 Q+ E2 w14004.633

7 o9 H# N: ?" ^14062.829

% x5 x$ O$ ?& F( G% Q$ |13629.467

13613.362
2 ~6 B1 ^) o8 b( q* O' m8 Y( z
# J$ U6 s! L- }+ d3 I13609.563

  M0 p* p- |: x( ?. e& a- f1 [13530.322
2 S3 @5 X. y0 x, |6 h9 o& @
12458.171

: K8 `! f  R' q9 h2 E12176.362
- b5 d0 M/ E+ t# ?& i! B0 `
12225.96
- s/ Z6 y  o, V' n! l
9 v7 X9 `- M# ?8.00E-04

16141.206
0 F# h' V5 d0 t/ P0 ~5 Z6 m
! y0 U9 Z7 h' y6 j5 r15611.101

15749.91

' l& u4 S6 y; g  C, D6 w15264.98

15228.447

9 y- ~- H& @# V15207.628
' V. b) F8 Z7 Q4 p5 H. k! I
, ~3 p6 T& }8 L( l15053.714
. a: h8 m$ {0 @4 t+ V8 r4 s
" W6 A9 n7 }/ n+ k( O9 R14044.729

13530.397
. j1 ]3 ?+ K2 `! F) D" r
13654.678

  `- _3 D3 @' Q! D) F7.00E-04
, O" Y: H0 [' N7 a8 u% C8 q, M
* X: h2 k$ H3 V18194.397

$ H& P6 }% ]4 Z3 e  q17760.638

17743.578

17333.377
: o& c1 }3 }: q3 g
* J5 E& ?4 Q. c! Y* s1 ?2 J17293.874

17204.638

# \' M) C" `9 c& x/ L17058.809
5 v6 d; r- Y* D/ \; d# r
15946.101
/ N6 j3 ~2 o3 M7 n7 _; H
' V3 I" ^' d  j  p15491.266
. f3 Z/ ~7 M6 v% x- ~# C* {
  F( j  J1 J# i15399.538

7 F4 T. l2 g% g1 O/ q2 J, d5 c" \s

; L- M, v9 n1 H130

* |. ?  y1 s' u) j) k218
# u& k0 b% l: Z
: f3 z, ?9 j+ Z: q- }9 Q0 p3 ~198
1 G/ q9 G4 Z3 b+ s7 B$ b8 L& q
206

* V/ U& V: u; R204

" a, O+ E3 y9 U% s5 Q218

220

204
  B5 i; \5 Z. }/ G( S
220

216

' Y% d: Q+ h; M) `# L  k6 c8 q将收敛误差为7e-4的迭代次数画成图
) p8 h: r. n3 e) F* J


, m4 z2 m7 i5 H' s# O, `7 x2 C再将移位距离S的曲线画成图
3 V/ V0 \1 Y% y7 D, r; o# F# ~


+ V( K- W2 {0 O! Y) j' Y& t在这组数据中s和n之间的反比关系依然存在。

4 v0 u" d. N- z% P, r2 w- W7 O移位距离假设

(A，B)---m*n*k---(1,0)(0,1)
0 i- ?) Q1 P3 }+ z% v, B

/ p: Z. c; _3 [3 g9 Z& g
, u: i7 B* H& D用神经网络分类A和B，把参与分类的A和B中的数字看作是组成A和B的粒子，分类的过程就是让A和B中的粒子互相交换位置，寻找最短移位路径的过程。而熵H与最短移位距离S成正比，迭代次数n与S成反比。
* @' S8 A9 I& B1 E( X9 @0 g. w3 z
' K& X; R3 i+ M; H+ N: G移位规则汇总
0 x6 E8 y8 _) |* K# B
$ C+ o; g: d( o% i2 v# N移位距离就是等位点数值差的绝对值的和S=Σ|a-b|，如果训练集有多张图片取平均值，如果是多分类问题则移位距离为所有两两组合移位距离的和。

如对一组3*3的矩阵
+ y7 ~3 ~: D+ _% B" A4 K0 }

0 \9 m* ]* g3 s
S=s0+s1+，…，+s8=|a0-b0|+|a1-b1|+,…,+|a8-b8|
: A" K3 w  x. _- U1 w) S: \+ Y  q* ]
如果是3分类问题，就应该实现3个形态之间的两两分类，也就是要完成3对等位点之间的差。
  P/ A9 P8 W& ]0 y' r4 g# [! Y$ z
( j; |0 z2 g- Q7 k& y

因此移位距离
6 M; ~: m! ~8 W( i# U& r- P
% X5 }# {  j$ M' i5 I0 P5 fS=Sab+Sac+Sbc=

|a0-b0|+|a1-b1|+|a2-b2|+|a3-b3|+
* l$ t2 o+ g3 a. N1 ?
% e( W6 S& O' |' `+ ^|a0-c0|+|a1-c1|+|a2-c2|+|a3-c3|+

|b0-c0|+|b1-c1|+|b2-c2|+|b3-c3|
4 c! V# [& ~3 \' _% e( U  E( z( m————————————————
版权声明：本文为CSDN博主「黑榆」的原创文章，遵循CC 4.0 BY-SA版权协议，转载请附上原文出处链接及本声明。
原文链接：https://blog.csdn.net/georgesale/article/details/126690670
3 w& u# m* i9 \$ K% }. ^1 V2 e7 b  w