三分类网络的物理意义是什么?

杨利霞

三分类网络的物理意义是什么?

  l, v+ {+ X# G" B/ {' E. n
; I9 u& Q* O4 ~7 a5 ?(A，B)---m*n*k---(1,0)(0,1)
( i0 M0 R4 _2 J+ F/ n; r# p
5 C( Z1 F' _7 s( ?6 i对于一个二分类网络可以将被分类的A和B分别理解为粒子和环境，因为粒子处于环境中。于是A和B之间的距离可以理解为0。因为t=s/v，则即便A和B之间的相互作用的速度小于光速，A和B之间仍然可以实现瞬时作用，并不违反理论。
% w. D3 |9 O1 n; w4 C
( A, B, C )---m*n*k---( 1, 0, 0 )( 0, 1, 0 )( 0, 0, 1 )
+ I, N% V2 Z; u( p" q
* G4 t  h& i' }. q6 Y- G- ]对于一个三分类网络要完成3次形态的变换。A⇋B，A⇋C，B⇋C，每一次形态变换就是一次二分类，因此对于一个三分类网络可以理解为由3个二分类网络组成
$ R3 @% S# @4 ~+ Z: C9 X, h2 |8 a
(A，B)---m*n*k---(1,0)(0,1)
8 d3 J, z9 |* K) K6 N  F
8 O) H: g: g  M  n1 T8 T(A，C)---m*n*k---(1,0)(0,1)
  o3 c- Y1 ^* b; ?0 j3 \! B, O+ d
; ^- b6 k- ^$ Z; T(B，C)---m*n*k---(1,0)(0,1)

这就意味着存在3对瞬时作用，也就表明这3个粒子彼此之间的距离都是0.随着时间的推移网络的收敛误差会不断减小，而网络的分类准确率会不断变大。这个过程意味着A被错误的分成B和C的成分少了，同样B被错误的分成A和C，C被错误的分成A和B的成分也少了。

所以这个三分网络可以被解释为，3个距离为0的粒子不断的相互作用，随着时间的演化，最终变得越来越像自己。
7 E& V1 g* C" u7 S9 Y  L# Y: z& r
. |+ _% T% g# G- Z3 x而前面的实验表明相同收敛误差下，迭代次数取决于等位点差的绝对值的和，这次就继续验证这一猜测。
4 d/ p1 H& B+ p8 F, W
. P. P( f6 Q1 c+ i: [用的训练集是mnist的0，1，2，3，4，的第一张图片。用间隔取点的办法化成13*13.
4 ]- @$ J5 M0 F* i$ z! }
! c7 N0 O( H. f% R* w2 p3 h( 0, 1, 2 )---169*30*3---( 1, 0, 0 )( 0, 1, 0 )( 0, 0, 1 )这个网络简记为0*1*2.就只有3张图片不断循环往复，直到收敛。共进行了10组得到数据

6 \) L! i7 v  `& o; [# K3 @1*3*4
1 N. r! @. k% @: o
2*3*4
7 k& o$ U2 O2 ~7 O2 r
- {0 d: h" b+ d: O0 e; `* l0*3*4
9 d6 j( X* D( @7 F) @( W$ o
0*1*4
/ t* u, ], T2 P* P$ [. @4 w, ~
/ J$ b  h4 \" r8 |2 E, x1 f# B' m0*1*3
& ?" h* S$ D7 t* C% T8 G8 d7 [4 W
: n# V' W. Z& B6 M# _1 r2 U1*2*4
, `5 [7 [0 @( C# V# J- p
( b5 D0 l* o6 \9 L1*2*3
2 K. k6 I0 M0 ]: g, [; H
0*1*2
: f) W7 \* ]: z7 U. U7 r+ u6 C  z
$ S8 F8 W) `  V0*2*3
- \/ [9 m2 J- l  y& o) O' s. |
0*2*4

δ

- n$ \; j- q( M: K% W迭代次数n

3 j* t% T0 |: g7 J迭代次数n
, B& _3 @: M3 M" E! R" u
迭代次数n
9 w. f% f8 i% }9 _. p- j1 b
. x. z# ?5 \" T8 y* Y% V: {迭代次数n

' r- o, |% L1 M: d迭代次数n
2 D' r' e& X. {1 n  ^& A' L6 W
' `# F2 d5 d1 ^2 W迭代次数n
" ~8 B, Z- M* Z0 p$ M- t) g
迭代次数n

迭代次数n
2 t9 S$ s- f5 [5 k
* d8 `( e6 [4 {3 Y  M, B迭代次数n
8 w& w- I! I& a( L# B* b3 Q1 a
, q5 ~8 ?3 s6 {2 `  o% `7 E1 u% V迭代次数n

: D4 }/ U! C! j: H* |$ Q4 g0.01
+ j; B8 B/ ~  X  E  i
1763.1809
( x) y; E5 _6 D% z0 v
- r+ [# B2 u3 F6 U  C0 i0 X: q: S3 j% a1626.5729

/ z$ U8 n  |9 L+ _' u1672.4523

$ t, P# n9 V2 i. b1635.9196
" d( [* l2 _2 S2 l
1596.7035
# j7 I" f1 h% O7 m8 C4 K+ s
0 C5 @) J0 ^* C1 }" m1620.407

. J% i* Z- @" p9 D% E0 x8 h, }1563.8945
: ]3 a( S4 b2 ?# x+ N3 \
1444.2915
, r5 e' G% s) O" o& Q
4 M$ {8 v5 A* _( ^  A1410.0302

8 P  j/ q4 w2 p1465.4171
2 X6 c1 Y3 Y2 ~7 d
3 r  J4 p( M% L$ ]% v0.001

13065.196

12674.945

) X8 s" K1 Y) d$ @12747.729

12386.216

12349.02

. ~: C7 O3 C* Q( |) f12282.201
, Z( I: v! D. \7 I9 K7 u) Q
12270.035

* p# p4 d, ?' k11338.477

10985.201

11015.503

9.00E-04
+ ^9 G- E3 U3 h% V1 H
14352.452

14004.633

" U; P  P( P& k3 p. l14062.829

$ M, _% K2 g/ d7 k, z' f13629.467

0 A3 U$ b" @/ T13613.362

13609.563
% y! P/ t# r. U
13530.322

6 Q0 ^5 |0 }( R1 R12458.171

# z+ X$ z, j  j4 Z12176.362
% j4 c/ B- z2 e/ n# F- t$ b3 J
+ e- T8 S! x/ F; ^7 A, ?12225.96
# @6 q) t& P' o2 `
8.00E-04
. q1 V3 F/ |' y+ [% }
6 y; Q0 w% x4 c8 Z" Y16141.206

15611.101
% k8 `- c$ o: D/ x" t
% S! d4 J7 z2 d3 _& i6 ~& H, N4 P1 }15749.91
  r" u2 O; ~6 U" l* Y5 K
15264.98
  l1 g( c! j; z$ j1 D6 w
9 W( ~; _( `, l% d2 {9 J& H15228.447
* w. N+ A6 T( K4 B' S( O
15207.628

15053.714
: v8 j( M$ h; I, B" }
14044.729

13530.397
+ c/ r! M  [# H+ w# {
* i, I7 {1 b. |; O( `13654.678

7.00E-04

18194.397

17760.638
3 X( t. o7 D) n4 i; a: ]" b
2 {: r. i" N/ q' H. s$ w% R17743.578

! l1 m$ f8 j; k2 J4 E( U3 e" S. t17333.377
$ `' q: m5 h$ J# y3 b  ?
17293.874

17204.638

; i- @6 y7 {. T" L* N( d% K17058.809
7 u/ j: N6 v" D. {! @- y
15946.101
1 ~2 n( g0 v8 f9 Q, e" F
15491.266
5 }$ ]( S' v5 ]5 u& w
15399.538

s

130
7 b! y0 @& t+ o0 X6 t0 |. B: X
218
+ k* j' A* m. |) t! k8 n
, N/ x2 l7 a) k* p1 c' T) ?198

206

204

; G. h$ h" T. o7 r# K5 |8 x218
/ s: H& p  F- n6 R- [' |
1 L$ R# S- f- f) x( w& q( [, N+ `220
' @; D4 y" b: d* ~' C6 ]  V% A
  ]4 c! ~0 y8 U204
6 q# E) J) }$ S; U- l# C9 R9 \/ `
220
! G: E# q4 {% G1 ?! P
' E) p4 F* ]0 o# i! [; `$ Y216

5 N7 o! {0 @  w将收敛误差为7e-4的迭代次数画成图
" J. h: M3 T) R! c9 q: ]3 e
: _; f! G! [4 S$ D0 j2 ^8 O% J

再将移位距离S的曲线画成图
4 \) b# g# Z, H1 x  m

3 q4 Q0 w- h. v1 x
在这组数据中s和n之间的反比关系依然存在。

移位距离假设

0 L( G7 y8 v* W1 A# M9 o(A，B)---m*n*k---(1,0)(0,1)
+ }8 r1 n5 r9 _" b8 f. a

7 J, u( k6 M- h6 ^' ?: ?; u
; W% v7 l/ `- ~# [8 P* O用神经网络分类A和B，把参与分类的A和B中的数字看作是组成A和B的粒子，分类的过程就是让A和B中的粒子互相交换位置，寻找最短移位路径的过程。而熵H与最短移位距离S成正比，迭代次数n与S成反比。
% ?" N5 q% E! `0 y& z
移位规则汇总

移位距离就是等位点数值差的绝对值的和S=Σ|a-b|，如果训练集有多张图片取平均值，如果是多分类问题则移位距离为所有两两组合移位距离的和。

; i& o, g) ]0 ^1 v) Z3 u如对一组3*3的矩阵

4 a0 V' y; h5 h1 c

4 A( J1 j, _% f( A: y. A. [S=s0+s1+，…，+s8=|a0-b0|+|a1-b1|+,…,+|a8-b8|

如果是3分类问题，就应该实现3个形态之间的两两分类，也就是要完成3对等位点之间的差。
* ^9 b- n" y; V$ }* {4 U2 D) }" K
# q; |  d! l9 |. `
6 F$ _: X2 r8 r; m  Y. y( G) X* X
因此移位距离
8 {9 `: U, E6 i3 I1 X
3 s6 a- d/ S- K7 X4 tS=Sab+Sac+Sbc=

|a0-b0|+|a1-b1|+|a2-b2|+|a3-b3|+
+ E+ a4 v+ s$ Q
|a0-c0|+|a1-c1|+|a2-c2|+|a3-c3|+

|b0-c0|+|b1-c1|+|b2-c2|+|b3-c3|
————————————————
版权声明：本文为CSDN博主「黑榆」的原创文章，遵循CC 4.0 BY-SA版权协议，转载请附上原文出处链接及本声明。
8 t0 b  i# C& n) M/ }, F原文链接：https://blog.csdn.net/georgesale/article/details/126690670
) G) W7 W! ~$ O/ q. D