三分类网络的物理意义是什么?

杨利霞

三分类网络的物理意义是什么?

: d; _# Q! a$ d" [' Q/ v
(A，B)---m*n*k---(1,0)(0,1)
) }% r, r6 T2 C. I' s1 l/ {: l
( f9 W3 e& q9 \8 W0 Z$ p& {1 P对于一个二分类网络可以将被分类的A和B分别理解为粒子和环境，因为粒子处于环境中。于是A和B之间的距离可以理解为0。因为t=s/v，则即便A和B之间的相互作用的速度小于光速，A和B之间仍然可以实现瞬时作用，并不违反理论。
( R0 N4 t9 ?+ \4 D$ V5 R8 k
7 y& U( B; y  @  D7 v3 W( A, B, C )---m*n*k---( 1, 0, 0 )( 0, 1, 0 )( 0, 0, 1 )

  o  V) k9 C  B对于一个三分类网络要完成3次形态的变换。A⇋B，A⇋C，B⇋C，每一次形态变换就是一次二分类，因此对于一个三分类网络可以理解为由3个二分类网络组成

3 F2 a' s( B8 c$ a) N9 L(A，B)---m*n*k---(1,0)(0,1)
# J; B- w3 k/ D& _5 {
: U' s6 ?; h: j  ~(A，C)---m*n*k---(1,0)(0,1)

$ H( k: \, p6 Q( i7 s(B，C)---m*n*k---(1,0)(0,1)

4 \# [, j, ]+ K  @* y8 |6 m) z# N  _ 这就意味着存在3对瞬时作用，也就表明这3个粒子彼此之间的距离都是0.随着时间的推移网络的收敛误差会不断减小，而网络的分类准确率会不断变大。这个过程意味着A被错误的分成B和C的成分少了，同样B被错误的分成A和C，C被错误的分成A和B的成分也少了。
' A7 v  o' D  o' C: z/ K
所以这个三分网络可以被解释为，3个距离为0的粒子不断的相互作用，随着时间的演化，最终变得越来越像自己。
; h/ S* L! t5 j; D; @( y, z! s6 E
而前面的实验表明相同收敛误差下，迭代次数取决于等位点差的绝对值的和，这次就继续验证这一猜测。
+ Z$ r$ z6 W  b5 T  O0 ]
9 E: k2 z5 J; U. |- k* Y* Q用的训练集是mnist的0，1，2，3，4，的第一张图片。用间隔取点的办法化成13*13.

( 0, 1, 2 )---169*30*3---( 1, 0, 0 )( 0, 1, 0 )( 0, 0, 1 )这个网络简记为0*1*2.就只有3张图片不断循环往复，直到收敛。共进行了10组得到数据
* T5 N, z/ X6 {2 f8 X* _: G7 O
1*3*4
' Q2 [. Y4 J3 T; v% f$ [
! e7 D9 q0 b* w  ]1 [2*3*4

/ Q$ [5 v: z' x) u( c0*3*4

8 o2 Y! J+ `; H9 Z( z3 T0*1*4

0*1*3
2 t7 q9 }% C* ^, D
1 N. p$ k, m& q$ ~0 `- ~1*2*4

1*2*3

6 w4 h7 O. V6 R5 }: M* L$ O3 S% N9 I0*1*2

  \* D) a! M+ M+ j: j0*2*3
; E' X' s8 r$ J. b) Q$ h
3 |! I, u+ F0 ?" i, J0*2*4
5 V3 E* s# _! L# u' f
δ
; ^0 O6 J8 @& Z8 T
- z$ g( t  b7 v1 n' `* S. X; a9 o4 z迭代次数n
6 B7 Z% C( B; u# B0 J, r
) s4 D/ n$ x6 O0 C2 a; q* Z迭代次数n
/ Z% j+ z" ?* m$ p9 ~
1 [" R" U9 x* x8 O; i8 E迭代次数n

迭代次数n
/ Z# t0 T) ~9 w% o( p
8 Y+ Z# f7 k$ P# B( y8 {迭代次数n

5 c) }' h) C8 F) f迭代次数n

迭代次数n
2 i) j' z! A! N9 P( q/ M& ~1 p
迭代次数n
0 F( t" S  _! p) i* N! m9 H
迭代次数n
' p' F4 O, @. h& z. R
迭代次数n
5 z+ @* o+ y) K! i: ]6 g' G; i
. u' i1 u( D5 P. @9 Q1 I0.01

1763.1809
4 [7 O1 ]# H8 s/ i0 `
3 z1 a9 z6 M' Z$ _+ ?1626.5729
& ?, Z. C4 G# s" A* \. G, b9 B+ a
2 s8 r5 o8 J3 X7 d1672.4523
: x( r& D6 [! m% v
1635.9196

1596.7035
1 W" Y# v  H: A. Z' a9 M0 c0 g3 k
1620.407

( u9 P# Q; ~* I4 R( {1563.8945

1444.2915
2 C1 q/ m7 g/ o8 d# u
1410.0302
$ W& q  ]9 P% d0 x4 r5 B
% _; W9 B/ r/ P$ Q; G1465.4171
( j, |  ^' C, R1 J- m. n( D; _
: p- G1 G" e& j# C0.001

! }1 Y6 i/ H  c& U! G1 y13065.196

12674.945

& y) k* g+ u: f! {. k; j1 b3 b6 ~12747.729

" S3 A  }8 s+ z) n7 I0 g# A8 v# U12386.216
; |% x1 v* N6 v5 _, e  ^
  C0 D  l- n8 B+ T! a6 H12349.02

7 Y6 w" D1 \% w$ c/ J12282.201

12270.035

11338.477

" p/ O# ?3 A3 n10985.201
, A- Q' H2 h0 S8 c! Y, o
11015.503

, y  L% i2 o+ b* b* i# W9.00E-04
+ F. V5 H  k. ^" n, l6 a7 a8 q
14352.452
/ N! ?. {: s6 {$ T) f' Y
; P8 Q% }; ]2 v) {% \- n2 C! _14004.633

14062.829

13629.467
4 o9 X6 [. v* y
13613.362
" @* N& t* d: q; n
2 S! I' ~$ j. |: ~13609.563

" S7 r; W' ]# ^13530.322

12458.171

5 W, P& d% b4 ~- l: M12176.362

6 U! G2 ?, |/ R0 D6 L" C1 ~; O12225.96
# ^$ P9 W# ^* n- {; M/ @, C
8.00E-04
+ P. P, U9 V& S( `
  m1 s3 D' o" [. w16141.206

- w0 |& J- R/ R4 ^15611.101

15749.91

' i! W% s9 Y: o: V9 Z15264.98

) x: R' x) V. B+ w+ W15228.447

! ]+ F. x- y' B4 x+ Z- c4 A15207.628

: _9 `. F- U7 L; l! X15053.714
) z! N3 C9 Y, k9 r
+ c# o- Q, K1 {, m- q3 p$ s14044.729

13530.397
) P" Q: }3 F6 v: T9 g
13654.678
* E8 o' m8 T  {5 I
  w& K0 A: ?( U: S$ T) Z7.00E-04

18194.397
, D3 D5 C$ Z2 P, e5 S9 D6 l' @
; N6 D+ M' q4 O$ z( K/ f17760.638

17743.578
1 E! C- }: X6 @' X( h
17333.377

17293.874
6 H( m; @! y$ M; V0 b  e5 x
17204.638
% ]; l3 |# i3 Z5 o' g! C: Y
3 u) P, e" ]- _, [1 a7 s17058.809

15946.101
# [* y: v& g7 S; B: j6 o
/ ^( ~" @# i4 h1 F  e7 K1 M& b/ h15491.266

% h8 W" `, e, n+ Y) w15399.538
( l" g$ x# Q$ d% {
6 d0 B& \' A) U! N$ R. Ps

130

3 O- Z" R+ t; J. v218
' B% U  C/ l( c% o$ Z
198
- a! ?2 F2 T) |- r: A
206
1 e1 b* j; V# }: S
4 t4 v& o3 r9 V204
# a4 h+ {0 t4 ~& _% U) h/ O
218

/ k" L( t6 k* d0 _5 _220
* {) K  N2 s/ j0 _  C5 e. m
204
, O9 d) W7 P2 _* e2 x6 I
220
2 H3 R8 r+ m4 [' k, m3 z; l0 r
5 x: m, \5 j4 `/ _9 g) c216

将收敛误差为7e-4的迭代次数画成图
5 d) n* Q$ a( |0 \& m
" F* M/ b2 C- R' S( Y5 w

再将移位距离S的曲线画成图

: z0 l- M8 m, l% h  P4 G* r5 q

4 h! B+ u" U) U( q* z# d5 C在这组数据中s和n之间的反比关系依然存在。
! y* Z0 v' @6 N+ z1 b
移位距离假设

: ~. N7 z! E& z(A，B)---m*n*k---(1,0)(0,1)
) M3 _8 E) t* R2 ]
' R  g( B+ P: v  _! d

用神经网络分类A和B，把参与分类的A和B中的数字看作是组成A和B的粒子，分类的过程就是让A和B中的粒子互相交换位置，寻找最短移位路径的过程。而熵H与最短移位距离S成正比，迭代次数n与S成反比。

" \; F* `  V4 O+ S' u8 q移位规则汇总
" h0 P" m# @& ]  t
2 ^9 N- @. y8 N% W, w& d2 f! L0 u移位距离就是等位点数值差的绝对值的和S=Σ|a-b|，如果训练集有多张图片取平均值，如果是多分类问题则移位距离为所有两两组合移位距离的和。
3 O# Q8 y3 G9 Z, E1 }/ Q1 p
如对一组3*3的矩阵
( \1 ~- v$ T; o, O1 K: L4 I) q3 V# A
) n( t7 ^$ {( v5 q) V- A& c: ^
5 b6 H0 h5 Q2 f8 f2 w$ u
S=s0+s1+，…，+s8=|a0-b0|+|a1-b1|+,…,+|a8-b8|
8 C1 s- F; N$ w# T
  p3 Z6 F+ ]) v2 ]5 T, n- ]) `如果是3分类问题，就应该实现3个形态之间的两两分类，也就是要完成3对等位点之间的差。

5 S4 k5 k9 \$ P, C& W- J$ |8 ?
# Q' }+ v, a6 O+ i* {! m$ W2 h
因此移位距离
* z2 s7 i9 @; e' U3 D& B+ Q
- C9 o4 N  c  r3 s$ jS=Sab+Sac+Sbc=

$ P6 Y1 s  m2 V5 _1 d$ c|a0-b0|+|a1-b1|+|a2-b2|+|a3-b3|+

1 S) a7 b  q" h+ k) O|a0-c0|+|a1-c1|+|a2-c2|+|a3-c3|+

2 U% d: T2 _* |1 y4 Z* ]) v& c|b0-c0|+|b1-c1|+|b2-c2|+|b3-c3|
4 R* l; _+ N/ M4 F1 e6 g————————————————
版权声明：本文为CSDN博主「黑榆」的原创文章，遵循CC 4.0 BY-SA版权协议，转载请附上原文出处链接及本声明。
原文链接：https://blog.csdn.net/georgesale/article/details/126690670
( F. Z9 v* ~7 Z