三分类网络的物理意义是什么?

杨利霞

三分类网络的物理意义是什么?


- \; C$ J) \, i0 d# {(A，B)---m*n*k---(1,0)(0,1)

对于一个二分类网络可以将被分类的A和B分别理解为粒子和环境，因为粒子处于环境中。于是A和B之间的距离可以理解为0。因为t=s/v，则即便A和B之间的相互作用的速度小于光速，A和B之间仍然可以实现瞬时作用，并不违反理论。

( A, B, C )---m*n*k---( 1, 0, 0 )( 0, 1, 0 )( 0, 0, 1 )

对于一个三分类网络要完成3次形态的变换。A⇋B，A⇋C，B⇋C，每一次形态变换就是一次二分类，因此对于一个三分类网络可以理解为由3个二分类网络组成
6 t, P$ i6 I+ r
3 i8 d; q! k+ D(A，B)---m*n*k---(1,0)(0,1)
! m# n, W* a& p8 ~
% m0 T2 t' i" i' I/ {(A，C)---m*n*k---(1,0)(0,1)

(B，C)---m*n*k---(1,0)(0,1)
+ M: V: }" p$ n
9 p* B! l- c3 z5 F9 C% m0 W; N 这就意味着存在3对瞬时作用，也就表明这3个粒子彼此之间的距离都是0.随着时间的推移网络的收敛误差会不断减小，而网络的分类准确率会不断变大。这个过程意味着A被错误的分成B和C的成分少了，同样B被错误的分成A和C，C被错误的分成A和B的成分也少了。
- O0 l) o7 k# y$ A2 ^
  y" O% B8 ~1 {0 y. V+ b/ [5 a所以这个三分网络可以被解释为，3个距离为0的粒子不断的相互作用，随着时间的演化，最终变得越来越像自己。

1 {, C4 O8 V& [5 D, V. Q而前面的实验表明相同收敛误差下，迭代次数取决于等位点差的绝对值的和，这次就继续验证这一猜测。

用的训练集是mnist的0，1，2，3，4，的第一张图片。用间隔取点的办法化成13*13.
+ z6 y. v5 X& p! Q& H" U
" e5 d- P6 _. a& a3 R( 0, 1, 2 )---169*30*3---( 1, 0, 0 )( 0, 1, 0 )( 0, 0, 1 )这个网络简记为0*1*2.就只有3张图片不断循环往复，直到收敛。共进行了10组得到数据
" }+ K- f: `/ }8 x1 D
, K, ]; f4 z9 U2 g1*3*4

1 b/ `; Z' S' E) [9 F2*3*4

& b6 n8 v% y! i2 e: H0*3*4
  x2 A) T8 j/ S0 o# z1 o0 x
0*1*4

0*1*3
; ]* u$ H1 A5 ]- T1 ]# _# p
1*2*4
3 Y0 ?) F3 F) O$ _8 z; K
- {5 q; X* m6 S1 x) _& R% u1*2*3
# v/ h) `$ M6 H$ o3 ?
0*1*2

/ h+ M; y. G  c9 B0*2*3

0*2*4
1 y9 ^3 E8 s/ ~) w; o1 w2 h( a
1 [* G0 q* H$ Mδ

: J$ p* R: U6 V2 o! J迭代次数n
1 g4 a: V3 ^1 `
迭代次数n

迭代次数n
1 R" Y4 P( n) Q1 Y6 V9 u  J8 d
  e- M/ I- }. G6 W6 G迭代次数n

迭代次数n
( }3 x: o* ]- o4 s/ s
  `$ A, M7 V3 b8 W迭代次数n
; H4 a; }7 \1 T8 Z( @
8 v& x- b& j  r迭代次数n

; p7 Z  H5 W5 g  w  f! v迭代次数n

迭代次数n

迭代次数n
* k1 c8 n2 X9 t9 h) E
0.01
! i' v" V; u  w# O7 c
2 W& I3 F- o5 @: _9 e: ^4 t1763.1809
5 t' _' [  T% u, t
1626.5729
7 i. f. E1 \  W4 D
; E0 h( Z, P) M1672.4523
1 |" s( S: [7 r) Q) q
1635.9196
! Q( z; p6 b. {# v# K
# u1 u2 V, \# A! Z1596.7035

1620.407
% o; ]; `  r" i# t( O' \6 W
( j3 e* v; Z" S) b* P1563.8945
0 G( ~2 |7 E5 ]+ E
1444.2915
7 a5 |6 e0 r! U5 {
1410.0302

1465.4171
' l8 I' L! ~3 h  l! ~
0.001

7 X- C2 N& o5 O2 `13065.196

12674.945
- m' p& p( _/ B1 G
# o& T9 z2 j3 S& k" w12747.729
$ {2 a6 H8 d  P+ Y) [" ?
1 M/ q8 ~3 Q3 ~0 \! Q+ y12386.216
8 H8 p8 g( N: L' h6 |1 w% m8 \
+ q7 Q2 j3 e, K; ?# y; T/ G* ?9 c12349.02
! f; K' T6 {  ~1 P
7 i0 \. h$ u  I( q8 M) K5 e12282.201

( _8 N% _9 v% q, h* R2 o! G5 V4 l12270.035
# M: O4 E0 a) l) v
11338.477
. Z0 }( k* J! H+ K) z1 z8 }
10985.201
# U+ ?  H% f/ ]* z
/ g+ i. i9 P/ O0 w1 O11015.503

2 H0 ^/ ?. s+ d9.00E-04

14352.452
9 N$ p! J% Y: o$ k4 E, H9 x/ b
; Q* ?6 @/ k3 U4 }7 V& e) i0 F4 C14004.633
3 x+ G  o7 S. k/ x7 S
14062.829

' i9 V& |. z+ c8 c. G7 `$ p+ D13629.467
5 i$ V0 |8 k8 L0 v, z, Z
13613.362

13609.563
, c# H: I' s" K& F+ P. Z, t
; N3 L" @( _3 H13530.322
, f+ N' O1 i% C+ n- A
12458.171
; u% u) s% k" v' d/ \+ C
12176.362
* n! S5 h) D5 f  b& i% h
0 z3 J$ B3 Y6 ~  W* \12225.96
, X8 v) U# w' ]
. u: y2 A6 Q$ ^2 k$ p8.00E-04

0 V: |) ?8 u  c3 j/ w3 |' A& A. D16141.206

15611.101

- @) W  J8 y9 H( A9 x15749.91

15264.98

5 h% ^- i% s" R( C$ s! B15228.447

15207.628
2 N# V+ L6 E- L8 @
0 E& j4 k' O  S. a! q- P: h15053.714
9 ^. t# k5 K8 g) b# ]
5 g5 k2 j$ Z% c. d$ s' y14044.729
8 n0 g  i" p: Y) N5 c: T! w9 g- x0 F
4 M5 J0 E: N) I( _- E13530.397

13654.678
7 B( J7 n' C4 i2 ^9 n8 D" j
% `( _) I7 A8 D/ X7.00E-04

18194.397
9 X- {$ x1 Q5 g: N
17760.638

17743.578

17333.377

17293.874

% c8 ?( X+ I, l$ ]% t) [- g17204.638
7 Y7 W3 G( c8 X9 f# @
! N8 x8 z; u3 |, y17058.809
$ w* y0 ~. `8 J' w2 Y- J0 h
15946.101

15491.266

: \% m  d  A# D+ |: O: f  }8 U15399.538

s

2 j/ I/ b, l5 C6 |8 ^) n130

218
. o4 W. G: @1 o$ g- f0 a, F
1 I0 v% X# E- X/ g" A- s198
3 {2 \3 C( v$ z, k+ ]
9 S4 [. o- N1 ]# \  a% Z206

' K2 H' b+ J9 Q204
+ }' z/ O1 j) n! @
218
8 a* s6 k2 W8 i7 r! C3 @' f
0 |# b  {) x) t3 c2 S1 v220
+ }0 _; }/ q5 \9 S1 @
( B4 E1 K2 r# _! |204

2 h8 [5 Q- }, U8 F; F; F220
9 c. K0 q! F  z& s. a" U
0 ?# B+ |8 v: P8 s4 Q/ m0 c5 P% i216

0 M8 p* B$ }" P+ c  d5 A将收敛误差为7e-4的迭代次数画成图

; y6 k$ u# _+ T7 R+ {0 ^
6 \% A1 L9 V) w. k
1 i2 D, C; A8 [4 d8 c" b再将移位距离S的曲线画成图
5 ?. _4 C# h5 T/ a; M9 K. p% }


在这组数据中s和n之间的反比关系依然存在。
: g% |7 a8 G" z0 R
$ u# L. {0 w" z4 ^移位距离假设
2 l" P9 D7 t5 _
(A，B)---m*n*k---(1,0)(0,1)
% N8 g5 C9 v% a% f/ S# N
* r6 ?% k4 F% a6 V  c7 O0 B
4 T  N, a; E) E0 n, W
4 Q0 d9 Y; }9 x4 t7 m6 c用神经网络分类A和B，把参与分类的A和B中的数字看作是组成A和B的粒子，分类的过程就是让A和B中的粒子互相交换位置，寻找最短移位路径的过程。而熵H与最短移位距离S成正比，迭代次数n与S成反比。
& ]  _2 A( S! |/ A; I8 v% |7 ~
移位规则汇总
6 @  I, k1 M$ p4 L
0 I) N$ M- k0 x6 P+ g) }移位距离就是等位点数值差的绝对值的和S=Σ|a-b|，如果训练集有多张图片取平均值，如果是多分类问题则移位距离为所有两两组合移位距离的和。
7 C* Y4 |# X! m9 n) V( Y% O
! G# [5 E3 Q- l. U' A( G如对一组3*3的矩阵
9 D$ l' }1 _- C  ~3 i

3 R* c  \) r: K- u
, K9 ]/ L3 Q- s. v* Y5 wS=s0+s1+，…，+s8=|a0-b0|+|a1-b1|+,…,+|a8-b8|

2 \! Z6 Y, u' ^) o1 A如果是3分类问题，就应该实现3个形态之间的两两分类，也就是要完成3对等位点之间的差。
3 a# q! _7 m4 I/ r% s, i% Q
# u; Z, s3 c2 i7 o4 {9 e4 e

因此移位距离

S=Sab+Sac+Sbc=
3 F5 b9 Y) k! k' D- y1 l
|a0-b0|+|a1-b1|+|a2-b2|+|a3-b3|+
# ?4 G+ S" T6 q0 }2 }
2 M6 T! o# m) u+ L% `|a0-c0|+|a1-c1|+|a2-c2|+|a3-c3|+
2 T. J* j# T/ K: i
|b0-c0|+|b1-c1|+|b2-c2|+|b3-c3|
; b* }7 ]; j' A2 e! e————————————————
版权声明：本文为CSDN博主「黑榆」的原创文章，遵循CC 4.0 BY-SA版权协议，转载请附上原文出处链接及本声明。
" {& H: b- g7 h- h/ Z7 l3 r原文链接：https://blog.csdn.net/georgesale/article/details/126690670

5 r0 L" n4 d. c# o, c. `: _! r1 s+ _