三分类网络的物理意义是什么?

杨利霞

三分类网络的物理意义是什么?

4 `: F7 \+ s# F: |1 d2 Z; U) D; S; }用分类实现衰变
  V( \  \) k4 M/ U% ]4 S专栏收录该内容
- z$ t  x( O& L" @52 篇文章0 订阅
4 a9 ]$ z+ _( K7 I8 C* s0 z. l' _* t& M订阅专栏
(A，B)---m*n*k---(1,0)(0,1)

  T( V& t3 o9 E% s0 w# T对于一个二分类网络可以将被分类的A和B分别理解为粒子和环境，因为粒子处于环境中。于是A和B之间的距离可以理解为0。因为t=s/v，则即便A和B之间的相互作用的速度小于光速，A和B之间仍然可以实现瞬时作用，并不违反理论。
& S. G+ [" Q; Y3 o
' Z3 i  h" Z: x# r- U( A, B, C )---m*n*k---( 1, 0, 0 )( 0, 1, 0 )( 0, 0, 1 )

对于一个三分类网络要完成3次形态的变换。A⇋B，A⇋C，B⇋C，每一次形态变换就是一次二分类，因此对于一个三分类网络可以理解为由3个二分类网络组成

(A，B)---m*n*k---(1,0)(0,1)

% s! @/ W7 n0 L/ b3 A% O(A，C)---m*n*k---(1,0)(0,1)

5 v& _: p9 `8 P) g# V, E7 u, ]1 s7 G  e! \(B，C)---m*n*k---(1,0)(0,1)

8 L3 g4 t4 k# @1 B( N' j 这就意味着存在3对瞬时作用，也就表明这3个粒子彼此之间的距离都是0.随着时间的推移网络的收敛误差会不断减小，而网络的分类准确率会不断变大。这个过程意味着A被错误的分成B和C的成分少了，同样B被错误的分成A和C，C被错误的分成A和B的成分也少了。
6 q# A# u8 x2 v- t
所以这个三分网络可以被解释为，3个距离为0的粒子不断的相互作用，随着时间的演化，最终变得越来越像自己。
0 d: j4 d; i! J5 s- }. u9 T5 g) k
; Y. J2 z. F' K! V3 z而前面的实验表明相同收敛误差下，迭代次数取决于等位点差的绝对值的和，这次就继续验证这一猜测。

用的训练集是mnist的0，1，2，3，4，的第一张图片。用间隔取点的办法化成13*13.

( 0, 1, 2 )---169*30*3---( 1, 0, 0 )( 0, 1, 0 )( 0, 0, 1 )这个网络简记为0*1*2.就只有3张图片不断循环往复，直到收敛。共进行了10组得到数据

1*3*4
! s) B: H3 P5 Z/ S
. n: _' [* x! L6 i3 a2*3*4
: P4 [+ w# ^  b
0*3*4

0*1*4

) R: Y1 E( i  @# Q; c/ n5 U3 o0*1*3
6 Q, A9 |9 {: _4 R
5 F  p; W( y" Z1*2*4

1*2*3
; x/ w3 l  X/ ~" c; q0 x. |
+ \) d0 F7 E$ {: o0*1*2

$ k! t, ^& J' x! o% \0*2*3
9 \5 ?9 |. j& f& f* b
. |! ^  X; P% L4 N; p0*2*4

5 h5 u+ O0 a$ M/ K$ n  q" j3 v* Fδ

迭代次数n
0 }) A, B6 O& Q6 n- ?. V- |  K  k
迭代次数n
- y7 z/ n* G/ Q
迭代次数n

& E$ L2 x/ P6 o迭代次数n

7 G) P. z9 N. y# f7 P; y迭代次数n

迭代次数n

迭代次数n
; B7 w7 J9 G$ ^9 ?1 ]% u4 H
迭代次数n

0 N( B2 Q5 ~2 k1 L- k" s迭代次数n

* C# d% f2 K% B9 |! ^迭代次数n
% t" L% @6 s( q
2 e; ~) A. a% g2 [/ A4 _' |% B: s0.01
: g2 Y3 ?2 p( o1 b! z# }
1763.1809

1 @2 i" }( D6 e. \( U8 C" ?0 M& B2 C1626.5729

6 Z8 G8 i0 o. O4 s0 x1672.4523

1635.9196

1596.7035
4 s9 x5 u0 e! X2 F0 _
1620.407

1563.8945
) S: y9 C" ^  ~% _0 ]0 f8 W$ j
1444.2915

- j- p: X# {& _1410.0302

4 D) A, I$ P  u, i8 Q; t$ y5 p# _1465.4171

9 h5 t+ ?3 U. ~, T  a8 \0.001

13065.196
7 E! F' m7 K7 Y
9 Z0 K* A" m. \7 k* P4 F12674.945

12747.729
" K8 ^: @* P, ~  f: A( X" u* |
12386.216
* L9 G$ R! W4 K; ]7 z
12349.02
! a$ L  g1 x+ F: z( j( {. ~
) k3 T# U- b9 f% j+ n. o; U12282.201

12270.035

11338.477
6 S& G8 l7 U# O( [& g
10985.201

11015.503
; M* r3 N& x7 _! \
2 w& A0 B8 A' J8 I& h9.00E-04
# v+ U4 y8 d0 O2 B
: n  m+ h( [( z14352.452
/ X+ O1 H4 g# G: t2 ^+ k" W
# [. W6 ]& {0 `. p* M14004.633

14062.829

5 G: H2 v9 F/ G13629.467
0 }: x6 y3 k& ^0 t* l9 b
/ N3 J) ]: n# B: G0 C( o* \, \13613.362
1 c& u; V. J1 a! Z
13609.563

13530.322
$ q* G6 q3 R! M; S
12458.171

5 g. K5 Q6 {7 y+ r, x* T* g12176.362

$ H5 N9 {! W5 w* t: F12225.96
9 j; D3 x3 Z6 B. F* R; h
8.00E-04

16141.206

15611.101

9 b* C4 I0 |% H3 A) ]) {3 a3 L6 {15749.91

! |$ O9 Y0 w* f+ T) |15264.98
0 [& C1 K/ ^5 c" g, a% N$ J3 z
15228.447
0 u, O' o7 b! q" ^# |2 f
1 p' [6 d; s6 w- D' l15207.628
( M, b+ B  H# f" Q: h
15053.714

14044.729

5 ?2 ^9 \8 X  K7 T( q8 e3 L13530.397
" w% X/ S7 J9 M/ j+ j
& c/ a8 H( ~  W; s2 Q5 B' u13654.678
+ g2 _% ]6 o4 k4 o% O
7.00E-04
4 l8 p" {1 D8 m2 U0 o. a
* n$ N  g5 x) {+ I18194.397

17760.638

17743.578
( S8 Y7 w. F! C' G
17333.377
7 A% A) @9 ?9 {# e$ @2 B1 a
17293.874
/ ]" L; F: V" M) m  H. p7 f
' P- p3 q0 r5 \! t- S) k: F1 b( L, o5 s17204.638
9 L# s, J$ e5 a# Y0 E
17058.809
3 M, d4 o0 t3 R) Q3 _
; D% f% D  w9 B# s0 X15946.101
7 Z( K% K# h  H' b, ^9 V( e
7 j& C+ ?* p5 Y7 Z( t15491.266
  d; L. N5 Y, D& M
( n% _6 Y* a- R  G* F0 X0 c% }15399.538
0 i0 M' W& h. f* \/ i0 S( |. q
s

130
6 X- j9 f& W+ C
4 m0 V+ A* v- V$ {; C218
) g% ~; f& z3 N6 X0 @' m. }
198

206

) ]. o( W; G9 g; v! @# ^204
1 n+ R6 r: Z2 Y4 }9 O2 h$ p+ c
  c: I4 }0 q5 L+ h) s2 j218

* D# e0 s- R4 }* G* B5 k220
8 c5 o; ^0 G# E9 t
5 m+ p' J( h# n* |6 x204
( e6 c& Y- i# [$ a
" n$ b2 _/ R) g  c4 r4 M220

4 R3 y7 t6 [' Z% B# w216

将收敛误差为7e-4的迭代次数画成图

! X& N, s; m' }# x

再将移位距离S的曲线画成图
& A+ r$ S# a8 R6 u; `2 L$ J$ ]+ e( R


( f5 s7 _; _# b& T在这组数据中s和n之间的反比关系依然存在。
' H' j7 [" `& w4 U  h' X# W
移位距离假设
: q& M7 @% H7 d4 a" ^; i
(A，B)---m*n*k---(1,0)(0,1)
/ ^) a2 e0 R* X8 A


用神经网络分类A和B，把参与分类的A和B中的数字看作是组成A和B的粒子，分类的过程就是让A和B中的粒子互相交换位置，寻找最短移位路径的过程。而熵H与最短移位距离S成正比，迭代次数n与S成反比。
7 m7 p) |; s+ `' e# O* F+ k
. G$ g2 u! s. a( L( V, T  Z" {, C移位规则汇总
$ ]( N0 h# Y' w  B
6 i) F5 o. X! H3 ]移位距离就是等位点数值差的绝对值的和S=Σ|a-b|，如果训练集有多张图片取平均值，如果是多分类问题则移位距离为所有两两组合移位距离的和。

如对一组3*3的矩阵
5 X) n  {9 I" x8 f' q/ C2 v9 O
/ U: o0 P" t/ A2 ~% ^4 ]  ^

S=s0+s1+，…，+s8=|a0-b0|+|a1-b1|+,…,+|a8-b8|

% L: Z* D$ s4 @/ Z# K( x) g, X如果是3分类问题，就应该实现3个形态之间的两两分类，也就是要完成3对等位点之间的差。
4 \) u" S8 Q; J* K; ]7 p
) g( O1 E3 H. s

因此移位距离
" z' |8 T0 G7 C* L- {4 m# s
( N! Q: M( b' q/ o# y4 Z, lS=Sab+Sac+Sbc=

' s9 i* k0 i2 m) A|a0-b0|+|a1-b1|+|a2-b2|+|a3-b3|+
$ M. x4 H- _" b5 L
|a0-c0|+|a1-c1|+|a2-c2|+|a3-c3|+

|b0-c0|+|b1-c1|+|b2-c2|+|b3-c3|
————————————————
4 E* a2 M  P+ p+ |" v: G版权声明：本文为CSDN博主「黑榆」的原创文章，遵循CC 4.0 BY-SA版权协议，转载请附上原文出处链接及本声明。
0 y  X5 n7 d7 K  E1 K. F6 L5 x原文链接：https://blog.csdn.net/georgesale/article/details/126690670

8 r/ S9 b8 @  V7 j, Z) I1 Q
( [& z* ?7 }2 g& C) k) W" N