三分类网络的物理意义是什么?

杨利霞

三分类网络的物理意义是什么?
$ Q0 \0 y2 z. N
用分类实现衰变
: V* L; Y1 Y# [& l6 T6 n专栏收录该内容
. O+ I8 h8 t; A4 M) D7 l( D: O52 篇文章0 订阅
' j% G! h8 @2 ^+ _; C0 f3 Q4 J订阅专栏
(A，B)---m*n*k---(1,0)(0,1)

" b; U  g+ _- N( Y$ X对于一个二分类网络可以将被分类的A和B分别理解为粒子和环境，因为粒子处于环境中。于是A和B之间的距离可以理解为0。因为t=s/v，则即便A和B之间的相互作用的速度小于光速，A和B之间仍然可以实现瞬时作用，并不违反理论。
) w, i3 f7 _! b/ u; G
1 j, [% B; u! X! t7 n* ^! d( C( A, B, C )---m*n*k---( 1, 0, 0 )( 0, 1, 0 )( 0, 0, 1 )
; |/ J# B% }0 Q/ P
对于一个三分类网络要完成3次形态的变换。A⇋B，A⇋C，B⇋C，每一次形态变换就是一次二分类，因此对于一个三分类网络可以理解为由3个二分类网络组成
0 B# b' w5 G9 k0 r* j
: h; Q  f; M2 n+ f0 U. i* U(A，B)---m*n*k---(1,0)(0,1)

" i2 r- ~8 z( f; n. a(A，C)---m*n*k---(1,0)(0,1)

(B，C)---m*n*k---(1,0)(0,1)
$ {( r+ C( d8 U4 U6 R6 J
这就意味着存在3对瞬时作用，也就表明这3个粒子彼此之间的距离都是0.随着时间的推移网络的收敛误差会不断减小，而网络的分类准确率会不断变大。这个过程意味着A被错误的分成B和C的成分少了，同样B被错误的分成A和C，C被错误的分成A和B的成分也少了。

所以这个三分网络可以被解释为，3个距离为0的粒子不断的相互作用，随着时间的演化，最终变得越来越像自己。
! v2 m* P+ j5 Q3 v7 }
; q& N8 S% m( f. R+ K0 q2 `而前面的实验表明相同收敛误差下，迭代次数取决于等位点差的绝对值的和，这次就继续验证这一猜测。
0 [* y5 G6 U2 q8 Y' |
用的训练集是mnist的0，1，2，3，4，的第一张图片。用间隔取点的办法化成13*13.
- \7 ~3 h2 F- @) k) s
( 0, 1, 2 )---169*30*3---( 1, 0, 0 )( 0, 1, 0 )( 0, 0, 1 )这个网络简记为0*1*2.就只有3张图片不断循环往复，直到收敛。共进行了10组得到数据

1*3*4

6 O& B, \& r  @" m$ z8 m0 ?7 [2*3*4
, C8 u- g# ~+ q& U
" G& n" h& d* ]$ p% J+ O" g( Q8 z& r0*3*4
+ f0 u7 t7 q- x7 S" s! ]3 N
. H4 `, }+ |3 a- h# I1 G0*1*4

0*1*3
& c% j% W) x: ]5 W; @: ~
1*2*4

/ ~% c, Y; S9 v1 B# o( V; J9 A/ U1*2*3

0*1*2

2 i- L. Z2 |# X/ H, Q! v. d, s0*2*3

% Z4 l) o1 D7 b  v" T  W' x/ d0*2*4

. P) Z+ A% Q! t5 T. ^; vδ

/ J; |( N7 f4 a% U3 x! L5 j迭代次数n
' ^1 S  S5 J+ [9 X' [& n
" K: d& P' e" W0 j" p# w& ~迭代次数n

迭代次数n

迭代次数n

迭代次数n
3 g! Q& i& W; |/ [: K+ k) E
7 ]7 t' `7 Y2 X$ C5 \! }迭代次数n
' R" o, X' g* @! e' M# N$ i
迭代次数n

  z. ~7 S1 k8 |4 X, D+ ~( I7 M3 X迭代次数n
0 ], {5 {1 l$ {# P' h. t3 x: a
迭代次数n
! \" }7 U  F; v. `: V5 i% E3 n$ h
迭代次数n

0.01

1763.1809

( O! B  p" b# @: [- J, D1626.5729
% R: l' }- _( ?4 d/ h) t7 S
* N% v8 I2 _0 M1672.4523
- n/ D2 {+ n  ~/ [* j9 Q
1635.9196
0 T- c, U, z3 F0 v; q
9 j7 _  n( q, `1596.7035
6 p- |0 i& N: J5 i# p# ]4 ]7 _
1620.407

1563.8945
4 p& D. p* x" i% R' q
1444.2915
- i, I6 J6 Q+ e
1410.0302
7 v' x7 i; t8 }9 k* E% w
1465.4171

0.001
7 K$ d. S# D3 }0 U7 K$ h8 J4 L$ X
3 v. g& t2 M9 N% g9 K13065.196
) g/ H2 }, s0 ^1 ?- \) a! f' {
$ Q) Q' j2 D! M: [$ C12674.945

1 [7 T- f0 v0 L1 a# U: m" O12747.729

& s" \3 {( P$ H) V, R12386.216
  B5 \8 C( g# L# Y3 ^0 M0 }/ z
" e* w7 l, S" P4 O12349.02
6 V% O, a6 l, b6 a  W
( ^7 b* J; s8 n" }  N3 i4 M) E12282.201
' d$ T% \; P2 b) q& l+ H
- O3 N" Z; S; l" ?12270.035

11338.477

10985.201
  G; v. o- P/ ?( y$ a
11015.503

/ N* C/ u9 I; R8 A9.00E-04

14352.452

5 z; L8 o4 t! D5 l14004.633
+ {- W' X' R5 ~0 v% {
# a$ Y$ }' d" Y! h. {0 h- ?: _14062.829
( q* g! r; Y, B1 W8 Q: v
13629.467
9 ?& ~2 {1 r8 ]& y5 O* Q5 ~0 ]
13613.362

13609.563
( H+ x4 V+ M) B% H
! v( N5 v9 k) Y6 n% g) m13530.322

. n+ Z, q* |/ L9 ?12458.171
: {* Y/ t! h* F' E3 K
12176.362

12225.96

8.00E-04

1 b" A' i" T# M7 d: J; G16141.206
7 u, M" M% O: l4 P, a
- B5 m! ~. s% C1 J; W( f; x; A/ T15611.101

5 q% T  o) S% z15749.91

15264.98
5 l5 [" ^8 g4 L, p
8 m9 i8 g' X# m8 [, x' ]15228.447

15207.628

15053.714

14044.729
& @4 m! ?. e* U7 v2 r! v3 H' k
13530.397

/ p" h, r& n) M0 R# M; g13654.678
" j, k9 P8 X' A6 b, x, W, x" S
7.00E-04

18194.397
( D3 J3 t; Z- E: A5 P( k
1 u: s- V8 Z! M" `7 L/ r5 W17760.638

17743.578

$ H. k8 y4 F  `( Q. D17333.377

17293.874
" y  h( ~6 l; e4 t
17204.638

17058.809
+ F( a: M& d% n0 s7 c
15946.101
# C7 M. Y# F, N) p7 x& _
" V3 z9 A. ]) z15491.266
! D6 `) `6 b; V* O' H! w& G! {: Q
& a5 r# x) K, N, L. Y15399.538

7 a4 Y) d$ E1 [s

* \; O/ g% @; b0 V: J130

218
8 T4 y8 S) A2 O$ m2 s
4 ?8 K% T6 |( Q& U: ?198
8 r* K9 j# s/ W+ H0 B1 k
206
4 E+ i7 i1 J# Q. d
8 N* v' W1 V2 K. g. X2 P" e204

5 T; J! \/ _; _1 p9 X218
1 d( q2 _/ m0 S4 H+ z; N8 l$ N) M4 p
220
' l# I+ q  i0 W0 r6 r
  q  O' V$ X( h. V204

( ~2 [& ?* t5 O3 x4 S' I220

216

. ~% z4 ~& _3 V% |' e" I! F9 |将收敛误差为7e-4的迭代次数画成图
6 w9 S9 X1 {" N$ @


再将移位距离S的曲线画成图



8 {' g" }! Q* |. M3 \' ]. C/ _在这组数据中s和n之间的反比关系依然存在。
( F! n5 l1 b4 `: g' {
- W) Y" Y' ?2 ]* j# A6 p# ~' G& N/ u& A移位距离假设

+ b$ P# l* c# d$ L- p1 e(A，B)---m*n*k---(1,0)(0,1)


) }. h% E& s' c0 ~* X
# ?6 w3 _0 u& K6 G% C$ f& [, h用神经网络分类A和B，把参与分类的A和B中的数字看作是组成A和B的粒子，分类的过程就是让A和B中的粒子互相交换位置，寻找最短移位路径的过程。而熵H与最短移位距离S成正比，迭代次数n与S成反比。

* T, s9 H) ]4 @+ F1 K0 o. U( @移位规则汇总
: J- a4 \  X1 p+ t5 v" t
移位距离就是等位点数值差的绝对值的和S=Σ|a-b|，如果训练集有多张图片取平均值，如果是多分类问题则移位距离为所有两两组合移位距离的和。

  _2 j% g) k% ]0 }4 }如对一组3*3的矩阵

8 Z- g# O& n) _- [

S=s0+s1+，…，+s8=|a0-b0|+|a1-b1|+,…,+|a8-b8|

如果是3分类问题，就应该实现3个形态之间的两两分类，也就是要完成3对等位点之间的差。

5 E5 c& ]8 W4 H5 f* R& H4 y
- n  c6 v( |2 T. |/ E
$ J  k2 x# Q/ c7 h# g, i+ ~# ]* {因此移位距离

- o! z& C4 b& T' a2 C# |S=Sab+Sac+Sbc=

9 r3 E  F1 T3 ^5 x1 P|a0-b0|+|a1-b1|+|a2-b2|+|a3-b3|+
) K+ G) f% d' G' H
3 S8 n: t$ {" O$ D2 s|a0-c0|+|a1-c1|+|a2-c2|+|a3-c3|+
% r$ p& f. h  x! ~: L) y
|b0-c0|+|b1-c1|+|b2-c2|+|b3-c3|
————————————————
. M& Y; b8 ?' }7 N$ E% t- P/ C版权声明：本文为CSDN博主「黑榆」的原创文章，遵循CC 4.0 BY-SA版权协议，转载请附上原文出处链接及本声明。
原文链接：https://blog.csdn.net/georgesale/article/details/126690670


0 |" m1 |' m3 ^% g