三分类网络的物理意义是什么?

杨利霞

三分类网络的物理意义是什么?
; @2 Z& d' E5 S
用分类实现衰变
专栏收录该内容
52 篇文章0 订阅
* v9 U" k7 [# _( F5 t8 g4 O; I* W订阅专栏
(A，B)---m*n*k---(1,0)(0,1)

对于一个二分类网络可以将被分类的A和B分别理解为粒子和环境，因为粒子处于环境中。于是A和B之间的距离可以理解为0。因为t=s/v，则即便A和B之间的相互作用的速度小于光速，A和B之间仍然可以实现瞬时作用，并不违反理论。
- U( h4 J+ L) s0 c
( A, B, C )---m*n*k---( 1, 0, 0 )( 0, 1, 0 )( 0, 0, 1 )
/ j6 H1 E8 Y8 P$ B1 ]! R. B! m
! y4 C7 P1 O( `' p7 L对于一个三分类网络要完成3次形态的变换。A⇋B，A⇋C，B⇋C，每一次形态变换就是一次二分类，因此对于一个三分类网络可以理解为由3个二分类网络组成

(A，B)---m*n*k---(1,0)(0,1)
. l) w  I1 w. p7 b( |& f# \8 e) }& |
(A，C)---m*n*k---(1,0)(0,1)

(B，C)---m*n*k---(1,0)(0,1)

这就意味着存在3对瞬时作用，也就表明这3个粒子彼此之间的距离都是0.随着时间的推移网络的收敛误差会不断减小，而网络的分类准确率会不断变大。这个过程意味着A被错误的分成B和C的成分少了，同样B被错误的分成A和C，C被错误的分成A和B的成分也少了。
+ d% y2 l4 R2 z* p0 t8 t. n
9 {& ?6 g' Z' c8 B" }8 O所以这个三分网络可以被解释为，3个距离为0的粒子不断的相互作用，随着时间的演化，最终变得越来越像自己。
3 `9 a2 K+ P  F% z
+ l+ F3 A; @- @8 _# _1 Z而前面的实验表明相同收敛误差下，迭代次数取决于等位点差的绝对值的和，这次就继续验证这一猜测。
* O, @( S' Q  Y) O! k
7 B, z* O* _- U; G1 e! L用的训练集是mnist的0，1，2，3，4，的第一张图片。用间隔取点的办法化成13*13.

( 0, 1, 2 )---169*30*3---( 1, 0, 0 )( 0, 1, 0 )( 0, 0, 1 )这个网络简记为0*1*2.就只有3张图片不断循环往复，直到收敛。共进行了10组得到数据
0 m3 p: r5 t8 o
1*3*4

2*3*4

/ Y' v0 x. Y% |" A( @: [0*3*4

& x5 ~& P. l: u* D( {+ G0*1*4
# L, z4 N; J! |/ u4 M
0 G: w# x! _9 i& ]0*1*3

: k. c' a# }) ]; z  x/ Z1*2*4
8 P6 {+ l; x5 R! J5 c, ^9 J
1*2*3

. q: g" x& ~5 T- d0*1*2
5 ~9 }7 v7 K1 P! F& Z( b
0*2*3
- u( t1 F. l9 K0 P# J( r
1 h0 K- L# g* D; t+ j9 D7 a. s3 R0*2*4
. h) G/ m+ d( T- L
! G. B, }5 t( z% h  Hδ

迭代次数n
) x8 P  V! R% I9 X: D7 N
迭代次数n

迭代次数n

6 x, P& s# \; ~: P迭代次数n
: w! y/ L. K, ^' v. H. P
迭代次数n

1 E- I# g+ I6 C迭代次数n

迭代次数n

8 n. B2 N3 t; v  a  q% n/ ]迭代次数n

' R# p3 a7 f( |8 j迭代次数n

0 P% U- k( T9 e2 Q6 x6 b9 X迭代次数n

0.01
1 J5 r% e! K: }3 U4 t
1763.1809
7 _" ]( q% o8 U- U
1626.5729
( O6 a$ O" H( ~8 U, ~6 z' V6 r- Y
1672.4523
- \* h8 k$ T3 m# [1 ~/ V* I. f
) N0 f2 s+ |+ D: O1635.9196

1596.7035

1620.407
; }, P  U* a# B2 m
0 T# ^( ^4 |; j* i1563.8945
% b7 ?8 @% z) p% n7 c
+ w4 e% ~+ A, ]! r1444.2915

1410.0302
) _+ E1 v8 j1 d, n+ P
1465.4171
- l8 V/ c) b5 r* q: g3 z
7 E2 v( G8 t' \( v. i; ?0.001
1 i9 ^1 T# E" o1 R
5 R) Q) Y' O. I2 T: P' p13065.196
6 Y# A$ W5 {0 u9 l: o! G! Y! Q* k
12674.945
2 ^  x7 I4 H2 Z9 L' P
12747.729

12386.216

12349.02

3 a( t% g% x; A+ {! q1 y* `12282.201

12270.035
6 f! K  n# U5 C
* O) v7 w* o" Q5 x& B9 v; d$ X11338.477

- T1 L" b& D4 ~9 b5 z& j10985.201
, s2 l' A+ h2 q* v
11015.503
. m8 i; m2 d  S  z3 h
. w9 }4 M% a/ `* W! `9.00E-04
% c# ?& Q5 `! _7 X6 s6 }
  @& E1 @0 U0 Y/ Z14352.452
7 ^/ @* ^, O/ A2 I- W% I
14004.633

* v* k) o  ^: r+ d! B14062.829
0 y% m7 I# X$ H+ }5 Q
13629.467
) ~( }' O- a9 R  R! N9 H
13613.362
) O) g7 |$ w3 `) r
! W. D0 f8 v5 K; L13609.563
/ P8 H- N) F5 g+ E
' S* H  n5 b, f# X3 I13530.322
) j$ }  o$ D4 s3 j# C3 D8 d7 ]
/ e- ?* B: }* C) [9 T5 N12458.171

12176.362
5 u$ ^, x* t& U* Z* y' E" A9 {
12225.96

( c$ [) x8 p. a% Z( ?* K: I8.00E-04
8 @: B+ r0 B2 h6 }. H/ c
6 q, e: B& d, @# @16141.206
( C2 D1 W( ^1 C% z% z
15611.101

15749.91

15264.98
( N" ^' M2 N/ z8 V) z
8 K* m! P4 Y( f$ s  Q15228.447

15207.628

15053.714
  C- m5 {. x& r1 W' d1 ?/ U
14044.729
% Y" ]/ k  d- ~
. u& }# L; V- A13530.397

13654.678

! M3 p& q% a+ e, B; o/ _% `7.00E-04

18194.397
( F' X" ]! O+ |; d1 d& F# k. |2 y: x
+ W. ^0 k/ w: J: d* N/ Y5 O. O( p17760.638

, n$ D- g' l4 K" I17743.578

0 F3 q5 e% g" F$ t# B8 _! z; H17333.377
$ H" o2 R/ h  K9 Y+ d2 X6 I, c
17293.874

; g/ A- f5 L% ?+ ]; H17204.638
  K# v/ b5 D8 z
17058.809
: t% a  L9 L4 ]/ x( k4 |
, Q# `: I: D& P# h15946.101
6 a7 H( I2 `3 {1 K% U# R
$ }5 p* J0 [/ [5 ^15491.266
! M8 _) j+ J8 \: i4 J: \
15399.538
/ p5 i0 }3 x4 v& L" p" c- _
$ D1 J* K6 X% S- x! h! X6 ps

130
6 T4 X* t" t% `: a2 E: t
218
# X+ D6 T  _7 z( Y" ?
1 _4 n  x) |6 B3 V) P2 h, t! N198

: j5 |; Q. x0 r) n: L0 O0 [206

204
3 \2 Y! S6 h  l- H$ }! ]8 z6 C% f
' f9 x* _) R/ z7 ?! C6 r7 t218

+ O! [- V2 {- P! _220
% h9 ?6 ?" }$ Z2 h( _
3 Z% L; y& Q2 ~. h! F' T, Y9 [204

220
# `* ]; T4 x- C1 ^" h) Q7 o
216
) {- a( _* w; h
将收敛误差为7e-4的迭代次数画成图
5 @% P0 J0 U) o1 N" w


3 a* r3 F% t5 x1 i9 b再将移位距离S的曲线画成图

% i* N  M6 d  g$ [7 @
2 |0 F! c. V$ \) J8 S! R: _
  ]# j  l: k$ q) U( F7 x5 \在这组数据中s和n之间的反比关系依然存在。
" ^0 ?) ^/ z- l
移位距离假设

(A，B)---m*n*k---(1,0)(0,1)



用神经网络分类A和B，把参与分类的A和B中的数字看作是组成A和B的粒子，分类的过程就是让A和B中的粒子互相交换位置，寻找最短移位路径的过程。而熵H与最短移位距离S成正比，迭代次数n与S成反比。

移位规则汇总
3 V4 L' A, g4 j
0 g+ A! X& n- W5 r9 ~& U5 n移位距离就是等位点数值差的绝对值的和S=Σ|a-b|，如果训练集有多张图片取平均值，如果是多分类问题则移位距离为所有两两组合移位距离的和。

如对一组3*3的矩阵

9 M; e5 L* B0 d+ Q1 {& V

; L( M1 F+ X, j; t5 B# d8 wS=s0+s1+，…，+s8=|a0-b0|+|a1-b1|+,…,+|a8-b8|
, X/ Z" w0 v- T  f# [  o" q2 I
( R+ b' a/ A+ |8 _+ y如果是3分类问题，就应该实现3个形态之间的两两分类，也就是要完成3对等位点之间的差。

, k& ]) |' T( I$ ^# X0 n( `
8 F6 m6 ~8 A- Y0 d& F' }0 _! M
因此移位距离
0 @0 p0 L' o4 d* W& A2 ]- h4 o) A
1 b3 `- i5 P$ s6 t7 vS=Sab+Sac+Sbc=

; l5 K! h. s) g! E|a0-b0|+|a1-b1|+|a2-b2|+|a3-b3|+

|a0-c0|+|a1-c1|+|a2-c2|+|a3-c3|+
4 l$ T3 o; ]! l: f9 t7 b: m7 u
9 ^6 M/ `( `/ P$ i" k- O$ m|b0-c0|+|b1-c1|+|b2-c2|+|b3-c3|
————————————————
版权声明：本文为CSDN博主「黑榆」的原创文章，遵循CC 4.0 BY-SA版权协议，转载请附上原文出处链接及本声明。
原文链接：https://blog.csdn.net/georgesale/article/details/126690670

" o( {! T% v: H, a  F
  `+ P% I: v9 H2 r' X: @4 |