三分类网络的物理意义是什么?

杨利霞

三分类网络的物理意义是什么?
* S$ ^5 p: e+ F; O$ v8 N
用分类实现衰变
专栏收录该内容
; X2 i2 ]; |5 w; N0 d52 篇文章0 订阅
" c3 k8 S, A" L- E订阅专栏
- N6 D  v$ M6 k9 N2 w' \5 v(A，B)---m*n*k---(1,0)(0,1)

对于一个二分类网络可以将被分类的A和B分别理解为粒子和环境，因为粒子处于环境中。于是A和B之间的距离可以理解为0。因为t=s/v，则即便A和B之间的相互作用的速度小于光速，A和B之间仍然可以实现瞬时作用，并不违反理论。

, w& r; V+ G8 P, A3 |% i$ `( A, B, C )---m*n*k---( 1, 0, 0 )( 0, 1, 0 )( 0, 0, 1 )

# a+ }% Y% r4 i# t0 F对于一个三分类网络要完成3次形态的变换。A⇋B，A⇋C，B⇋C，每一次形态变换就是一次二分类，因此对于一个三分类网络可以理解为由3个二分类网络组成
( T5 v0 M, t; K* H$ g# G  k- P
(A，B)---m*n*k---(1,0)(0,1)
* d. Q* i7 M+ A& J( ?! o
8 J: ?5 h; F) R(A，C)---m*n*k---(1,0)(0,1)

(B，C)---m*n*k---(1,0)(0,1)

这就意味着存在3对瞬时作用，也就表明这3个粒子彼此之间的距离都是0.随着时间的推移网络的收敛误差会不断减小，而网络的分类准确率会不断变大。这个过程意味着A被错误的分成B和C的成分少了，同样B被错误的分成A和C，C被错误的分成A和B的成分也少了。

! L; Q! j' M9 r5 Q所以这个三分网络可以被解释为，3个距离为0的粒子不断的相互作用，随着时间的演化，最终变得越来越像自己。
" n# n4 t0 p2 X0 g2 U7 X% V  z
; h- {) J; d& Y; ?! {$ x而前面的实验表明相同收敛误差下，迭代次数取决于等位点差的绝对值的和，这次就继续验证这一猜测。

用的训练集是mnist的0，1，2，3，4，的第一张图片。用间隔取点的办法化成13*13.

( 0, 1, 2 )---169*30*3---( 1, 0, 0 )( 0, 1, 0 )( 0, 0, 1 )这个网络简记为0*1*2.就只有3张图片不断循环往复，直到收敛。共进行了10组得到数据

1*3*4
2 a2 t" B5 e% @' ^
! k: _( V. U9 i: Q% A7 X$ D  N2*3*4

6 U8 g4 j( W+ q. E0*3*4

3 E; r8 T2 v) E- y# E% S0*1*4
/ L% }) s& Q" {2 u0 ]# t" @
0*1*3

1*2*4

" j) p! R+ r6 B5 r0 Y) F1 j/ m2 t1*2*3
5 _( I1 c4 y; F: T+ |; c3 u% H8 t  k
/ c6 u6 A0 I6 W2 Y0*1*2

0*2*3

0*2*4
; I0 O4 C, }  _4 Q  ~" l/ ~
) p9 y: G. T! U; Y9 yδ
( e4 P$ F0 R3 r8 I
5 O- v5 I- `/ W# w6 t, Y迭代次数n
6 j6 T5 z; L: p* R) o
1 s& N, u! K7 N' I' r迭代次数n
2 P' x; k2 K. t. {: n
2 d& B& \. G, H4 o7 |9 N迭代次数n
7 R9 H' p7 a+ `- U
迭代次数n
" P( M( S  V6 P5 S* f4 U6 s/ m1 g
5 G; s4 b/ K: r; A+ \- k* `迭代次数n

迭代次数n

迭代次数n

迭代次数n
$ J( ^3 M* \, K' C, d
迭代次数n

迭代次数n

0.01
9 l9 K) L9 R1 D/ @; E
+ R1 f$ J7 d+ a# I1763.1809

$ D- `6 L0 H0 c4 }; R1626.5729
+ g- U7 v+ F+ W/ N9 A1 n, r" m; z8 N
3 ^7 B! M5 L* i5 J4 j; {0 D% Z1672.4523
# E# g0 y9 T3 M1 u+ w1 `; r7 z0 O
1635.9196

1596.7035

1620.407
1 \  v+ l6 B1 F/ l
1563.8945

  g' H0 W9 f, S, R  ^1444.2915
* e/ `* g- v" Z( Z5 l
- j5 y5 D% G1 @0 L1410.0302
7 b- s) _$ Z8 k8 i% L- Q
1465.4171
2 W% w/ Y/ ?) D4 Z( C2 E
0.001

" `" G' f5 W( c. T13065.196
+ O) ?5 n& B: X; ^' C0 F: J
12674.945

# ]. W' g' Z. g+ ?- ?! I" |( P+ G12747.729
4 T: I# P) R  `
5 s: S& m7 W3 ]12386.216

12349.02
" Q' y9 V, W# s9 {
  M; k3 B: T! m  J! U# c12282.201

12270.035

( f  S4 T9 P) q; i6 F11338.477
8 G' c# M9 r5 O/ }- ~2 a
5 t6 F. E( V% H% N* e10985.201

11015.503

9 g/ K/ h; l, h' }3 s7 D9.00E-04
/ m$ ~; @1 R; x
14352.452
0 x% E  l7 e; r3 h! a, s' @
1 _2 _  Y3 `9 C: Q" T# _14004.633
( Y' h6 v% x: b0 J# U* M
2 h$ E) \5 N% v& x; j' G14062.829
! O7 e. Q5 r2 C
13629.467
0 \2 x3 P! R5 M: m7 u  F$ Q
13613.362
! ]( [7 p1 T" p" n2 j: B! C
0 `: @& ]8 D0 S9 B& k6 ^13609.563

. F2 X& U. Z* n; G0 _0 E- |% R" C13530.322
0 e: F: R4 D) n! n: f8 m
12458.171
# j! b( J, l% r4 z' `0 P7 j2 g9 ]
% Y; l1 ?7 v# N8 l4 ^" d: E+ ^: B12176.362

12225.96

: t/ V! ?3 K) T8 m8 h3 U" [8.00E-04

16141.206

15611.101

' S8 n9 m8 ~- q3 f0 {15749.91
6 S' }( q$ N1 w3 ]9 M3 F
15264.98

! ]  ?$ C% ^/ M. V15228.447

15207.628

! c) l: S# F1 v4 F15053.714
( v1 ?- z7 F) s0 L1 L' Y
0 N7 Z, L! z# ^6 E1 T8 c14044.729

13530.397

: U2 j) l+ z+ ?13654.678

7.00E-04
  D, V' ?. f; T3 E7 c. ?& O
( e) _# `# m% @4 f18194.397
1 ?; B4 ?9 E' |2 p! e  f3 r
0 Y: e/ h# q; g3 t17760.638

17743.578
/ J2 G7 |0 h* X+ t
! w7 r. R/ y8 m17333.377
9 i( D9 F* a  h) d! [
17293.874

) i8 O/ c2 M  o17204.638

17058.809

; x3 g- y1 f- [" r15946.101

15491.266

15399.538

" `, ]5 F  S4 Z& @  ~+ Q$ E2 S# es
& p" s. |0 @  X/ y8 c
130

218

/ o7 T# s) S- a+ I" ^$ k198

206

+ D$ f! ]2 W3 n) P. m204
% w! M& E  }; Q7 p# K
" j; ~# s: @: g! v218
& D/ M; d+ Q5 l/ ?3 K
220

: n9 }9 T* i( G" |0 R: x& o204
6 M- M  [  T: m, P/ N
220
+ j  O1 f% {. l( H# B" [; [( I
216

将收敛误差为7e-4的迭代次数画成图


& l( Y" `# K+ a3 s7 f8 l5 g4 D
5 o6 w+ h1 M- S+ F1 J7 [再将移位距离S的曲线画成图


0 g0 Q. C& L: k" }! @
在这组数据中s和n之间的反比关系依然存在。

$ T5 @  \  Q0 Q9 i( X. B& P移位距离假设
' V) F' x) [( h4 Y
% g- S6 ^4 h% j- ~- ^8 O(A，B)---m*n*k---(1,0)(0,1)
6 p7 d  y) r, s# h) s6 ]* {2 u0 O


$ z, N6 v# k5 v$ o  M% Y2 y用神经网络分类A和B，把参与分类的A和B中的数字看作是组成A和B的粒子，分类的过程就是让A和B中的粒子互相交换位置，寻找最短移位路径的过程。而熵H与最短移位距离S成正比，迭代次数n与S成反比。

7 Q! s! l) {# G' |移位规则汇总

/ ~# d* q+ s, J$ I% L移位距离就是等位点数值差的绝对值的和S=Σ|a-b|，如果训练集有多张图片取平均值，如果是多分类问题则移位距离为所有两两组合移位距离的和。
; t" j4 G4 H( _
如对一组3*3的矩阵

, K; Z3 o/ u& h+ y; k# J
8 e4 l% A% A' ~. G7 ~9 z
' w3 ?( X& ?2 L8 }! n" ES=s0+s1+，…，+s8=|a0-b0|+|a1-b1|+,…,+|a8-b8|

如果是3分类问题，就应该实现3个形态之间的两两分类，也就是要完成3对等位点之间的差。

5 {' t' n7 k' G* V1 g6 |

1 {/ I; X2 O) m/ b; x7 I因此移位距离
: H8 }2 z' s; n4 b6 C* ]7 x0 J. T* N
S=Sab+Sac+Sbc=

|a0-b0|+|a1-b1|+|a2-b2|+|a3-b3|+

|a0-c0|+|a1-c1|+|a2-c2|+|a3-c3|+

' F, n. d1 R% P  R- h|b0-c0|+|b1-c1|+|b2-c2|+|b3-c3|
5 A4 k7 A( I$ A$ l————————————————
% v  j8 ]" @6 x7 k3 v' @" [' D2 W版权声明：本文为CSDN博主「黑榆」的原创文章，遵循CC 4.0 BY-SA版权协议，转载请附上原文出处链接及本声明。
+ u0 d2 c7 W" l* I9 [9 R5 |原文链接：https://blog.csdn.net/georgesale/article/details/126690670

3 d& g& v4 l( ]% w0 ^
/ f# P% z( Z: B# w; X