三分类网络的物理意义是什么?

杨利霞

三分类网络的物理意义是什么?

1 G. h# N. O' T' p用分类实现衰变
专栏收录该内容
9 e. p/ \3 k6 X1 W9 j) y* S52 篇文章0 订阅
6 N# z# d) Z  M1 O" }- M5 _/ D订阅专栏
(A，B)---m*n*k---(1,0)(0,1)
9 C2 @6 H$ }, m$ I9 z2 g* {
对于一个二分类网络可以将被分类的A和B分别理解为粒子和环境，因为粒子处于环境中。于是A和B之间的距离可以理解为0。因为t=s/v，则即便A和B之间的相互作用的速度小于光速，A和B之间仍然可以实现瞬时作用，并不违反理论。

6 ^. P3 z" O, ?5 Z( A, B, C )---m*n*k---( 1, 0, 0 )( 0, 1, 0 )( 0, 0, 1 )
/ ~* O: s" w% }: j7 m
  C" O( E4 ]: ?5 y' z0 `1 Q9 r& ]对于一个三分类网络要完成3次形态的变换。A⇋B，A⇋C，B⇋C，每一次形态变换就是一次二分类，因此对于一个三分类网络可以理解为由3个二分类网络组成
. s  J+ n4 {2 D1 S
6 k5 w+ `' p3 A. Y(A，B)---m*n*k---(1,0)(0,1)

(A，C)---m*n*k---(1,0)(0,1)
! C% F7 l1 Y  o/ o2 G( W  R' E
  T5 g2 h3 d3 `0 b2 J(B，C)---m*n*k---(1,0)(0,1)

这就意味着存在3对瞬时作用，也就表明这3个粒子彼此之间的距离都是0.随着时间的推移网络的收敛误差会不断减小，而网络的分类准确率会不断变大。这个过程意味着A被错误的分成B和C的成分少了，同样B被错误的分成A和C，C被错误的分成A和B的成分也少了。

所以这个三分网络可以被解释为，3个距离为0的粒子不断的相互作用，随着时间的演化，最终变得越来越像自己。
% V8 Z; B3 C7 |+ u
& m: E) L8 ^6 d$ M- S$ R% n8 y5 ~而前面的实验表明相同收敛误差下，迭代次数取决于等位点差的绝对值的和，这次就继续验证这一猜测。

9 l- k9 K7 N3 b6 f, q用的训练集是mnist的0，1，2，3，4，的第一张图片。用间隔取点的办法化成13*13.
/ k+ p2 x( l: ]9 S/ L/ @: u- I
( 0, 1, 2 )---169*30*3---( 1, 0, 0 )( 0, 1, 0 )( 0, 0, 1 )这个网络简记为0*1*2.就只有3张图片不断循环往复，直到收敛。共进行了10组得到数据
6 N& ^5 X( q( `' O5 o9 @
" ~4 u- ~  o: u0 l9 r+ l; L4 X" s1*3*4

$ ?: C8 G9 ?, r7 W+ \2*3*4
9 F" r5 N5 U2 ~& }: Z
) ?8 ~1 o7 u  V. a0*3*4

0*1*4
6 B( o5 H& I, A! M3 i
0*1*3
# W, S% A( p: `) U0 l" Y2 O
1*2*4
2 ^$ B# q& O, p7 r$ F" a$ Y5 J
" Z# ^- G2 C; j1*2*3

0*1*2

0*2*3
5 X' `: O* F9 z
# N  R  J& l5 t! x) Q. \0*2*4
6 x7 Z% O$ N: q  I- w
δ

' ^% f* l& t0 v1 k$ t迭代次数n
' m6 k8 M& }9 Z# M, {, t  f. m
/ h& @. r3 @% c5 f4 ]. B迭代次数n
$ L, `# ]8 e' c4 h
; @5 ?* s0 Z3 E8 ?( @# C. R迭代次数n

迭代次数n
3 w7 i( W& ~! X9 q! V
迭代次数n
* y; ~7 @' ^' m: W/ l: L
迭代次数n

迭代次数n
, N/ Z8 R9 n9 ]6 O% z
- `9 E/ n  d. q  ~, n9 H2 J  l迭代次数n
- x% D. f( T' y3 z3 J
迭代次数n

) G% \( T3 R# C1 n1 p迭代次数n

0.01

1763.1809
6 {; i* _5 ]: X
1626.5729
( ], @3 w% N: c% @" ~
1672.4523

" j; R2 V. b2 @& }4 n/ T5 X1635.9196
' ]8 `0 O2 A# l( E- N* {
6 P/ \; i5 X3 O0 {" j$ ^1596.7035
# \: F( K) V6 c7 C* y, u3 h8 \, o
6 N# J# u* I5 z- `0 C6 c% P1620.407

1563.8945

1444.2915

1410.0302

( W; y. F0 `8 s- u6 h1465.4171

0.001
+ ^% b* ^: U0 d0 j6 D# K5 C2 [
13065.196
4 Z# \& x# @8 @5 J6 i9 o
6 p0 W1 y4 D8 c12674.945

$ T* F3 R, A# |# v12747.729

/ \& T5 l) N: S- ^12386.216

0 `' Y  F( g7 j5 F+ }' B/ O12349.02
% }$ J  _1 c* W+ F# _3 q# D: r+ Z6 Q
5 S4 E% c! I5 c12282.201
; z+ C/ Q$ k4 l6 h
$ W3 _/ ?9 X% C# v12270.035

1 H- v; e5 t- R6 k11338.477

10985.201

11015.503

9.00E-04

# g+ H# E2 D) ~  k4 Q14352.452
6 U/ z3 D3 N% X* G8 U1 q1 q* O& c
8 ]2 _" c9 p; [2 N0 y14004.633
/ d% y- E6 ^0 O. K* A, e
9 M- D! f) e; S- ?* [) F+ q14062.829

13629.467
8 n3 I) K% S: J( s8 U$ Z% N
13613.362

; f4 n7 L, ^  f13609.563
2 S8 L$ F3 {# O  k) G
13530.322

$ N- ~, k4 _  L. z, @$ A12458.171
: W. A, Y& w) F% K  N+ h
12176.362
4 ~% l4 K  K; Y) z
5 t' y( g/ J# @' @; n+ D12225.96
3 u0 G# a8 c8 v5 d/ z2 Y; j3 _0 z
" n$ b$ X3 [' _  O" G8.00E-04

; h5 d! u: p2 y- C- v. V16141.206
7 r3 W) K4 e8 l; _3 ?2 z6 _' L" n
15611.101

15749.91

# f3 z) f3 y; ^( k( c2 p15264.98

15228.447
0 t* m; c6 V+ y9 b- o
" s' f  q- G1 o* Y0 Q7 X- c9 A9 T$ B15207.628
: W- d  u1 R2 q4 ~& q! N
15053.714
- {. L; J! n% ~# c7 s& L% f9 ~& u
14044.729

3 t$ N8 b! X+ V3 f5 P: o- X13530.397

% {# t8 r; P' [* p' w/ g13654.678
2 p2 F' Q% R6 c: n
7.00E-04

" b4 A  z4 s. Q. m% y( F( l18194.397

17760.638

' R- h$ q. [( }& O17743.578
4 z  v8 t$ N" e. p% n: ^5 p
; s( |4 E, |8 v5 B0 `# F0 S17333.377

17293.874

/ Z4 @% X, d3 ]9 S& }5 Z& M17204.638
* D# a# U( j6 u( m- B9 v1 H
17058.809
3 H: ~' g( X4 z% x0 n
, y# j) A6 }2 A3 H) k; s" p, M) @15946.101
( Y0 [; y1 Z$ \2 x
15491.266
" m: |, M" \! z$ Z8 W3 U6 C
- e$ G( O' H. O' e15399.538

2 r6 B4 R; W- F+ _4 ?  H- B1 as

130

218

198
  J' V2 P( X" d! m! T. }+ H& p
0 ]: j! K5 U4 F, h0 j$ w( w8 c206

204
& S6 I( _6 i$ L1 c! _
, J& p) l. j5 c7 ^  h: v4 J8 o% B218

+ w* @$ |, f! o! T3 t) o' d& w220

204
* r: Q, j  x7 i  N9 H
220
, l$ a# X8 T9 J% K/ N
216

将收敛误差为7e-4的迭代次数画成图
  _6 o4 z6 R9 }9 j9 m! n


再将移位距离S的曲线画成图
5 r0 b5 f' d1 F" }: C

0 m" a9 R  j& _. _+ n
1 o6 D* j" T3 _- d3 P: R/ B0 F0 u在这组数据中s和n之间的反比关系依然存在。
& I6 x2 V9 W1 w* K
移位距离假设
; K, ?8 P3 S/ r, x/ e3 Q
* M5 z. }; Q5 ], s(A，B)---m*n*k---(1,0)(0,1)


* W" J" W0 @0 P0 H
8 s& o( q: O( e  C用神经网络分类A和B，把参与分类的A和B中的数字看作是组成A和B的粒子，分类的过程就是让A和B中的粒子互相交换位置，寻找最短移位路径的过程。而熵H与最短移位距离S成正比，迭代次数n与S成反比。

移位规则汇总
& N3 j* L7 S4 ~; g" Q- c5 Q, D
& Z5 \; x! ?4 _2 o- |: M移位距离就是等位点数值差的绝对值的和S=Σ|a-b|，如果训练集有多张图片取平均值，如果是多分类问题则移位距离为所有两两组合移位距离的和。

3 \1 D. y% L) J' l5 U: ~0 U如对一组3*3的矩阵
. X" \# c: x7 p
. H& @* W9 I( |5 L( u2 O
1 X/ d, x4 c/ z  D# y
: ]  `" p. E9 @  rS=s0+s1+，…，+s8=|a0-b0|+|a1-b1|+,…,+|a8-b8|
( v# r. t" _$ ]/ q- }( j
如果是3分类问题，就应该实现3个形态之间的两两分类，也就是要完成3对等位点之间的差。
0 h. N1 q5 }0 l' _4 }% r
- E- E0 `& Z  B- T7 c/ F
7 B! @. F% h$ e5 d
因此移位距离
% J% x; \& Y" a' p
S=Sab+Sac+Sbc=

|a0-b0|+|a1-b1|+|a2-b2|+|a3-b3|+

, z+ P8 ^7 G0 ?4 N8 y, A" f" O+ c|a0-c0|+|a1-c1|+|a2-c2|+|a3-c3|+
+ `  B) ]9 E* y  |) n9 c
, }7 y9 }$ c( H4 Q1 h3 X$ `; ^|b0-c0|+|b1-c1|+|b2-c2|+|b3-c3|
————————————————
) @/ A, k7 {/ |( p% B; a+ w' g版权声明：本文为CSDN博主「黑榆」的原创文章，遵循CC 4.0 BY-SA版权协议，转载请附上原文出处链接及本声明。
/ y/ T* ~5 q* I原文链接：https://blog.csdn.net/georgesale/article/details/126690670
- N4 L, P4 L; g; V9 u. b/ u
/ q/ F4 `+ E4 {" q' {
& G/ q" \& R$ h+ Y, I+ u6 d