三分类网络的物理意义是什么?

杨利霞

三分类网络的物理意义是什么?
! y" E$ b9 h+ A1 E7 \% u) I
用分类实现衰变
专栏收录该内容
52 篇文章0 订阅
订阅专栏
(A，B)---m*n*k---(1,0)(0,1)

对于一个二分类网络可以将被分类的A和B分别理解为粒子和环境，因为粒子处于环境中。于是A和B之间的距离可以理解为0。因为t=s/v，则即便A和B之间的相互作用的速度小于光速，A和B之间仍然可以实现瞬时作用，并不违反理论。
# @2 }* F% l: o. X+ g
( A, B, C )---m*n*k---( 1, 0, 0 )( 0, 1, 0 )( 0, 0, 1 )
: m  A) T. m; q+ C8 K# k. ^# C3 \
对于一个三分类网络要完成3次形态的变换。A⇋B，A⇋C，B⇋C，每一次形态变换就是一次二分类，因此对于一个三分类网络可以理解为由3个二分类网络组成
9 S4 ]$ F' g) O
9 \9 E# {; @' F. s5 y% Y(A，B)---m*n*k---(1,0)(0,1)
# o( T- X, M" D; ?6 Y
(A，C)---m*n*k---(1,0)(0,1)

(B，C)---m*n*k---(1,0)(0,1)
6 w/ ]2 @+ o7 |/ n% O
$ m7 S8 H1 A' V: D 这就意味着存在3对瞬时作用，也就表明这3个粒子彼此之间的距离都是0.随着时间的推移网络的收敛误差会不断减小，而网络的分类准确率会不断变大。这个过程意味着A被错误的分成B和C的成分少了，同样B被错误的分成A和C，C被错误的分成A和B的成分也少了。
4 N9 r+ G3 r) @8 T) O
所以这个三分网络可以被解释为，3个距离为0的粒子不断的相互作用，随着时间的演化，最终变得越来越像自己。

而前面的实验表明相同收敛误差下，迭代次数取决于等位点差的绝对值的和，这次就继续验证这一猜测。

1 k, P( k: T+ J+ q/ w用的训练集是mnist的0，1，2，3，4，的第一张图片。用间隔取点的办法化成13*13.
& N' _. M( s4 g4 i
( 0, 1, 2 )---169*30*3---( 1, 0, 0 )( 0, 1, 0 )( 0, 0, 1 )这个网络简记为0*1*2.就只有3张图片不断循环往复，直到收敛。共进行了10组得到数据
+ k2 T1 u; t. i7 B3 c- L
; ]2 H: r0 c$ s1*3*4

; d6 J9 t6 G& Y+ p" k6 t- I' \2*3*4
$ T1 M; v. V8 E7 P' V; T
0*3*4

2 s( u$ V) n; J$ f# A6 r4 w4 C0 m0*1*4
2 F" J7 D" t7 k& A# E
0*1*3

1*2*4
7 z0 U/ j2 P. T1 I4 H# K: k
1*2*3
& d% Y/ k$ a$ b: f
) }' m" ?* `" T' |4 F0*1*2

0*2*3

0*2*4
. V# h: K* w; d$ N$ f9 Z; U
+ y. X9 l2 _4 E; P: Sδ

7 V3 W1 X# ?2 |9 i迭代次数n
: ^6 _0 e/ h# q7 l' l) M+ x
迭代次数n
5 H( Y) Z  m  q) c; w7 j
; h2 g1 s# S2 g* s迭代次数n
+ a; q! L* R) r7 s9 ?
迭代次数n

) V: x8 a3 E) ~% [/ D迭代次数n

8 K" {7 m5 q% i- y. P迭代次数n
( t% a/ R" a6 c+ B
: J2 s/ M+ |7 W: Z: m: O7 r迭代次数n

. n- h5 |! j. z( Y8 o- l迭代次数n
  q# M  b7 }4 v' i- K! B- A6 ^
迭代次数n

% t. z1 W. t1 l5 U) {" U迭代次数n
" S; a3 a* z" c" t! P  [
0.01
/ E; b( ?! i, A3 K$ P
1763.1809

0 x" p( @% L0 d+ _1626.5729
& A- C4 a1 H7 u& {/ k
1672.4523

+ n: Z7 n  y/ M- T* t* D1635.9196
/ G2 ~8 d* O8 n* n
; d) Y: g3 z$ }$ v. h" P1596.7035

1620.407

+ m9 [% u: R# c1563.8945
+ k" D) S# `6 C9 a* Y* S
* _) F: S# H* H) d! R$ G1444.2915
7 f* ~7 v* \3 R  f8 g2 P
1410.0302

. G" A! \4 l  a1465.4171
0 B/ r) p# @6 A) h7 J9 }
0.001
3 j4 u: [! Y5 c7 l0 T! L, Q
' J. p5 S) z4 w7 O' O13065.196
' o( g6 h; b) _/ m' E6 l: W5 n
12674.945
  k9 c+ Z6 ]* S
12747.729

( K/ W! [( Q- D- b% n: ^" ]$ o; g12386.216
6 g3 }9 j- F, R6 v( b7 J2 c
12349.02
" r+ R+ L7 P3 |1 @
9 F' V  Y4 h* w/ W. w12282.201
1 T3 w4 u$ a$ X4 ^
2 ^5 C4 b9 ?$ m12270.035

11338.477

2 L' M0 S! y6 b. U10985.201

7 {: p+ t5 z9 z6 ^- m# A% K3 z11015.503

9.00E-04

14352.452
/ W/ e6 f: T/ P+ _  V
14004.633
" S9 w% s0 I) g4 n$ X
14062.829

# h$ o- s5 @0 o# V- y13629.467

13613.362

; d- y" d3 F7 p  F" U" v13609.563
8 f' @! _" G( U  B( t
- J& g3 A. r; \% S; t, g$ k13530.322

12458.171

12176.362
: j! G3 d1 I3 _$ y4 C
! ^( V7 c/ N$ O( X' I12225.96
( y' i: E1 _0 y" w
3 ^, {' o" F' w; K6 |& b  c4 a8.00E-04

/ f6 F& X( H. t16141.206

15611.101

1 z. D! i& U& R( @$ a: D7 [3 E, b15749.91
6 t9 y. A. @; y' l4 L9 l5 L
15264.98
2 d! C# D( E$ r- |, W' @/ J2 _
! U" S4 w! k* n' A' e15228.447
! \/ o. K: @( o  [, T0 D" Q
15207.628
9 m* G- f% m' x4 I
9 q' E% H5 j. ^) k15053.714

14044.729
9 k, `' Q  `4 f
13530.397
- [( E7 {6 g& m- m' U% a, d- s
13654.678

7.00E-04

18194.397
( Q, U( |4 x1 Q
17760.638
4 }1 _4 V! Y- \& h2 {( ?+ ?( y4 w% ?
5 N$ m0 L3 N2 o5 @/ i! ^- @17743.578
% t3 {  G* P& t% R$ u" h
& b0 Z# S6 ^, Z17333.377
2 y# Q8 U4 ]( ~5 |* ?6 I+ r: k' B
3 c; T$ p) Y; i17293.874
3 G2 }7 {/ M# @$ h7 R' I
  r; S6 R* d/ _0 a9 [, y* ^2 X17204.638

$ d+ P8 k: v9 x- u( I: h; I$ A7 C  h17058.809

15946.101

- z) T$ N/ z) [  \' c: F9 n, V( G15491.266
" p% s  u6 E+ ^! m7 e+ ?* q
15399.538

s
( A# U  T' R- e! F& \8 N
4 {$ [( ?/ @% E' Y0 c3 n130

218

) g6 D- H* e7 n, q198

- D" H. d. y) `2 Y" }206

, v6 }; C$ f, @! L3 K% `% `. a204
# z4 J' h' ?6 R4 v1 |# x8 I+ Q
' v. t+ C# [% h# U1 x# t218

; e$ y7 R  f0 b) O" {3 S220

# G! w  ?9 I% T- Y3 V% F+ E4 l204
  n+ W9 r. f0 D. z) ]* f& K# m
. {0 f2 e/ o0 M6 M) \' ^9 J- W220

6 W0 }1 {( \; I6 I0 k0 z4 n216
  Y7 u8 x9 S7 y# X
* _7 x$ R; H3 E" y* a2 n: I1 a将收敛误差为7e-4的迭代次数画成图
; d" a2 X* N$ X' c

2 u3 r! a+ X4 u4 N* w- o% v1 E
再将移位距离S的曲线画成图

8 s% u. p7 {" J9 S

在这组数据中s和n之间的反比关系依然存在。
0 r$ y9 T. N- ]# P8 x  w
移位距离假设
' H% U; O( |6 }3 q7 Y) i  ]
  m/ O; ~' e/ z( I4 O(A，B)---m*n*k---(1,0)(0,1)

5 C! y% d9 ^1 s" q8 Q

* S+ Q  E: z( E用神经网络分类A和B，把参与分类的A和B中的数字看作是组成A和B的粒子，分类的过程就是让A和B中的粒子互相交换位置，寻找最短移位路径的过程。而熵H与最短移位距离S成正比，迭代次数n与S成反比。

/ {: I. B# e# x2 s, {移位规则汇总

! B3 c+ n! B8 n/ q$ R6 Y1 Q: I' B移位距离就是等位点数值差的绝对值的和S=Σ|a-b|，如果训练集有多张图片取平均值，如果是多分类问题则移位距离为所有两两组合移位距离的和。

% i; O  K3 g' A如对一组3*3的矩阵

, y1 o& P* j1 s

2 U  a! O1 w) q5 L- @5 I$ IS=s0+s1+，…，+s8=|a0-b0|+|a1-b1|+,…,+|a8-b8|
+ R! }( ]4 K7 V$ Y2 g# x4 }4 a1 d- k
( E9 W6 H- p/ t7 I如果是3分类问题，就应该实现3个形态之间的两两分类，也就是要完成3对等位点之间的差。

$ W( W2 m2 \8 E% J% j

因此移位距离
, ~! u0 r7 i- D# T
' q, C) j1 {. i& ~S=Sab+Sac+Sbc=
) q$ s; {# c1 z, k
|a0-b0|+|a1-b1|+|a2-b2|+|a3-b3|+

|a0-c0|+|a1-c1|+|a2-c2|+|a3-c3|+
0 i: @* r5 q" l! ^3 x9 @
/ O( z8 j+ p- _- h* q7 G1 K( i|b0-c0|+|b1-c1|+|b2-c2|+|b3-c3|
7 U- j: b& n( ?' n————————————————
3 Y% q% \6 ^3 \6 A* `2 Z版权声明：本文为CSDN博主「黑榆」的原创文章，遵循CC 4.0 BY-SA版权协议，转载请附上原文出处链接及本声明。
  F# ~& {2 l2 ?8 H0 a) |; m* O原文链接：https://blog.csdn.net/georgesale/article/details/126690670

, @: ~5 T/ q* v0 ]
" ]. X" p$ I: d0 ]7 C4 e