三分类网络的物理意义是什么?

杨利霞

三分类网络的物理意义是什么?
+ O8 M& i. r8 A; f( n+ A

( G" l7 X  T- ^(A，B)---m*n*k---(1,0)(0,1)

7 j3 F  I8 A2 {$ Y对于一个二分类网络可以将被分类的A和B分别理解为粒子和环境，因为粒子处于环境中。于是A和B之间的距离可以理解为0。因为t=s/v，则即便A和B之间的相互作用的速度小于光速，A和B之间仍然可以实现瞬时作用，并不违反理论。
: h: m7 Z( d* |- a$ A, u
( A, B, C )---m*n*k---( 1, 0, 0 )( 0, 1, 0 )( 0, 0, 1 )

  u/ q) B9 ^7 \! j; R4 z8 R对于一个三分类网络要完成3次形态的变换。A⇋B，A⇋C，B⇋C，每一次形态变换就是一次二分类，因此对于一个三分类网络可以理解为由3个二分类网络组成

( X, ?( U$ o9 G9 T- A(A，B)---m*n*k---(1,0)(0,1)
; ^  Q9 J+ X; j& m( J; i/ u6 N
(A，C)---m*n*k---(1,0)(0,1)

1 W: i7 N5 |' i* A; i+ L/ R, q% T(B，C)---m*n*k---(1,0)(0,1)
" Y9 \9 }" {  p: ^, r  m
这就意味着存在3对瞬时作用，也就表明这3个粒子彼此之间的距离都是0.随着时间的推移网络的收敛误差会不断减小，而网络的分类准确率会不断变大。这个过程意味着A被错误的分成B和C的成分少了，同样B被错误的分成A和C，C被错误的分成A和B的成分也少了。

所以这个三分网络可以被解释为，3个距离为0的粒子不断的相互作用，随着时间的演化，最终变得越来越像自己。

1 k+ E7 e1 F  }9 H) j4 O7 r, h而前面的实验表明相同收敛误差下，迭代次数取决于等位点差的绝对值的和，这次就继续验证这一猜测。
+ E( Y) f6 k! u8 {' d& B
8 `3 R& T- F" h: O用的训练集是mnist的0，1，2，3，4，的第一张图片。用间隔取点的办法化成13*13.

( 0, 1, 2 )---169*30*3---( 1, 0, 0 )( 0, 1, 0 )( 0, 0, 1 )这个网络简记为0*1*2.就只有3张图片不断循环往复，直到收敛。共进行了10组得到数据

' l8 r% I" j8 A1*3*4

( e& Q1 K) E: B( Q: R2*3*4
1 \3 s% R* f1 x* q3 J8 W. j
0*3*4
' B. c$ ^! |. C0 w
0*1*4

- h0 Z( B( X4 `% ^0*1*3
3 D! r1 M1 Y5 K9 [* d' [7 G* K
5 Y5 N6 t- o+ w8 b( ^8 G1*2*4
/ G' S7 z/ k1 V# E) Q. ~
1*2*3

0*1*2

0*2*3

' K* _0 `* z0 l% S& _) w; r; R0*2*4
8 L3 S" q5 @9 k. T" E1 V
δ
: c3 H$ R+ @4 D' g
迭代次数n

迭代次数n
5 N  D+ l) d* `+ g  k5 p" h
/ z& z5 S- u# h+ \, _5 b% F迭代次数n
0 R% e* v+ s/ ]9 `
5 _: e) W& r7 a迭代次数n

迭代次数n
" G7 Z, V1 U0 A  r8 U. M: j3 Z
迭代次数n
* [; ?$ s' w/ y; k/ R
迭代次数n

迭代次数n

迭代次数n
5 @1 l! e; z! q* s* C) Q
% m( y+ ~* P* }4 B! I+ w迭代次数n
2 u0 V3 M8 L$ c
0.01

1763.1809

1626.5729
* M" n* j4 N" u6 t- K5 h
7 x4 a/ C1 L/ C3 t2 ~1672.4523
& W9 U, `. G2 {! n& s
1635.9196
/ a2 Q- P1 \6 c
3 Z2 l* ~+ a0 b; [1596.7035

9 y9 j0 H& M% H; n5 Y2 x4 r9 ]1620.407
  K4 B1 R5 _, P! B; V" |
; o9 t& j0 s7 s7 t/ D/ t1563.8945

2 g* v1 _* z0 p2 X* ^4 F# @, W1444.2915
. h5 S6 J6 W) J, d. w% a
1410.0302
# R& e' Y' d5 I6 _1 a: W4 R+ z
4 z+ @+ D+ @4 ~# c8 J4 U5 o! b( P1465.4171
: |6 O1 W# u( O- m  P: d
. a+ E6 R# O" j7 X7 M% V0.001
: L- Y- j3 Z5 ?" W9 |# }% E  s
13065.196
/ H( h4 B+ ~/ u% \) O
0 {/ Q% R" p2 {, u+ Q: m12674.945

12747.729
# B+ `2 a. U+ {  K
12386.216
# c9 M8 T; K# d3 ?
12349.02
2 r$ A2 h  H9 L( y0 j- C( ~
0 J. z' ?) O6 E12282.201

. x% L9 m& B$ y% F3 y12270.035

$ ?" P, I8 q, K7 X& ?& o% z: r11338.477
2 v4 \0 @9 y( T" i3 @
& t7 [$ g8 y6 P10985.201

11015.503

* a5 Q; V+ M9 ^9.00E-04

. G8 R; R7 H2 {8 O5 S1 |14352.452

; p3 Y% S3 \5 U0 r! [14004.633
3 S7 x  |/ A' T) P
14062.829
1 p0 g8 i! X/ _( {/ h/ E
13629.467
' Y5 J0 }5 l5 m6 U0 l4 f: R8 Z4 p
" w. k6 N. f* V, G. G5 Z13613.362

13609.563
% R4 j: U9 S9 Y( i) h+ R: ~  k5 Y+ l0 ^  V
8 w8 Q+ u$ p, t2 T. p# J13530.322
* t( ?+ g) ]; }/ q) O; ]" M$ Q$ J
12458.171

" N; \9 B4 n6 D3 c* C* \: [2 Z12176.362
4 u. l( m8 J9 T
12225.96

9 l6 o: @$ n( a1 n7 N8.00E-04

16141.206
( v- l  w4 ]1 E2 n! t
$ p2 j' X% a% {15611.101

15749.91

9 ^# d) S* S# N/ O' M9 E7 N# X) _15264.98
; F! J" d8 q- G4 u! s  ~
15228.447

. b2 k# O0 k7 X( m* t15207.628

8 k: L: D$ M& L15053.714
  ]) D0 m* ], D! }0 p
14044.729
& @* J* D  @/ _: h' V) A
  o+ C. |; M- ~5 O( y4 c7 N13530.397
5 ^* F5 R3 [0 J
9 J  `3 Q/ _( ]13654.678
1 l' z, M/ v5 Z( R' L
7.00E-04

8 Y3 z7 o# C2 y9 v18194.397

17760.638

$ C3 j( p. j% i  F17743.578
' @( o2 f% n" M9 m6 ~
17333.377

2 I: u- j/ m1 p7 V( w, e9 h6 ?; v17293.874

6 m' _, d" p2 L: Y2 L  A17204.638

17058.809

: E1 i1 ^. u! i: Y, o5 y3 N15946.101

15491.266

/ L" {* p& O; z0 C15399.538
/ g. Y% s$ A& u% K1 T9 u8 [
s
8 I& V7 K6 p1 t+ o  h
130

" _' p- C0 v' C# C218
+ W* r9 @6 ]0 d' e
- e% g4 U9 `# M; L# s4 ^198

9 S! ?9 S( ~8 G  \2 a4 L; _- {206

204
" E$ U. ^6 x& `$ o
1 [. C* C/ J/ [/ \9 {% X' [218

3 E; u8 L; D) B7 s8 Z220

204
, B4 W$ d! j4 ~) N$ s
220

) \: }: G0 y3 I5 B216

将收敛误差为7e-4的迭代次数画成图
- ?% R- ?5 G& {' C
- j, A& E' L8 b
5 w7 w% w# y- ?
7 k$ p+ T  J* \再将移位距离S的曲线画成图



在这组数据中s和n之间的反比关系依然存在。

$ E& g2 ~! X8 \3 l% A& L; }# J移位距离假设

(A，B)---m*n*k---(1,0)(0,1)

: X1 S: J: A0 A% Q% q0 V* J% \

用神经网络分类A和B，把参与分类的A和B中的数字看作是组成A和B的粒子，分类的过程就是让A和B中的粒子互相交换位置，寻找最短移位路径的过程。而熵H与最短移位距离S成正比，迭代次数n与S成反比。

( w. ~( w5 W/ D3 d; J5 L% y移位规则汇总

9 d, V# Q' K) J移位距离就是等位点数值差的绝对值的和S=Σ|a-b|，如果训练集有多张图片取平均值，如果是多分类问题则移位距离为所有两两组合移位距离的和。
; w0 x; X7 D  N6 @/ @, H" d
0 s1 o4 H* L2 w' B. u如对一组3*3的矩阵
, [6 P3 ~8 D6 T1 l9 b8 F

5 _( j( @- l# U- ^3 ?8 y% g6 Y
/ |( x, W' g+ B2 ?9 ^, dS=s0+s1+，…，+s8=|a0-b0|+|a1-b1|+,…,+|a8-b8|

如果是3分类问题，就应该实现3个形态之间的两两分类，也就是要完成3对等位点之间的差。
, C2 o$ s) v2 K, s' k
& k& k& s% L, e% e
/ ^" `' c9 z0 c8 R
因此移位距离
0 j7 t9 ^8 H2 G4 h% I, R
; \+ j! a0 n$ }; g% K2 N1 [+ tS=Sab+Sac+Sbc=
- {( B% f* l' o
|a0-b0|+|a1-b1|+|a2-b2|+|a3-b3|+
; o- i4 }% G+ Z, I
8 K/ Q8 M, R5 e- H/ _2 p# G1 i; X9 s|a0-c0|+|a1-c1|+|a2-c2|+|a3-c3|+

" `8 D' i/ P# E& S1 [- M|b0-c0|+|b1-c1|+|b2-c2|+|b3-c3|
; E3 f8 D6 I8 ^, w3 Z8 I————————————————
+ C" v" w" C* K$ }7 I版权声明：本文为CSDN博主「黑榆」的原创文章，遵循CC 4.0 BY-SA版权协议，转载请附上原文出处链接及本声明。
  R, C" M8 ~  D1 [7 f+ I原文链接：https://blog.csdn.net/georgesale/article/details/126690670