三分类网络的物理意义是什么?

杨利霞

三分类网络的物理意义是什么?
. k1 e6 w" t) G* v: y

(A，B)---m*n*k---(1,0)(0,1)
9 u( y( c* c+ ]5 T1 T
对于一个二分类网络可以将被分类的A和B分别理解为粒子和环境，因为粒子处于环境中。于是A和B之间的距离可以理解为0。因为t=s/v，则即便A和B之间的相互作用的速度小于光速，A和B之间仍然可以实现瞬时作用，并不违反理论。

# f2 K4 b7 u% @# m/ k1 a( A, B, C )---m*n*k---( 1, 0, 0 )( 0, 1, 0 )( 0, 0, 1 )

2 F2 u! b8 m$ b( f对于一个三分类网络要完成3次形态的变换。A⇋B，A⇋C，B⇋C，每一次形态变换就是一次二分类，因此对于一个三分类网络可以理解为由3个二分类网络组成

(A，B)---m*n*k---(1,0)(0,1)
2 F8 g5 y- ?- t7 I1 s
" j" Y+ m3 r$ S5 _! M9 u& k(A，C)---m*n*k---(1,0)(0,1)

(B，C)---m*n*k---(1,0)(0,1)
; c; N4 ^* f  l) X1 C2 }" V9 v
1 g% k( {% U; s8 H1 P3 X! P 这就意味着存在3对瞬时作用，也就表明这3个粒子彼此之间的距离都是0.随着时间的推移网络的收敛误差会不断减小，而网络的分类准确率会不断变大。这个过程意味着A被错误的分成B和C的成分少了，同样B被错误的分成A和C，C被错误的分成A和B的成分也少了。
, b' _. O+ F8 R, ?: l5 ]
所以这个三分网络可以被解释为，3个距离为0的粒子不断的相互作用，随着时间的演化，最终变得越来越像自己。

而前面的实验表明相同收敛误差下，迭代次数取决于等位点差的绝对值的和，这次就继续验证这一猜测。

- r- Y& w7 Z1 y* }6 H; K& y$ |# Q用的训练集是mnist的0，1，2，3，4，的第一张图片。用间隔取点的办法化成13*13.

( 0, 1, 2 )---169*30*3---( 1, 0, 0 )( 0, 1, 0 )( 0, 0, 1 )这个网络简记为0*1*2.就只有3张图片不断循环往复，直到收敛。共进行了10组得到数据
% y4 u7 o% L; A" s
4 L  S/ V% j3 ]( Y1 Z% g: m1*3*4
' N, ?" L  A3 D* n
2*3*4

0*3*4
8 R8 {$ M$ w2 R. Z
; w3 k6 A" _6 S1 H6 U0*1*4

( g- ]6 b/ H1 h$ m; D1 w  O0*1*3
7 v3 {4 T2 p$ K
: f0 F4 t! o( f' e; _: J1*2*4
% P  ?; l; r% h  _: s
" {9 E. M1 o! z& p1*2*3

5 x+ s5 U' }2 x1 X0*1*2
: Z+ \; N$ p5 C& _
0*2*3

# m$ k; V  y# I: Y- E9 d0 q7 r0*2*4
$ |8 [9 X8 {4 y6 u: g& @' ~( ]
δ

6 E3 Q4 z: a+ t* H) o迭代次数n

$ B( ^  i, \# Y0 E5 U% X* @. C" ]迭代次数n

/ \& w8 G2 j% {" B3 M+ r迭代次数n
7 \2 ^; s, M: c! F
迭代次数n
* I2 [! \; b$ R
迭代次数n

迭代次数n
/ {4 H" f: h& d/ @
迭代次数n
6 \( u! U0 A# i' h
7 l( }# z" O- p0 w2 K迭代次数n
9 A3 n" N+ f- I. K9 n
+ _' l4 G. p4 Q/ @( z  q迭代次数n
" Y; z" f6 E8 u5 J& H
迭代次数n

0.01

1763.1809
9 I  B5 u/ }1 M- S
1626.5729

1672.4523

* q+ N: m9 z2 C; o# u$ d1635.9196

- C4 d$ d3 U4 @0 a) u1596.7035

& g1 S( N9 V* Y  T. P! I3 l1620.407

1563.8945
9 G/ l+ ]. x( l% k* o9 p
0 o6 C& v* G5 {+ e1444.2915
; D1 N3 F- `" l  a8 s3 v" K
$ D& H5 ^& c6 g8 W' A1410.0302

1465.4171

& d' j- m9 }4 F0.001
' K, P6 K* m5 ^+ E& k# {
13065.196

& k# t; ?' s0 v, q  K1 a3 A12674.945

! F# U# a8 z* R% d12747.729

* L$ ]; i! m0 u$ D: U12386.216

12349.02

) |7 C% Z7 F. T12282.201
9 z4 v" g5 v# c9 e; |2 C
- f+ b$ d; X' T. Q# s* l3 }12270.035

6 o/ k/ B# C/ O3 g0 T( W11338.477

, c$ t& j/ `' [6 O8 w2 o- x10985.201

11015.503

6 e- p( y3 x: |& H" \( n& m* Y2 Q9.00E-04

" ~9 }! c  q: q* }14352.452
! _  ?. z$ p* D) x! R6 s$ R9 _
0 C5 Z: L( V, ^  W  H9 f14004.633
/ S# `' @4 V5 o+ q1 `3 l
6 K& S# s& h7 ?14062.829
- G7 t% s  Q% X$ D2 G8 ~
13629.467
1 q* J0 {% Y# A
13613.362
( C8 f2 W: J# _
2 k( h; Z6 t& B( B" ?13609.563
, n& Y, ~( K' O+ l( p" X
13530.322

9 V; L6 t6 S( c6 r' A' G, p1 u12458.171
' d" m0 G2 m6 o, F
: J, p: A0 n* o* J8 I% K$ J* ?12176.362

12225.96

8.00E-04

16141.206

) Y* d3 W& d( j8 v4 n15611.101

8 d4 e1 K1 z1 Y0 Q15749.91
8 P* z+ Q. Z1 `# M2 r3 _5 p: {
! ]  z2 O* f* ^/ G15264.98
) K6 J: I) p+ j4 |' r5 `
- B+ Q: H# A7 w6 d8 ~4 B15228.447
' w; M1 R' p' v3 a: Q, q
# y2 d8 {3 r$ s/ g: j" V# z15207.628
. j0 p: s6 ~# V3 n4 |6 p+ Z
! A! D# }5 g3 m' z15053.714

3 p% M: a& c) H3 C* I6 j0 G6 q* Z14044.729
4 S, G$ Y! P4 \  I& b
13530.397
% a8 S+ U  R: `5 w$ I
; Z" S! [& k2 e0 x  t: w: ~13654.678

7.00E-04
+ [/ p' f' Z0 J; G, z( c" ]
18194.397
9 ^, D3 }% s5 u: E* Z* g- r6 T
17760.638
8 u% r% Y, T* t5 D; U# z
17743.578

17333.377

17293.874
* e9 X+ ~6 R' D! }9 Q
17204.638
# G6 Z; _$ {1 K7 M% V& i
17058.809

1 \/ v; u3 l. c4 N15946.101

15491.266
+ O3 t/ I% h0 {7 x8 W
, _  f8 n5 O( J15399.538

2 @5 k. Z# E: U' ~& ks
6 ^$ y! o; A) y5 k) H3 P8 K
130

# X# Z2 }+ j* H( S) |" R218
, x' t4 g  v! g- d; s0 ?5 g7 O
7 r" l$ W/ F9 r8 I$ Y6 ^; Q2 n# o198
8 G: t+ p+ t9 p9 O- a  F- M
( `$ T# R& L. F1 S7 W206
5 o. T- J: I* H# T  Z( \
+ `5 N6 r, Z7 ]! \/ R4 ?3 B  o204
# n/ w' _+ \* G0 y1 _: D
218
# @( c5 C; A! l
# Z8 N: z( p( O+ I0 B  ?9 K220
/ V: e) V9 P/ ?$ o% h
204
* X- w7 f8 M7 I1 \, E( j  ?4 F: ?% A
" k7 |9 G. t. n: z) o; @0 b* _220

& L; f2 B! k+ p7 w1 D1 f7 I216

* G8 E0 A6 `5 s0 C' I/ f将收敛误差为7e-4的迭代次数画成图


5 R: H' F. p) S
' o' A5 ]' r; @' j再将移位距离S的曲线画成图
( r, ?. H% f  [

! _3 e7 K# c5 q$ G. _2 ?, R- h
1 r8 |4 l8 ?# k8 X- M在这组数据中s和n之间的反比关系依然存在。
% `* ~9 q4 g& T+ \* ^+ t8 L
移位距离假设
6 O8 p$ O( l& ^/ l
7 k0 F. \# C) ^+ r0 ~8 G(A，B)---m*n*k---(1,0)(0,1)

( T' K, }! Y) ]7 u( f
- q: @6 a% I# \! A- B1 d
) K( }+ j& L, F用神经网络分类A和B，把参与分类的A和B中的数字看作是组成A和B的粒子，分类的过程就是让A和B中的粒子互相交换位置，寻找最短移位路径的过程。而熵H与最短移位距离S成正比，迭代次数n与S成反比。
5 i  e6 j$ Q+ [0 A$ N8 A
7 ]& E. R1 K- ~3 ~) F( O4 H移位规则汇总
5 E0 b; a8 O! d4 y7 {9 B% K
1 Y  v1 t. U. x, w: }  F8 O移位距离就是等位点数值差的绝对值的和S=Σ|a-b|，如果训练集有多张图片取平均值，如果是多分类问题则移位距离为所有两两组合移位距离的和。
1 I, g+ N. C6 C
如对一组3*3的矩阵

3 R0 ?3 T( H: u+ ?- Y* V
+ ]- L" }7 ]# o& J
S=s0+s1+，…，+s8=|a0-b0|+|a1-b1|+,…,+|a8-b8|
' P/ G3 ]2 _7 w+ p& ^7 K/ [) v
如果是3分类问题，就应该实现3个形态之间的两两分类，也就是要完成3对等位点之间的差。



因此移位距离

S=Sab+Sac+Sbc=

|a0-b0|+|a1-b1|+|a2-b2|+|a3-b3|+

|a0-c0|+|a1-c1|+|a2-c2|+|a3-c3|+

, E. i7 P2 m+ n' G- G, u( I|b0-c0|+|b1-c1|+|b2-c2|+|b3-c3|
————————————————
! Z' [/ C, N, F. V0 x1 E2 ~版权声明：本文为CSDN博主「黑榆」的原创文章，遵循CC 4.0 BY-SA版权协议，转载请附上原文出处链接及本声明。
原文链接：https://blog.csdn.net/georgesale/article/details/126690670
, i6 ?" r8 c" D. b" J2 C4 M* K
  I5 k$ h7 T+ m& E$ D' @. V