三分类网络的物理意义是什么?

杨利霞

三分类网络的物理意义是什么?
5 n) v, Q% t. G5 g+ H

(A，B)---m*n*k---(1,0)(0,1)
+ F2 V( N7 F4 }+ _3 g/ g9 G
对于一个二分类网络可以将被分类的A和B分别理解为粒子和环境，因为粒子处于环境中。于是A和B之间的距离可以理解为0。因为t=s/v，则即便A和B之间的相互作用的速度小于光速，A和B之间仍然可以实现瞬时作用，并不违反理论。

( A, B, C )---m*n*k---( 1, 0, 0 )( 0, 1, 0 )( 0, 0, 1 )

/ V5 W$ Q, Q) o' s对于一个三分类网络要完成3次形态的变换。A⇋B，A⇋C，B⇋C，每一次形态变换就是一次二分类，因此对于一个三分类网络可以理解为由3个二分类网络组成
: q% G# ~9 W2 G/ M9 y9 L! }8 K
/ ]- ~' {/ }7 F- L5 C(A，B)---m*n*k---(1,0)(0,1)

$ U7 s- N7 i' B/ t% `+ C(A，C)---m*n*k---(1,0)(0,1)
$ H" s" [( l3 d' p7 j8 ^( i# g
(B，C)---m*n*k---(1,0)(0,1)
- r* H: ?$ q: J4 G8 V
这就意味着存在3对瞬时作用，也就表明这3个粒子彼此之间的距离都是0.随着时间的推移网络的收敛误差会不断减小，而网络的分类准确率会不断变大。这个过程意味着A被错误的分成B和C的成分少了，同样B被错误的分成A和C，C被错误的分成A和B的成分也少了。

) _( J4 |' U$ k7 T1 {所以这个三分网络可以被解释为，3个距离为0的粒子不断的相互作用，随着时间的演化，最终变得越来越像自己。

5 y. K/ M' L% `) _5 V( e' f而前面的实验表明相同收敛误差下，迭代次数取决于等位点差的绝对值的和，这次就继续验证这一猜测。
- |/ U4 u/ i& O
; E& l3 |' J' O, `# ^用的训练集是mnist的0，1，2，3，4，的第一张图片。用间隔取点的办法化成13*13.
, S0 n! s+ z4 ~1 C6 Z/ J# C
( 0, 1, 2 )---169*30*3---( 1, 0, 0 )( 0, 1, 0 )( 0, 0, 1 )这个网络简记为0*1*2.就只有3张图片不断循环往复，直到收敛。共进行了10组得到数据

1*3*4

: D+ @0 N7 V1 X" y; F4 i% }3 R2*3*4

0*3*4
3 t1 W% t( `+ E
1 T5 o4 V" c, o: A! a$ s' X0*1*4
8 s7 |, O( z; V
0*1*3

1*2*4
5 `; e9 y3 p: r! S: S& ~- b
0 Q/ a0 |. a2 N! `8 _1*2*3

0*1*2

0*2*3

0*2*4
3 m0 G! ~2 j: x( a: s4 f8 y) @. Q' Q
δ

8 P9 w4 k) o3 P) H' Y5 V0 s  o- K迭代次数n

迭代次数n

迭代次数n
9 u8 n0 e% r$ z7 r. @( h6 n
迭代次数n
! F% S' E1 q3 M) Z2 L+ y. [4 ~
迭代次数n

迭代次数n

8 @* x  e. J0 j/ W迭代次数n

迭代次数n

迭代次数n
( d( `8 M5 H6 j
迭代次数n
- _) ]& Y" @- F( A* d/ K, {7 R
- x6 D7 c4 ]9 O( u: G4 V0 a. Q2 g0.01
0 t" x9 b# \3 s3 g: r5 _; c+ s3 P
1763.1809
5 V) x. ?  V! I8 [
( F' S8 t# `  ^  {( k1626.5729

5 z4 k: X" g( X/ y1672.4523

) [, c. J, }* ]% d1635.9196

1596.7035

1620.407

1563.8945

1444.2915

% s1 u+ M! T6 Q( _, S1410.0302
3 E. S# T; y3 ~4 L9 D3 z# U+ C+ V
# j7 t# D. f9 M6 V( B1465.4171

0.001

13065.196

12674.945

3 n% M: d' ]9 i& r6 G! G! T12747.729
' a- C* ^7 A9 o/ @3 S0 S. q
12386.216

% ^% U. O! z* |3 F# f3 a5 N) R3 W0 r12349.02
1 p0 G+ M1 G0 R) t6 Q& S, }. d1 C
12282.201
0 ~" O3 G1 l% A" Y6 h/ \0 \
5 F" i% O' q) s% ~( C5 x12270.035
9 s1 N6 I0 O3 X3 a; L0 `' c  K5 w
11338.477
3 J$ N9 B! ^- M4 R8 ?$ ?( N
10985.201
! j* q. [& |9 R6 O
3 b9 x9 d8 p, R$ Q" l9 ?6 w  i1 I11015.503
1 @: F8 @1 \, I/ E6 q7 z
2 N; r7 X; P1 T9.00E-04

, j; d0 Y# z$ ?, N/ M$ B) d14352.452
, W) K* @, E9 B2 q- e# c% q" G
8 Q7 f6 A& T9 @7 G* j4 @7 {14004.633

: T4 e& B( l% E& a: Z. \14062.829

& t" H  A: b# \; @13629.467
; ~( M' y  D1 _" F0 C9 z
: _+ k$ _3 _* i' F13613.362

- K4 P4 |6 U" J13609.563

& r' X3 B, Y  [) Q* f: q13530.322

12458.171

- S! D/ [4 C: ~5 ^+ }8 w7 J+ P6 ^, t12176.362
1 d, l$ w7 s* n/ f* T* y7 t
12225.96
) V; L; M& @- c* j' @, ?
8 b" V: U) `# |, c8.00E-04

16141.206

7 F0 M; N* C9 F4 ]8 D: N# p15611.101

15749.91
2 x& }, B. Y2 P' Y) L
15264.98

15228.447

  o- ?  _, b; ?3 P9 w  ], I15207.628

15053.714
+ ]& Z4 J# t6 U; b8 V
& E' @: Q. T0 C  p8 A/ m3 P" k14044.729

0 h3 s: p; O9 c3 r, T13530.397

" g2 m# l( d" H13654.678
8 k5 K0 d! }" |5 Y$ y: D
/ n9 C: g: y% @6 p7.00E-04
" h$ \5 ^3 h1 `+ c( j
18194.397

. g( \, R) z; [17760.638

. P& T. m! H! U: L8 L3 r6 i8 s17743.578

% a8 W; ^' k$ _( o2 a. ^8 `17333.377
7 ~! P/ X7 ]" {. w7 ^
17293.874

9 K. r4 k# C1 u# J6 E17204.638

3 M8 i8 N( O/ |1 c* I# d17058.809
/ M7 k$ M. t) P( H: A: Y
15946.101

+ k6 Z9 k+ f( @! J1 U15491.266

15399.538
8 Q9 H& ]- Z# k3 N( p+ T- o( Y& ~' b
s

1 V2 K7 b$ F. Y  A6 S2 ~130

4 a% U8 a. q/ E" z6 N2 C* G1 Z2 w218

; {; Z& x4 U( i2 P: C198

206

& ^& F: b7 Y( b* z+ U* g1 M204
2 [& Z* q0 B! }6 Q$ T: P+ t6 q
0 ^  B9 n" m9 h1 c0 l218
; @8 Y  t' u6 |# n
+ o: I( I% L7 {) x! U220

204

220

8 t; F- ?) e# N/ }2 y/ Y216
. S- [1 P6 y$ l3 @* U9 p: i. W
将收敛误差为7e-4的迭代次数画成图
- L2 t  g( ^$ ~9 z& u7 r3 v( E9 B. E

; [! S; I& j* b, I
再将移位距离S的曲线画成图
' E: x0 P/ g5 }5 F


在这组数据中s和n之间的反比关系依然存在。

; P+ q; i; \! P4 Y4 c% N移位距离假设
& {' [- v, K8 R! c# Y
(A，B)---m*n*k---(1,0)(0,1)
# d# W8 h2 Y& F
; K- @$ j4 b( u3 y/ U
0 K6 Y/ q' h5 i# L% F( e
4 W. [  P, A  S* j8 f* B: e  @, t用神经网络分类A和B，把参与分类的A和B中的数字看作是组成A和B的粒子，分类的过程就是让A和B中的粒子互相交换位置，寻找最短移位路径的过程。而熵H与最短移位距离S成正比，迭代次数n与S成反比。

$ l6 @: C/ @' v移位规则汇总
# ?4 A- n$ X5 R% x/ t8 h
$ U8 F. t& b! A& A8 P/ w移位距离就是等位点数值差的绝对值的和S=Σ|a-b|，如果训练集有多张图片取平均值，如果是多分类问题则移位距离为所有两两组合移位距离的和。
$ _) s  z3 T% g' p' @
, n+ y; {8 \& t! n* ~如对一组3*3的矩阵
, v# q$ U: p- B5 A& F$ [: E) U

: }8 }9 |. y. l7 {) i: k  ~" D
S=s0+s1+，…，+s8=|a0-b0|+|a1-b1|+,…,+|a8-b8|

# n, M2 c6 ^$ V如果是3分类问题，就应该实现3个形态之间的两两分类，也就是要完成3对等位点之间的差。

7 F9 s/ w# b. O8 w! P
6 R" P- `6 W. W5 |3 t
因此移位距离
. I  }% v, g  u. i
S=Sab+Sac+Sbc=

3 \3 O) K& u  v* E, }|a0-b0|+|a1-b1|+|a2-b2|+|a3-b3|+
' U+ z8 w5 N% m- T& ]: e( p
# Y8 W: R8 o8 C/ w* Y4 }$ A- _, L|a0-c0|+|a1-c1|+|a2-c2|+|a3-c3|+

* C5 C* ?9 F* E$ \2 j) O& \$ d: f|b0-c0|+|b1-c1|+|b2-c2|+|b3-c3|
# w7 Q: V' P) K9 w————————————————
版权声明：本文为CSDN博主「黑榆」的原创文章，遵循CC 4.0 BY-SA版权协议，转载请附上原文出处链接及本声明。
原文链接：https://blog.csdn.net/georgesale/article/details/126690670
/ g+ g5 v5 o1 {

/ O5 ~1 `" Z3 z6 o5 q# h$ ?0 ?