三分类网络的物理意义是什么?

杨利霞

三分类网络的物理意义是什么?

用分类实现衰变
专栏收录该内容
52 篇文章0 订阅
* S1 P. S9 b' g1 k订阅专栏
(A，B)---m*n*k---(1,0)(0,1)
! X9 N9 Y1 P8 U) `& ~
& }% I# y- ^* `5 m对于一个二分类网络可以将被分类的A和B分别理解为粒子和环境，因为粒子处于环境中。于是A和B之间的距离可以理解为0。因为t=s/v，则即便A和B之间的相互作用的速度小于光速，A和B之间仍然可以实现瞬时作用，并不违反理论。

( A, B, C )---m*n*k---( 1, 0, 0 )( 0, 1, 0 )( 0, 0, 1 )

对于一个三分类网络要完成3次形态的变换。A⇋B，A⇋C，B⇋C，每一次形态变换就是一次二分类，因此对于一个三分类网络可以理解为由3个二分类网络组成
) F+ w# d; d( _& C1 _
- ^( |5 e2 a2 @& z. b* c(A，B)---m*n*k---(1,0)(0,1)

(A，C)---m*n*k---(1,0)(0,1)
2 Z" |/ y$ X  L- d3 J% `6 s- Z
/ G+ A4 x2 [7 y# F9 T(B，C)---m*n*k---(1,0)(0,1)

这就意味着存在3对瞬时作用，也就表明这3个粒子彼此之间的距离都是0.随着时间的推移网络的收敛误差会不断减小，而网络的分类准确率会不断变大。这个过程意味着A被错误的分成B和C的成分少了，同样B被错误的分成A和C，C被错误的分成A和B的成分也少了。
  S* r0 m  d% S# i1 v2 P$ a2 Y6 n
7 N$ b" H3 l# M8 D. g! k8 I  t所以这个三分网络可以被解释为，3个距离为0的粒子不断的相互作用，随着时间的演化，最终变得越来越像自己。

- G6 U2 t7 D6 d" ^! p9 D而前面的实验表明相同收敛误差下，迭代次数取决于等位点差的绝对值的和，这次就继续验证这一猜测。

- ~. y3 `0 Y9 T5 T9 d用的训练集是mnist的0，1，2，3，4，的第一张图片。用间隔取点的办法化成13*13.

/ Y0 z% d( \  q: F, f# ?( 0, 1, 2 )---169*30*3---( 1, 0, 0 )( 0, 1, 0 )( 0, 0, 1 )这个网络简记为0*1*2.就只有3张图片不断循环往复，直到收敛。共进行了10组得到数据

) X) u9 R4 L7 Q' h. f4 S8 k1*3*4

+ y5 J" t/ ?. k! K4 X% x8 e2*3*4
; m, v8 c3 J/ |3 D3 q7 O/ d3 }
0*3*4

) k, v8 r: D  W* f0*1*4

0*1*3
+ y7 [7 b7 K/ R  A% [6 t
1*2*4

1*2*3
5 Y" w0 J2 F  H9 y$ a4 Z; `. H& t
0*1*2

) f3 q3 V8 k6 j4 |$ C1 a7 D3 B4 f( M  S0*2*3
* ^' t+ x( o: V3 N  n4 a
0*2*4
2 |0 f* l! b0 X8 G
δ
, Y/ ~$ p$ d, U9 ?% J" k, A, x
迭代次数n

" R) b# p- q! s0 Y/ m7 X迭代次数n
" }: u- z* c# y% E
迭代次数n
! R. W9 Z0 |; t/ m! l) n# N  @7 h
5 M* m1 L" n$ C8 N; A3 j( K$ L迭代次数n
# r6 V+ P  _% F% \- ?0 Z5 o
$ N  }  D1 X5 s' t: S. n! d! B, @9 A迭代次数n

5 f4 M0 z7 [3 D% b; V, x5 w迭代次数n

' i4 V6 {( \! F9 L# W迭代次数n

" R; I& @2 o' R) T  J; H迭代次数n
) c6 e1 @4 z$ z" @$ J: a
4 Q0 p2 a9 B" ^$ z迭代次数n
3 t; N7 ?. U4 Y. O
5 B; v% k+ B  s! I3 m迭代次数n

0.01

. e4 p5 P0 A% J/ B4 k1763.1809

1626.5729

1672.4523

1635.9196

1596.7035
. |# J5 S1 z9 {6 K: X
1620.407

1563.8945
/ Z  _& K+ s. F
1444.2915
; K9 C" w% N0 f( E9 [8 ^
. F& z: _- o- N0 |) o1410.0302

1465.4171

+ p7 }: Z  R/ e. i0.001
' ^9 ~3 V! T; P3 b2 X
! A4 c% \4 [) n7 L8 d7 j$ A13065.196
# P1 ]9 V& I& r- q# N
) r! E: h) x/ X! L4 G! h# N12674.945
' f7 D+ u/ r% e( E+ z
12747.729

12386.216
* R- F6 [$ Y$ P/ o
12349.02

. b& V/ A& l) j+ x! W1 }12282.201

5 G- Y8 V5 v9 i$ P+ O) Y  r4 u12270.035
+ J5 e5 P3 }) C# [
  B* M, T% W" J+ W" L, i! w11338.477
* v. i+ {  q( c: b) N# i9 x* C. v
6 O2 a) J- B3 e2 @9 T- Y7 u0 i, N/ u10985.201

11015.503
( ]8 v2 Y7 w! i
9.00E-04

, p* T* G: }# Q, k14352.452
5 c6 p5 {0 `6 P  f8 t7 i
+ D; x6 D: k* M0 V! V) F# I14004.633
, C# C' }; L3 }( e: \( H, V* Q
$ _7 O# D% L5 d: T. ?! G: G14062.829
8 D% j5 x5 I3 M, I
13629.467
! ^( Z0 I# n3 y; {) ^
) j+ H$ y$ n9 N5 w13613.362
( ?$ z( ?+ e5 G5 l3 R$ Z8 V9 W
13609.563

! e0 ]; w& I+ G& x  N13530.322
+ u/ j8 Y) o: G5 w
12458.171

  |; B5 q: ?  z  c12176.362

1 j2 O! p, j* j! E12225.96

9 }' b4 }! G# N3 c: H% Q+ |8.00E-04

( G  W3 ~# r( W( {16141.206
/ e2 n8 b8 ^% ^7 v8 P# T
15611.101

15749.91

0 P0 s2 |! y- q15264.98

15228.447
: I" r  h# p  q! o
15207.628
" B) b; L! P  T5 T5 U  n9 N
15053.714

14044.729

13530.397
! @" B9 D+ i  X; Z
13654.678

7.00E-04
: Q6 @; P; e/ c' S7 r
- ~: n, H7 q  ?+ }7 T% D7 o18194.397

17760.638

17743.578
- [. B" F; H  j1 U4 ]
17333.377

17293.874
1 F5 p/ G, F7 ?0 r* r
1 @* y" j& l( A9 ^4 k/ z17204.638

17058.809
. M+ U: R0 u1 _: r1 F/ o
4 V8 W, ]% I& I# F* L7 g3 @15946.101

0 x8 ~/ @1 k$ s5 D9 f# ^3 i15491.266
( K- q) K" e" W' Y0 |% R6 K: p
15399.538

s

130

218

198

206

204
# A' r; K+ b# J& N+ [# A. Y8 ~( `, k" C
218
2 ?! _3 Y6 r9 P( r1 f9 }8 C3 D
9 p$ O6 ^9 g3 W) \220
6 Z: \3 a3 J) D
9 M$ u0 O/ D6 |- U% J& G; R  N204
# p7 ?+ C% k" l; d5 N
- K9 C* e! e1 B4 f3 [220

! z# g3 \, B) p$ ^  |+ k% {- |216
+ `* S' E' j- d! C  g# v
: l; _# D( _- B$ O8 e7 y1 [将收敛误差为7e-4的迭代次数画成图

1 F3 E. ]6 E) |3 S& c1 r
: A3 E7 j+ P6 j0 L  c3 c! {
再将移位距离S的曲线画成图
5 O% ~9 N  t. p7 `

8 L4 `3 G- q6 Q% n% s
3 d" C8 |+ D4 r" @" M3 e' ?% }在这组数据中s和n之间的反比关系依然存在。
, `* o6 B: F; _) X9 r6 g
移位距离假设
' v( {% ~" i& A, Z5 K; I  K  c
1 Z; a4 ?+ }5 _: r. E* H(A，B)---m*n*k---(1,0)(0,1)

* p# V: L( k; y5 w$ Y/ `
# h( z8 n/ x3 M; ?7 b
! g6 i/ @# R/ k5 G' }, k用神经网络分类A和B，把参与分类的A和B中的数字看作是组成A和B的粒子，分类的过程就是让A和B中的粒子互相交换位置，寻找最短移位路径的过程。而熵H与最短移位距离S成正比，迭代次数n与S成反比。

移位规则汇总
8 X; o9 k( @1 W9 s
移位距离就是等位点数值差的绝对值的和S=Σ|a-b|，如果训练集有多张图片取平均值，如果是多分类问题则移位距离为所有两两组合移位距离的和。
# o; k) I0 C' ^( `
如对一组3*3的矩阵
8 v9 d$ [- t0 S3 T
4 {( P4 h" r$ T7 i% K: p- s3 J

6 X4 B% K0 t: v) x, @, T/ p4 AS=s0+s1+，…，+s8=|a0-b0|+|a1-b1|+,…,+|a8-b8|

如果是3分类问题，就应该实现3个形态之间的两两分类，也就是要完成3对等位点之间的差。
6 B1 C# u9 Q6 n4 O+ f9 O5 d: p
( l! l" s! r8 ?0 F% x
' A5 J9 D' y7 x$ z
1 Z4 V% V' u) j! o# l因此移位距离

S=Sab+Sac+Sbc=
+ W0 @, [2 c# P/ N
$ y. D$ G2 F. S% M. k|a0-b0|+|a1-b1|+|a2-b2|+|a3-b3|+
2 A  s0 x0 a7 Q; o; W/ b: d
0 B! w7 m" p* D0 \6 A, J/ @1 ]|a0-c0|+|a1-c1|+|a2-c2|+|a3-c3|+
- p( Q4 `; v, X- b, O9 N6 B, Y
|b0-c0|+|b1-c1|+|b2-c2|+|b3-c3|
$ p9 _) ~- j  F& _; ]% U+ ]( g————————————————
6 n5 ~- m3 A5 a) }. U版权声明：本文为CSDN博主「黑榆」的原创文章，遵循CC 4.0 BY-SA版权协议，转载请附上原文出处链接及本声明。
原文链接：https://blog.csdn.net/georgesale/article/details/126690670


* v6 r5 l4 @% b( S; T