三分类网络的物理意义是什么?

杨利霞

三分类网络的物理意义是什么?
  }* T8 {7 P# S
$ K2 F5 V; f2 p
(A，B)---m*n*k---(1,0)(0,1)
: s  `* Q% B, K
对于一个二分类网络可以将被分类的A和B分别理解为粒子和环境，因为粒子处于环境中。于是A和B之间的距离可以理解为0。因为t=s/v，则即便A和B之间的相互作用的速度小于光速，A和B之间仍然可以实现瞬时作用，并不违反理论。

  d9 P! m  M" C: F- x% X/ s7 t$ M( A, B, C )---m*n*k---( 1, 0, 0 )( 0, 1, 0 )( 0, 0, 1 )
" S3 ]" L2 Z; j6 m  b: D
! |% G, a) m* y* I& I对于一个三分类网络要完成3次形态的变换。A⇋B，A⇋C，B⇋C，每一次形态变换就是一次二分类，因此对于一个三分类网络可以理解为由3个二分类网络组成

7 Z0 U4 G9 o. F, T(A，B)---m*n*k---(1,0)(0,1)
7 p( Z/ H% N3 p) L
0 g' O/ Z  @9 H  H0 [(A，C)---m*n*k---(1,0)(0,1)

, e6 x! z0 u7 L(B，C)---m*n*k---(1,0)(0,1)

这就意味着存在3对瞬时作用，也就表明这3个粒子彼此之间的距离都是0.随着时间的推移网络的收敛误差会不断减小，而网络的分类准确率会不断变大。这个过程意味着A被错误的分成B和C的成分少了，同样B被错误的分成A和C，C被错误的分成A和B的成分也少了。
0 Z6 w# U3 A/ \5 r
$ k0 B( Z* M5 j# s所以这个三分网络可以被解释为，3个距离为0的粒子不断的相互作用，随着时间的演化，最终变得越来越像自己。
; q' |: f, i# _
  _" s2 E6 g7 X) V; u而前面的实验表明相同收敛误差下，迭代次数取决于等位点差的绝对值的和，这次就继续验证这一猜测。

用的训练集是mnist的0，1，2，3，4，的第一张图片。用间隔取点的办法化成13*13.

( 0, 1, 2 )---169*30*3---( 1, 0, 0 )( 0, 1, 0 )( 0, 0, 1 )这个网络简记为0*1*2.就只有3张图片不断循环往复，直到收敛。共进行了10组得到数据
& U+ h3 c: X* h/ h; ~
: x& k  M. G) i+ U( G1*3*4

2*3*4
; I. a' R% u# l" h- E( X- e% Z
0*3*4

0*1*4

) S3 j. ^8 }: l* q% G& n% c0*1*3

1*2*4
% @1 m  S: w6 n% [
1*2*3
8 W9 ?+ S! ^& Q7 y  v! r. K4 k/ Q$ U9 E
0*1*2
2 v$ P( D7 p5 P$ S3 d3 ]1 Z
' ^6 y1 k& }* k: T* `# N" j0*2*3

$ n' \) r5 z3 {9 l0*2*4

8 l: U+ G) ?4 ]" R3 U1 C  S% yδ
' a7 E" x8 u0 R! M
迭代次数n

: p5 p8 _8 j8 K9 T3 {9 x迭代次数n
+ V( w, i8 K% r0 M# o7 S  J
' _  K4 M, j5 R: N迭代次数n
+ O- Q. e7 v/ @0 i5 z
5 j, z. r  \' M. [# i迭代次数n

迭代次数n
# P  M# X0 ?- j9 J3 V; {$ T
5 T, g" m+ Y7 K0 @迭代次数n
# \( X* S1 k- n& `: F, b
, _7 d- g! B: \1 ]迭代次数n
) b2 B& V2 p3 a: F' k4 N
迭代次数n
* c  R5 g0 X# s* `+ h3 n3 a
迭代次数n

$ k/ ~! S8 j+ P/ [9 C" w迭代次数n

0.01

6 {0 A+ S# _& ~& w, k/ y9 U1763.1809
4 H8 K8 s5 O& F- ?9 n& \; e
1626.5729
* I6 ^: P  ?) t) y  {# ~$ ~  b
1672.4523
6 ]& i1 }- p: t" X+ i( U2 Y8 m
1635.9196

, X  ]4 ~- g9 p( v; Y  @2 s1596.7035
% q% |& ^( K; m* n' B
1620.407

9 I* p/ C( K7 Y( P1563.8945

* ^" M* g) F- S" S# u% v5 }1444.2915

! h5 q# K+ `- w2 @" ^* V6 u1410.0302

1465.4171

0.001
2 E. u5 ]  P$ U1 y8 X0 G
13065.196
) r! T. U% @1 o
& e9 G1 F4 y- }. P12674.945
( q0 ^0 X! M) k8 c7 B# k& `" q
12747.729
$ m) j& t) V3 w5 _- z3 N& R
12386.216
( i  T3 q# z+ r8 k
12349.02
& K* |# J7 \- U
$ ~( P7 s' i" t$ O5 D% P12282.201
% h) t3 ~+ `+ Y, U  R& K" z3 @
; [% u- V% K( J12270.035

11338.477

10985.201

11015.503
" c) `  O- [* [
9 V  {+ \' g5 t/ m! P, _+ p- m1 ?9.00E-04
2 D  P* @0 q9 E
0 U7 U5 @! t! n' x" g14352.452
6 y2 t+ q6 z6 B" ^" M& j6 q
14004.633

' A+ a: B8 Z- D+ g5 }6 L# u" ^14062.829
6 X  ]7 ~0 {* ]0 v9 U
7 e3 m( M4 }7 ^' R8 @13629.467

' o9 f) Q1 Q. A- }13613.362

3 i% B& N( I! D3 y% c, Z13609.563
2 t6 n$ a: |- a+ D* F, e) d! {
13530.322

12458.171
1 N- o" B- `% o7 }* D
8 h; `9 B( i( C- Y12176.362

$ {8 w% L  @1 s12225.96

1 [) [1 [# x7 J' K8.00E-04
+ o" k5 W+ s$ d
3 I+ w* I! _' I7 M$ R$ F8 }16141.206
8 W4 _3 _4 @* |+ r
9 @3 Y) R9 f$ e; z9 }6 \& k' a15611.101
" A0 r' p- X: r' Q3 J
7 t- A8 x% h) R$ C15749.91

+ v2 h, }1 e' m4 v% C8 V15264.98

15228.447
, L" ^( D/ t1 I+ f: V
15207.628

15053.714

14044.729

13530.397

13654.678
# L6 M4 @/ G- Z
  p$ M. R" j* o; [0 b7.00E-04

18194.397
9 t2 x3 L$ T' _! ]+ \" U) V
17760.638

17743.578
" j7 T% @$ J1 I; T! u
% h+ {. Z+ E0 d8 H3 L. J3 Y9 p3 f17333.377
  [. U5 G% G5 P: ~4 B# |, N
17293.874
# ~9 c) T3 J4 J7 X: u& M6 }
17204.638
+ w" l' L0 S$ y- i5 j5 K
4 d; G& [9 _' [* A17058.809
9 h2 F. u! `/ m' x# k5 B! c. ?+ t
8 j8 |) g. Y; ?. X; u15946.101
( o7 P1 h( j7 g5 m
# {- D& w+ F' V15491.266
0 |1 M. h, f, J9 K; {, C
15399.538
" K% @0 t" g" n/ [2 K2 n- @5 \
3 ?/ l' K* U2 E4 ?4 Q$ @s

$ R3 w4 x, b4 L3 c130
- x4 }! Q# o# C) d
218

  Q8 F4 n) R. h/ {" C7 A0 d198
: f' w  y% x/ F/ p; o5 ^7 H1 e
206

204

218
) L4 j* Q. v4 U: v
220
, j" |+ D2 U1 j: \
204

- k1 B8 o7 U2 O8 c) H3 B# v# z5 _8 X220

216

将收敛误差为7e-4的迭代次数画成图
6 s$ i; A) a8 s; d


再将移位距离S的曲线画成图
. \. P- t9 G& T0 ?9 P: i3 n
0 }$ N2 `2 W& C) x2 s

在这组数据中s和n之间的反比关系依然存在。

0 x/ K% Y- x4 _0 I1 |  @8 z移位距离假设

(A，B)---m*n*k---(1,0)(0,1)
  {6 p( H& Q# ?) j0 s+ u
/ Z# ^& D0 w& c( t; V  n+ `
; G4 T- [% G- s$ |+ m  C
用神经网络分类A和B，把参与分类的A和B中的数字看作是组成A和B的粒子，分类的过程就是让A和B中的粒子互相交换位置，寻找最短移位路径的过程。而熵H与最短移位距离S成正比，迭代次数n与S成反比。
. H5 l: v; J* {9 s
3 O( Q' h. K& N" J( J移位规则汇总
$ \  Z0 ~0 N4 }4 z5 J* @) L
' K0 Q4 O" ?) h' n2 g移位距离就是等位点数值差的绝对值的和S=Σ|a-b|，如果训练集有多张图片取平均值，如果是多分类问题则移位距离为所有两两组合移位距离的和。
' m6 `  d% H5 f3 D) A
如对一组3*3的矩阵
% Q8 d# K2 f2 q6 Q" a/ G6 Z

3 l, I) q6 M6 O. Q, D4 a
S=s0+s1+，…，+s8=|a0-b0|+|a1-b1|+,…,+|a8-b8|

! M) d0 H7 M$ H( o7 J- ]0 k# \' s如果是3分类问题，就应该实现3个形态之间的两两分类，也就是要完成3对等位点之间的差。
6 [  ^. R( c- T- V0 x" x
+ Q! x9 e! `4 Y2 H7 E8 d

因此移位距离
8 f) u: ~2 ^' A' S
+ ~) H/ q+ X$ HS=Sab+Sac+Sbc=
; G- v! O* F. O0 o7 h
|a0-b0|+|a1-b1|+|a2-b2|+|a3-b3|+
5 u* O) ]7 z9 F0 `* [7 m% {
+ J  |% m+ v+ l* S/ m|a0-c0|+|a1-c1|+|a2-c2|+|a3-c3|+

|b0-c0|+|b1-c1|+|b2-c2|+|b3-c3|
————————————————
版权声明：本文为CSDN博主「黑榆」的原创文章，遵循CC 4.0 BY-SA版权协议，转载请附上原文出处链接及本声明。
原文链接：https://blog.csdn.net/georgesale/article/details/126690670

5 Z" n7 R0 C# o2 w7 y/ o3 \* C