三分类网络的物理意义是什么?

杨利霞

三分类网络的物理意义是什么?

# S3 J/ W2 j* [& R
(A，B)---m*n*k---(1,0)(0,1)
, W/ N8 ?: E0 z
* M0 Y; Y" j, x/ J1 O对于一个二分类网络可以将被分类的A和B分别理解为粒子和环境，因为粒子处于环境中。于是A和B之间的距离可以理解为0。因为t=s/v，则即便A和B之间的相互作用的速度小于光速，A和B之间仍然可以实现瞬时作用，并不违反理论。

3 X- P, R$ n$ Z% }( A, B, C )---m*n*k---( 1, 0, 0 )( 0, 1, 0 )( 0, 0, 1 )
! a, a, W$ v3 Y2 Y& o1 m, {; H
对于一个三分类网络要完成3次形态的变换。A⇋B，A⇋C，B⇋C，每一次形态变换就是一次二分类，因此对于一个三分类网络可以理解为由3个二分类网络组成
. h- `' l, I3 E* j; u) b
(A，B)---m*n*k---(1,0)(0,1)
2 c- m/ m4 Y# n* t! }' z) E
(A，C)---m*n*k---(1,0)(0,1)
) q4 q, c" m* y" b9 n$ z% |# p, Z
& h5 T9 _9 b8 S/ X7 g(B，C)---m*n*k---(1,0)(0,1)
1 k$ a- m1 \" [
5 ?5 j4 m2 H, G! n* p# h8 l0 c; R 这就意味着存在3对瞬时作用，也就表明这3个粒子彼此之间的距离都是0.随着时间的推移网络的收敛误差会不断减小，而网络的分类准确率会不断变大。这个过程意味着A被错误的分成B和C的成分少了，同样B被错误的分成A和C，C被错误的分成A和B的成分也少了。

所以这个三分网络可以被解释为，3个距离为0的粒子不断的相互作用，随着时间的演化，最终变得越来越像自己。

8 n" [& w# k8 E* ^而前面的实验表明相同收敛误差下，迭代次数取决于等位点差的绝对值的和，这次就继续验证这一猜测。
" o7 P( _% @% p; T
& c, H3 ~' ?9 y用的训练集是mnist的0，1，2，3，4，的第一张图片。用间隔取点的办法化成13*13.
7 F3 K) l: W% `$ r3 V+ n4 u* V
  q6 _2 d9 X9 b$ k7 m, R) l5 F( 0, 1, 2 )---169*30*3---( 1, 0, 0 )( 0, 1, 0 )( 0, 0, 1 )这个网络简记为0*1*2.就只有3张图片不断循环往复，直到收敛。共进行了10组得到数据
9 @+ X+ _& \' ^
1*3*4
5 h9 }% h& y3 V$ K- }
; j: j# d# m2 \' \2*3*4

0 I/ h  ]5 u4 h+ ?+ v# W" V0*3*4
& t" p( i& d, l1 U; G
0*1*4
( R9 Y4 Q. X4 R: L
' W6 r/ P* i+ Z: F4 a0*1*3
! j' [! w5 |) t: q1 ^
1*2*4

& U. l9 f* \- P2 h- W2 u! r/ C1*2*3
. O) a9 O4 F* W2 h
0*1*2
5 S1 j- k" n8 w- O
0 J( N) o5 @1 w! ~6 V- U0*2*3
" ~; U) ^6 v, Z4 b
# G) R/ d- g+ V5 \) k$ s  M4 B4 ]0*2*4
8 B8 Q4 D) E  `/ C7 Q0 h- }1 G/ f8 V# E
δ
/ Z+ _& m& ]8 o
5 {2 c  D* g7 ]' \: v4 O) d迭代次数n
5 A  z1 h$ R' z* U8 i
' ^3 P& P5 q8 N4 h迭代次数n
8 U5 M2 Y( F2 Y0 k* a  h
迭代次数n
, v' z6 W! a/ @5 Y
迭代次数n
5 |5 X2 u, Y1 `$ a  z
迭代次数n

迭代次数n

$ [" o! R- Q) t; u% h迭代次数n

迭代次数n

迭代次数n

迭代次数n

0 N8 K$ S8 J4 V% a/ [2 W- s0.01
% k$ I/ c! ^; I7 W) p" X
1763.1809
, w5 P. l3 o# [4 x
  C/ o$ I/ n" l% j2 s, g+ Z# \1626.5729
, ^: S7 K6 b$ H
% T9 O8 c: j, L; O4 g' E& @! j1672.4523

- [9 P5 Z  \6 D0 A( y' x( Q1635.9196
# h3 D9 s/ O; _
1596.7035

# J9 _! A8 Y+ `% j4 @# n4 N  `8 j1620.407
( z$ b) P8 ~* A% S: S: P& W
1563.8945

1444.2915

1410.0302
4 x; g  I3 Y( p2 S$ t
1465.4171
. F' O% u- F9 g. P1 z" Y
1 _, g8 Z* p, j7 B. t) r0 h0.001

* _$ i: s! L) J13065.196
" W3 c" f' Y% t' w$ e
12674.945

' U! x- D6 r8 s( J- K5 k8 [! S12747.729

& X& H3 G* E' A' {12386.216
- l+ c( D2 ?9 r# p
12349.02
) k/ S; @# R) d+ Z
% A  d. X$ Q4 x) B1 i2 {! f& i9 k12282.201

12270.035

7 X% a/ ?0 L2 K" y. m5 `11338.477
( A. h- t: l3 e2 Q7 s
10985.201

) y  I: _" I! t+ U11015.503

9.00E-04
+ V; a# s+ ^* u! o# O! H$ G* G& F
14352.452

6 ^3 k- d7 R3 a4 @/ d) [8 P1 ~+ ~14004.633
3 H* z% S, B' z+ e* M
14062.829
% W; [4 \% Q" K5 ]
1 A& Z+ [1 Y4 I" g13629.467

13613.362

4 p9 o; s+ @. c13609.563
/ t7 _! J, P2 z' F6 Z
1 }6 |! [; U! H- n1 _! V9 i. V7 S8 {13530.322
. |4 T, ~1 g1 ^! J8 O# ?/ _
# I7 V2 [8 r# A) g12458.171

12176.362
( v0 S6 f# c1 U
9 n  W% b) n# X9 ~- l( v12225.96

1 X4 F% A4 ~$ p5 l8.00E-04
, x' D0 N8 E( @6 ~% ^
4 k$ k5 }& q+ }16141.206

15611.101
3 J1 [1 B) s- q" g4 d" X3 R
15749.91

15264.98
0 G+ b4 P3 B  t0 {4 R$ ?
15228.447

15207.628
0 l! F* K1 D3 f
% l* b! J6 |. \. o$ S! w15053.714

- a$ g1 G* e* x$ j14044.729

9 ^, P) n, ]) I& e3 A13530.397

13654.678

7.00E-04

18194.397
( [+ R/ ]& N+ l+ K, \$ m# B$ s
17760.638
  W$ \' o# W, C9 C7 c- ?
  ~& ?" V- n2 y% y17743.578

) `* y9 G1 E  M6 k7 [17333.377
& G+ Y. J* \% ^9 q& M. d
17293.874

& n9 d  b: `7 O7 a17204.638
  `& h3 M, J2 ]% O2 Q
17058.809
0 ?; X8 j& k: v5 y. S
* E! a9 B* |. b- X15946.101

15491.266
* Y: ~( R- G: J8 C
15399.538

s
% ^. G5 b* W+ _% D% R
130

218

( F- T: C( p: n) n' W( ?- }- l198
, n* f& i3 F2 I& \) [
4 a+ n0 f  W4 z7 ^0 M* {& a: {) p; x206

5 ~, {% S; Z( |: t, G  L! F' [* K) Z204
' q+ K6 P  i3 e* w% P  B
218

220
- Z* j5 G5 |: M! O, u& H) Z
8 u) D- X( `9 C204

5 v! y6 z" `' Y2 }9 ~* C220
5 e0 S0 A% d% X8 u3 p
$ z' q! X: i  @' B7 _3 [0 n216

" ?! Q  V  o8 ^! B' n将收敛误差为7e-4的迭代次数画成图

& a* N0 ^" ^9 y
( g' c0 c# ?! L9 y( {' l+ [
再将移位距离S的曲线画成图

6 B( W7 W( q$ ]# e2 W

在这组数据中s和n之间的反比关系依然存在。
1 Y  t) a5 W& i2 V
# A7 F4 ]( B" s4 r# L移位距离假设

+ ~5 y/ Z  @# y3 Q(A，B)---m*n*k---(1,0)(0,1)

( |! I1 W5 n. B0 E' l

1 l. d2 k1 s$ M  z  M  C用神经网络分类A和B，把参与分类的A和B中的数字看作是组成A和B的粒子，分类的过程就是让A和B中的粒子互相交换位置，寻找最短移位路径的过程。而熵H与最短移位距离S成正比，迭代次数n与S成反比。

% h: r' B6 V/ x移位规则汇总
. e  z( ^1 ?0 J& K* u
* C. ]) L1 R+ ?9 p' Z6 Q移位距离就是等位点数值差的绝对值的和S=Σ|a-b|，如果训练集有多张图片取平均值，如果是多分类问题则移位距离为所有两两组合移位距离的和。
# ~# D  n" t9 V  s4 [
如对一组3*3的矩阵



S=s0+s1+，…，+s8=|a0-b0|+|a1-b1|+,…,+|a8-b8|

如果是3分类问题，就应该实现3个形态之间的两两分类，也就是要完成3对等位点之间的差。
3 ?* T/ x5 ~  Q, L1 L5 \2 j
+ s( P; D$ l' {& f+ X; @/ }

! Y( Q. l1 X" Z- Q3 A/ s1 U因此移位距离
0 |3 l; }3 C' \  f: S
9 P- w/ E& P( C# V+ t3 {S=Sab+Sac+Sbc=
4 D5 i" u( u" m+ H- J
( k# q/ }/ \; d* y* v! W$ N|a0-b0|+|a1-b1|+|a2-b2|+|a3-b3|+

4 Q* y/ ]" `5 w; K) A|a0-c0|+|a1-c1|+|a2-c2|+|a3-c3|+
$ Z# J* f! j" w& F, o& _8 w+ [
|b0-c0|+|b1-c1|+|b2-c2|+|b3-c3|
————————————————
版权声明：本文为CSDN博主「黑榆」的原创文章，遵循CC 4.0 BY-SA版权协议，转载请附上原文出处链接及本声明。
; Q! M9 |- p5 q+ R* ^4 H+ ~原文链接：https://blog.csdn.net/georgesale/article/details/126690670
6 r  @% ]5 I8 P; K
% a/ H' Q6 ^: ], X) p0 ?! `  a
+ I6 R9 W; k8 h; z) @' B3 G" N$ s