三分类网络的物理意义是什么?

杨利霞

三分类网络的物理意义是什么?


(A，B)---m*n*k---(1,0)(0,1)

对于一个二分类网络可以将被分类的A和B分别理解为粒子和环境，因为粒子处于环境中。于是A和B之间的距离可以理解为0。因为t=s/v，则即便A和B之间的相互作用的速度小于光速，A和B之间仍然可以实现瞬时作用，并不违反理论。
1 r7 g6 q# P' N4 y: [- V& i; m
( A, B, C )---m*n*k---( 1, 0, 0 )( 0, 1, 0 )( 0, 0, 1 )
, R! u; M: l& ?7 V! J
对于一个三分类网络要完成3次形态的变换。A⇋B，A⇋C，B⇋C，每一次形态变换就是一次二分类，因此对于一个三分类网络可以理解为由3个二分类网络组成

(A，B)---m*n*k---(1,0)(0,1)
/ u: |. J- v; h( S4 S& u. N
(A，C)---m*n*k---(1,0)(0,1)
6 }; B( ?8 ~- M5 ~
% m7 i9 X+ W0 x/ O1 V: K1 X5 L/ K1 n5 E(B，C)---m*n*k---(1,0)(0,1)
5 M3 x) {9 k& L. y/ H
这就意味着存在3对瞬时作用，也就表明这3个粒子彼此之间的距离都是0.随着时间的推移网络的收敛误差会不断减小，而网络的分类准确率会不断变大。这个过程意味着A被错误的分成B和C的成分少了，同样B被错误的分成A和C，C被错误的分成A和B的成分也少了。
8 o; N& g6 F: E* z8 x$ u1 T
5 J# z( r& T7 a6 ^8 s$ d9 l所以这个三分网络可以被解释为，3个距离为0的粒子不断的相互作用，随着时间的演化，最终变得越来越像自己。

而前面的实验表明相同收敛误差下，迭代次数取决于等位点差的绝对值的和，这次就继续验证这一猜测。

用的训练集是mnist的0，1，2，3，4，的第一张图片。用间隔取点的办法化成13*13.

( 0, 1, 2 )---169*30*3---( 1, 0, 0 )( 0, 1, 0 )( 0, 0, 1 )这个网络简记为0*1*2.就只有3张图片不断循环往复，直到收敛。共进行了10组得到数据
. y2 M) l, \+ S- m% h' J
1*3*4

" l. ~1 m1 E0 r! V% N2*3*4
& l9 Q" f) K6 e: w) _
0 b1 ]" i3 E$ G6 X2 ]7 a& I0*3*4

  Y+ d1 r8 {) F+ q0 k' m0 V; ^0 d( r. r0*1*4

0*1*3

1*2*4

1*2*3
% P; D; \8 X0 {+ V6 z2 A0 c
0*1*2
3 B, O7 R0 k. \+ T, ~4 p2 @
3 Y0 a+ \7 y4 A1 ~0 Y  Y; f4 L0*2*3

/ ?7 Q% U% U) [% G0*2*4
7 l$ p  `* r6 z9 u, S0 ]
δ
' u7 V: M" n( ]8 C4 ^8 v
迭代次数n
4 Z5 N* }& t8 S' x0 n7 s. Q2 m
迭代次数n
, Y% Y" g! B& A0 s" K% \
1 l0 W; M8 r, x迭代次数n

迭代次数n
5 G8 L6 B) D9 ~# l
( @6 n( R3 Z7 e$ Y4 [6 h迭代次数n

迭代次数n

迭代次数n
4 t# |9 J) A1 m: N$ M
- F5 z1 [) R/ a8 n+ r迭代次数n

* f( O" _  D: l* \0 X, ^迭代次数n

2 i2 e4 `0 c9 {% Y" w迭代次数n
7 r' N, r/ W+ S1 p' k
0.01
; g4 b+ _: f6 O( y5 S9 B
1763.1809

1626.5729

4 X- l' m9 b$ N+ _% ]$ \+ [+ w1672.4523

/ h, E% G' A- w1635.9196

+ i9 l. ~/ {0 |2 }1596.7035

1620.407

1563.8945
7 n. y3 g1 n* I9 Y5 m- s6 P& l
1444.2915
1 y' a& p1 {) _( H* r
$ W1 ]1 z! R- P2 G1410.0302

1465.4171
( \. @, T0 z) g* l% a$ V" m6 f
0 H1 y( V1 T1 V  f0.001
& O9 X; v6 `+ W/ Q# S! I
+ ^/ @, W* ]/ j, R: D13065.196
+ A. ]; I4 H& T6 \* h0 }* d
* s# T6 G* T$ o7 x! s" C  R12674.945
. C4 c+ b1 G/ O5 l3 d. P9 |
12747.729
9 I& e* n7 @7 b  ^) A* h+ O# E
, R4 f6 ^" b& W$ D, q/ C12386.216
1 T% r4 Y5 _  R* k- p
9 C, v+ b0 {% C* _1 |12349.02

12282.201

12270.035

, i" D& M0 F2 E- C11338.477

10985.201

8 S% k+ n1 v) @' V" s1 |11015.503

# Y' |  r- [. |; Y7 d9.00E-04

( w1 `9 W0 O; z/ v" x  o% u14352.452
" e$ P; C6 ^4 `2 w+ v& b3 `1 k1 w! E
14004.633

4 J( @& ^; Q7 C% {- |0 a14062.829

13629.467
, D% j7 d* u. N) K+ u, {+ z
7 k* g1 |+ f3 X% v8 C13613.362
$ T2 y3 }9 Y1 I( N! B! d* [4 W
13609.563
4 F; @- w8 S* N! g, Y
13530.322
$ n) X7 S& x# r6 _  H- K4 ~. d0 I
12458.171
$ |# T8 R0 \) |) s/ c- T. e
- g- q! L1 z0 y( r; ^5 A12176.362
  p  R6 }) [* q. \
12225.96
8 q: h3 R5 h  P2 x. }) o
9 X% v) X! ^5 @+ d8.00E-04

16141.206
2 D/ b. w1 P9 c* L
9 S- q9 @+ ?5 p15611.101

15749.91

; T" f  x) r  N! v15264.98
& d4 ?6 x2 `; Q8 _: P, x. K4 l
15228.447
$ l& u; G! j2 ~
15207.628

15053.714

14044.729

! d9 h& G5 D) Q5 C5 O+ e* }13530.397
# H, k, E: D! R$ c
13654.678
* R0 a$ b9 d2 T5 D1 A8 i
: h) d9 q, T- v& `2 V7.00E-04

2 I0 u( B! [4 r* l9 ?- X9 X; A+ r7 h/ M18194.397
/ `8 p; g1 b* L) `) r) Z& L2 B( ]
3 X2 e  l) ?$ h- {9 Q0 J17760.638
& t+ A& K! d) t) }# U/ m4 ?
  m5 O1 l4 m5 L- R1 D! I8 m17743.578
! Y8 R8 N1 ~! H2 z! f" a& x
+ @. u1 d, b( Q. ^; G5 m17333.377

17293.874
# n1 d) `" }  J3 I- b7 g$ P7 V- f
, ]( i' P- B6 n( `4 `17204.638

17058.809
& P" R& G% t7 v
7 f5 w# }+ H0 M- L15946.101

1 j$ J4 z* c' l# Z( N% j7 k15491.266
5 J. k2 b+ c7 ~9 _& Z: o
15399.538

. t* x" F8 J, T  J, Z7 Ps
* \' l( Q! b" A4 ?" H
7 G% _/ S/ w* K. f+ _130
, R: @8 J+ U. F$ G/ `% \
5 t' Z1 K' B1 r" x/ P$ f218
# i6 \/ [- n+ ~' D7 I+ G6 q
198

206
2 S3 G! p3 h; w; g
: i/ f, K: W) {+ D2 M204
) P* o' H) Z5 f, O2 c; X
218
; g- D! k- m& ^  l1 P. g
220
/ g- S2 R+ G' i- E- a5 ?1 |2 u
204
  ~# A3 F9 s% G7 D& y$ u, h; t
+ O! Q8 G9 A  q, \! q220

0 R( ^* c4 V# j' `  g6 ?7 ^3 l216

将收敛误差为7e-4的迭代次数画成图

+ P- }! [$ h9 c# F' m

再将移位距离S的曲线画成图


0 i" Q% A. x: [2 H* G0 Z
在这组数据中s和n之间的反比关系依然存在。

# M* o* H7 O+ b+ @( o/ S& A移位距离假设
! ^2 q- l4 w6 G6 b
; p, X0 Y5 O1 h  U(A，B)---m*n*k---(1,0)(0,1)
' {% I$ o  k1 B* n/ c/ R
# u2 ?. w- J% d0 d5 r& H9 D

8 S1 V, z) I( m* i5 v; D/ a& u用神经网络分类A和B，把参与分类的A和B中的数字看作是组成A和B的粒子，分类的过程就是让A和B中的粒子互相交换位置，寻找最短移位路径的过程。而熵H与最短移位距离S成正比，迭代次数n与S成反比。
& d3 @- b- I- Y1 `7 k) }! l
  r4 X( o; r( Y* L4 q+ ?/ H移位规则汇总

( Q9 d) J6 {2 @" w' Y/ [移位距离就是等位点数值差的绝对值的和S=Σ|a-b|，如果训练集有多张图片取平均值，如果是多分类问题则移位距离为所有两两组合移位距离的和。

2 K* n$ R$ a& d; I2 F( Z' q如对一组3*3的矩阵
" y6 T; I/ o! c3 Y
( g. y/ @2 U$ q1 q5 n

S=s0+s1+，…，+s8=|a0-b0|+|a1-b1|+,…,+|a8-b8|

如果是3分类问题，就应该实现3个形态之间的两两分类，也就是要完成3对等位点之间的差。

$ L" T7 j7 f# x" `) r3 T
- x$ t( m2 j5 D
因此移位距离

* X# k. E  j" A, j/ q/ BS=Sab+Sac+Sbc=

3 n8 @1 y2 Z( H5 A" R|a0-b0|+|a1-b1|+|a2-b2|+|a3-b3|+

|a0-c0|+|a1-c1|+|a2-c2|+|a3-c3|+

- r$ H: g6 }: N8 Q. {# [$ L: G) q|b0-c0|+|b1-c1|+|b2-c2|+|b3-c3|
; u2 R; s: R* a% E2 g: t' b: D4 s————————————————
版权声明：本文为CSDN博主「黑榆」的原创文章，遵循CC 4.0 BY-SA版权协议，转载请附上原文出处链接及本声明。
  C) c9 Z! N6 V& P, r8 n原文链接：https://blog.csdn.net/georgesale/article/details/126690670


; R0 g1 \, H0 n  a" \