三分类网络的物理意义是什么?

杨利霞

三分类网络的物理意义是什么?
% b+ f* f9 O3 L
* F" r( _' S. i) E/ P用分类实现衰变
专栏收录该内容
52 篇文章0 订阅
订阅专栏
(A，B)---m*n*k---(1,0)(0,1)
: h7 n; g( a0 ?; c" r6 H8 p/ I
7 l( ]% S' y( g$ ]/ d对于一个二分类网络可以将被分类的A和B分别理解为粒子和环境，因为粒子处于环境中。于是A和B之间的距离可以理解为0。因为t=s/v，则即便A和B之间的相互作用的速度小于光速，A和B之间仍然可以实现瞬时作用，并不违反理论。
; {4 `5 q2 f/ W8 ]* l& f8 j9 p
( A, B, C )---m*n*k---( 1, 0, 0 )( 0, 1, 0 )( 0, 0, 1 )

3 V" c0 k; v$ T对于一个三分类网络要完成3次形态的变换。A⇋B，A⇋C，B⇋C，每一次形态变换就是一次二分类，因此对于一个三分类网络可以理解为由3个二分类网络组成
# l& {: t' d, H
(A，B)---m*n*k---(1,0)(0,1)

8 ?/ _8 ?3 p: m, N(A，C)---m*n*k---(1,0)(0,1)

4 Q0 o8 F) s+ i1 a" L(B，C)---m*n*k---(1,0)(0,1)
$ ]0 a$ f: q* x4 }
1 G( x% V5 b# a6 h! C; j8 q* S 这就意味着存在3对瞬时作用，也就表明这3个粒子彼此之间的距离都是0.随着时间的推移网络的收敛误差会不断减小，而网络的分类准确率会不断变大。这个过程意味着A被错误的分成B和C的成分少了，同样B被错误的分成A和C，C被错误的分成A和B的成分也少了。
  g7 H: L' u4 n. X# h
所以这个三分网络可以被解释为，3个距离为0的粒子不断的相互作用，随着时间的演化，最终变得越来越像自己。

而前面的实验表明相同收敛误差下，迭代次数取决于等位点差的绝对值的和，这次就继续验证这一猜测。

: H& o9 U4 ~; l  H用的训练集是mnist的0，1，2，3，4，的第一张图片。用间隔取点的办法化成13*13.
; A; s) @/ M9 o2 |
( 0, 1, 2 )---169*30*3---( 1, 0, 0 )( 0, 1, 0 )( 0, 0, 1 )这个网络简记为0*1*2.就只有3张图片不断循环往复，直到收敛。共进行了10组得到数据
6 a. D# Y, H1 V2 _9 p
1*3*4

& \8 ?7 I) g5 u5 F1 x2*3*4
; w& e# G8 h+ c# }0 u1 N8 x7 X
& R& m3 b+ L& |' Z2 b; P0 H; w# i+ z0*3*4
: Q8 t7 m# C4 t( m
# Q/ H6 |1 F5 d1 q: w; ]0*1*4
0 U- |  T) m* G/ W% {7 Y
' r0 z- d8 ?. v! M0*1*3
' b6 [9 N1 N2 ~
2 ~% E  T5 `/ n! i2 @) Z/ y7 N1*2*4
+ I' Z+ E; w- N; y' q& H2 S) d0 z
1*2*3
, K7 H+ E1 Y$ Z2 s" H  q, @1 ~
0*1*2

0*2*3
( W. Y! W  k1 e* S; Y- t
3 u4 s  \# d% q9 z; y2 ]0*2*4

& I4 \* W2 u0 rδ

迭代次数n

0 ?3 x+ M; l/ V. x0 Q迭代次数n
! F+ A7 ]% v2 f+ Y
& u- c6 I9 V. e! R( f9 U. U迭代次数n
, Z( m9 i  Q- J7 R& S
& T" I3 C2 c3 D: V. i迭代次数n
7 ~7 Q! h% [# B( C$ {. r
迭代次数n
+ A/ ]+ Y2 B! [3 b% W4 U1 j
5 Q: Y! _: p+ b: S: c$ D迭代次数n

迭代次数n

( Y7 g# J+ D( o4 V6 _6 f2 n2 R5 B  U迭代次数n
  V5 X# n4 {' l( f6 z
' M0 L  ~, m1 B4 m% ~& ^迭代次数n
$ D1 h' h' u8 M. ?; X
/ q6 s" C2 N9 h4 ?3 Y; K( l迭代次数n
9 i% z3 k7 Q5 l" F
! N) P1 z9 j% ^: u* O: u' R0.01
9 O- B* T3 p( [' I/ v
3 @( j- G/ D) ?0 D, B+ f; K1763.1809
, j2 ~; k# N& \7 ?
- j1 C1 V6 _+ U$ s6 r+ O# Z$ b( f1626.5729
- }( D* b) K. t  d0 S
1 M5 a, ~) U6 P7 c0 Y1672.4523

1635.9196

2 Y( b: r8 O  O: A, f+ e2 R2 l1596.7035
/ p4 T( L0 M  ?4 r$ p+ V2 k  i
) e" I9 h* O( R1 I1620.407
! b! {* }% l8 N# F0 L, {
1563.8945

# k* m6 j2 e. \+ c$ y1444.2915
5 i* X  i+ X& v- C' U$ D
3 r1 P% l3 }# \5 w- {6 a1410.0302
, D. Q+ N& W8 y) d
: e2 h/ c9 Q5 J5 V1465.4171

0.001
4 @* {# Q# ~7 A* L& {
) ?# ]5 T, e* w3 M$ @13065.196
$ E" q  c. Z% p' I( Q
12674.945

0 v& N3 A, D8 e' s' Z' P% [+ O12747.729
) j# ^: G3 m3 s' `; e- u# M& e
12386.216
: Z, ]; h7 D; `
6 H+ X; m, k. _+ b) e12349.02
* E5 F7 J1 f8 |# s0 ?* o, t& e
12282.201
# b7 m! L6 n) R+ r" Q, U, ^- K
12270.035

11338.477
: E5 j. K* k1 ]# P% ^5 l/ _- o
( }0 A/ y" H- c10985.201

' \( v7 t, q; e; {5 a11015.503

& J9 p' P* ^" m6 J4 Y% G" ~( ~9.00E-04
. `( C( x+ I* s' }7 l
8 M3 |8 U: z  V: o14352.452
! s3 ^. w7 H6 c
7 v0 S$ R7 N: T: H1 t. I( j14004.633
6 o, {% a' r; U  n
14062.829
+ x8 W& u: p3 ^/ |* R3 x8 j# n/ v& j
! d  m- _+ C: q/ L' i$ Y13629.467

4 @1 t: @: b: C+ v4 }7 T13613.362

% A1 r* a, F; C: S13609.563
- Y; a1 r4 f+ O3 S6 a# Y
13530.322

& y; o3 j9 s; H: O  l4 i/ X12458.171
/ a8 A' `  X2 W1 M, @
) F1 b1 `0 ]4 _; @$ c6 k12176.362

12225.96
! `' _" t: Z3 l& Z; [6 P
/ O" B% Z+ N. T7 q. h8.00E-04
) y; }& Y7 X: I
16141.206

15611.101
2 M8 X+ T* C$ l6 O
( u& E( c" f8 E* X15749.91

" \3 ]( H/ b5 I15264.98

2 j2 X. {1 f* k1 z. I8 M* }15228.447

15207.628

6 e& i3 K' k2 M+ M" o% o5 Y" S" W$ I15053.714
7 b. l, E. J& C. t6 Z, d: A# J
14044.729

+ @3 ^) _$ Q1 c1 ]2 M1 \2 Y8 v; K13530.397

13654.678
0 @$ `6 @2 a1 K. L5 A' |! r
7.00E-04

4 f) R5 [. y5 P* W- b' n4 _18194.397

  {1 N! `3 g; p: i8 x  \17760.638

: Q0 M& L0 J9 N8 N0 a, v- I17743.578
9 J4 \- t! V0 v) v2 B/ d$ x* m
4 y# N( C( O3 D. C) x7 f/ \3 h& x17333.377

17293.874

. O( z3 L( H' U  z- [# l8 H17204.638

- _3 T$ C' }+ _) _$ W17058.809

- R$ c& ?* d- d: m15946.101

15491.266
! a  I# X; E, n& M# A' Q
5 {0 `" T7 f& \& E7 Q' `  r, Y7 F( ~15399.538
9 n0 E# _; J- i' }2 a2 r6 F
s
3 L( M  [0 f7 {8 x
0 t: ]) N2 X2 x0 x130

218

198

5 m4 P; L1 s2 |9 \" m206
6 M0 K' A, g8 W0 O8 q1 n
& d/ }# w9 Z6 Y- ~, K" P1 d. I204
, C+ c! R& R* a& X8 o
9 `1 D. P4 ~  D' I: g218
2 o* @2 W+ N: y8 p
2 W/ @* t( h0 @3 S& R$ u220
8 r7 ~2 H0 I* X
) M  k4 b; Y& P" v! q: l- C204

220
" ~3 h  C* r4 B, |* H
( }& K+ w$ b" p  A- ^216
* [: l' T" _3 P9 p! C
将收敛误差为7e-4的迭代次数画成图


! u9 D; f/ g( G5 @4 C; j: z5 L' x
再将移位距离S的曲线画成图



  d$ `! a/ y8 v2 R0 l/ b  ^7 F0 K在这组数据中s和n之间的反比关系依然存在。

移位距离假设
& U3 E, G2 v# @" z
(A，B)---m*n*k---(1,0)(0,1)
  a( v/ u) E) i  ?  Y) Z+ P  {

$ y2 e: F! F0 v) H$ L: ?' f3 ]
用神经网络分类A和B，把参与分类的A和B中的数字看作是组成A和B的粒子，分类的过程就是让A和B中的粒子互相交换位置，寻找最短移位路径的过程。而熵H与最短移位距离S成正比，迭代次数n与S成反比。
* N- H/ p5 U& h- g0 L7 V
移位规则汇总

移位距离就是等位点数值差的绝对值的和S=Σ|a-b|，如果训练集有多张图片取平均值，如果是多分类问题则移位距离为所有两两组合移位距离的和。

如对一组3*3的矩阵

* R/ q7 L1 d& P. b) U

S=s0+s1+，…，+s8=|a0-b0|+|a1-b1|+,…,+|a8-b8|
- d0 K$ U+ M0 P3 d/ Q; Y  s, u* m4 P4 S
% _: [! N; \4 z0 e' r4 O如果是3分类问题，就应该实现3个形态之间的两两分类，也就是要完成3对等位点之间的差。

& j$ _& L, B6 ~0 s0 j
# ^- }7 b& a4 @/ _5 R& n2 D
因此移位距离

S=Sab+Sac+Sbc=

2 V) o: Z3 {2 W2 j4 V|a0-b0|+|a1-b1|+|a2-b2|+|a3-b3|+
* E0 m, _" E* o6 S
|a0-c0|+|a1-c1|+|a2-c2|+|a3-c3|+

8 B* m# o) u( \|b0-c0|+|b1-c1|+|b2-c2|+|b3-c3|
————————————————
版权声明：本文为CSDN博主「黑榆」的原创文章，遵循CC 4.0 BY-SA版权协议，转载请附上原文出处链接及本声明。
原文链接：https://blog.csdn.net/georgesale/article/details/126690670


+ N4 H& W. C0 l5 ]5 F1 j: A