数学建模社区-数学中国

标题: 三分类网络的物理意义是什么? [打印本页]

作者: 杨利霞    时间: 2022-9-5 16:00
标题: 三分类网络的物理意义是什么?
三分类网络的物理意义是什么?
4 [" |% q" u. }; Z/ M6 g
  u/ ^% E8 Z1 x9 [# Q用分类实现衰变* s. w2 F1 A% n, e$ E1 Z/ ]
专栏收录该内容
( G6 Q! V, l! [6 P1 G( V1 }52 篇文章0 订阅* s$ z+ y2 j. c+ J( G
订阅专栏
/ H; \# i$ q, C3 N6 t(A,B)---m*n*k---(1,0)(0,1)
" v/ V. e) }7 v2 D2 B/ x
% J7 N4 _2 h7 u' ?# T对于一个二分类网络可以将被分类的A和B分别理解为粒子和环境,因为粒子处于环境中。于是A和B之间的距离可以理解为0。因为t=s/v,则即便A和B之间的相互作用的速度小于光速,A和B之间仍然可以实现瞬时作用,并不违反理论。
1 D% ?. {7 I& W7 K
* f- c  Z3 c7 G& Z( A, B, C )---m*n*k---( 1, 0, 0 )( 0, 1, 0 )( 0, 0, 1 )
9 V6 Q& |* `* H: u: i3 G& Q9 Q' N8 E# v# f
对于一个三分类网络要完成3次形态的变换。A⇋B,A⇋C,B⇋C,每一次形态变换就是一次二分类,因此对于一个三分类网络可以理解为由3个二分类网络组成3 }$ w2 ~6 }/ m' S) S

0 M) p  o- k9 U( b' U, R1 {2 _7 G(A,B)---m*n*k---(1,0)(0,1)
  z) u" G& U- W: m
2 I  m* h& \, V, k% A6 u7 j' d(A,C)---m*n*k---(1,0)(0,1)& Y6 k$ D! p/ a. Y3 J
3 o% E' F9 j- I7 L
(B,C)---m*n*k---(1,0)(0,1)( p/ u! S% J! B; j) s5 I% _( q

% ~0 @  l1 {- a 这就意味着存在3对瞬时作用,也就表明这3个粒子彼此之间的距离都是0.随着时间的推移网络的收敛误差会不断减小,而网络的分类准确率会不断变大。这个过程意味着A被错误的分成B和C的成分少了,同样B被错误的分成A和C,C被错误的分成A和B的成分也少了。
& u# s; {. u- Y% j+ S  i  m  i- B$ _  r  O, y
所以这个三分网络可以被解释为,3个距离为0的粒子不断的相互作用,随着时间的演化,最终变得越来越像自己。
; j& M6 c9 t) M: @; ?+ V8 A* P' X
  F! J) @$ u/ D7 v而前面的实验表明相同收敛误差下,迭代次数取决于等位点差的绝对值的和,这次就继续验证这一猜测。
; q$ p. B& Z2 c; v$ ?/ b8 }- W4 R6 {1 n+ |
用的训练集是mnist的0,1,2,3,4,的第一张图片。用间隔取点的办法化成13*13.
7 E) y3 H  o* Z% G4 ^, @0 i3 u2 ^. w9 \* H5 {# M6 h: S4 [
( 0, 1, 2 )---169*30*3---( 1, 0, 0 )( 0, 1, 0 )( 0, 0, 1 )这个网络简记为0*1*2.就只有3张图片不断循环往复,直到收敛。共进行了10组得到数据
" I; Y7 L$ B/ _2 L8 [9 W7 A( M
/ }. u! n$ ]* A' p8 i1 p/ [1*3*4/ K' e" _8 B/ f- ^; m
8 `4 q9 g+ Y  p  N5 K* ]* I/ b
2*3*4
% `% a% L% o# |3 `1 e" Q! e$ f9 d# Y6 f9 P5 r
0*3*4
: q9 t' S$ ]: d! C3 C# m( N5 }
6 Z$ i0 f) T5 ^' T0*1*43 k. G! Z. D( r3 Z; T+ M# R' E) v5 P
+ d" w9 I: B+ L4 W# ]
0*1*3
3 f" r2 _# Q: i9 g
2 a! {1 Q, r& {$ o' M6 j2 i, V7 p" }1*2*4
1 K, Q% I/ [. u7 M7 ]6 x3 f0 ^3 R. v+ |. \
1*2*37 f3 C: @* M  l3 ~1 }  L
( s, v9 o6 ~0 E: g
0*1*2
5 _2 X4 h' m9 m: F8 n0 f% `" T' K: P3 Z/ e! P) m2 N1 ^% z
0*2*3
- ]; l* w+ j9 T! S1 G; T5 L5 L% t( u
0*2*4
8 K8 \8 }: ]' h! i' R% g: w( k7 G! t: c, k9 S* O3 d
δ% I1 v0 ^" j! I: p6 x0 |4 j' ?
* ~% S; r* d2 V" d6 B
迭代次数n
* a6 B6 L* N" X( j) y/ z5 U  K0 W0 \0 E- v
迭代次数n! T" {2 k& N8 @  H% ~8 `5 T
3 r+ `( j$ [1 ]6 O
迭代次数n
9 R, x" d7 F3 n
. s/ Q* b% ]- X  @0 V. \- F迭代次数n0 D* v( D1 R3 d8 u
" |7 w1 a4 F2 q1 u
迭代次数n7 E# n& O! e; p1 w6 s' s7 o/ R$ M
- x/ I: j- {2 ?. X" w
迭代次数n" e3 t8 }! {  Z$ Z; u1 m
* m# H. u8 p# I/ A3 G
迭代次数n$ j" g+ X0 t2 e: e2 ~4 j

. ~1 n( l0 l  U2 n迭代次数n
$ \( R# ~% @4 f
* e8 B& }* u& O: Y% E迭代次数n: Z6 t( e2 F  t
) A" v' I$ y% P/ B6 X
迭代次数n$ n4 O1 b$ f& f* {5 n) j( ~

" D/ c, z, J6 d: C' f8 b' P( p' H. g0.01
! r% |3 `# e- [, D" o. d. b" k
+ B( t9 R$ |8 r1 k+ T8 H. u8 [1763.1809$ v# ]+ D2 r) F
  H2 S; K' [4 r
1626.5729
( h$ w! X& @5 B  |  o- a' |7 X8 q# G2 J
1672.4523& `, J5 h" O5 F! X0 H6 p, O

6 |* R+ O8 b: Y) `2 ?) k  ?% {1635.9196- r1 `6 V% z: \" ]& q% d+ F( ?
) ^4 [, e, O" O0 R
1596.7035
1 I: }/ z( R* i7 a% E. [5 N* \
" G! P9 L( @, x1620.407" r5 l3 d' ]* t5 J5 K

! u! F% u, F' }1563.8945; l3 e  `6 o2 O/ p$ N0 L" {# X

9 r5 A) E$ P: l3 C6 B4 }6 P- W1444.2915
* s! X! J" V" H' x
/ A& n: X& W' T7 D" J% R1410.0302
0 }) i+ k7 L" S( u* ^  @' q2 i
7 w0 t0 O* v/ m1465.4171- h! m5 t( l) l6 s* O: A6 U

) V6 K3 y+ H' M0 f# S% r% \+ F* ^0.001. Y; M3 c9 C5 {6 V/ a' y( _& i

* r3 N! H- p6 ~  u0 |, S. E13065.196/ a" @3 e  }8 l2 S. y

; L; @6 m5 w+ }' `+ n12674.945
& b4 b% w  a1 X2 j3 \2 o; d" Y( I  O5 a  {
12747.729) V7 Z3 t+ ?* W( _
4 |0 K* I1 @* W7 A0 z* C5 H  f6 x
12386.2164 y' P6 G. t* q5 [4 V1 G
& F, I' A9 ?  i8 P' v1 c* d
12349.024 w% P; k- k& k. V. m
% L) ~) m6 A1 ~5 n
12282.201% ?# l5 E8 G& v1 Z& }5 l, H
( w) w3 n8 \! I9 a
12270.035; b. W- o( d9 K4 \6 n) j' d( r

' t, l, l! \" t6 z7 g/ Y# C( `11338.477. W3 t6 P: r# d: y+ i/ @, O: C
3 g. p6 T" f" x* F
10985.201
  I, @6 z7 Z  C! z8 P. v4 I" K1 ?8 o9 ?' M/ L7 m& t& {
11015.503
* L$ s$ p- E' Y5 T9 i% K! K# N$ y$ h9 [7 c8 \, s" G
9.00E-04/ D! O+ [& p' u8 t
8 `& ?, u; |" p& Q) t  s
14352.4527 |, _$ @! p! I$ G' H" D; }2 P9 U6 K
- l7 C: m$ o# X8 N6 U( O  G3 U+ n
14004.6332 Z9 A! p9 N# C5 s& u8 d
* G! \( ~6 X6 S5 }2 G" r" ?
14062.8294 N% T; `' N# r: I" r
9 L7 Z$ o( z: u  s1 A6 y
13629.467
" f/ E) t, ~9 n! ?
0 s7 |/ g, D! i: l& K- a13613.362
2 e, g1 f" T& O+ C5 b$ E0 D9 A) \! H) T
13609.563+ J( j8 c; g: u- C, f9 N

9 i8 l( G9 k/ m5 H13530.322% t# v# w+ D  i) R. a, J9 g

. y" M6 y" b$ \+ }# t- d  M/ ?12458.171; W  b  g8 Z- V1 Q$ U
* y" c$ a/ F# n( A4 j# A' L
12176.3629 X  r2 o6 H" w- w' I" s( `
1 Q2 r" s3 t, @) E& s/ _/ i' I
12225.96
. Q7 C3 r+ C0 r+ K$ c9 p
1 P) [& k! F4 f1 v- O/ ^8.00E-04. E1 c, N  J( o2 N9 D: J
% [& j; B: M8 Z. n& h2 {
16141.2060 l% @  H0 q/ U0 i7 K/ [1 \- j
5 U7 E5 w" }- q2 b6 u
15611.1018 v7 [4 P, L6 d' v6 O3 ]

! y4 g" V4 Y7 B3 ?# y15749.91# {; p7 a* ^' E

( i$ ~- y: j: @2 m* ?" I8 y15264.98# T# L) ~7 g" C  o& S0 w; b+ o! H# w
# @6 f" p( V/ ]2 W- E% C% ^9 a
15228.447" U  w8 J4 K7 ]
$ ^, T4 W2 Q( X+ T, Z
15207.628/ z" O6 |4 I* u) R
4 p- {% _9 z" N* `/ A& D
15053.714
) h9 }: s7 F& z0 l/ L$ ^- z- r& ]
! `9 b% B7 t: X9 {. u14044.729
0 p/ A6 F- W) e+ x2 w& q5 F
, u# G3 T/ q2 L" r13530.397( ^8 o9 I" F+ d3 ^

, e' \( R& }- Q$ e13654.678
( [5 G7 x0 B" @( W+ v
& n0 r" p* v$ C7.00E-04
2 Z1 D! ~/ T: j% c, U. ^
' R! D% e$ I7 C8 ?18194.397
# j2 _7 v& C. B4 X! [- G. L. a: F5 W; u6 j
17760.638
. {) s; Z) [) r2 ^. Z7 @; b1 A! @: k' n! K( @1 g
17743.578( Q3 j: d9 ?& k  Y; O
8 A) m7 y* k/ y$ a
17333.377
2 [/ _" Y: _9 z8 Q3 T0 j, f# @9 s9 J% w- U; j3 h8 E5 [5 Q
17293.874
3 I* Q& ?" q, H$ Q" b7 k1 ^
. ]8 C% {+ e( n$ X5 N: v17204.638! i% i, n1 E2 g, V  L- E
+ k. t- }% f; V9 ~. R9 ]+ J7 l
17058.8094 l5 m7 M! j& [6 @
- x3 W# n* }) @1 I# h- ^. _
15946.101' M4 _7 Y7 |1 Q' @  Y  c

) j# ]7 a9 j- q" K4 w7 o; V3 Z; X15491.266
7 j6 x4 X6 \4 V; c7 d: ?6 B  G
; o" t8 [* I3 Q& n2 B15399.538
: B8 P& o/ V- N* j9 p% D
  L) d4 I; N$ \2 S& m; F+ W  ns
2 m9 k$ K3 x# h+ h
6 f" c; {1 E+ v8 b4 w" M130! y% I5 s0 ?  Q6 k) @* x
: C8 V6 z  S$ N6 X% ]
2180 X+ w! b9 R  T, r- o
( _; L7 C& P# U2 v. I# ~0 c: }
198
5 B1 i8 X; A! Q& ^" R" z9 b
, g" E9 S7 d) P0 f  c3 w206/ ^' a" D& F3 K# l  C9 ]

  i8 r2 L) @: r2 {4 d/ y1 @; d204
- \' b( T) X; Q  @1 R1 a3 c% d: \* i4 C- w: \4 H  p( I4 T4 Q% c
218
8 `2 Q; A# ~5 j- V# T7 T7 h% [7 J" A; ?$ R
220
4 j% T7 R5 s" F" E, D  j$ Z, G, Y5 m6 k
204
' G! `  x3 a% N& H' p: u4 T) d, O3 Q- u2 X. l
220
6 q) j8 c8 Y" F; l& H* r: h( {/ F3 h4 f, C( y0 W7 v/ X) f/ {- I
216) o' J  t/ H) W: b2 z

' C) n( Z: D) s+ e; x将收敛误差为7e-4的迭代次数画成图. `7 Z# w% y5 z7 o5 c* T

+ X8 C  B4 q* L- W3 F* s; q# h% ?& k6 r& e$ S3 j" f( N

" @& T6 ^" K3 `0 g7 I9 b再将移位距离S的曲线画成图
/ T( B! I) ^0 J! K9 r' M9 l; W5 j
" j9 O/ V4 W6 v* b1 N. U- O( Q$ Q5 ~; P& }9 X# R* Q' z% Y
8 m$ w, d( l; H  m/ d: R
在这组数据中s和n之间的反比关系依然存在。6 x: k4 y( K8 r6 \& I
; S7 g  C6 {) i9 @$ y6 [0 r
移位距离假设
5 G& y7 K' k, ]) y, L4 Q' [' D* T7 y) P
(A,B)---m*n*k---(1,0)(0,1)
; O$ b' _6 e: r. ^& K8 ^3 D$ l6 w0 A- O+ i
% _  |* E& T6 Y% H8 }# V% x. e$ B

. }7 I' E' ^0 n3 a3 w1 X( v; p! j用神经网络分类A和B,把参与分类的A和B中的数字看作是组成A和B的粒子,分类的过程就是让A和B中的粒子互相交换位置,寻找最短移位路径的过程。而熵H与最短移位距离S成正比,迭代次数n与S成反比。
: U+ ^0 Q& x9 D4 c. k2 t% y7 l1 `6 h
移位规则汇总. B; [; Z' O2 ]7 j$ T$ o, N* o
1 u. |* t& e% [
移位距离就是等位点数值差的绝对值的和S=Σ|a-b|,如果训练集有多张图片取平均值,如果是多分类问题则移位距离为所有两两组合移位距离的和。
* f+ _& f. W0 D, x- A2 ^, m4 j, h) T, L: G2 L) ]; ~
如对一组3*3的矩阵: k$ `/ L' F% ?$ r# p- l  z- D

" o7 v% e! J8 V" B0 f" s+ |+ U0 _- s+ E, a

2 T% h+ C% C8 V3 y, b1 V3 h4 p, ]+ aS=s0+s1+,…,+s8=|a0-b0|+|a1-b1|+,…,+|a8-b8|
6 ^& D4 \& E9 E8 L7 W; I3 {
5 Y7 E, ~2 ^% I3 ?' Z3 B* w1 U5 k如果是3分类问题,就应该实现3个形态之间的两两分类,也就是要完成3对等位点之间的差。3 m* j/ G6 ?1 c, {1 Y; |9 A5 h# [& q
/ ~: i( u0 r/ S1 o
; w7 o; W+ c% b; Y- _/ g( R! c
) L+ ?2 ^- D( p' N* P1 w* j
因此移位距离
3 Z9 W( [) @! l* D+ h/ X4 G$ L5 Q9 J
/ t+ I6 ]8 J( a1 w  o7 R+ m, R1 T- u: J5 iS=Sab+Sac+Sbc=
' s1 j( [" p" J. v/ p% G; p' q& `
|a0-b0|+|a1-b1|+|a2-b2|+|a3-b3|+
. v$ h" J- k& g- Y' W! P: A7 j8 F& Q6 Z( m
|a0-c0|+|a1-c1|+|a2-c2|+|a3-c3|+  ~* b: y% _5 p7 B

" d% z2 C! h2 L8 g$ n. S! a|b0-c0|+|b1-c1|+|b2-c2|+|b3-c3|
, n/ L! c* \7 z/ Z1 q' [————————————————( R/ a5 c, S8 `) }
版权声明:本文为CSDN博主「黑榆」的原创文章,遵循CC 4.0 BY-SA版权协议,转载请附上原文出处链接及本声明。
" _4 X9 |* N2 U9 x3 u  A/ ?0 T原文链接:https://blog.csdn.net/georgesale/article/details/1266906702 l0 f& Q+ P; b: r6 Y2 O
3 [: f# Z7 o1 P: {! V8 j% J, ]

0 |) g) e2 O& ^3 h8 `




欢迎光临 数学建模社区-数学中国 (http://www.madio.net/) Powered by Discuz! X2.5