数学建模社区-数学中国

标题: 三分类网络的物理意义是什么? [打印本页]

作者: 杨利霞    时间: 2022-9-5 16:30
标题: 三分类网络的物理意义是什么?
三分类网络的物理意义是什么?
; u4 M& L, V9 i, ]3 ^( o" _; ~- P' u9 u. c1 K7 c& r- C8 j
" T; I  |, W; i8 L, j7 N) Z1 l7 N
(A,B)---m*n*k---(1,0)(0,1)
* H, E# [+ M" y: ]
% u. x0 j% a" q8 h9 T对于一个二分类网络可以将被分类的A和B分别理解为粒子和环境,因为粒子处于环境中。于是A和B之间的距离可以理解为0。因为t=s/v,则即便A和B之间的相互作用的速度小于光速,A和B之间仍然可以实现瞬时作用,并不违反理论。* O2 \( p) b% y0 m9 u" l

2 R" g& I) }  _0 ^+ _; Q( A, B, C )---m*n*k---( 1, 0, 0 )( 0, 1, 0 )( 0, 0, 1 )# I# |* R2 a; {9 [2 i- X2 \

- e! O% @3 P! A对于一个三分类网络要完成3次形态的变换。A⇋B,A⇋C,B⇋C,每一次形态变换就是一次二分类,因此对于一个三分类网络可以理解为由3个二分类网络组成6 C3 ?4 k9 F5 \9 y2 i3 M  O" `
8 F' L) z: ~5 i
(A,B)---m*n*k---(1,0)(0,1)
' W+ F0 h1 ]1 y+ q9 A5 @  H
% [  h$ J9 I: S- n! W: b7 t(A,C)---m*n*k---(1,0)(0,1)
& N0 x' R9 o" u
, p. r5 C4 I8 Y( a; ?(B,C)---m*n*k---(1,0)(0,1)
! `0 ~' u9 i. R' }9 J+ `# }$ [- G9 {8 W+ D& o4 @
这就意味着存在3对瞬时作用,也就表明这3个粒子彼此之间的距离都是0.随着时间的推移网络的收敛误差会不断减小,而网络的分类准确率会不断变大。这个过程意味着A被错误的分成B和C的成分少了,同样B被错误的分成A和C,C被错误的分成A和B的成分也少了。# ]* {6 E, J& G4 q8 ^/ p! Y$ N
2 Z6 Q  g3 |1 U5 ?5 i# T# ?& E# G& E7 ~
所以这个三分网络可以被解释为,3个距离为0的粒子不断的相互作用,随着时间的演化,最终变得越来越像自己。
) f& ^: R" v5 v3 X8 H! @/ H' K$ i# X! H- }9 P& [0 t
而前面的实验表明相同收敛误差下,迭代次数取决于等位点差的绝对值的和,这次就继续验证这一猜测。! m$ R( _: `- J6 V) o+ s! ~- s, ?: R2 w
8 `* Q# I4 K! `# M: s# v+ l+ ?
用的训练集是mnist的0,1,2,3,4,的第一张图片。用间隔取点的办法化成13*13.) P) F) R, X6 K# Z
+ i$ t/ y( n9 S# B  O( I" u
( 0, 1, 2 )---169*30*3---( 1, 0, 0 )( 0, 1, 0 )( 0, 0, 1 )这个网络简记为0*1*2.就只有3张图片不断循环往复,直到收敛。共进行了10组得到数据  G. O  R  b7 v  o* w0 m

9 Y% {0 v" m: y/ B1*3*4
! M- z% B+ k/ R+ q  s: [% N3 Z1 [  A1 R2 F% ]5 y
2*3*4
4 Z% t* t6 O6 ]
! v% Z7 x& A$ Z0*3*44 h4 j/ D7 {8 c' G& a% t, M4 |

( D; q& k$ l$ E6 M0*1*41 c, y1 O7 w, {6 Z; @
- B2 C' a  Q5 \9 B9 _. M2 ^
0*1*3
/ m- ?/ D1 Q' V" x9 B
" W7 j9 z5 {/ ?) R* a% R) k1*2*4
" w; P; T: n+ m9 F; M( a0 _
0 g" Y5 Z: _5 x5 E+ c" K1*2*3
7 S) S1 k, Y9 u  v
1 z5 C2 d2 y0 g" s9 \; R/ k0*1*2' I( k3 u* ^- D) `0 Q* Z

; L3 h* f0 i0 d3 J! j% `6 S0*2*3" x' J5 W: S. l- i6 W+ N
) {9 J- ~( }5 E' f# W
0*2*4
1 Z; U' ^: y0 R2 F4 _( j# D/ b. b. b! D+ B9 F( `
δ
  l4 s; D/ `1 d0 {( D& z% ~
) o6 s5 r: e7 ?9 Q: o8 |+ q; R迭代次数n
* W: ]  G) m+ w$ K
! B: E6 N/ N  j$ J5 c5 ^迭代次数n! M# Y, E+ d# ?9 L2 A0 F; Z

! f' [" L; t5 N迭代次数n5 j' R2 p& V/ H+ P5 C
* d  [7 {- F' T) X7 d  Z' F' N
迭代次数n
. \* ]9 @: \0 T
) s: [2 {4 l, Z" u迭代次数n7 u- L% q2 _8 G) P  a- t, ~
: l2 ^5 h. w+ n
迭代次数n9 n1 ~2 ^+ n# {9 f+ T  f
- p2 ^, v0 t" u  a( ^6 i; A  h0 m- A
迭代次数n9 c- g; X* l* ]3 S, r

" F0 ]" j- x) t. r( \# ?迭代次数n
9 ~+ M3 ^( n4 E, J0 @* e; x# [, f
, P8 l- x2 @9 Z) f$ w7 Y迭代次数n' O/ U6 U+ t: ?  L$ }/ V8 r  L' O

& k. y$ o, X( B7 t; T9 v迭代次数n
! a( c+ Y- l3 a, Z+ S( h. C5 |8 G4 O& M  \/ h; p  P
0.018 f7 s+ y9 Z; A
. U) `! W; w7 w2 w) V- o9 I9 [
1763.1809$ V* O  R# c7 {- g0 v. _( U: u
  T, \& y( T# X$ z) l& d
1626.5729
. e$ u: T% h+ b. O( O+ V/ u; F& H" Z; A& d. A3 }
1672.4523
$ W( h# C" u7 Q7 Q, ?2 S; T/ I' Q! E. Z0 ]
1635.9196
1 d) C7 Y0 }" Y( W; u( Q6 [
+ s1 C. S/ n! |6 Y: _7 u1 f1596.7035+ |/ }  y1 d6 k" m
9 W- m* ~0 y5 ?) P
1620.407$ w, j3 a& v8 S
6 Z: J6 R7 I0 G8 g: ^* Q+ I
1563.8945! `/ n- v5 T2 Z" \3 f

. r9 c! r, f$ a) V* a1444.29154 V3 A2 A" ?- a( u8 o) n7 a

' m" Z7 o9 L7 ^* i5 ]2 F; g& A1410.0302  X) h. g3 J& c1 v  {0 a  b

1 A+ B1 G8 E9 V! X* p7 h) ?1465.41718 f1 c1 T4 r" h% [' U0 I

" u; H; b* l/ J0.001) E  D+ y4 ^4 I/ t3 |  b
; K* t! c1 J7 s1 @" ^& v
13065.196% P; U2 t" |2 s+ ^
& m7 F4 Y" a# m. J' S
12674.945# h8 n) L& e2 Q; P

6 g* F" {2 v9 @) G% t% i12747.729
2 {4 R% c$ X" x" j7 D( r9 w" f  D& S* v9 o
12386.216  h) s' x" V; x3 _* l) j3 z7 P7 M4 a
- Q( O6 ^5 a( i" L1 n# ^
12349.02
6 ]5 N* E3 J; x/ T1 X2 ]
0 j0 W! b4 F" h/ {7 E12282.201
  @2 p8 g  p, @" C& c$ H% w9 h$ [5 d% L& d4 s( O; S4 f
12270.035
9 H5 V  n/ T: Q
6 T% x. H1 X1 e11338.477. O. V6 f) K6 C4 h* W9 Y9 B

8 h9 y0 q, c. q8 ]/ w4 i* y10985.2010 U# r' H; \5 Q' _

( _( B* l8 X6 Z$ o1 L& I11015.503  f0 t+ u( C  y& A4 @% G" _

+ d2 y0 i8 v4 k  H& q9.00E-04' y9 P/ `5 P3 b4 ]5 n; X( C
7 B* ?" r" w4 Q9 H$ A% F( Y% @" J
14352.452+ d& @! M) Y6 f' |. E

" c: u* |) J; S4 T- ^0 H14004.633# c0 y& ~6 x9 \1 d

* p: z  K/ z9 v# a0 ~14062.8299 r7 T" b6 ]/ u3 U$ O

  g. D9 ~, Z9 j, U13629.467( w! J; y) Y  M
; [( d* j* k' ]
13613.3627 n4 R( W: y, D  `

6 v; `7 ]) W6 J6 f! r13609.563
- V7 z3 \/ ?1 n: g
$ F% C  p# @. _13530.322; l/ m( Q+ z, H$ H* P/ d7 W
* v8 l, d% F; [7 |
12458.171+ F6 X% Z1 r( J
6 t/ [7 P& i8 k0 w7 O
12176.362
  d1 z" M! `  {5 |0 y  E! x4 ^- c* A  f. c
12225.96
" g5 r6 j7 E% E  C! r5 i/ s7 }( U# L
8.00E-048 O+ w  R! G9 S' f, `; V3 N
8 X; Z1 `+ a9 O$ A  J+ y+ h$ {" v
16141.206- [$ _& l/ M. n  {( ]) Q

  R$ N+ j% y& M) d$ \! Q2 Z15611.101& u: L" ^! [2 s# I# w  Y; R) N5 C
! |* ^8 H- d+ m( P/ f0 U
15749.91
, p/ c0 r1 G9 e
6 ]+ g' G* b4 ^; U% O15264.98
, v' n- m5 M; k! X  `! J+ w3 z: K+ K9 G' b* R- F
15228.447
- z8 n! p( V& v( k) Y; P6 ]( N( M" S% O) e! |3 v* Y. P
15207.628
) q# e1 \+ S4 F8 y  O4 }+ q0 |
$ G* b* n1 k# d/ j* W6 F/ ^, @15053.714
4 \- V& u1 m* V9 ]; t* X5 p: Q+ o" m, W5 v
14044.729
% Q7 I" d- j7 s2 l, s3 n
8 M1 s. Z7 y% u/ p+ M- m( c13530.397
! q0 Y2 }4 p3 D; E! V5 s/ m
1 g; j% U4 w7 _( u. n+ u1 {- y/ w13654.678# V% e4 _0 n2 v' G8 m( H+ Q! v
+ @5 A8 Y" L5 Q1 g- g# X8 p; X# y9 g
7.00E-04
* t. L$ U* t! m7 V: D; i% W+ I. U/ Q9 E, E: s6 C
18194.397# k# v- ~8 e/ U$ b: y; O- _& ?

  u6 J, y$ t" P! _17760.638( e1 b% p$ M9 `9 h- b* Y. F

2 I- _4 |! _! K17743.578
; ~' v8 E2 o; Z# S, u' L) c4 r( L5 Q( o' i! g% V
17333.377+ K0 P/ B  `2 [$ b" A- k

, M1 Q7 X3 N$ q/ J17293.8743 `) N- |; c  E
1 R( {: K1 k8 }0 W
17204.638# \3 O. o1 `, ~+ l# Q8 s- l

6 m. H3 W; P8 {* T17058.809
2 o# [$ _9 d9 q
/ }, C0 \  n: L" e- m, ^15946.101
* |" g: [" q+ y) F; Z, o: J+ h
8 ^$ {: O% t6 V4 q+ V# o3 v& Z' o6 a15491.266. e2 n' n% p( X* }1 f& [6 _
, X# \+ X* s) r9 g/ G7 \" i- y/ v
15399.5380 u0 T% Y5 u4 ], G& x/ t2 k

! E9 U- Y7 o; R0 F8 V9 {; qs
9 Z2 H* _, u/ }# N. [2 \" k0 |3 a5 }0 s
130
# ^" k' w. }; Y4 y$ R* g% s7 C2 D
: u: V% F' p( [- |/ Y8 b218
" Y$ W# X" |' X5 V3 n9 ]
7 X3 Z! i5 j# E( U& V198
: e! M& D& X( I
/ w- U% w% T% L206
$ Y. F3 E3 i9 i" v3 p: P" B* u" ]& S& S, b
2046 P! ~. J: I% q/ k. b* r

2 R  E0 A* Z! A5 v2 ]; b0 ~' P, h2180 [7 F/ I8 L6 }6 E1 E* w
1 l2 o: p$ l& {5 ?( C7 x2 r
220
# k) o; X, s. z  r# @$ D' w# H1 W' U4 P# ^' V' l: G
204
; ?  c) I! @9 E4 a
% Z! c9 X, f, P& L  g9 y220
9 B+ U, u+ V, g1 U5 y5 F* l  `: t9 C4 s7 Q
216
1 B3 }, E5 G1 A. M0 |+ e1 ^$ u5 G; v& I6 |' B2 c
将收敛误差为7e-4的迭代次数画成图
( @# }  @# u3 N! I# ?* C- P# V3 y$ w7 G$ A
9 t5 l! \) A: H) S+ \

6 f1 h% q  `( ]2 ?: `0 C再将移位距离S的曲线画成图7 `" D, X! y& a6 Q" f# i+ P
. o2 m9 [0 u4 I8 \+ m. _3 i* Y
. k0 F1 S  T/ V4 }
( |% r% X9 o: ?
在这组数据中s和n之间的反比关系依然存在。' c* k# ~3 f" E7 Q

. C! h0 d/ z4 H' g/ `& }移位距离假设7 n' V! g  M+ Z2 Q; K4 K
. ]; Z, `  n+ B2 y
(A,B)---m*n*k---(1,0)(0,1)
' v) s3 L) V5 }6 {% u
5 q1 U6 P# d/ I! B" T; n
3 ~" O+ X- `" q+ s2 c7 S2 O& P$ V5 N) B$ p( @2 S: y5 Y7 N& e6 o
用神经网络分类A和B,把参与分类的A和B中的数字看作是组成A和B的粒子,分类的过程就是让A和B中的粒子互相交换位置,寻找最短移位路径的过程。而熵H与最短移位距离S成正比,迭代次数n与S成反比。
, [1 G* ]: d; G& n- C6 A
( Q5 S3 K& O* q  E移位规则汇总5 p! N% m8 X7 Q+ h
7 M% E3 P$ r" {+ @9 m$ B4 C1 f0 [
移位距离就是等位点数值差的绝对值的和S=Σ|a-b|,如果训练集有多张图片取平均值,如果是多分类问题则移位距离为所有两两组合移位距离的和。
7 I0 R$ t# F0 u6 b6 B3 C) L/ p( z
如对一组3*3的矩阵
" u5 }0 E6 B/ M# w& \8 \2 Q
2 u6 n9 I% Q) k. N* K. d! ^+ n5 ?& I; O# _, e& B
- k% C; P  n; j  |
S=s0+s1+,…,+s8=|a0-b0|+|a1-b1|+,…,+|a8-b8|# f- }; C4 x: P
5 v8 [6 }6 S" X3 J8 f" w5 N) N; Y
如果是3分类问题,就应该实现3个形态之间的两两分类,也就是要完成3对等位点之间的差。
, ~, X7 T6 J/ G# ?3 s/ Z6 l1 C* q: y* W) ~2 L7 b# a+ G. L* Z
: A- j. l- \- o, H
9 O2 o; U5 n: N5 z4 B6 H
因此移位距离% x3 g- l4 t! f* D. X  `

- B' m- W2 z0 m; x4 x3 i. V# kS=Sab+Sac+Sbc=
/ F) n" b; l4 D7 u/ N! `% _/ u+ w" _( b  E; @2 g( S
|a0-b0|+|a1-b1|+|a2-b2|+|a3-b3|+
; p3 u, r/ d4 j) ?- ?' H! M  H8 y6 Z& g; M3 g6 N" M- d% W/ B) s7 v
|a0-c0|+|a1-c1|+|a2-c2|+|a3-c3|+
+ E. ?& B( @" a2 L* A
  N8 |& ?% q4 y9 C: F% Y|b0-c0|+|b1-c1|+|b2-c2|+|b3-c3|
9 I" m6 n8 x, E6 b& j9 F————————————————, v0 s: x% s3 _
版权声明:本文为CSDN博主「黑榆」的原创文章,遵循CC 4.0 BY-SA版权协议,转载请附上原文出处链接及本声明。4 `; |: G/ P3 {5 `8 X
原文链接:https://blog.csdn.net/georgesale/article/details/126690670
. ]* ?4 E% v, r0 }! z* l% Y& h: d- x- h, e& F' j6 W6 F% s
0 t/ F& M, t: w  ?





欢迎光临 数学建模社区-数学中国 (http://www.madio.net/) Powered by Discuz! X2.5