在线时间 1630 小时 最后登录 2024-1-29 注册时间 2017-5-16 听众数 82 收听数 1 能力 120 分 体力 569615 点 威望 12 点 阅读权限 255 积分 176107 相册 1 日志 0 记录 0 帖子 5313 主题 5273 精华 3 分享 0 好友 163
TA的每日心情 开心 2021-8-11 17:59
签到天数: 17 天
[LV.4]偶尔看看III
网络挑战赛参赛者
网络挑战赛参赛者
自我介绍 本人女,毕业于内蒙古科技大学,担任文职专业,毕业专业英语。
群组 : 2018美赛大象算法课程
群组 : 2018美赛护航培训课程
群组 : 2019年 数学中国站长建
群组 : 2019年数据分析师课程
群组 : 2018年大象老师国赛优
三分类网络的物理意义是什么?
# }( H( I& E1 V2 Q* h6 \ 9 p& }/ m8 J \1 G
, [1 M+ t5 f6 D; Z) |
(A,B)---m*n*k---(1,0)(0,1)/ {8 G% k8 m3 M" U2 \" S
" J* D* O# |: R# g/ X 对于一个二分类网络可以将被分类的A和B分别理解为粒子和环境,因为粒子处于环境中。于是A和B之间的距离可以理解为0。因为t=s/v,则即便A和B之间的相互作用的速度小于光速,A和B之间仍然可以实现瞬时作用,并不违反理论。+ l( s7 L6 N' S
# n! P" f- \% r# P8 b ( A, B, C )---m*n*k---( 1, 0, 0 )( 0, 1, 0 )( 0, 0, 1 ) n& V3 U# L$ f2 i
8 K/ K2 a. J1 l 对于一个三分类网络要完成3次形态的变换。A⇋B,A⇋C,B⇋C,每一次形态变换就是一次二分类,因此对于一个三分类网络可以理解为由3个二分类网络组成/ b& `5 D# _. f+ D, f
3 U- Y3 K2 t1 \' a (A,B)---m*n*k---(1,0)(0,1): K. l! f6 R! c, E8 Z( o8 X
- s, W/ q# n' Z# N) _ (A,C)---m*n*k---(1,0)(0,1)
5 J( o+ R8 e, U; {* T " l; u4 d; q4 h( a# I& V
(B,C)---m*n*k---(1,0)(0,1), X; J6 K; c: a7 b0 v
; S! F7 d& M* @ F$ R- j
这就意味着存在3对瞬时作用,也就表明这3个粒子彼此之间的距离都是0.随着时间的推移网络的收敛误差会不断减小,而网络的分类准确率会不断变大。这个过程意味着A被错误的分成B和C的成分少了,同样B被错误的分成A和C,C被错误的分成A和B的成分也少了。
. d+ t& Y2 d: ?" ? 3 V' q( t% T* N' q4 x8 \
所以这个三分网络可以被解释为,3个距离为0的粒子不断的相互作用,随着时间的演化,最终变得越来越像自己。
9 J6 Y5 ?3 z9 F' f/ m1 i3 a ; y1 R0 O, A: Y6 k6 G+ @9 P* R* O
而前面的实验表明相同收敛误差下,迭代次数取决于等位点差的绝对值的和,这次就继续验证这一猜测。
, b& W" L+ V8 O! Y, W8 k* K" D
. h9 @, Y2 v) Z7 C 用的训练集是mnist的0,1,2,3,4,的第一张图片。用间隔取点的办法化成13*13.
/ V# o; A3 J1 |% B4 I9 w) d% ^
( w1 u/ i3 T3 D+ ^% a/ m3 B" G ( 0, 1, 2 )---169*30*3---( 1, 0, 0 )( 0, 1, 0 )( 0, 0, 1 )这个网络简记为0*1*2.就只有3张图片不断循环往复,直到收敛。共进行了10组得到数据6 Q2 y2 A1 h9 e$ S+ V; \7 _; Y9 }3 I
) X5 Z: c# m, N; U2 R0 z
1*3*4
- _* v" m; E, J5 s! Q! j& h
$ A" ^) a' T4 I- G% `# w* E 2*3*49 B# A8 _+ d3 l* b
% I+ l" u! e$ u9 | M$ k2 d
0*3*4$ d2 m1 d4 B' L$ `* r @/ A1 O9 C
+ k4 J8 I( w% m6 e5 L0 z8 [ 0*1*4
6 G. x- Z9 \& u- J
7 a N( E) c ]' ?- z 0*1*3
9 E( l& v1 T( W2 B/ [2 q 1 z( [! K( g, J. ? w% N& N) _
1*2*4+ ~5 s( X7 l* k1 P5 n0 x5 N: _
& V. J: ^1 _- Y 1*2*3
. _. k, \6 X4 [
8 p4 \6 L% l# X 0*1*2
" Z/ a0 y5 y/ J
- U" a1 j8 A7 n% V; M 0*2*3, e; Y5 _# D6 k) {" G
2 \' ?9 N: i1 I( u
0*2*4
8 ~ {" ` g# b9 x
7 N" F+ A' N, L: W δ
# U9 U9 N2 e, f' c 6 r H1 Z! B' Y) }: P8 }
迭代次数n
. c( s2 x' z N- g- A" p% H
9 v# ~& [' \$ h2 @& d. E+ Q 迭代次数n
& i- X, H8 h4 Y/ i 8 p4 F: x7 R; \$ R5 S
迭代次数n
) K, l- v( [4 R, w 0 ` {+ f, `' O
迭代次数n
1 V0 P2 G; G+ U$ D" E) y- I0 D$ s
" ]3 Q$ z5 m5 X: O. |( [. |5 J1 Z 迭代次数n
, {( b: T; F$ O" e9 C
- L5 ?* d6 x5 l- n; S 迭代次数n6 ?% `0 R' `/ j" o, s3 t
' [5 }. U8 N7 P8 ^ 迭代次数n' Z6 ?8 _0 a! S& R$ \" R
2 O/ K* i( G1 f
迭代次数n# F8 e% o: N' m: c
, J, w% B! C% K6 j! K$ ~* |
迭代次数n
6 A6 x; z! \# H3 o& Y
- _# N) r" s. w1 T" P- v& b 迭代次数n
/ I" A; }+ e/ }6 ^0 F 7 {+ b' v# V" X
0.01* \6 u2 L4 }) C
' {1 _* U6 P2 b% y4 I7 X4 r" j5 i
1763.18097 ^/ [* @8 Z3 ]: G2 }+ B2 K$ W9 h
+ v: |* H6 B- w9 y 1626.57295 ?* M6 \/ K9 T0 y% z/ l
7 S/ z$ m6 ?# p7 k/ }) _: Q6 p
1672.4523+ p+ d# O" A0 B* b
& a9 k1 |# E) J7 P: |& z 1635.9196
9 A& `* T' ?' o5 N & H s1 N( H+ ]( r
1596.7035
& i5 _' {" h6 }+ e4 ^9 g0 z- l 3 c$ x( B& f/ O7 L( |
1620.4079 ^( n* }$ c) w
' v; V& m }% q
1563.8945
+ r+ O. k) f9 }, n / s, X& N* [0 ?) I
1444.2915" o& q; E# ^5 N/ X6 M& j+ u
6 T3 M& E! C' R+ `( o# D+ D
1410.0302
! F U! z" }8 g/ J; |
& a- A% ]) X& u4 j) p) m 1465.4171
2 e& T/ Z$ f; p/ K/ A
/ b' T# I+ E) J 0.001; b; P- }; T; ?2 Q% C7 D
8 k* P3 a/ R# \* k 13065.196
* }, V ?5 c/ j A 9 r0 [9 L& L2 c* R
12674.945- e6 e9 }) B$ {
# ^. B2 T! d& y: t& G 12747.729$ A5 d3 j" p0 {3 G9 @
3 n' U! U' l, a9 z- |6 V. w6 h
12386.216
+ m4 j' x! C! h( q5 c; _0 M h2 c/ n) Y7 J+ p
12349.028 r+ }+ p* @6 l7 L/ N) f2 D8 x
6 p" g6 Q- }2 r8 ^
12282.2010 g- X, G- R; V" ^
7 E# e8 z, Z/ x" A& M 12270.0354 e+ O: n; N7 I! C5 v# }$ u2 ^
1 }2 u# D6 n+ t# l- l( c6 z 11338.4770 d$ b% G: i$ B6 N% Q
; X( M4 P8 B; L( m& W! a8 b% p 10985.201& \, {3 e) B- n L* P& f- N! [) o$ N
2 ^% \( L e! ^# y! s. M
11015.503
8 u2 i {: k9 |3 T8 Z4 B / E* g" E, m! S: C& [' w( c
9.00E-044 D" `- g7 T4 ~. X& G! V/ t
5 E' v* K6 l* K& T( b 14352.4523 V6 P: b4 s- V0 j
8 v2 M0 _( p# v* I
14004.6339 t* [" ^, n) ]* Q
/ P% E. i- K0 q$ a 14062.829
& P% f' Z! }' i+ X; _ * Y; F( K" ?7 J. k/ ^5 N. p5 q
13629.467
; _* {6 S( v' }" ~ ) \3 o$ _5 J6 a! A4 @
13613.362
6 j& `* s; V- @" l8 U / o( C/ ?8 L; B9 a) b* j: K
13609.563
( h2 D& z- g9 o& r
/ F5 J/ P! d% x q 13530.322/ e8 \- M" H5 l8 |
/ H. t% V$ j7 M& @$ ^: W
12458.171% h- N5 E: l- y9 b
3 C7 X% p( E7 p
12176.362% g" e5 ]# [( [* |8 v
; x% D1 x6 \' {% f' I7 _7 }/ Y& P 12225.96' q1 g/ O% @" ]& a
; s* a3 R, J# k" m7 K9 q4 {% e
8.00E-04
O* p( V! V% u
) i' v' Y& V5 S3 l% ?; ^5 i 16141.206
) K" q# f9 D, N \3 i- O# M ; m* S. B5 L1 Z# P- `, w
15611.101
7 L s+ B9 {; O8 L, X6 ] * l- _* c( r- x: j# F' m: p1 J" l
15749.91$ p$ X- k2 ~$ I, S5 C r) Q+ J
4 E& x0 }. P+ W, x: o8 h 15264.98
$ f ~& \" e. j; A' y3 g3 V+ d ! X7 B! B8 L, Z* r5 M
15228.447, V# n0 G& S! y( F0 c
: o3 L j9 |1 n, \ 15207.628
( A' c7 j$ r: Q T6 x4 l+ t. l 0 i K% J; n; X7 F
15053.7140 z% e) I$ L, ^2 E
+ D% u+ G, `4 @ H6 x 14044.729. \6 j0 D+ \& c4 h6 n$ H3 O4 N. {
) @# t/ g+ C' y3 {: y6 x9 r
13530.397
% i/ \( C9 `, H9 z% h8 _9 ]
; o' l6 }1 S6 m% b8 X; v ~$ K% e 13654.678
. E* ]; I; w! j2 H! J _, u
' r9 P% H$ U2 U* H- k 7.00E-04
2 W5 K# J, s8 Y' A
# S9 e& D( L# {: g7 ]5 C 18194.397
& t/ c0 G% G7 V+ J& Y
3 y. U- v' O5 C* _8 n1 z 17760.638
/ M5 u9 I8 H7 [+ O 8 U% a; v }; I0 z& |: `
17743.578
0 T# ^0 N5 n, b: n+ \4 Z, R ' g( G9 w! K! o T& d
17333.377
# E! z/ ]+ a: q/ R4 E% g! S
! o& Z* @ p; m5 W" h7 X5 K 17293.874& W' h9 J4 D2 h) f$ Z& N H
5 `8 p5 R$ X8 v, _4 t; s 17204.638
$ d% t( \7 Q! N" ? 4 P# b; p6 m% [7 S
17058.809" J" ]3 r+ f1 o7 `
& [9 r) s1 s4 D8 x: q, s6 `8 S7 |% Q 15946.101+ ?5 R" l0 h2 ?+ U5 J' M1 k
$ S8 y; {. m O5 a$ i1 d 15491.266( ^2 p; U9 Y% o
* i3 M3 s* d# W1 @7 u3 i& k, S8 E
15399.5382 A" @4 V2 R/ r5 j* G
: J% h' A1 u" Z D' {( ` s
7 c) V( K# _$ ^9 Y9 W1 y7 C # e' p5 r. O6 E- P; W
130
( M% Q, F! @* P/ i2 a. f
# U: _5 P. Q# A2 p6 v 218
" v; Y9 L' V5 ^( O" n& V I # @+ |$ p$ O& Z8 G+ P$ h8 r/ X
198' \& @3 L3 j. S
: y* b6 c' h' ~3 Y& Z 206
2 D. ?' C( ]5 L5 G. ^* {0 X
' u1 N& C" L( M; v3 F, h9 X 2042 x8 |1 F! |; u# e
& Q0 N+ U; X- w: k$ @ 218
9 T% F! M! w6 Y, g- I8 K. T+ ^8 ~5 Y 0 ^& w+ c: O/ S9 }' ?
220* d4 A- ~/ A1 q( {, X/ x Y
+ a. H- e$ |& w4 r. ]% k+ g* M
204) w' O5 P2 G$ z- ]+ I6 s
5 w( r4 C' P3 d* l1 f# H" n
220
9 i4 C/ i+ E) Y5 ?# \ & }2 p Y/ a+ ^6 _- |: G
216 N. o" }. l5 a* V: P
7 y/ G7 Z# D8 [. [7 E
将收敛误差为7e-4的迭代次数画成图
$ T7 U4 X1 o: [: x$ [ & A% d9 C& K- O2 t5 w' ~% @4 A) Z
/ x6 }, g4 S$ Y / G2 j `3 X1 f H1 W
再将移位距离S的曲线画成图
# b& Z0 v5 E2 s: Z
% {! g: L! c, `# h ) }5 ?2 q9 i! d; p
0 S8 u8 ?, X* I1 B1 a& w
在这组数据中s和n之间的反比关系依然存在。% b. @& J- z$ V6 J9 B$ {2 y
! Q1 N7 h0 W* W2 ~7 i 移位距离假设5 C# Q7 i# Z+ w5 \) {/ {" l
4 ]1 D8 y( s; i* f% {
(A,B)---m*n*k---(1,0)(0,1)
% ?0 E) [( T. Z% f: H# W' J- C& d 1 u* U" ^9 Z/ c8 ^% k
( J: U4 f, h$ ^3 X- S; g3 f
& P% `; Z, X# n# m- y* {+ W 用神经网络分类A和B,把参与分类的A和B中的数字看作是组成A和B的粒子,分类的过程就是让A和B中的粒子互相交换位置,寻找最短移位路径的过程。而熵H与最短移位距离S成正比,迭代次数n与S成反比。* P# @" h3 Y9 u: ~5 W4 R
' M2 Y! M/ I) H* ~- e- y" v 移位规则汇总5 d, }) C- d% `
# m( C/ E- i6 @" |( H3 C. c+ m; r 移位距离就是等位点数值差的绝对值的和S=Σ|a-b|,如果训练集有多张图片取平均值,如果是多分类问题则移位距离为所有两两组合移位距离的和。
5 A: d7 N5 d0 |) J; E; H + s1 W& T7 C! U1 P( b. r
如对一组3*3的矩阵: F9 F" Q' n. {6 a: h. ^9 {
' j, |8 q# z+ _6 j1 [3 U
' N) Q) f6 R" ?4 F( ~) p4 R 4 }: h' f: J) W9 x
S=s0+s1+,…,+s8=|a0-b0|+|a1-b1|+,…,+|a8-b8|
! S5 l9 x" L8 S- }' u, D H7 g- f8 y2 p+ i: b+ h; p
如果是3分类问题,就应该实现3个形态之间的两两分类,也就是要完成3对等位点之间的差。3 k! N3 n+ a) g& A M3 r
8 z$ y/ f' ^- g& n0 w
' H1 E% F$ d B9 _4 t
9 _. b& q" W+ ~& X# }) t j4 q4 i 因此移位距离
$ b- B7 y# P; |, }3 N % V% r8 w7 f% |3 }: q; Y
S=Sab+Sac+Sbc=. K% \/ t! X& g! ^$ I! F/ R
& X0 @0 Y9 i6 x; D' m e
|a0-b0|+|a1-b1|+|a2-b2|+|a3-b3|+
) i E' w+ S8 } P' B% a. _% F } 8 \' p3 g3 N* Y5 K# i: I( g2 _
|a0-c0|+|a1-c1|+|a2-c2|+|a3-c3|+1 i+ i5 }, ^1 T$ v5 j' ^7 T
! z/ G+ _5 q' X6 `
|b0-c0|+|b1-c1|+|b2-c2|+|b3-c3|% p) q! K7 c7 Y( W
————————————————
2 z) \( O# \$ f5 n R 版权声明:本文为CSDN博主「黑榆」的原创文章,遵循CC 4.0 BY-SA版权协议,转载请附上原文出处链接及本声明。" a0 o9 U7 Q6 g6 e
原文链接:https://blog.csdn.net/georgesale/article/details/126690670
5 S0 U+ f* |) x" T: _+ a4 p4 Q 8 C9 ~7 g4 s; y* o j0 R
) `, Q" H- k2 R: C8 x, M. n. H# }- V
zan