在线时间 1630 小时 最后登录 2024-1-29 注册时间 2017-5-16 听众数 82 收听数 1 能力 120 分 体力 563255 点 威望 12 点 阅读权限 255 积分 174199 相册 1 日志 0 记录 0 帖子 5313 主题 5273 精华 3 分享 0 好友 163
TA的每日心情 开心 2021-8-11 17:59
签到天数: 17 天
[LV.4]偶尔看看III
网络挑战赛参赛者
网络挑战赛参赛者
自我介绍 本人女,毕业于内蒙古科技大学,担任文职专业,毕业专业英语。
群组 : 2018美赛大象算法课程
群组 : 2018美赛护航培训课程
群组 : 2019年 数学中国站长建
群组 : 2019年数据分析师课程
群组 : 2018年大象老师国赛优
三分类网络的物理意义是什么? 8 H( E) @' C& G' v
4 H# y4 X. @; ]. w3 r( x' ` ( R! q) S' r3 y A# h+ R9 L
(A,B)---m*n*k---(1,0)(0,1)! e9 z1 S5 Q* g8 |7 [: f& ^
' ~# l' Q" }# T1 z0 S- D 对于一个二分类网络可以将被分类的A和B分别理解为粒子和环境,因为粒子处于环境中。于是A和B之间的距离可以理解为0。因为t=s/v,则即便A和B之间的相互作用的速度小于光速,A和B之间仍然可以实现瞬时作用,并不违反理论。5 K; B6 b2 d, S; a" |
7 S& K- @; `4 O$ S' U1 g& t
( A, B, C )---m*n*k---( 1, 0, 0 )( 0, 1, 0 )( 0, 0, 1 )' ]5 H- _! W, v# ?+ b
9 L# U* s" k5 D) F3 v! @$ G$ i 对于一个三分类网络要完成3次形态的变换。A⇋B,A⇋C,B⇋C,每一次形态变换就是一次二分类,因此对于一个三分类网络可以理解为由3个二分类网络组成; y7 H6 Z1 M, ^ P' S) q
. i* B+ c; X/ G+ {8 a1 b1 i
(A,B)---m*n*k---(1,0)(0,1)
" w9 Q9 n& J1 f5 y% e- H 7 u1 Q' A# H0 f
(A,C)---m*n*k---(1,0)(0,1)
4 K- G6 K6 |# x7 P4 D- n$ K
' B- ~5 Q9 Y w2 h. b# q" D (B,C)---m*n*k---(1,0)(0,1)' c& _* \ T$ ]5 [" ^
8 S7 V; p* W! K2 [9 c/ K! | 这就意味着存在3对瞬时作用,也就表明这3个粒子彼此之间的距离都是0.随着时间的推移网络的收敛误差会不断减小,而网络的分类准确率会不断变大。这个过程意味着A被错误的分成B和C的成分少了,同样B被错误的分成A和C,C被错误的分成A和B的成分也少了。$ K$ o7 R5 k: a+ V' _$ d
% j, b2 ?" N J; O 所以这个三分网络可以被解释为,3个距离为0的粒子不断的相互作用,随着时间的演化,最终变得越来越像自己。
' F- I+ ?& w$ E; b7 p6 g# \6 x# c
; W8 p3 f$ i* r1 X" \( b& H \ 而前面的实验表明相同收敛误差下,迭代次数取决于等位点差的绝对值的和,这次就继续验证这一猜测。
5 V- z) ^) j; }- ~4 _
# p$ S9 m8 A- T& ~6 w 用的训练集是mnist的0,1,2,3,4,的第一张图片。用间隔取点的办法化成13*13.
- h4 o& J1 \, u4 r% L/ |. `% f$ `, ?; n 4 ]; \4 z( B5 n3 ?+ [) d% c3 Z
( 0, 1, 2 )---169*30*3---( 1, 0, 0 )( 0, 1, 0 )( 0, 0, 1 )这个网络简记为0*1*2.就只有3张图片不断循环往复,直到收敛。共进行了10组得到数据
( j" i* v: D& g2 B8 c3 h1 D 1 }0 [6 T7 l. i. a+ N, v2 V3 F
1*3*4
2 {- d" {' W1 E$ b
" i7 q$ o& F# i1 K 2*3*4
8 n* c8 R/ k O, ^/ ]/ p ' M9 t+ y7 K6 M0 P3 }& ~
0*3*4
0 s1 V# G' _5 R, {/ o7 l : i2 w+ t: g3 s9 ~
0*1*4
5 L2 b, K3 }; g, q% {6 K; Z * d( B4 i: M: `% R* T* q
0*1*3' u' t' B& m3 h5 O
J+ v L7 K# S6 ~5 k' S' m1 H
1*2*4
8 y1 \+ _6 A3 X6 F9 R/ _ # R$ f8 j; ~# l% j; L
1*2*3
; R& _ x: f- v2 _
l0 R; K, l5 {/ B6 J) {: s 0*1*25 ?8 R# E* z; R
e, d8 x( s: v% Q( R# Q
0*2*3
. }: {$ a+ ~6 [2 P3 ]) ?$ P9 G
3 B5 m2 c/ F9 _7 `3 |7 u 0*2*4# {6 a/ L) A6 s6 ^& N0 x% R. L
. {3 x, y/ i$ v. ~( Q' Z2 k/ | δ
. @ E; ]6 l. T! K7 D4 z: N' c
( H8 _& \$ A/ a2 j& i1 Z 迭代次数n8 V! ~# {; `: a. U: R- o5 w
% O. _. U0 h) l
迭代次数n+ E' {1 v3 i2 t2 I/ N) _& ?$ x
! T' L: V9 k$ A/ b
迭代次数n# y% F! D1 v* z' P9 |% v
* R5 V4 I6 ?' p 迭代次数n1 w/ S V! D* O& z3 I) P$ w$ n
- y1 `. C0 l( O% @
迭代次数n
4 T' I0 E$ }* m# d- F p
/ r+ G R U+ F# B! T' a 迭代次数n
4 v- {$ ^: H; L" O6 e$ Z9 r! |
E5 T1 f1 l/ p8 o! j% u 迭代次数n K& L+ q! I7 C: u
' R4 X$ m8 d' Y/ D* S% W0 ?0 B 迭代次数n
$ a- t2 F3 h- }# P9 e7 H
- h# k# V/ W: S& {! c9 z7 j 迭代次数n, }6 R: J* u4 l+ m' n
3 Z$ \ Y' ~, R- A! R 迭代次数n f! }. Z- M% m0 D. ~* U/ B
3 l5 Q# Y; @- f, m$ n
0.01/ D( }5 z/ q+ O$ s
3 @ f3 f. S6 I& l { 1763.18090 `; g9 b" H3 Q0 x6 x
3 ?3 Q) L" G3 u
1626.57296 s4 n, y& {8 q7 f6 Q9 {0 a
! A1 {! d, Q# B+ L* ` 1672.4523
7 z/ j; e4 R: J
$ X, l+ r3 v: a& D ? 1635.9196- j3 K4 g. J* C# s/ A' l9 d2 G
7 s$ U3 j0 ~' s1 P1 N8 ~: k# C7 Y F 1596.70359 R( {9 v+ {2 i7 G; j. {0 s
) u' k; |5 d+ w: N( s; T" |6 w' p N
1620.407
$ ^9 h0 L; l; ^ 3 K% M/ \7 f9 W! O! P! B
1563.8945
/ `0 z- g, a8 ~7 r
$ _- ?, X* ]( i' {; L; A5 `" z. K 1444.29155 l9 y5 r- K6 C; H) ]; o% o
: C5 y: q& |) s h$ b! x1 U' g; \$ G 1410.0302
+ E/ M' ~- M% l
z) _- H7 w+ H" F 1465.4171' a, x) z+ Y; C4 p- W, Y6 U1 B) A
! v6 ~! |+ f# K* G 0.001
4 w% y( i/ @' `$ S9 | 5 f, h9 ^- F9 g
13065.196
% _, }& ?) e7 P' J 4 a5 {6 m; V% t0 T5 n% {5 p& d9 h
12674.945
$ l$ I( p2 i+ r& [5 C
3 q9 t# J' t _ 12747.7299 b9 m5 J; w# V# ]
8 J5 p8 k: j& m5 L
12386.216
- G& N0 b; A! X7 k/ C ! J, {+ q$ b# X( M
12349.02
' e" A9 X; c8 Q& R. X$ I " B( j* T; u5 _4 N
12282.201
$ C, F" o& O) ^5 y* ^! s& G/ v ) E3 V* S/ P, F. m7 j; k6 y; ~
12270.035
5 } B/ m( S0 M# d% e/ n1 s6 ~ & N# z" B1 X" ~& |
11338.4774 Q8 _# v1 `- @# l7 h, v
" h9 ? Q: ?3 _6 @ Y 10985.201! \9 D0 i( A: B- n0 W- C! u5 i
' \$ A1 b0 H" }
11015.503
% G/ @! k6 ]3 G7 } " e4 U, C+ D" y: t
9.00E-045 y% Q% W! a3 ^7 {4 l( a8 ]' E
* z) e! V4 @# o( { Z; r O6 g
14352.452' i4 V1 I! K3 A7 U6 |/ B
' k5 [' G# }/ n& a3 A ?8 d7 ] 14004.633
5 x \; X0 V0 y/ f* l+ s# j
8 ?; L( ]- D5 T( x 14062.829
" i* B$ e/ b- j( Q ! Q) H' R+ @4 v- z' ]$ N* k6 d5 ?: \
13629.467
" l5 O2 _, t! D& L; L 4 w2 q. f, z7 G3 T
13613.362
1 n# P0 x- m" e. o1 \ & g5 q6 D8 z, c/ o* p$ j
13609.563
6 ]' C2 V, c! K3 ]2 b; Z6 N
7 j8 j4 L* l* g& h' Y/ F3 S 13530.322
, V! H8 B$ v; F' }/ B
: }. G$ ~6 m$ C+ U 12458.1716 l+ k; Q/ R7 i
$ H. Y2 i4 {4 W6 z 12176.362
9 @, ?6 `+ H! [% R1 W8 T - z/ W, f# f) t# S9 b! b# M
12225.96" h) y, k* l* L
% ^% z/ B$ K$ v$ h 8.00E-043 U# M: C2 V9 \; u
% H* Z3 d, j& S" D5 g 16141.206
8 g. }! q5 ~8 l+ p
5 o/ J1 y" h" @3 ?8 f1 @7 q" T1 K 15611.101" q% ]0 m) I$ S3 \
3 \' V$ p" s3 x/ r, s 15749.914 O9 X6 T0 [( |4 a
^; \8 F. S; M2 h4 n0 s 15264.98
% E. l( A; f, B2 D$ Z / @3 L! p# \. U8 `0 g8 f! c$ g: r
15228.4471 H+ S" Y2 s( X, @- c" ?; i) A
; l- ]" a$ a% G q/ c1 W 15207.628( [) N8 q2 |% h! o, F @4 Z
" h/ _7 b" C/ S/ s G1 e
15053.714
, n( y' K$ _. M 8 w- ~* Q- @3 |. J$ M' l7 w
14044.729
6 M6 A, @* F0 o g4 [ " R' H5 E& o _2 C( z) o) r& B
13530.397& }9 H$ b9 y4 q$ _/ y, s# k
7 x2 C* U9 O i& X 13654.678
, o4 }- m' m/ ~" _1 B: F5 z% v) x $ a; [' i, [0 m0 x" A
7.00E-04& b4 m- e3 t! p8 t y
- N; G/ Z/ F5 U5 Q8 i4 ~2 g 18194.397
. M, }/ w/ V+ _3 L" O 8 ^- m5 Y5 k- v# S$ V4 R0 t
17760.638
% [' ~7 V5 a! }- [; m2 l
5 v9 h& W" M3 h0 o/ M+ K( c 17743.578
) |1 X7 x" n7 d" ^2 S& W . [7 _) O6 Z3 A) Q' e& L' s8 f
17333.377- u+ B7 _- F3 A+ i& X9 F. _+ G- J
6 e0 V/ Z/ _% @% K% g+ [9 m" ^% ? 17293.8744 Q! I# `2 B0 O& V7 g
2 Y1 h/ B4 u( c- K. x0 u
17204.638
- B( M& C" y4 g5 W, d 0 A/ i- R0 I+ ^
17058.809
% s9 _( B" M; S) q
! {4 q8 x$ m) e3 p 15946.101% i: P8 w* K$ X- ^+ R* O
6 s4 E- w: Z, D/ v' m+ K1 M
15491.266
% K4 Q S2 y4 H- V5 j9 Z8 T
8 L0 X1 ?6 R6 J: E5 g& S. u 15399.538
9 V7 _) w l3 O% u. n g) C1 @! e6 x " i3 R" |- C4 ]3 p! C, S
s
$ S/ m" k& _1 s" H* T$ v . I3 [$ {' a& D" J# T2 h% x
1309 m) Y/ n6 H, G6 F* V' G& N
# ]$ B2 m5 g! P( h# ~0 `
218
: E. Q6 l" T- n2 o0 E ; b7 o q b* G( E) Z. y
198
0 `' a$ R3 i/ W/ d5 ^9 M 6 Q4 V" s/ x e2 o
206
( b9 d. b, f* x3 O1 j 5 Z( ^6 X! a1 {9 r
2044 V/ w1 D9 H0 [3 Z* u
3 |; w; S& r! h; V) \ 218
/ A4 ^% ^3 j2 T3 G* E1 N9 r
5 A; X! Z1 G# R6 h4 b 220
; M) R) Q% M- u. E+ |& } ) Y& t: r" q6 w: [ A, P8 ]
204
% g6 _2 s: K9 O9 n
; \! s' V3 j" D! s' f A; j; ]/ ] 2206 r9 u2 c9 H, j. K+ B' T$ f# {
+ i& E5 b* y+ w
216
( s5 w0 R% u8 h' G6 Q* d2 ?% U
/ A" g; U; {5 W" Z 将收敛误差为7e-4的迭代次数画成图
6 G' l; u8 R$ M6 f $ d3 c6 ]5 L9 p
3 f3 b* ^" e4 _ B7 x. E
$ e+ M& b0 E/ [, e6 T+ V- v0 _ 再将移位距离S的曲线画成图" m5 r7 L$ B& ]1 l
" O/ F# Q/ l% V/ A: Z* ]
7 ]9 o) r& h+ r ; x8 u5 ~. T% @4 M. V# @
在这组数据中s和n之间的反比关系依然存在。
' {2 C5 `/ C1 u3 {" U 6 Q, n8 X. `: r* [' ?& S
移位距离假设, i% T) G& J- c# x5 L# ?. c
7 ^5 w- w8 f% K( x3 d
(A,B)---m*n*k---(1,0)(0,1)
) }! U# i9 {0 \9 D 2 h3 h6 i1 I( }+ N% h% x( Q: f
- H+ h5 m' M# j5 H }8 G0 ~
. J. `9 s5 R. X
用神经网络分类A和B,把参与分类的A和B中的数字看作是组成A和B的粒子,分类的过程就是让A和B中的粒子互相交换位置,寻找最短移位路径的过程。而熵H与最短移位距离S成正比,迭代次数n与S成反比。
; G" d+ [% ], f# p' r 7 b2 _4 n$ A& N/ h, w
移位规则汇总( a9 [: X f/ U" Y# K4 e- q9 s; Z
" i* G l( N7 m 移位距离就是等位点数值差的绝对值的和S=Σ|a-b|,如果训练集有多张图片取平均值,如果是多分类问题则移位距离为所有两两组合移位距离的和。
' \; f# A2 X) C: d+ f' z. M
0 e, o9 m- j) @ 如对一组3*3的矩阵
1 T, F3 E3 G; J0 o% v 6 m9 d, X3 |9 B. A7 K( S
. j, a+ P5 F4 E9 t/ q) U* B
; @0 A- p( W8 y7 X6 B" e9 U S=s0+s1+,…,+s8=|a0-b0|+|a1-b1|+,…,+|a8-b8|3 f5 x8 Z2 u- D9 }& e* K
& X: _3 v7 q9 ~9 e% |+ z6 t& V
如果是3分类问题,就应该实现3个形态之间的两两分类,也就是要完成3对等位点之间的差。
: v/ P5 w# e u! e+ c( p# K9 t , F0 L/ v. h% t6 [
% x/ f6 q0 j& |
& i O6 \- ^" e5 K3 V 因此移位距离
" w" l4 j+ L* q+ o 9 J P% h p$ V) D7 K% r H
S=Sab+Sac+Sbc=9 H$ {, \% k% D0 W: |; H
; g' U& R. T5 W* B6 n4 s |a0-b0|+|a1-b1|+|a2-b2|+|a3-b3|+0 c3 L' X N& O9 H! i
: u, V! ]- }( n9 A% ?- S
|a0-c0|+|a1-c1|+|a2-c2|+|a3-c3|+! y# W# O d% N+ m3 _$ P) Q8 r v
: b# d6 Y* I' ^2 u9 Y2 d7 ]4 U |b0-c0|+|b1-c1|+|b2-c2|+|b3-c3|2 e- z2 \. D# w7 m
————————————————5 ^9 ]( q! U) k7 ?
版权声明:本文为CSDN博主「黑榆」的原创文章,遵循CC 4.0 BY-SA版权协议,转载请附上原文出处链接及本声明。
$ g4 b6 @) v0 c6 ]+ r: x- W; j. _3 \6 E 原文链接:https://blog.csdn.net/georgesale/article/details/126690670
; i" B- g5 @8 b0 Y! ]
& d5 l: t4 V4 E" S2 j6 k! d ) @* N' ]6 j8 n: }: E- X( g3 h
zan