在线时间 1630 小时 最后登录 2024-1-29 注册时间 2017-5-16 听众数 82 收听数 1 能力 120 分 体力 563345 点 威望 12 点 阅读权限 255 积分 174226 相册 1 日志 0 记录 0 帖子 5313 主题 5273 精华 3 分享 0 好友 163
TA的每日心情 开心 2021-8-11 17:59
签到天数: 17 天
[LV.4]偶尔看看III
网络挑战赛参赛者
网络挑战赛参赛者
自我介绍 本人女,毕业于内蒙古科技大学,担任文职专业,毕业专业英语。
群组 : 2018美赛大象算法课程
群组 : 2018美赛护航培训课程
群组 : 2019年 数学中国站长建
群组 : 2019年数据分析师课程
群组 : 2018年大象老师国赛优
三分类网络的物理意义是什么? & ^6 h* R, s$ P! |6 u$ w
* `: r8 P% l, q* ?; f
用分类实现衰变* k6 Z0 @: A5 }# ]
专栏收录该内容
7 z+ s$ e# S) ~% J: M 52 篇文章0 订阅& H( Y6 k7 x$ F X: B
订阅专栏5 H' G" _% P& O
(A,B)---m*n*k---(1,0)(0,1): U8 {% Z- {4 k
. X* {7 U q# g5 T 对于一个二分类网络可以将被分类的A和B分别理解为粒子和环境,因为粒子处于环境中。于是A和B之间的距离可以理解为0。因为t=s/v,则即便A和B之间的相互作用的速度小于光速,A和B之间仍然可以实现瞬时作用,并不违反理论。0 P) T; y& _" K, L2 Z4 J$ i) l; Y
. \( ]2 k) g, ^7 ~. r
( A, B, C )---m*n*k---( 1, 0, 0 )( 0, 1, 0 )( 0, 0, 1 )
$ L, c# E1 X: x3 M! w' }: T# k* a
; d7 | _( M" c8 A8 N$ Z3 z 对于一个三分类网络要完成3次形态的变换。A⇋B,A⇋C,B⇋C,每一次形态变换就是一次二分类,因此对于一个三分类网络可以理解为由3个二分类网络组成
8 \$ a" W3 \/ h/ X- O
^9 j2 }# r( ?( ^9 X3 f (A,B)---m*n*k---(1,0)(0,1)
, j* F4 P2 i& m5 i# U9 [
( I! r8 I/ `$ G& |) J- I0 \9 p) p (A,C)---m*n*k---(1,0)(0,1)
4 @# G5 m' z. `( D, Q" I- U1 z) l 4 p. D+ x+ U8 g* r6 n1 I& e% C
(B,C)---m*n*k---(1,0)(0,1) D1 @+ C: ]! {6 K( }
$ m2 n- M5 @6 G% x
这就意味着存在3对瞬时作用,也就表明这3个粒子彼此之间的距离都是0.随着时间的推移网络的收敛误差会不断减小,而网络的分类准确率会不断变大。这个过程意味着A被错误的分成B和C的成分少了,同样B被错误的分成A和C,C被错误的分成A和B的成分也少了。. }# e2 A, y2 e2 e
4 N, ^5 j# x4 R4 d6 U* t" B+ b
所以这个三分网络可以被解释为,3个距离为0的粒子不断的相互作用,随着时间的演化,最终变得越来越像自己。
. H' {, g3 D( v% b ~5 L% n
4 l5 W8 h; p# z: C1 ^; c4 v 而前面的实验表明相同收敛误差下,迭代次数取决于等位点差的绝对值的和,这次就继续验证这一猜测。
3 I d# r$ y- t+ \& o i7 V
4 B; Y8 Y4 V* p/ M. y& ~4 v 用的训练集是mnist的0,1,2,3,4,的第一张图片。用间隔取点的办法化成13*13.* E; E; \. f. `5 i
4 g' }( E. G( q; O3 D0 t
( 0, 1, 2 )---169*30*3---( 1, 0, 0 )( 0, 1, 0 )( 0, 0, 1 )这个网络简记为0*1*2.就只有3张图片不断循环往复,直到收敛。共进行了10组得到数据
4 h0 U: v0 R- W( w1 l ' z( {8 q0 s5 g' S) U$ q! M# g: @
1*3*4* t& n0 ?1 ?9 e- P2 |
6 m& ~4 p" w8 n+ ]& {
2*3*4
% R, Q- F5 ~1 \" F4 Y
& \: d6 `! I8 g3 a 0*3*4
8 c1 c8 _8 E% A
5 }& f% F l0 f# v) {( `# g 0*1*4 @) U5 V3 J/ g1 @
6 K& A! L4 R; Y1 p3 x% @0 R. A 0*1*3
. p, W; g& y) J
0 ^, N- Q! C; S6 F6 b6 M 1*2*4! M9 _8 o, N1 X- t
) V: G- X7 ^9 r
1*2*3
0 }) o. \( h1 Q+ v& a; B# r - ^& e4 O% [' j0 `8 `& ?2 f
0*1*2. |# _8 E! K* L5 i
1 T5 Z E" O: a4 F 0*2*3
# [2 ^" b- n( k6 P( a: r* Y * }0 d$ J( ?- M, h( D6 s. R4 F; _* n
0*2*4: p6 d0 R& E1 @$ ]' M1 D: t2 @* v
$ o2 f/ h# g, D O δ6 I/ T8 M% L/ d
# Z: v# ~ M) {$ h) G) o; J( j
迭代次数n
5 k% @# [; _+ e; R3 j5 z& ] 3 c, l3 x: `. s {. O4 b
迭代次数n
5 \- u5 B9 Z. l+ L4 } 8 X3 K$ t- c$ r% C/ k" P
迭代次数n$ F3 B# U$ T: `, h5 ~
1 w% E3 P; g9 i7 \ S 迭代次数n! W) ?5 F6 X1 h' ~3 S) _$ @
' L; Q0 \- T! M6 V
迭代次数n
/ `- [& ]2 z! }- k5 _9 y : @: n, R. v- p: }
迭代次数n; K& c S( U! E
( e% z6 O; Z7 F8 A4 M3 a/ A* i 迭代次数n/ b. E0 Q* v' e! O0 f( k7 l
9 J, y1 s0 |9 s: l6 ^# Q. o 迭代次数n" P# M; v( _& Y/ a! c- {
! B V, A. c ^# i2 P5 W. i* Z. i 迭代次数n
U# g5 b8 V5 z/ f+ \0 t) F1 ^; \
& j* q& A: |; m3 i, I 迭代次数n6 s% i$ L7 R7 y. |! i o6 E
# z% `' J( A% M1 @' U 0.017 Q3 ~0 G0 W# W2 I( T
0 H) A7 `8 a0 h) E1 f 1763.1809
0 [! k% s' d, A& L1 o" M
( d& `, s( H: a9 r% Y 1626.5729
+ |: Q: S: m$ v" s) [$ P+ W9 Q
' u B, Z+ G$ T% E2 R' z 1672.45234 s0 H2 o+ L% s1 w! @1 E$ I, B6 o% e
- Y, f U, U0 Q. V5 I A) A; k
1635.9196
& x& K; L- U7 k p+ U ^" \4 G1 X+ ^' r
1596.7035& m' b, t1 b. `2 i: d# L* `
: Z0 q5 y0 W4 z" O/ `, J& w& p" g* r 1620.407
$ z9 A' _# S" c1 B 0 S, f2 D! ]( n x# Q
1563.8945; b' u! y3 i2 s: B A) ~
) D7 P' `! V0 p8 f 1444.2915
7 {+ c. a. ]: E- S! e& j# C
% e/ z$ U' |7 p 1410.0302. | R) C' q1 Q+ A7 `! p
0 Q E l* z5 d( I
1465.4171! u+ f }/ ?2 C. {& P+ I3 N
9 @- M8 q! ~. Q8 I 0.0012 M' r0 o) [2 @7 Z
# \ W2 Y6 ^( T; p' z/ s$ V 13065.196
/ c7 s# q9 a) y3 z3 [ @6 ?) c9 p( ^ k1 K
12674.945% c r" Z; S9 C. U3 _
% z7 Y0 |8 D4 {" x3 T9 p) |& V, D% ? 12747.729/ w- {/ L3 z. o
: }, ^9 U$ i( x- s
12386.216, ^) m2 W; e: w
% [) H" A- q0 P+ s2 v ~. V
12349.024 o* ^: f. V! t. H
& c& M$ ^* `( T 12282.201, ?/ p8 p \ u1 u& p' D1 }
" V" W( V4 f& G v
12270.035' ?* u g0 u' O. B
! F; h2 R' j$ q 11338.4773 }) ]3 a1 U. L/ P7 v& I# {, h6 O
# H5 h4 q8 @. b) S0 b 10985.201
0 k( C! h0 n, c4 y! h ' ~1 J ]* q' T3 g+ i; T
11015.503$ u# ^5 m1 b, t+ e: y
: V7 Q' O0 r3 @3 i% T1 C 9.00E-047 J: P) b/ [4 U' a0 g" [/ A9 U7 X
' n9 ^3 i8 [: |% A 14352.4527 o" h+ U/ ~! D# e9 j# u. r
# H4 W8 n4 D; I( j8 d
14004.633
9 c7 Z- N1 C7 B! d: u# i2 J! d 1 d& @" T# X9 V- k: n m
14062.829, L4 e& e0 m6 @9 `9 D
( o5 I3 j; Z1 O# q 13629.467
- z* C1 v/ I6 u 6 Y/ F: Q. G+ U/ s7 y4 B+ e
13613.362" [: [; U9 x9 I1 F7 H$ \$ x
) C9 q' v, S! o0 k: T8 k 13609.563
5 Z5 O$ y* ~2 f4 R5 G
9 e- n- U3 X8 n P- y7 n 13530.322, s( X! d8 f. P6 `. m
; k! V: R9 p7 n! B- O% x 12458.171
& i. {$ I6 X1 D I" q0 r+ g
# `4 Y$ |/ B r* S/ ] 12176.362. e' t( Y7 O ^2 P7 m
; B! W5 o1 e) ]: J+ V1 i 12225.96" o( n2 ?1 X) H9 j
' A0 z l5 ^2 |4 M 8.00E-04
# W5 A& k+ c( Q8 {9 {. J0 |# t 4 v0 x2 F; b# I
16141.206* y" U1 Y) m- _
7 m- \9 `: _) [3 R E
15611.101
0 h. Q* ]$ z) O' o1 U+ P " A$ ~! f: P A
15749.91
( a$ p" V+ D6 N" C/ S! F/ e : }4 ]5 Q, v; A2 H8 Z* k5 q
15264.98
+ F5 |# y+ O" R! Z7 W 5 i1 h) C8 k. @' W
15228.447
& t) ]. J+ m5 h# j+ v. P
Y- v: E! L" f0 \6 P 15207.628
7 @5 b: o3 `0 a7 n+ d 5 O8 _& b; A0 W- u+ X; P/ z
15053.714
; b0 K4 N) ^+ `7 w/ J
7 q" p; g- g& n" D9 v9 `1 M+ ^ 14044.7298 t ]/ e& M. ]. m: Y/ ^% Q
1 @$ b/ b0 ]& ]( l( u7 W9 s2 U
13530.3978 I0 U9 U* s- j+ }2 v4 w& }
' Z7 Y' [/ M2 c4 E4 z) W 13654.678 q* u% t. M3 \' [/ t4 j$ P
5 h1 X# a1 Z4 V" y 7.00E-04
5 k) G- n+ w6 x b5 \: E4 E( x, v- Y" v% a
18194.397
- s$ p& v8 O. u; ?0 ` & Y6 S( | e9 @; v8 ~& `# w
17760.638, C) ]7 S; [1 V7 `/ [& ]& D
! s7 q5 Y$ w R- b1 V" Y% @$ j
17743.578
' g2 u* |& t9 t% D. f
$ S1 [6 @$ Y! V4 z# _1 m 17333.3773 l F9 M6 j1 P' @
1 {8 y* [) a! O$ n* ~$ k9 S0 f 17293.874
8 b, |& D& K5 y/ k; s
. l1 i3 G5 Q4 G# D* | 17204.638
5 w( F5 {6 ^8 w6 ~* n1 C0 H$ y q L2 t0 d/ d% I# V
17058.8098 j* h8 `% W' k, B* c
. k0 Y/ f* G: |& P) a* ^7 B0 {4 I
15946.101
. p9 Z& G5 Y2 l7 J! f z9 O, [
; u) E8 `3 @" N1 g3 [. T% \" T 15491.2668 u8 Y' j+ ~1 r% n# o- A/ R0 }
% M7 s% s7 `/ H+ y* P, \ 15399.538
9 [. i$ h2 n: p% ?+ e6 O! y# x
( K) v; {& U. _/ `; _ s
; R& Z9 C5 r, F; q& s4 V( j4 s
4 e+ g6 y# v' L8 U0 w- q5 i* | 130. |0 v; P. d$ s" T- w+ C
I- x. s5 K3 ^7 B- l6 A 218) V1 \" s. _$ G) j D
7 [* ^7 F/ k9 |4 Z+ g8 E 198
9 B3 [- @ p7 H3 e! Q% l" b 0 y& f, r E; ?
206
1 P" r+ _# Q+ [) _
3 w* A5 M+ y" W4 H+ X 2040 v: j- o, E! ~$ V6 [3 ^ h
7 L' B$ a/ L& l& M( ^! a/ H
218
: M. Q& J9 e# i% ?
* k8 x0 P5 s6 n) s 220
/ G( s$ v8 _9 a% M6 ` 5 q. r z9 u5 a; F" P8 |& a
204
. y8 ^$ ]) X+ D; S( M- `3 z
' p2 h8 e( t3 D. O+ W. h 220
2 j: e. a, D3 p9 w" C
+ x4 l: M" t( T i& m' _9 Y 216( p0 }: U/ V8 P" P0 k
3 Y: n$ u+ x# s0 x 将收敛误差为7e-4的迭代次数画成图
* Z+ a8 l% D0 a# Q7 I
9 O0 T" u6 j# C0 P $ j0 Y: M1 L1 V2 u7 s3 j+ `
+ E* \# c' K7 U5 w' _ 再将移位距离S的曲线画成图
) S. ?5 @1 F, Q7 ^, n% h& C, u 6 _6 F. X: k8 ?
& Q0 Z% I# a T% ]6 b. p
' Y# G. b& p% ^& S, x 在这组数据中s和n之间的反比关系依然存在。3 \0 e& }5 W+ B( k# ?
1 S- ^$ X% P" m/ _7 S" @
移位距离假设 q& W; h' H& ~1 ~5 W: R
3 v% ?5 t9 z* K, q& n/ y (A,B)---m*n*k---(1,0)(0,1)
! C) W( W P5 e* ]& K
2 f9 p2 `% |9 F' G g& P) p ( z! R- N* L$ w" Y0 k
6 i0 m u# X0 `4 u! j
用神经网络分类A和B,把参与分类的A和B中的数字看作是组成A和B的粒子,分类的过程就是让A和B中的粒子互相交换位置,寻找最短移位路径的过程。而熵H与最短移位距离S成正比,迭代次数n与S成反比。: I2 N' g; d- O1 H9 i
6 @' s# T, w! @
移位规则汇总
9 _% r5 ]: E7 ^6 Y/ M+ w
- `& v q' k) { _, _ U( g! | 移位距离就是等位点数值差的绝对值的和S=Σ|a-b|,如果训练集有多张图片取平均值,如果是多分类问题则移位距离为所有两两组合移位距离的和。
- d( z* O9 P5 F* r) ~; W2 M: E 2 R1 _0 X* w) U7 _" ]! Q- P
如对一组3*3的矩阵9 j+ M: Z9 _% T. _4 [3 M
! n# h. i0 j3 o, F9 a G) k. d
3 P1 K5 U/ M+ w. L
2 a6 w- U" D: m, }8 M% P! M S=s0+s1+,…,+s8=|a0-b0|+|a1-b1|+,…,+|a8-b8|
$ C' P! v+ g; G8 W9 C 8 u7 X) F7 t- t0 w9 X4 |3 U
如果是3分类问题,就应该实现3个形态之间的两两分类,也就是要完成3对等位点之间的差。
0 P; b, ^3 t' R# P5 U
$ [$ E; N( p' K1 l6 x/ K; d ' T; e* T: Y' }7 c( W# `! O
* p. z/ N, b" M$ t 因此移位距离: f1 U3 Y- u6 |+ z5 e" m! e
' B3 ?( P) ^" v; i
S=Sab+Sac+Sbc=
( S1 w& d2 o4 z
- F8 y7 J" F) e: X9 E/ j |a0-b0|+|a1-b1|+|a2-b2|+|a3-b3|+! S. J6 U4 _0 x* L4 P2 p
9 n7 I& @, i8 i h8 X3 x- O8 N |a0-c0|+|a1-c1|+|a2-c2|+|a3-c3|+* i; F8 {+ E' X P
) u7 L( I( P6 ~7 l5 x0 B8 }7 a/ v' b
|b0-c0|+|b1-c1|+|b2-c2|+|b3-c3|
0 r! H$ i& Y) O2 `. p6 d& A ————————————————/ K. S# g6 Y2 A: E/ ~, a
版权声明:本文为CSDN博主「黑榆」的原创文章,遵循CC 4.0 BY-SA版权协议,转载请附上原文出处链接及本声明。3 m- S* u5 g& n1 T* ^" z, U# A
原文链接:https://blog.csdn.net/georgesale/article/details/126690670& a8 d4 H7 Q! T7 _5 }
; t+ H+ C, u. x
/ Y* ?: a1 J3 I
zan