在线时间 1630 小时 最后登录 2024-1-29 注册时间 2017-5-16 听众数 82 收听数 1 能力 120 分 体力 565602 点 威望 12 点 阅读权限 255 积分 174903 相册 1 日志 0 记录 0 帖子 5313 主题 5273 精华 3 分享 0 好友 163
TA的每日心情 开心 2021-8-11 17:59
签到天数: 17 天
[LV.4]偶尔看看III
网络挑战赛参赛者
网络挑战赛参赛者
自我介绍 本人女,毕业于内蒙古科技大学,担任文职专业,毕业专业英语。
群组 : 2018美赛大象算法课程
群组 : 2018美赛护航培训课程
群组 : 2019年 数学中国站长建
群组 : 2019年数据分析师课程
群组 : 2018年大象老师国赛优
三分类网络的物理意义是什么? 0 j0 [; q( Z. [
# b! m- }; d5 c& I
" W5 P" ^, a4 F* a! |
(A,B)---m*n*k---(1,0)(0,1)! p& u, V" H1 R- |7 w
, Y3 z O2 ?* f& N: q8 c 对于一个二分类网络可以将被分类的A和B分别理解为粒子和环境,因为粒子处于环境中。于是A和B之间的距离可以理解为0。因为t=s/v,则即便A和B之间的相互作用的速度小于光速,A和B之间仍然可以实现瞬时作用,并不违反理论。
- `: A7 U L6 L2 c8 x8 [5 u9 u7 Z, s
& o" A! c' I5 D ( A, B, C )---m*n*k---( 1, 0, 0 )( 0, 1, 0 )( 0, 0, 1 )) s+ r. {' s, M" e& ~
0 Y2 ~" u( c2 t6 ^
对于一个三分类网络要完成3次形态的变换。A⇋B,A⇋C,B⇋C,每一次形态变换就是一次二分类,因此对于一个三分类网络可以理解为由3个二分类网络组成
" |" ^8 d7 Z( E i5 z! {
5 ]# P! z: h+ j8 ~1 g1 c; [ (A,B)---m*n*k---(1,0)(0,1)
; ~2 u5 X. L1 |* }' s- ~ 0 Q% I% ^/ {$ C
(A,C)---m*n*k---(1,0)(0,1)) u' Q0 |7 } o# g- M
# ?8 D/ G/ d: V$ X: r/ E (B,C)---m*n*k---(1,0)(0,1)
3 Q# u$ t) k, `6 Q* J3 L
& |, M# N6 u/ ]4 K9 }" Z 这就意味着存在3对瞬时作用,也就表明这3个粒子彼此之间的距离都是0.随着时间的推移网络的收敛误差会不断减小,而网络的分类准确率会不断变大。这个过程意味着A被错误的分成B和C的成分少了,同样B被错误的分成A和C,C被错误的分成A和B的成分也少了。" s2 X0 {& g9 M5 _7 S' k8 O
$ O+ z! B F2 o' J 所以这个三分网络可以被解释为,3个距离为0的粒子不断的相互作用,随着时间的演化,最终变得越来越像自己。. O7 I$ Z6 p7 L9 j V' w, ^
2 r7 v) W, u3 {- `
而前面的实验表明相同收敛误差下,迭代次数取决于等位点差的绝对值的和,这次就继续验证这一猜测。
1 m1 w/ V! v$ @9 ?0 ~: `1 g 7 p/ S f# Y) L6 q
用的训练集是mnist的0,1,2,3,4,的第一张图片。用间隔取点的办法化成13*13.# y6 Q. C% b3 y, b, D5 ]. J! X
$ d/ Q2 q: w1 C
( 0, 1, 2 )---169*30*3---( 1, 0, 0 )( 0, 1, 0 )( 0, 0, 1 )这个网络简记为0*1*2.就只有3张图片不断循环往复,直到收敛。共进行了10组得到数据 L2 | ~7 X! ]9 F. z
# k. p- }: ]+ [( W& z" Y7 s 1*3*4# W/ `, x; u7 U; _- _8 n; R
\: ^ L# m) S0 n
2*3*48 S) c/ i! w! e1 n9 Z
$ C, \- y7 X/ k( a) u
0*3*4
& p4 x3 ^9 M2 |' X! s
9 S4 \$ M' e" C9 f 0*1*4$ C" G! y- P: D5 u
Y9 _+ V8 n( Y' I3 f: ?, g) }2 x0 F u
0*1*3
8 j7 P: v7 ?0 w( G6 t0 n5 v$ u) g d; T. S P0 s5 B
1*2*4
, I6 b& g6 _7 t+ \: K 6 k' ~9 ^" p, D; u; D5 {4 N B
1*2*34 j4 q; D2 B1 F: ^6 K
, p% N6 P- O0 i% [ s 0*1*2! O4 T) ]5 o% n" G" p B# B% T
$ U7 {/ n0 M. [* @3 B$ ] 0*2*3+ y# m& B1 @# ^
. f1 T3 ^: l; J; ?' f! F' c 0*2*4' H0 n& Z6 ~1 i
3 s6 g0 Y1 j2 y8 O7 {1 D
δ
9 \: ~' l$ i& m: z* m& U
6 S; O, V$ x1 N- T' ?3 D" L( y 迭代次数n
1 i) {) t8 m& R+ b7 ^$ Y
p$ o# o1 s, e4 U% @* ?7 U% _ 迭代次数n
0 Q) h* e$ e' F/ c6 n6 m& ], c7 }8 W
. l6 e, h1 `) v Z$ W' W r 迭代次数n
4 M) n- u, S+ W) w# r5 M5 i2 i 2 Q) B5 m5 B3 X% j. b7 e) ]
迭代次数n
* z# I$ j d) R% l
+ ?4 W7 q6 t+ i' V6 [2 W# Q o) g 迭代次数n* Y! c$ @% D6 C- G% H% Q) `( B
9 `2 \$ b4 Y. ^# K, o9 \( p 迭代次数n( o8 B9 H- ~9 c. u: C- f: x# E
8 }2 X l3 S; b) h9 o
迭代次数n
& P1 U- B) q6 ]0 r , |' A1 z, c( f6 G
迭代次数n
* w- I8 Z9 o4 V4 b8 a ; x7 A) t$ j, V& R2 X/ v
迭代次数n
$ T6 h$ Q0 P' O0 K: l( D' x ; u8 J1 p* W7 D3 Z) ^5 J
迭代次数n6 m1 G+ y/ l* F, ~' d7 F
, C8 Z# z3 s# y. V0 ^# ]7 i 0.01
" |' b& G; Y- o7 p1 B# y3 l 4 S% E0 L3 \9 z b @5 ~
1763.1809' w, L7 `9 p" Y5 M
* ?9 B/ c, O# ]/ v/ s/ T$ l
1626.5729: [* |: Q( g3 Z# _1 y, C0 R4 Z
# u& t* x) ?4 K6 K 1672.4523: m: p+ A' R3 O. S" R
& M( R" F5 N3 }$ y! K 1635.91964 m6 J4 K# t3 ?+ I( j& D; z
1 s2 Y! ~# }( y3 Q2 [# K
1596.7035
: T* X, r3 O4 G s: {$ P; |% z
E- \' r/ Q) l+ D0 `' D/ D, H 1620.407
& W5 F& g' t, n r! c" |, H 0 T1 M' e' R) `* N
1563.8945% z4 b; o2 Z; A- ]
/ M( C- F3 S/ u1 X* ~/ N+ D 1444.29159 e6 x# h/ F, P; z+ o
( P" M7 h4 F2 w# u: D9 m$ ? 1410.0302
& M2 I* G" [; C* V+ E; r, ^. {0 v
. T/ A% J- T! T1 m 1465.4171' d, l# O0 N; T4 X- {$ t6 V
7 ]7 `+ g) O0 M+ c+ S 0.001
: }5 W0 [6 s/ j3 z" K3 u; `, ~ ! y! u" L: g5 e: Z2 O: x+ a
13065.1969 L' B, W' {" X1 T0 v, U
! ]4 G3 Y, d6 d" h# y \ 12674.9459 w0 ]. R; P7 E$ w3 t! l0 ]1 n1 ^
7 |/ w) R- k5 g2 ^4 f6 ? 12747.729
# c7 R5 \+ f3 P* k( i/ I
/ u" b+ i5 c/ z! B) L( b) X- w7 h 12386.216( l) b8 U O* W" F8 L
8 W. G% S7 [& n6 n5 K 12349.02
# `9 @& A9 z' s" {" @/ l( r
* S( u+ f8 n) S1 N7 B 12282.201
0 e, t4 V5 l. p1 K 5 t* g m$ F' h, w9 D5 l3 b$ m
12270.035
) T) t: Q, Y( N2 U# c) }) E) s 3 V) o a* X8 E9 I
11338.477
6 r) J7 @. K+ D) m" M5 z # Q) S& |3 D, |
10985.201. R p. _' M" r3 I9 [: Z' m A
: ^! [/ u$ {1 w+ [' P1 E
11015.5031 L8 O Q8 j+ T3 L
. i2 X& W. P$ i, `& U- s6 D) C 9.00E-04 h8 h1 l* {$ M: g
7 h. y: R1 Y2 v& f9 w
14352.452( J K$ y Z3 o Z
- d( G% Y+ q# M: y0 T' M
14004.633, h# h/ r( u7 X& V
2 V9 \, g7 f1 H7 o- Q6 V 14062.829/ l$ Z3 a. C' B, X: J1 t
9 V; ~- l9 }7 ^5 J
13629.467# x! c' o# O$ O9 ^4 T
9 u2 x& f5 K' @; I 13613.3621 W2 G" @0 D3 d7 z# B% O- O% `# N
0 s+ m9 l& q8 d7 c
13609.563
: d5 c5 B, d! b X
, \% i# O3 e& ? 13530.322
; H# D' L9 S# z' @& M8 } y4 f5 g4 M5 {
12458.171
. W4 ~, z/ J% V9 e/ H8 c
$ t# e8 b1 r! K 12176.362% P3 O0 u w( v9 } X2 Y. t
" @2 }& I. v6 ^% x& O: z3 o
12225.96
3 v5 S: F$ \7 u' \; F6 U
6 G2 F2 D7 ]4 ]& Y 8.00E-04
5 p1 y( O0 ~% a' @( f0 D6 f . N0 P* \2 J# [" a1 }* J0 |
16141.2065 V; d A( `" D# i; ?8 F' D
4 n& T$ T" p' c( W( ? 15611.101
' j1 \$ K- N2 n8 X 3 ` j- Z: d- C) k* `
15749.91
$ U; i% F) h! Z8 T+ @1 }
: k7 e9 u' c, G 15264.98
+ u" x& P6 l2 z' G2 @ + c$ w: w5 y- v2 p! _
15228.4470 A5 e. i' _! {- T6 ~+ l# }
( e6 I4 Y2 n( y2 `' h. ?: G
15207.628
6 d" ]7 ^3 |7 `/ [7 F
% z8 c! q" x; @% n3 Y# b7 q 15053.7142 | r3 w8 H! L+ D# [1 R! a, X/ m
& R# ~/ p, E5 j* D# D- v" y 14044.729
5 h8 ~- g# [- A4 `8 d8 ] + O2 Z- K2 y7 ~& h+ A: V
13530.397
7 T/ G1 V) u4 A
) f- T5 a" q( ]1 ` 13654.678& I1 z& e" A* P) i* @
: S( Q; }) q' s+ x, e
7.00E-044 |0 b1 K, O$ m9 D6 s
% K& i7 v3 h) F+ A |1 E 18194.397) D0 {* c$ G( |/ D6 p. m2 T
, q3 _" j9 t. g6 s: M
17760.638
3 Y4 N9 e2 S( p " Y8 k, a) ^2 ^1 _; Y
17743.578& G ]+ p& w* i8 k2 a6 H
7 n: i6 t: w& \2 l 17333.377
U5 ~/ r( G( F
' p! w/ h) z# t/ s" ^ 17293.874
6 A0 \& ]! @. J4 ^2 N& L * H' d! L, b9 {$ }( j
17204.638- J4 i# F) k: P% ~2 ~4 h* s
* b# M* F* E2 d' X: O: h
17058.809
/ ]1 J4 C' B9 O' w7 W) H& }5 G
2 u5 r9 v& H7 b2 g5 ^6 @9 P& o/ a 15946.101& q9 r! o) H2 k0 D( k: R/ T' C
# E' e5 W$ J, E S& P 15491.266
, J* P3 I6 B2 u; S4 V
# w8 E S$ [) I; Q. e 15399.5386 m/ Q% T# S- E2 ^
3 f B+ C- ^7 P( E' D4 |' ~% _% A0 s8 D s
3 Q9 C8 d2 Z0 L. L5 A' C
5 o! W1 v" D1 j% V 130
! Y+ ^" T6 X$ M8 M 6 _: }- K; v N5 n- K
218
% b! u2 s" |) s7 p6 U! k# a3 e) ]5 H
& @9 n$ F2 l8 t8 n 198. U3 P, N+ k0 r# C
+ E9 c( z6 N- l% l$ P( _, F
206! {) ^9 t1 \- G: t
; D1 X0 x$ `$ e 204
* q' @' X P |5 W7 e
* D" b5 _8 R2 H& y7 u- d& u- q( ^ 218
. P3 O% u$ R# `" N: ~; r
; p; h3 x) X5 T$ J% ` 220
# C) P m2 Y8 u& m $ d0 M& J: q; R# i
204
$ s+ \: I( g4 `; J' b5 I2 | 2 f6 E6 ^! c* P+ K% c& J
220
& ^9 K4 u7 J/ V( C/ q$ S % ] F; h8 S1 d2 P/ E9 \
216
6 | F8 U& W; h. n K. A$ C) n * U, V/ a# }# p1 a; {
将收敛误差为7e-4的迭代次数画成图 S R& I3 ~4 E7 d4 r& \
& A" x& X) w: h7 P 8 H1 \- { R1 C) |4 C
! o5 j" u5 i$ A) y
再将移位距离S的曲线画成图
) N" n+ u; s7 V# Q" @; h8 m
/ e% V2 a0 \( B: q% K
/ u" F" U Y5 I$ y4 F5 ?( V% O 0 V6 ^6 d5 c; U# X1 G2 q
在这组数据中s和n之间的反比关系依然存在。" J# e) A) S# ^7 v; I; ~/ l/ u
8 z. u: a) E$ N0 }$ {6 ~) ] 移位距离假设7 O# | R% Z t
; R* u- K; V/ `& T% {& E3 H (A,B)---m*n*k---(1,0)(0,1)
3 y! ?( c6 J% e
3 F6 x8 e! S! j; ~9 W- J
( Z. _. q9 [& M
; g7 R; ? u4 F/ o, N& `! E8 K 用神经网络分类A和B,把参与分类的A和B中的数字看作是组成A和B的粒子,分类的过程就是让A和B中的粒子互相交换位置,寻找最短移位路径的过程。而熵H与最短移位距离S成正比,迭代次数n与S成反比。8 e b/ ?1 V+ v
: G2 H# Q: x- E
移位规则汇总* }+ E! m( K5 C1 k
( p; V; F# }3 F* _0 S 移位距离就是等位点数值差的绝对值的和S=Σ|a-b|,如果训练集有多张图片取平均值,如果是多分类问题则移位距离为所有两两组合移位距离的和。 y$ y4 W( L% [/ T. _2 k6 K0 x; ~
% c9 M( I" n. v 如对一组3*3的矩阵 C( T1 S0 Q+ }: H
/ [% A/ ? j1 x4 f0 J; @
# P7 X2 `7 o' U' F+ u9 c" j 2 N& W4 [+ K, r1 P1 _
S=s0+s1+,…,+s8=|a0-b0|+|a1-b1|+,…,+|a8-b8|
9 b2 Q2 l8 w7 G( |& a 8 W1 T, }4 s5 M" V$ F' a, `
如果是3分类问题,就应该实现3个形态之间的两两分类,也就是要完成3对等位点之间的差。: |# \/ ^+ k5 I3 g! M
1 C' H0 [. d9 t1 A! O C1 c
8 L! B* r9 O4 B! P7 \" Z 6 J- C; q7 e# L2 J P1 @5 W* V8 ~8 O
因此移位距离& d/ H# \# H @$ r! T! x. w7 h
e v% F! I6 u. z V) H
S=Sab+Sac+Sbc=# I+ {: F, c+ C+ a9 e
' P0 G5 k- S8 `
|a0-b0|+|a1-b1|+|a2-b2|+|a3-b3|+
: j, R+ _& |1 U5 Y % c1 ~, ]* u3 \$ R
|a0-c0|+|a1-c1|+|a2-c2|+|a3-c3|+
2 x5 A; D2 J' o! ~ & ?: a# X# Q- [, P5 M- _
|b0-c0|+|b1-c1|+|b2-c2|+|b3-c3|6 {6 w% w& H5 D! u! `" {
————————————————
0 {9 c. @1 }: w 版权声明:本文为CSDN博主「黑榆」的原创文章,遵循CC 4.0 BY-SA版权协议,转载请附上原文出处链接及本声明。$ J0 _* f8 A6 b! j- c
原文链接:https://blog.csdn.net/georgesale/article/details/126690670
6 U+ t0 \2 F3 |; j% g
+ H, v0 F1 }' z
, f! m- C% D7 U
zan