在线时间 1630 小时 最后登录 2024-1-29 注册时间 2017-5-16 听众数 82 收听数 1 能力 120 分 体力 565167 点 威望 12 点 阅读权限 255 积分 174773 相册 1 日志 0 记录 0 帖子 5313 主题 5273 精华 3 分享 0 好友 163
TA的每日心情 开心 2021-8-11 17:59
签到天数: 17 天
[LV.4]偶尔看看III
网络挑战赛参赛者
网络挑战赛参赛者
自我介绍 本人女,毕业于内蒙古科技大学,担任文职专业,毕业专业英语。
群组 : 2018美赛大象算法课程
群组 : 2018美赛护航培训课程
群组 : 2019年 数学中国站长建
群组 : 2019年数据分析师课程
群组 : 2018年大象老师国赛优
三分类网络的物理意义是什么? 2 O% ^ \) X9 m9 C% c* W
9 }# P( t- \2 g C1 D: u" R 1 V$ a5 R7 _ a# R4 j% d
(A,B)---m*n*k---(1,0)(0,1)! o, {% K9 `" t- D' e8 D
4 @# W, a$ S6 C; w4 R 对于一个二分类网络可以将被分类的A和B分别理解为粒子和环境,因为粒子处于环境中。于是A和B之间的距离可以理解为0。因为t=s/v,则即便A和B之间的相互作用的速度小于光速,A和B之间仍然可以实现瞬时作用,并不违反理论。+ o3 R+ k* `( Z! i0 K+ L
* x) J+ c o. C ( A, B, C )---m*n*k---( 1, 0, 0 )( 0, 1, 0 )( 0, 0, 1 )7 ]& t' b3 |8 x" T4 D* C* ?2 y* V
" b) m; [" Y, I* L4 c9 k 对于一个三分类网络要完成3次形态的变换。A⇋B,A⇋C,B⇋C,每一次形态变换就是一次二分类,因此对于一个三分类网络可以理解为由3个二分类网络组成2 E0 ~. h; M5 B/ v7 @
7 S/ I5 |; p& |9 f8 A# E
(A,B)---m*n*k---(1,0)(0,1)2 Z; Y6 C, \) C7 M, s4 ^
: L% N3 L. v* S* d* E9 f
(A,C)---m*n*k---(1,0)(0,1)
9 `7 j4 }+ k5 z. K* N 7 n6 \; J0 k. ?5 A
(B,C)---m*n*k---(1,0)(0,1)' R/ W/ T; L) M z$ v0 b# \) ?
4 n2 `" y+ p& Z1 p7 l. k7 r5 h 这就意味着存在3对瞬时作用,也就表明这3个粒子彼此之间的距离都是0.随着时间的推移网络的收敛误差会不断减小,而网络的分类准确率会不断变大。这个过程意味着A被错误的分成B和C的成分少了,同样B被错误的分成A和C,C被错误的分成A和B的成分也少了。
8 Z+ [ U$ U. r5 w" o$ v 5 x- h% n; R0 @8 o" H, k
所以这个三分网络可以被解释为,3个距离为0的粒子不断的相互作用,随着时间的演化,最终变得越来越像自己。# c* }6 w" {* Q) W# K
' D" X0 ` F0 M' x M u 而前面的实验表明相同收敛误差下,迭代次数取决于等位点差的绝对值的和,这次就继续验证这一猜测。
7 k5 ^# c( h/ G' u' q % _; T5 }# j; s3 s" D
用的训练集是mnist的0,1,2,3,4,的第一张图片。用间隔取点的办法化成13*13.
) k3 i. I+ t7 | U8 W+ [& f) m2 }) Y, \$ N
( 0, 1, 2 )---169*30*3---( 1, 0, 0 )( 0, 1, 0 )( 0, 0, 1 )这个网络简记为0*1*2.就只有3张图片不断循环往复,直到收敛。共进行了10组得到数据( f0 s9 e `* d( T5 @: @
, e' X0 b: h8 `
1*3*4
; L, X. ?. u) x( y( ]0 H# s 4 ~, l' [ X8 [
2*3*4
! d5 G% \0 L) @ j8 V0 H 7 x5 y4 v/ U) j, g; ]
0*3*4
6 L: p! ?7 i9 D3 _ 9 o) v) R7 x7 P8 K; b2 w3 Q4 s
0*1*4
7 w7 r$ M+ G' P4 S0 B: c& X
. q) y% Z, ?$ @, t' L3 E 0*1*3* h" x$ q) ]. w9 K3 l5 I
% Z# l2 E3 i% B
1*2*4
7 @7 Q6 j2 }) `, h
; k; r m! e: W( z+ g6 r$ i 1*2*3
6 Y' h8 [( b/ U0 ?- g- \ # X& _1 i' }" S$ d% F9 g5 o. l
0*1*2
# E/ `5 I/ D: [, F+ i* o1 u/ k/ v
7 u& ]$ {: P4 u1 ^& ~ n 0*2*3/ G- r% E& j3 [* Q, D7 y3 ?* w
. d$ H9 v U& a1 L( P 0*2*4
. |% H* u f+ W6 K: B1 ] 4 w3 Q- `& q/ S6 H: \" u! }
δ
7 l1 O2 s. P" i \5 Q! z+ g, w0 I) O 6 O& ~5 F) }2 i4 ]
迭代次数n- t# S: x8 p0 N) g
2 l" o3 h8 s- Y# a! k 迭代次数n
- p1 Z, _3 l" F% n2 z 0 e( E: {2 c/ W6 f7 C& k
迭代次数n
& { v- E7 d- t j9 a
: ? S( \( A M1 x- w* X" q 迭代次数n, Y# [$ o- c; ~- h
. `& I5 Q+ g9 S( z 迭代次数n8 L6 ]& p. t( |: C
) G9 E# ^+ p0 F 迭代次数n, A8 V) x% Z$ H2 o, u
( a. _6 e; B: `# R7 v 迭代次数n1 \& h1 c# D0 b# h( t$ J
/ I( U0 N; j: o3 A- ` 迭代次数n! J6 _7 R+ W7 f8 D# e2 N
1 V, W# T8 Z* l: @5 r
迭代次数n
% b, H: ~' ]7 @' \3 z " E# c; R6 K8 P Q
迭代次数n4 Y6 a; P' R( r! f. i3 @) I, i7 e
% v* c( s7 C8 S c% A6 k, d 0.01
}" y# | _, d! N W
6 F, D& G! V. h: K1 B3 \$ O9 N8 k$ Q 1763.1809* F+ K- G8 F; ]/ ]( C
% Q: q/ n* x$ N$ ^ 1626.5729
4 ]( I0 J" h9 l& ~! g+ e4 X k7 ]
, m$ x6 {! o. ^0 H 1672.45235 u* y) w8 Q5 r! a3 f0 ?
6 o" r9 j( G/ K2 j$ d3 k( D1 [6 G 1635.9196
) V$ `+ C/ O5 G+ ~6 \ 3 `) E5 ~1 T1 s9 G: |; z
1596.7035
/ _. C: m! B/ i" n2 b0 f 5 @ F) v7 m9 f; W' u+ d
1620.407# q6 L1 u0 j( ^/ b* p
3 k0 H( `$ b$ V/ s ~/ ~ 1563.89453 [5 I% f+ D3 v- p* l
1 ?* H# b S3 ?: {
1444.2915& K. ?; y$ j) x3 @* B. H
( g$ |2 c/ @2 `& L 1410.0302% _) d: N" X! l1 |/ V
1 D+ b5 |( W. U: m/ B" f 1465.4171
5 S4 T$ A6 B; m9 q 1 z& u; C: G, y, ?; \) Z8 i: A
0.001
) @$ J/ }! A# r5 x% s/ G. |- n & Y) U7 u; w o- W% e) J3 U- n0 O0 S6 }
13065.196
& n: W q; Y% o" v4 d 6 E4 m# Y& A) o* P1 ?: ?3 [
12674.945
/ T6 X h! U! A0 G- Z! g0 o 2 v0 k. k5 X9 `* B2 }! o3 _
12747.729) R" Y& h0 k( H% G6 P. ^
% Z$ N2 O/ f" Q, ]% S. A0 N% P+ ]
12386.216
- d/ Z9 c" n( b+ g* l) S* E
1 k$ P) |4 m3 u, b/ ~3 s 12349.02
; z/ E4 O- [" i( r5 N0 j ' e: M; _ x e* N p5 N
12282.2019 w: C- A6 U* `2 |6 K
+ Q$ D4 o1 P' H+ c
12270.0359 ?& N' [2 a' c" g: j: K% y6 z
+ k% `$ O; K+ a: {7 B9 K 11338.4779 w. @9 t; J0 Z1 T9 E7 m- F
6 X% d8 Y: ~0 N+ j; b* `) ` S8 ? 10985.201
9 }7 @- o% r9 s' J9 J / D: Z; W6 a3 S/ f$ t
11015.503
2 H, U- P+ W, H' U0 m+ ~
( p) t/ z) ], w3 O/ m* I8 R 9.00E-04
+ X3 O! W3 d2 |) Q) k3 D 6 q0 ^/ `+ d& K: n
14352.452
3 e) N+ g, c" y
: a6 ?5 a& T# |& g1 ^2 u9 R5 I 14004.6330 [( E5 B: K& t
' t, s8 N$ p- I! P! L( @
14062.8296 r: ]' X; v/ ~2 p# t1 r
2 }6 c1 v7 f2 r6 [& h
13629.467
9 e! U ?; }4 A+ O) b' w$ t
/ }; t% N' T& Q. @9 H0 t$ K2 @ 13613.362. E& R# F% m a+ T
: ^' _5 l5 _7 _" u4 n: P 13609.563
/ [- g8 ~/ O/ S/ a8 c h
& Q( C% Q7 q6 N 13530.322' x# F- I. @; \7 m2 o
9 i: t! R. @ X: ^, h6 L; k 12458.171+ C1 y3 G D0 A( c" t
5 I Y5 A; L' U. Z1 } 12176.362
+ F3 |: i- M' l. R . t' k8 @- P; x4 r/ w7 V/ G& ]
12225.96
' o# W+ M/ J, m& G+ G, S3 S ( Q1 l( u2 I3 L+ M
8.00E-049 g' l: E$ ~/ w4 V
8 J, a, c% r3 w7 F* j0 P# K9 | 16141.206- I! J& a- C" r! a- G
) u+ C- ]1 C; V6 T* m: e5 f 15611.101& J$ r& m% [ M
9 v L4 x( [2 ?+ q9 r
15749.913 L0 e% g2 p9 G" o6 H+ t
# J9 g3 ?2 P7 L* m6 \& S1 Q 15264.98
3 I; x- @( U" A m / L2 ?- D: o6 a4 O4 A
15228.447
1 Z+ g+ U5 s) @9 h3 X/ O5 L : x x1 q- `6 P4 c, R- U. I/ b
15207.628/ V* D+ E# e$ S- e# @$ ]5 j
- n# U- j* H) D/ I/ n 15053.714
1 P& \$ J A( _3 k0 f1 ? / M) t6 u1 a" K0 s
14044.729# v8 f, ]6 M7 ?% f$ J
( l. b) n+ S' t3 w4 t: n2 t
13530.397
! [7 W/ h0 k0 s, R+ ?: n + ^1 u% Y* C k! v1 h3 |5 J% z
13654.678- P! z* u& Q" V+ P2 w" W, \. }
, [" R# w9 [% m- g, F* k) S
7.00E-04
, a5 |; k- E; w9 _1 l! Q2 C. m
! W* u" q+ j! k 18194.397
2 G: v/ z3 H& A( J
) @+ L B$ S8 q, j 17760.638
# m8 l# S, }7 d9 _$ B( i/ E P2 h8 k/ ]; z p, X3 c4 X: e" |+ W
17743.578/ \3 r- E1 U9 ^0 l: ?7 c
: g1 \6 }4 u4 V# f 17333.377 p- T1 @9 I, ~# n/ ?& Q8 q
) ]% V" B- E5 a7 k$ ]0 K 17293.874
# b1 N0 R) \- w% E% `
! r- t P& o; j$ k8 e6 g* K 17204.638
2 M0 H D) J, M1 S# {7 P6 W0 D# |
; o! e% T+ d, F8 Y3 w: { 17058.809* i4 D1 y/ f" i4 r! s% E
) v9 w+ x4 M" f2 L# Q4 ]; G* z
15946.101: T! D/ B, R- N' l1 {3 o+ V
+ X3 @' B* J" i6 |: o 15491.266' t( U# a/ F$ {" \& \8 G7 r
# t: t2 O5 Z8 {" O7 r3 c0 M
15399.538
" N6 a6 E+ i: O $ I ]0 y' J% X9 U
s* ~& A1 N- }/ _7 h+ Q
1 R, j3 V y- h2 t! x, V7 C
130
+ J! c6 ^2 O/ _8 r `+ B( ~ ' |# [) H# U; d4 Y+ u# O
218% c* D, e* z2 g4 N6 h9 M2 u
6 @# y; c) i7 R; C
1983 k# l# F- c& F
9 D' P+ x% K/ g \2 b% ?, [
206
/ K0 b! S& L- S3 ~5 B / K0 ^: q& v5 A- o. I2 z9 G
2040 b9 I' T( _, k) N# I- ] g
; j, e+ W7 l. A- s7 X2 n* I, A
218
. i" h- S7 P4 I: X/ K$ b
" j! @" X+ V. f* R 220
- x7 ]: U3 \2 r$ \. a" A& B, G 8 `- z5 X) v3 a/ Z6 _6 k* L! q
2043 F" I; i1 K& y$ a& T; n& Q
$ e. [0 v, S4 w$ d# O3 R 220
b' P, [; J3 W: n , B3 r# t3 X) w/ @6 e `1 l
2169 G) E: u4 \% l& n# \
. H r4 t( k, s
将收敛误差为7e-4的迭代次数画成图- E5 \, Q7 w; f2 K4 V |! d$ m1 z
3 r; T1 u/ g9 [+ ~3 O
( Q. `: x/ h: p; N
! _% t/ w0 k% T: h5 B& z z 再将移位距离S的曲线画成图- a; _. W% S* Y: B0 v: R( M
$ Z- v3 a* `) L4 A
" L$ s! I; Y1 u8 b- v: t. g ( E) n, }8 G. A4 x: x* H
在这组数据中s和n之间的反比关系依然存在。/ m8 A8 E7 _, b o( u6 @. y
; C( P u. s0 O4 |' y# Y9 w
移位距离假设4 V" k9 e- j# m' w3 V/ ?$ B
3 n- N, p' C. q+ m( R) s# [
(A,B)---m*n*k---(1,0)(0,1) }( l& f) U- h+ s( i
: {* U& A" ~2 d, b; T6 l1 v / V2 c: E9 `2 b8 \0 S
8 c1 s. u2 ?. O 用神经网络分类A和B,把参与分类的A和B中的数字看作是组成A和B的粒子,分类的过程就是让A和B中的粒子互相交换位置,寻找最短移位路径的过程。而熵H与最短移位距离S成正比,迭代次数n与S成反比。
/ y D% b: n1 S" x) s# f& ^) v' z
7 \- F% [0 J# O: u 移位规则汇总
: k& U& ~( O7 b' L: x: H+ {
# _& L6 F7 b9 n' J( ~ 移位距离就是等位点数值差的绝对值的和S=Σ|a-b|,如果训练集有多张图片取平均值,如果是多分类问题则移位距离为所有两两组合移位距离的和。7 E) n6 v# [: t$ |' h2 r" [
1 }0 Z: b& I- {! W" D 如对一组3*3的矩阵
/ {0 {; N. L; J + E6 B2 n0 M; t6 K6 X% Q: r. n: n
% w9 a7 N/ |( r
0 q j Y6 o7 A* {! f# ]. V3 G8 | S=s0+s1+,…,+s8=|a0-b0|+|a1-b1|+,…,+|a8-b8|
1 O+ I! Y9 H; S7 j- C; J 7 M5 |4 I# C" D7 d* D: n2 L
如果是3分类问题,就应该实现3个形态之间的两两分类,也就是要完成3对等位点之间的差。
$ p7 {5 G" r0 @: ] a 3 O6 f8 z6 A5 B h0 R5 M. J5 W
5 C& N$ f' g" n$ F; K
+ k- o, ]. X' R/ X) ? 因此移位距离" z1 t7 q# G: j
' M6 I v, J4 S; Z* w5 w S=Sab+Sac+Sbc=: D8 i5 @9 W8 p" S8 }: q
% {+ s% E% Q" h' @ |a0-b0|+|a1-b1|+|a2-b2|+|a3-b3|+
, f8 _: G$ l6 E- H" u/ j' u 1 {) L, d3 p) B# F; _
|a0-c0|+|a1-c1|+|a2-c2|+|a3-c3|+
- g* C' l. B9 f1 y 3 V/ L7 m9 k2 j3 {
|b0-c0|+|b1-c1|+|b2-c2|+|b3-c3|
. }5 _+ Y/ P/ I3 w; j8 k& ^$ ] ————————————————
, s& F6 o4 c3 D1 V" }% q 版权声明:本文为CSDN博主「黑榆」的原创文章,遵循CC 4.0 BY-SA版权协议,转载请附上原文出处链接及本声明。
! x; l6 t; w% t4 c. O 原文链接:https://blog.csdn.net/georgesale/article/details/126690670
4 {+ y' z% P* j - ]* m* u/ U" O- I4 ?
7 T* m+ u" |$ Z! Y+ _$ G& @
zan