在线时间 1630 小时 最后登录 2024-1-29 注册时间 2017-5-16 听众数 82 收听数 1 能力 120 分 体力 563259 点 威望 12 点 阅读权限 255 积分 174201 相册 1 日志 0 记录 0 帖子 5313 主题 5273 精华 3 分享 0 好友 163
TA的每日心情 开心 2021-8-11 17:59
签到天数: 17 天
[LV.4]偶尔看看III
网络挑战赛参赛者
网络挑战赛参赛者
自我介绍 本人女,毕业于内蒙古科技大学,担任文职专业,毕业专业英语。
群组 : 2018美赛大象算法课程
群组 : 2018美赛护航培训课程
群组 : 2019年 数学中国站长建
群组 : 2019年数据分析师课程
群组 : 2018年大象老师国赛优
三分类网络的物理意义是什么? 1 Z5 F% S H/ g' k, Q, R6 ~- I
2 e) I, H* U# r: {' P$ L/ q4 I
0 O) \9 |1 L8 D* r; g9 K (A,B)---m*n*k---(1,0)(0,1)4 _3 |; Z( N# c e4 [
7 P @% }4 F, n) T0 Q 对于一个二分类网络可以将被分类的A和B分别理解为粒子和环境,因为粒子处于环境中。于是A和B之间的距离可以理解为0。因为t=s/v,则即便A和B之间的相互作用的速度小于光速,A和B之间仍然可以实现瞬时作用,并不违反理论。9 }! l6 ]5 K( D3 u, L a4 k
$ }, |* X2 Y# i ( A, B, C )---m*n*k---( 1, 0, 0 )( 0, 1, 0 )( 0, 0, 1 )' ?, t$ a8 C. O: S3 ~) q
$ i' o0 I* _) Q( Y0 U \
对于一个三分类网络要完成3次形态的变换。A⇋B,A⇋C,B⇋C,每一次形态变换就是一次二分类,因此对于一个三分类网络可以理解为由3个二分类网络组成
' J! D9 w$ M3 u! @: H/ X
8 G% ~1 C Y2 R3 _3 ? (A,B)---m*n*k---(1,0)(0,1): P8 ]1 w+ c; z; p
0 @ E- @% V; O9 C q' F0 a (A,C)---m*n*k---(1,0)(0,1)# R0 h) p) w. n
- F. h9 i# j; m/ s' S( X: q (B,C)---m*n*k---(1,0)(0,1)0 e" @8 H: V2 ? U/ Y' Z2 H9 d
" L& [: ~3 R, a7 G 这就意味着存在3对瞬时作用,也就表明这3个粒子彼此之间的距离都是0.随着时间的推移网络的收敛误差会不断减小,而网络的分类准确率会不断变大。这个过程意味着A被错误的分成B和C的成分少了,同样B被错误的分成A和C,C被错误的分成A和B的成分也少了。- T* N) B& q( \! H2 n1 z
, v# u8 M5 D4 O* v6 w 所以这个三分网络可以被解释为,3个距离为0的粒子不断的相互作用,随着时间的演化,最终变得越来越像自己。0 {# Q% B; _2 Z2 _0 |4 A1 ]5 V' A
- X! \, N# [+ }9 S0 }* M 而前面的实验表明相同收敛误差下,迭代次数取决于等位点差的绝对值的和,这次就继续验证这一猜测。
( P( v+ @! J' p$ F" D u5 e - M, b" |1 o* D5 S: Z9 N& ^, N
用的训练集是mnist的0,1,2,3,4,的第一张图片。用间隔取点的办法化成13*13.
0 B+ z. I; u6 K8 W8 H/ h- Y( s , G) m7 A- A* j% j. \* U
( 0, 1, 2 )---169*30*3---( 1, 0, 0 )( 0, 1, 0 )( 0, 0, 1 )这个网络简记为0*1*2.就只有3张图片不断循环往复,直到收敛。共进行了10组得到数据
2 K/ ~ K* J9 m4 w" k) k
5 H6 K: i% P% t! \9 B) l3 a 1*3*4$ _: n/ n) @/ p
8 W/ o7 ~ ` ?# O
2*3*4
( s% Z0 v% a* V" X$ { ( |2 m) s9 C& W1 i$ }9 F
0*3*48 {8 J. k7 t) ], c
) K8 d9 G$ k1 H
0*1*4
3 c- G q1 y, i* k. s& S& I9 P
- \) F3 g( a" R& A2 D 0*1*34 y+ g+ V; Q# u( E) O' e8 h
/ M& Z9 g2 i6 u; ]; D/ F: ?+ i 1*2*4) S- W5 V1 l$ ^3 c, w" c2 k
$ e+ e3 g8 O4 D( u: g
1*2*3
# a1 G" G2 W* ?' H9 S1 M6 @) Y6 X
0 J8 [2 Z& P! `' C6 z 0*1*2& G/ O: N3 ~5 [5 f4 A
- W" w1 Q& p* V: w
0*2*3
) K9 t. j) k" ? t3 u3 Q9 c& m
; X# X, [8 b' l( @$ |' \" V 0*2*42 G+ C% C$ A/ s) E
! R( T9 f5 R( Z1 m δ
' U* @! [" ^/ f3 j* i* B8 ]) H 8 W- t' ?: e, m8 x
迭代次数n2 B1 v. k; }& f
+ {; o! f7 T5 b. h2 i* x
迭代次数n4 w# Q0 Y9 @0 m+ V5 T* l# C! v
- x$ Q# b" r0 N4 d+ H& ?, p- s
迭代次数n
$ B# L4 F/ D. }8 V& G# Y ) q9 k) h4 L9 Z+ z) t2 E; v* J
迭代次数n, `8 j) h- X4 a4 |/ \) l/ `
) h( A$ ?; @5 L/ r. Y/ @
迭代次数n, W- e2 o9 C7 n! Q$ B
7 V9 U1 }, T& u: q# A7 U) o" j/ ?
迭代次数n
4 {3 t# X% l' j 7 @; m% R5 t7 L A7 i0 r( R+ D
迭代次数n2 J, B2 b; D* X; ~- }0 R
( u8 H2 _1 S; s8 @: H/ T P
迭代次数n
+ {! z; F( i) c) m% a , O6 y$ O9 Y* j& [4 B) T
迭代次数n
% O! d8 i; j9 J$ _0 X$ S 6 D% }) X# ^. ~( N3 D
迭代次数n
" e+ s' `6 t6 |8 S [, ^
. \: {* l+ o7 ^6 A" R 0.01
( P6 I: r* ~$ X3 e1 V) h 2 v5 O- v* z6 B6 [+ \! b
1763.1809& H$ L3 P: L- w/ Z) a L
- k8 N& P/ h" F% p! M0 w
1626.5729% [. \) R. ~1 n0 |
2 S1 S2 d" `1 _/ @; J: e 1672.4523
9 H! q; Y6 [& O% J# U: ^ 9 e6 F! H0 m4 n/ r/ |3 J
1635.91964 |7 d+ o0 E6 V2 o5 l: d' l! i
) p0 X9 c3 m: D$ }1 s m
1596.70355 Z o, m' D: p. v; S, W( T/ i
4 O( `8 |7 u+ u# x d: D# w( [ 1620.407
9 b7 w, w! H3 J. e2 i ' a& D+ O/ G1 h
1563.8945- s: _9 u$ I+ ]4 B8 g9 s/ T
j3 u9 Y3 i: b+ |- Q5 L+ @ 1444.2915
3 I' x! R- \: z3 C3 F7 \. { $ h! q; O# `* D& } Q3 q u
1410.0302$ @0 z+ a8 V5 \4 h& c: r
6 a7 \, U6 N4 w# }' N 1465.4171' I( {( M8 T( ~2 K8 W2 x
! J) W1 E+ t5 [; h/ w: N ~* x 0.001
9 k+ E' u& i4 {3 x& Y& ` 7 |' Z |0 N @2 m
13065.196: k2 I+ W: _7 x2 E
( I' P7 k9 b; |+ Y
12674.945! I' Y8 U, G/ q
& `3 @. }$ a7 O/ h4 h5 }$ B 12747.729) E0 o; z7 A7 o5 @9 k0 R
* N O R# z" k) D
12386.216; w4 @" N/ r0 q1 \ Z
i8 d9 r( z, l7 z! p' z 12349.023 S! ?: r- w( V6 s4 u
' k+ g( k7 k$ o& Y" L
12282.201
: l8 q6 ^# ~3 r5 o" O6 F1 z
2 x; ~! ` Z% l: y 12270.035
8 b" T+ m) X- w5 } % ~% m8 K6 E7 ^2 ?: e% ^1 x
11338.4773 j) e& Q3 C0 ~2 \! j A' k2 f- K
1 j: c( D: B! r# f3 q
10985.201) n5 ]6 y0 c! m* u- S
?9 ~0 D4 X% d8 G+ d9 n( g6 G: {8 T
11015.503
( `. `, s8 v) i J2 I% m 2 S9 k" q9 ^* P
9.00E-04
* ?9 D1 A8 ~2 W$ j . ~: e5 D S) w: `
14352.452
0 W, A; [. `/ o1 r) \
- N) W/ o c* n5 U% d O0 G* f) H 14004.633
: r- h& O" J; n9 K' ? , j: l- \8 [+ E* f# x
14062.829+ c, g# @% ~) @1 x8 G6 q' }( C& r
* K2 e+ ?4 D/ d ?8 k, y4 S
13629.467
5 @6 j1 g2 _7 G7 C q( u
* s. g6 F& A/ a4 S5 B 13613.362
! Z3 N2 _1 p5 O4 s% @ ! B9 z8 Q: T+ [
13609.563
% `2 J1 b- b9 ~) c- G# t- F4 Z+ y
/ F8 @0 k y9 w! N. K; G( }4 S 13530.322( ]' T0 z/ d8 t
) [2 ?' t* e2 \" i9 {: `2 O: _; X 12458.171; S' f$ c$ ^1 [1 j- g5 D% X/ k
" B5 I, Q6 U; b0 p- Q' j% v7 F 12176.362
" h, o& }# {; _0 l) k) v' a- Q
' {! w' t4 X1 G 12225.96
+ S; y$ Z$ F6 h6 a1 c5 S" U & P# E0 t% K* t! t
8.00E-040 ?1 }) O6 V' ~% j3 N: k
/ r$ N6 u5 e4 I1 J, w0 j7 U( f 16141.206
7 P9 l; o4 N+ Y& E( c4 }
2 n* q' { o. ~& t5 w) Z4 w 15611.101
. D4 { f" i. f& ~
" k& Q% v* b% I$ S& O! Y 15749.91
5 r5 L7 [: v9 D$ _" Y; [* c4 F/ B : q: k3 d0 f1 y+ ]$ `5 W8 p
15264.984 |0 _4 p1 i! ]
2 k, M9 n" A0 \ 15228.447/ m/ X* j. e; [' n& c- W5 A
/ J; P/ ~; Y' f& n `3 Y
15207.628
) M' L* A4 q- P6 {$ m4 d
; y) V" n+ I0 c: s7 E2 C I h, Q 15053.714
( T8 q6 f/ m9 O & U. @" J5 w6 R% P' Q
14044.729
# v, X- t& y: I. p( F" r8 w $ h9 e9 X8 w7 b$ z. ~
13530.397+ u+ C5 K) h: C( _! l. }% O+ [9 ~ v
, q8 |6 ~* E& E8 L
13654.678/ V9 Q. M2 N1 O. G/ T
5 h3 T1 c' v, ^
7.00E-04% F6 b& Z& J9 h8 t3 R, P" J
. b+ m9 G/ d0 i0 ] 18194.397
3 |4 ~' k' Q7 H
* X. ~9 v4 |7 a, T, a8 u 17760.638
) p* U: ~& n5 D4 G1 i$ U7 r$ t3 Y: _
' c7 \: ]7 g4 c, J- U" b 17743.578! L3 u& |4 G" c: [2 s, k+ h& t
5 F6 t m Z+ }! U# s" f8 O
17333.377% Y! w# ]) N" K# T6 \
7 F2 v& u: v/ }) f9 \ 17293.8746 I& v7 V) x3 G. {8 k. F
8 m, k1 ?" z+ s4 q 17204.638
9 C: T% u, `/ o+ Z* w, n
: b) O! C3 t" J) [' s 17058.809
# D4 e' ]2 J+ N9 A# c- G9 H 7 E7 R, Z" S" u% s7 C: A/ O
15946.101
" I* t1 n# X# e8 Q
: v0 {* m+ e4 ^+ \/ M 15491.266
* a: B% v$ U$ s3 Z
2 ~3 w8 ?9 a: j6 Q 15399.538
+ x, ]. _! M# V/ a# h- @+ Y # J- W: k! g9 @/ u1 W) m) D* d2 m `& q
s+ F( H& E0 U$ h+ b: T) c# R) h
3 ^7 }* @$ x2 M+ ?. g( l 130
" b" t2 |. w0 U! t; k0 u 7 }6 h( ?* G% \& f& e6 l. W
2183 x3 G9 K5 K- T. d
! Y! u; e- j3 o5 T/ W Z 198 t, V, v7 r! l0 P5 I0 R
6 _) u5 w! i3 B, n 206
2 e) i. Y+ t( h% w' I
c/ }! y+ @9 T: g4 Z 204
/ f" h, n; o7 m9 ?$ U
1 c: f; I- H& ] 218
: h- }3 s4 J& ^6 z; G4 o
Y. e! q/ \1 |4 a, y 220
1 c2 P2 G6 [# ?$ h/ a ! {$ K/ ] x& R; O' e; D
204
+ @2 k2 _* U) A A$ ^
$ P" `& j+ {9 W L H 220
" N& @' B' a1 z
' R# R: ^! e9 n7 w6 r, m( G& e 216, U4 H' l% Z; Y" f
0 O) U. {0 ?3 K+ P) h& ? 将收敛误差为7e-4的迭代次数画成图5 `. r, u( q7 j2 l) K6 ^$ q1 u+ m
1 P8 ? x4 A8 V" v, w
% w- h' Z: J* T% n4 V
4 Z3 f T" S8 c' ~ 再将移位距离S的曲线画成图4 A) Q7 m- H1 n( X
+ G2 j' K7 w. w
8 G b! P. i. F9 H4 Y* g/ ~ 1 N' r' N; p; l7 n- a& a7 K
在这组数据中s和n之间的反比关系依然存在。' W' N+ H; F# ~# u* O
3 B3 A2 R' N% x& k! `( M
移位距离假设
- Y5 w/ I/ {. A0 \. K% h r2 d
& i: g+ x7 F" E7 E h (A,B)---m*n*k---(1,0)(0,1)
( [: j+ }$ ?6 }5 q8 E$ ~
/ B7 n ?7 m- K" j
- }* d2 Z, w- L, h& B2 @
1 z, F% ?' @- }! F 用神经网络分类A和B,把参与分类的A和B中的数字看作是组成A和B的粒子,分类的过程就是让A和B中的粒子互相交换位置,寻找最短移位路径的过程。而熵H与最短移位距离S成正比,迭代次数n与S成反比。' @; n, r' _4 ~% h, Q
) b" s4 M" o$ l
移位规则汇总
. V- ~% T- b* T7 W2 q
% `9 o8 H: t: W# q/ ^/ ]& B3 U! U' M 移位距离就是等位点数值差的绝对值的和S=Σ|a-b|,如果训练集有多张图片取平均值,如果是多分类问题则移位距离为所有两两组合移位距离的和。
, `6 S' z8 P- K8 ~% h# p, Q
4 d! ^5 [* I' ?: D9 i; X 如对一组3*3的矩阵
9 m2 c: ]3 @3 k# j# ^2 I . _% |' V# X+ r+ B0 `2 J
4 X; w1 `! S5 }, ]& u, D- b9 t n
5 n, l( v2 ?' h0 ]$ g5 s, N; h* f
S=s0+s1+,…,+s8=|a0-b0|+|a1-b1|+,…,+|a8-b8|& H4 }7 V h4 y) K" o( j
* N, d B h- _2 C& E
如果是3分类问题,就应该实现3个形态之间的两两分类,也就是要完成3对等位点之间的差。
6 L& a, M8 @. z . r1 X' d3 T: ?
I4 m3 V4 Y' f, g N$ D. N
7 i5 ^6 N; c- K" k' y2 ^ 因此移位距离" d. O, ?1 o* l" Y) z% Q( g
9 @5 s1 q. R0 T3 J. d2 r" H/ F
S=Sab+Sac+Sbc=0 n1 k! {9 o& q, z# N9 v
9 M4 v8 o% J4 ]
|a0-b0|+|a1-b1|+|a2-b2|+|a3-b3|+. C T* C9 i& g& s1 g) y
0 z, w1 H, L" S' g3 X; x
|a0-c0|+|a1-c1|+|a2-c2|+|a3-c3|+
[" o" m5 \9 L4 |. L ) O# `4 e! o, O. C) f& j
|b0-c0|+|b1-c1|+|b2-c2|+|b3-c3|( B8 I2 |5 f6 f# L2 X
————————————————8 ?2 `# M5 y- Z+ o
版权声明:本文为CSDN博主「黑榆」的原创文章,遵循CC 4.0 BY-SA版权协议,转载请附上原文出处链接及本声明。
% j5 g7 @7 N; c& g/ E! Z 原文链接:https://blog.csdn.net/georgesale/article/details/126690670. g4 C. K' l( _6 P5 A4 s( ?# F
# V1 p6 v# t6 }- r- U5 K
7 F+ I" X. N, f) i# I+ Z( @
zan