- 在线时间
- 1630 小时
- 最后登录
- 2024-1-29
- 注册时间
- 2017-5-16
- 听众数
- 82
- 收听数
- 1
- 能力
- 120 分
- 体力
- 569618 点
- 威望
- 12 点
- 阅读权限
- 255
- 积分
- 176108
- 相册
- 1
- 日志
- 0
- 记录
- 0
- 帖子
- 5313
- 主题
- 5273
- 精华
- 3
- 分享
- 0
- 好友
- 163
TA的每日心情 | 开心 2021-8-11 17:59 |
|---|
签到天数: 17 天 [LV.4]偶尔看看III 网络挑战赛参赛者 网络挑战赛参赛者 - 自我介绍
- 本人女,毕业于内蒙古科技大学,担任文职专业,毕业专业英语。
 群组: 2018美赛大象算法课程 群组: 2018美赛护航培训课程 群组: 2019年 数学中国站长建 群组: 2019年数据分析师课程 群组: 2018年大象老师国赛优 |
三分类网络的物理意义是什么?
" W2 [6 e2 R; I- A4 q" ]8 _) ^+ }( C7 N9 R2 y9 Z$ [
: ?6 J8 p: m4 ~9 ]+ h1 j+ [
(A,B)---m*n*k---(1,0)(0,1)( B% W+ n: q6 K; m0 i0 D$ ]
- S6 `; o. X4 _' B3 k; y1 v9 ]对于一个二分类网络可以将被分类的A和B分别理解为粒子和环境,因为粒子处于环境中。于是A和B之间的距离可以理解为0。因为t=s/v,则即便A和B之间的相互作用的速度小于光速,A和B之间仍然可以实现瞬时作用,并不违反理论。
" u t k9 n4 T! g+ d, }1 `2 E
/ D9 r8 D8 q2 g! u5 P! V( A, B, C )---m*n*k---( 1, 0, 0 )( 0, 1, 0 )( 0, 0, 1 )3 v1 g$ S9 n) i/ P! d* E+ X0 C
2 v: }3 C9 s9 {" x对于一个三分类网络要完成3次形态的变换。A⇋B,A⇋C,B⇋C,每一次形态变换就是一次二分类,因此对于一个三分类网络可以理解为由3个二分类网络组成
9 b" l! y3 h4 ~: G2 q/ c1 t3 H) a9 s: u+ I* H4 }( g$ ?) T/ p
(A,B)---m*n*k---(1,0)(0,1)
i p4 }$ L5 l' s2 A6 j% \
7 \# t. I. z6 C" I6 B(A,C)---m*n*k---(1,0)(0,1)
* s- d6 Y+ v6 X' M8 Y" N' S+ E; G( f9 z6 U
(B,C)---m*n*k---(1,0)(0,1): y* b0 S. c$ b' x1 ]
, T, A- Y* b$ ]: g* b; C 这就意味着存在3对瞬时作用,也就表明这3个粒子彼此之间的距离都是0.随着时间的推移网络的收敛误差会不断减小,而网络的分类准确率会不断变大。这个过程意味着A被错误的分成B和C的成分少了,同样B被错误的分成A和C,C被错误的分成A和B的成分也少了。
0 T7 ~2 r" D' w- e% _( @- |3 w* R& J7 f. H, {' z% j& F8 f
所以这个三分网络可以被解释为,3个距离为0的粒子不断的相互作用,随着时间的演化,最终变得越来越像自己。7 H# ~- M/ j# d- f. G
7 Y9 m5 C; a4 A: H" ~' h4 e而前面的实验表明相同收敛误差下,迭代次数取决于等位点差的绝对值的和,这次就继续验证这一猜测。, Z9 c ]0 Q) H2 d; ?$ ?% Y
5 x5 L9 p& U+ J; P5 V" X用的训练集是mnist的0,1,2,3,4,的第一张图片。用间隔取点的办法化成13*13.
# r, r( s* |$ c. c" L
* J7 s$ s3 ^0 Y, c" t( 0, 1, 2 )---169*30*3---( 1, 0, 0 )( 0, 1, 0 )( 0, 0, 1 )这个网络简记为0*1*2.就只有3张图片不断循环往复,直到收敛。共进行了10组得到数据. I% q7 B& Y0 M8 S. M* u! {
, _% D3 q+ x. t l. V7 q3 A7 D1*3*48 I/ p7 U2 l" o6 l+ \
9 `/ e3 N4 x# A9 `+ I( p
2*3*4( j2 q( ~7 `- S* _5 M) X: E3 F6 A
7 E; w' Z* R R
0*3*4* O$ {9 q4 ?1 w2 e% e' m
& L; T# M- r0 R0*1*47 _/ n ^! v' L& e2 V
2 k3 I0 E6 y' Q9 m% q6 T- i
0*1*3
1 R( t2 i+ P# G! _6 W; ~- D9 N) b8 L8 K: l2 G$ q
1*2*4
9 r' s% {9 N$ b) V
7 Q, g/ E+ E/ E3 ^7 s0 V: q1*2*3
# \/ F1 h! }# i" ^3 H9 \ {* f5 x9 W, b4 ^. k2 ?5 ^8 f
0*1*29 h& Y. i6 i* x& @; }9 o
, l7 a4 }" c } R% q" Q
0*2*36 x& J' z& O+ ~2 s; U) e
0 y- u8 U7 l* L8 x5 R
0*2*43 y# x7 ~! L, ]- x4 G5 l& \
_$ s, R- Q8 d! zδ
% x. D+ v* r* U R' @
$ Y2 Z# W+ H4 P& `, P) }迭代次数n
6 b7 c6 k' `! D& a
9 R1 B; r% v6 \4 j; ^2 W迭代次数n
! j X4 C7 A* ?+ S
& i- D1 U6 E) Q& w迭代次数n3 U' P7 Y* x+ H2 S7 ^' B# z
6 R$ X8 B0 w! q' ~: [迭代次数n
6 M% n9 ]0 \ y# q/ p+ H" Y2 a' [- [! D, w1 p5 |% V1 e
迭代次数n% O/ x0 s$ C6 f6 ?) ^1 r8 E- r
4 ]) x* t0 Y' e迭代次数n
_) |2 q- B8 J7 ?! t# ~' E2 T5 d$ Z/ d
迭代次数n
8 [) q- v/ @/ X% n7 q, g* J3 j1 d9 _8 \) V. J8 q
迭代次数n; D0 J) M5 ^# u
/ J0 B+ e$ g% s: f9 R: M迭代次数n
1 z- j6 ~# r9 `2 P( Q7 h
% ^0 I/ {( J& |4 p2 S F% c迭代次数n
A- g2 }$ Z, ^. G/ j- i' o& k8 Y
; }6 \2 [9 ^2 s% W( u( T; X0.01
# H9 q: v8 x7 ~8 m2 ^! `) @6 [" c) z- H: y+ D$ b
1763.1809! \, H! z, i/ r/ Z+ `, W
' C0 }5 }! L! Z6 \6 h
1626.5729
3 f9 p$ J+ x1 b( V) b. {0 q/ a
' g- m% e- [$ S/ C, A1672.45239 {+ P6 d, N0 T8 e
E, ]& o8 i ]+ r2 u P! p1 K1635.9196: d' @! c5 o) W2 h2 }% K5 k" [& t% H$ ]
. X& i; v5 J- @; j' Q4 b1596.7035( u3 A: \/ T6 u4 [$ ~. t8 X& z
# t6 X' r1 A3 P5 `, ~1620.407 f9 _9 U7 v$ V: ~* P+ U1 p
8 z; k8 f0 F8 `0 X( J8 i- Z
1563.8945
7 P9 e( L2 O' l' z. y. `
% P* U1 P# R# x3 n6 m) w1444.2915" r: [0 F' x/ Y! m! T
- A& [0 J" ]: h2 @
1410.0302
3 P- S) q3 e d1 q4 x: r" c3 h' R" X) c* n% n
1465.4171
* W2 ^$ [$ }2 x8 x& ?7 k- {( f* b, b
0.001& X$ v. g: n: p) L( a# W6 U* Y
6 J) x& g# H8 t* V& t
13065.196
& n/ ~; O; L. S; [8 m* Q
[8 [" x, O: H12674.9452 O* L5 O1 l7 v+ H* l- _ R2 c5 u
; `* R- ]; E1 _5 q6 {; T12747.7296 }/ V3 E- U0 X% }
' O' B v/ ^: F, ?* |, j1 c) k12386.2160 Y5 S; a; s8 R( `- R( {1 D9 b' A
) r4 z% ]3 R5 Z# g" H6 k
12349.025 I6 ]' S p5 a: e$ _. r
0 L$ B: d, \- w- P2 ?) _12282.201
& r) Q2 i f$ L7 e. d( I5 c
' o$ K3 k/ I7 D- D12270.035% c# R0 a& k. R( G0 U- Q7 v
I: q2 ?! v5 i+ |2 ^+ L11338.477
( p8 T9 }( }2 W/ X
6 Q4 r0 D- a% B3 o7 A r; K4 q7 q10985.201 B1 T! X0 }4 R, {8 J- O$ R
6 E4 x4 O) j1 f
11015.503
- U# d$ _% `7 D, Z g) t) x/ b
8 G# Q5 s3 [8 \0 r" D9.00E-04& t% [/ r N4 |! a5 @" S
2 Q' h/ D/ C( R2 s; p14352.4521 c/ l7 ]4 v7 s. m: `
' e, g2 P3 Q' I8 u
14004.6335 Z& m9 v7 ^ K; p: T0 `7 D: [
) v D4 b1 P+ {! s- ?$ p( g
14062.829
4 _; E# A& l( F3 i
1 d4 Y& _2 V0 P/ M13629.4670 @' v8 _$ }, Y b) X1 K+ S, }- H1 D
0 c% d% O5 ]! f! ~8 H
13613.362
3 r3 ^" r* W# |% {+ p( d/ ]$ S: @3 j; X! a+ Z
13609.563
4 \' I, F, ~- {5 V( G1 n6 p1 t
) h. s1 \5 Z( V. m- x% Z3 m9 x' J+ Y13530.322+ _) C! _' V& K, J
/ V- G2 B1 F6 s, e8 a+ S12458.171
% I: m0 u2 Z# u+ P8 d) f" H8 J$ D, B) \# |! ~1 @
12176.362
0 y: H: v2 D/ f4 H8 |* f
5 o N s: Q* N12225.96 L& a1 Z* T* |; U3 c) S" ?
7 A; ^" B/ g4 Q3 ]
8.00E-04 ~0 L& F" @7 o: c0 u8 c8 v; o T
: V8 \# e) H/ d) ]
16141.206
! i1 W' c4 b4 |7 l" E$ x ? t! T. v" r5 j# G5 G0 Q. q# X6 ?8 @# h
15611.101& y5 w4 M1 Q# v$ ]+ m4 f# M% E. K
3 t. i, c/ N' j
15749.91' W" k( ^5 m8 m( ^: w
; A- `+ u; i u0 e! j& ~; N# H15264.98
* u q3 R- p" Y. N# c6 ^5 x1 U" r% m7 P
15228.447
5 W" h% e; P6 j. p* [. G/ O. z' r6 i' |8 G
15207.628% g* M! l+ ~1 Y+ W
& @% r* u* z5 x# _+ P- ?6 a
15053.714
3 f8 P2 O/ b0 G! k) z6 D% N
) q/ K* j1 k% p% u- k8 G14044.729/ n( z' |0 d+ Z* e2 i' ]
- l! x9 q9 Z; S
13530.397* [* u9 Q; Q9 ]
- ]6 j5 o [8 V( O8 l9 Y! J
13654.678
6 R5 i1 l2 m2 ]' R7 }6 Q. M; l. U9 n" Q6 Z* q
7.00E-04: X5 k# b0 o7 I( b0 }" b1 q
5 t9 D' T) n' ]. |8 n
18194.397& F2 U" A c+ H& Z. W; ?( E5 v
, s) a; b# {. n! ?9 G/ S17760.638
2 ]* A1 a! U4 }1 u
2 v6 `5 {' ^; ]4 Y1 ^6 P17743.578
4 Q1 y1 |, b; u+ F6 [0 T5 @$ T+ g
17333.3771 U( R- D1 {/ k, H+ m$ H: b9 v
, ^* u$ Y# I5 H17293.874
+ I+ \2 I% R" X, i3 Y* G
8 [) P; L" y4 }% [9 ^17204.638
0 X: K; p5 c9 m1 C
h+ O" ]# @/ k. s17058.809
, S; D* W b( h$ c/ {
" V2 v- H" L8 Y, S7 m2 o15946.101: j3 V4 n8 x! |" p% F
( v- i# M# y! C; M2 P- s
15491.266( m, `9 ?( Z; K! C% O$ E
# j- O! i8 k2 K$ O( P15399.538
\: G. Y. h& c, I
/ n2 h8 y) P. L, t' hs! B0 H* q/ z$ y# I0 y& S
; [1 r2 N, t6 g2 e- F130
& B/ X5 x- v+ v
6 Q# ~+ y4 p7 L2186 o5 b' A, B& R5 H8 N5 h: C: d
7 t9 |/ H7 j- g# r3 {' S9 e
198- b7 Y5 Y2 n2 b
2 P2 ?+ B% C/ d: S
206* d/ a- X4 V/ }
7 s4 {# O4 G: F$ T, \- o
204
/ B0 b; S9 t% ]" S D$ {& e o6 O7 \2 a
218
# u9 }3 f, q5 [5 w) k% G; z, G4 `& n
220
+ x/ D" [! Y. W8 `
9 |5 k) \% c+ t) v/ Y204 m. M9 B0 @8 b( }
1 I+ C$ s! f( o5 n8 h0 f220
+ r4 {: q* p- h( c* l( q: i' i' \/ v7 l% M! n
216* |$ A8 L9 @ T
/ O9 @) r+ ~4 O1 x6 d4 M+ n
将收敛误差为7e-4的迭代次数画成图4 }& H% C+ ~8 e. y5 Y/ ]
( Q ?- \+ F+ b# H/ b
$ b, J( F9 H" m( J* W
# Y- B$ g% l, B" ]+ F) @再将移位距离S的曲线画成图
2 P% m- |( R+ q1 f3 V) a9 Y0 C" \7 O& `8 ]
s" U& r/ A L& V( }( _9 q. N' ]3 Y1 a- s j2 b* a
在这组数据中s和n之间的反比关系依然存在。+ F& m$ r* Q9 { ?* s
) T8 I6 g' y" N1 b移位距离假设
( V4 ^$ i$ F6 Q; k6 k/ y8 q. B
(A,B)---m*n*k---(1,0)(0,1)$ O* ^' C! X) F* I& W, _, y0 u2 \
( @2 I- ~4 N; W
! r9 R7 ~6 B0 f+ ^ l& f3 [/ o
6 j2 a5 p* O1 F5 J9 J用神经网络分类A和B,把参与分类的A和B中的数字看作是组成A和B的粒子,分类的过程就是让A和B中的粒子互相交换位置,寻找最短移位路径的过程。而熵H与最短移位距离S成正比,迭代次数n与S成反比。0 I+ z% {2 Z" e; z/ |
( E8 {4 i* q4 u
移位规则汇总2 j. @" }( G' t$ G* k- s
) ~. U+ z# ~+ p3 E. W9 g5 K
移位距离就是等位点数值差的绝对值的和S=Σ|a-b|,如果训练集有多张图片取平均值,如果是多分类问题则移位距离为所有两两组合移位距离的和。
% J. {/ y2 a/ }1 d
6 G& [9 w( a5 K2 j如对一组3*3的矩阵
0 U5 Y' q* z) p8 V
R; `8 X6 _: H, k
9 \* O5 o# V# W
, W2 U4 I. i6 F& D) LS=s0+s1+,…,+s8=|a0-b0|+|a1-b1|+,…,+|a8-b8|& d, W) r! G k2 Y
8 Y0 {7 D! j' O/ j. l, w- I/ l- j+ @
如果是3分类问题,就应该实现3个形态之间的两两分类,也就是要完成3对等位点之间的差。% Q& p- h! ~/ x' k2 X0 X3 n/ [
+ g- b* b6 W( b3 U/ ~) o7 @% A
7 K9 U r3 b! X% Y: X
2 P* E! r4 t! L2 _$ l" i. N/ d3 f因此移位距离8 f+ p2 G+ I8 V
+ A7 t Q a: ~0 Y7 Q; l
S=Sab+Sac+Sbc=
; m4 E. `/ R- P) s- Z1 J) [ E" a6 v+ u c2 N
|a0-b0|+|a1-b1|+|a2-b2|+|a3-b3|+
B; v# D" K( F! m
* A w9 a# N& M$ @( ?$ A7 B|a0-c0|+|a1-c1|+|a2-c2|+|a3-c3|+" B- X8 ]2 b( K& Y$ ~& o4 r! i: M1 c
8 l; p' ?8 r( r' ^|b0-c0|+|b1-c1|+|b2-c2|+|b3-c3|
$ [# a; M8 f" K8 H8 h( M————————————————+ F& ?# r% M9 |# Y: y" y3 [7 s
版权声明:本文为CSDN博主「黑榆」的原创文章,遵循CC 4.0 BY-SA版权协议,转载请附上原文出处链接及本声明。
- s9 r$ l7 U7 Y; ?; ]+ T) K' {原文链接:https://blog.csdn.net/georgesale/article/details/1266906707 X }: K+ s9 r) y: R
6 m- z1 C9 h2 A( I A5 q
/ i4 U4 ~8 Z& g$ o7 g6 z |
zan
|