- 在线时间
- 1630 小时
- 最后登录
- 2024-1-29
- 注册时间
- 2017-5-16
- 听众数
- 82
- 收听数
- 1
- 能力
- 120 分
- 体力
- 565632 点
- 威望
- 12 点
- 阅读权限
- 255
- 积分
- 174912
- 相册
- 1
- 日志
- 0
- 记录
- 0
- 帖子
- 5313
- 主题
- 5273
- 精华
- 3
- 分享
- 0
- 好友
- 163
TA的每日心情 | 开心 2021-8-11 17:59 |
|---|
签到天数: 17 天 [LV.4]偶尔看看III 网络挑战赛参赛者 网络挑战赛参赛者 - 自我介绍
- 本人女,毕业于内蒙古科技大学,担任文职专业,毕业专业英语。
 群组: 2018美赛大象算法课程 群组: 2018美赛护航培训课程 群组: 2019年 数学中国站长建 群组: 2019年数据分析师课程 群组: 2018年大象老师国赛优 |
三分类网络的物理意义是什么?
# ^; W8 O |2 A0 B$ A0 k# N7 ]- S0 n
用分类实现衰变
8 n) `! @+ w. s+ g! V' ~专栏收录该内容
6 i+ \4 L" |- [* G1 {& f- p) X52 篇文章0 订阅5 ~+ a) B. ?5 s7 K
订阅专栏) m& h& Z) Y) L' ]8 B6 u8 i
(A,B)---m*n*k---(1,0)(0,1)
2 H3 \: b/ K5 O7 J2 Q$ e1 T, y9 C, p' h4 g
对于一个二分类网络可以将被分类的A和B分别理解为粒子和环境,因为粒子处于环境中。于是A和B之间的距离可以理解为0。因为t=s/v,则即便A和B之间的相互作用的速度小于光速,A和B之间仍然可以实现瞬时作用,并不违反理论。
4 a) X' h* n" N5 L
9 Y( c7 m7 w C0 |) U$ {( A, B, C )---m*n*k---( 1, 0, 0 )( 0, 1, 0 )( 0, 0, 1 )- c" Q6 U4 T7 m' Y7 J
/ L& K' @7 Q3 v3 E' y8 X* G对于一个三分类网络要完成3次形态的变换。A⇋B,A⇋C,B⇋C,每一次形态变换就是一次二分类,因此对于一个三分类网络可以理解为由3个二分类网络组成3 G' n" w6 n u, T" h, X
2 B: b7 ^* i2 `( N; Q z
(A,B)---m*n*k---(1,0)(0,1)
1 C3 z$ b5 Z0 \. G2 g1 L
& u8 y+ ]7 Z0 [8 r' r+ I(A,C)---m*n*k---(1,0)(0,1)9 t+ n9 _5 i1 J7 W, X8 e
9 a# N: U1 T: l6 U4 |9 W5 j) T(B,C)---m*n*k---(1,0)(0,1)) L+ l( I6 x' p' U7 e8 @
$ G' J2 {! @& {9 j" I! V' ^ I
这就意味着存在3对瞬时作用,也就表明这3个粒子彼此之间的距离都是0.随着时间的推移网络的收敛误差会不断减小,而网络的分类准确率会不断变大。这个过程意味着A被错误的分成B和C的成分少了,同样B被错误的分成A和C,C被错误的分成A和B的成分也少了。2 {% ^$ A2 _6 H
# {5 g2 i' N* s* t. z }6 u+ y
所以这个三分网络可以被解释为,3个距离为0的粒子不断的相互作用,随着时间的演化,最终变得越来越像自己。
: l1 j1 T9 b% l# c: e, Z; H8 L% u; D
而前面的实验表明相同收敛误差下,迭代次数取决于等位点差的绝对值的和,这次就继续验证这一猜测。
% w$ P* [8 J g" | V; _
+ h/ X4 D/ l" X4 I1 D% }; p用的训练集是mnist的0,1,2,3,4,的第一张图片。用间隔取点的办法化成13*13.
# V5 L/ g7 I1 f$ _, G8 z5 q3 I! L
4 x; C5 @, _. ~( 0, 1, 2 )---169*30*3---( 1, 0, 0 )( 0, 1, 0 )( 0, 0, 1 )这个网络简记为0*1*2.就只有3张图片不断循环往复,直到收敛。共进行了10组得到数据
, B. I* u; `6 }1 ?7 D" p; f( k
4 t( U& g, ?2 Z4 h- e1*3*4
& F7 }% c: ]) I1 z$ \
( a" u) V2 h( f( U2*3*4; k; A* m$ ?2 E
% ^6 M1 h4 c4 v# M" G; g. R0*3*4
/ L r# l" ~, c) N/ W+ M6 O+ X3 V% ]5 [1 i8 p2 t
0*1*4
1 |5 g' g; i1 x6 R5 c3 j' @, J+ L- E+ [* q- i" r6 j
0*1*3
1 v& X0 {/ q* u; _7 Y/ O
' w* o6 L1 i' Y" L" `$ J1*2*4
0 _ ~* K1 o2 ?+ B- H0 y4 h: c# Y3 B3 _$ c& y
1*2*3
( h+ |3 C# P; [' g' z. a" N& I) @' j1 H$ I3 H9 l) b+ b
0*1*2
8 f& P7 d- `4 v. J: S9 E7 e" O) }- ^ q0 N
0*2*33 J4 x+ C" M% [% t [5 e
# \& U) }! j0 i; c! }! _! m6 i) u' r: y0*2*4
' S7 ]' h6 n) j" K" E. W
* O0 q5 j* P6 t4 Lδ: s. p$ x0 V; e& [
4 }' v2 }4 n2 `0 _/ C3 i' }
迭代次数n& M7 ^( y! D0 v- j0 }
' H( l0 @$ y/ {( h$ d. D迭代次数n
: t5 U9 U! ~: t* E$ Y) ?# \% _9 f) |- i8 x& k
迭代次数n
2 v9 o3 [& e2 b8 F9 N2 Y- c2 T& n5 w) f
迭代次数n
. b8 r" I$ N, A; v1 b' j, Z: S _' b% f
迭代次数n* Z3 x# _" P9 w, E1 \5 b/ t
: I5 G. u5 `) h& s迭代次数n
2 `6 u, ~9 _3 D' Z0 @% z$ u% j
2 \# Z) P u/ I, R$ O迭代次数n/ P+ m+ _$ N$ Z6 ~$ e
' j/ w4 o; `2 A; | t迭代次数n# e& c% f/ R9 p5 N r- U6 |
. Q) k- Z7 c5 i* r% F
迭代次数n/ [. Y& a9 R* _6 o* h0 W- E
' J1 x8 S8 S2 ~ ~- z4 s, k& r' s迭代次数n
, @! p n, W4 V$ E# Z. k# R1 d, ~! C5 b; ]; M q) Z
0.010 e+ f2 r1 }' I6 l g2 R# [( ~
0 y* n+ e2 V6 F K0 h1 J+ c1763.1809/ d2 Z7 p0 G8 a1 v$ T9 u
# r. }4 E3 p" S0 x& p
1626.57290 ~0 Q% u. g# o S( ^3 ^- Z9 y; t" ]1 R9 \' B
; c7 P# L4 \. M/ Q) m0 S1672.4523# Z( I- s* T* O! W1 {: Y5 m2 c
, E4 M% C' J @/ P/ X C
1635.91961 Q1 f8 J% L, d* Z4 U( w
- @: `5 d% R% M" T* T& `
1596.7035# G& Q0 A, q6 v6 V
1 d" O+ Q6 O4 F. b+ \: r) j& c1620.407; Z2 V" k4 t6 ?' T' `
* }* _5 r; K7 F& s
1563.8945
: Y. P* l% i3 E H8 ~/ t
2 a& S5 R. m+ p+ x7 h) o5 e1444.2915: w$ ^- `0 f5 J" T' s6 U
$ ?" @3 D% j" y
1410.0302 Z; X! b5 m0 h8 p
) j/ D: ~8 a$ L& a9 t1465.4171% o m5 P2 X* k
/ j. H. @- y. W1 U6 }/ B! m- S1 S, A0.0016 @$ B2 X) ?) w, V' L
* J+ U% E9 W7 q& g
13065.1964 J! s U( g4 U$ q) ^3 K- |
7 O% m( Y( c: J/ E. y) f. z/ o12674.9454 l$ J2 H( d# J1 F5 A5 F
" k! e: c# Y0 c$ w2 R! G5 H+ q12747.729
( L' S1 F: W& |9 Y9 X. z2 b6 Z" v N7 S7 x# }9 X
12386.216* j: B5 J! i; _' x4 g% o0 a: ]
, P* h/ o5 c( j) @12349.02
& |9 ~* f2 J8 R% S- T$ {2 l' Q" D9 {, B" R
12282.201' @' q0 ~: z# N$ p) f2 _
# ~. U: b; X$ T$ m; v12270.035
5 @ M8 i& g- L4 h" p# I$ z9 o/ B# V
: x& n" C: w4 R' U11338.477
, G- h: X3 E$ \& m% G7 M* |% b/ F' U/ \) Q
10985.201
& y3 d# M5 \( G0 Y% |7 W" x6 `1 y) l6 S" t9 `/ [3 v' |- x% g% h& ~
11015.503
; ]7 \, c# W$ ?9 J* y+ x; e) E/ y2 L# l2 j( v; Z2 N
9.00E-04
0 s. I* ~# q7 G6 n- p
! C' W" m8 Z- `8 e' y14352.4525 V6 X' h q7 \" S& F4 F; ?: d
( K/ N6 d9 f" s& Y. e( p0 P14004.633
/ h1 z% W. C; k! I- ~% e' @' h1 W9 C
14062.8293 t8 Z: L* T. d# t! l1 e
2 B2 Q& ]3 ^6 m7 l. Z13629.4678 m$ @3 m0 @% V
D" ]8 ?3 w* _( R% y: B# U: H
13613.362
" {& H W0 E$ U i7 L! W8 x6 O; k: D5 i3 [& }
13609.563
! R3 _; L. {# e" S o# S+ O' ?0 S% `9 Y' {4 o# B( r
13530.3229 d# u- E3 q6 [6 K! [. ` E
# n% G0 K' S5 `. j2 b
12458.171; e) R1 o' A* T
9 G' M9 d- x6 P8 d& e; l; [12176.362: f; _5 b+ e0 ?' i2 e" T# h, t
3 V* _* l2 z z" ^
12225.96. j( H- H- Z+ c/ m
/ @: _: f3 C: _% Y( O0 c8.00E-04
7 g$ `7 V% a6 B+ ~
$ b- \* @6 \ q6 d% Q2 `- H _6 Y g16141.206; t* ^" e2 {( a, t0 Z7 e
, ^8 e1 e" C4 N0 ]
15611.1013 B: q" Y! I( k) U! Z; q7 m+ P5 W4 N
' S/ C, T* v) \2 G9 o
15749.911 T Q& o8 L& J
! b g$ \' I/ C c8 A. Q$ Q
15264.98: C* ^4 A4 _. |7 P9 l& I! G
! L0 U4 m2 ~- P7 ^. p15228.447
# r! [! l5 d8 R6 T+ R! K; W# ]. V; D- j. q& \$ Y& L
15207.628
+ @- T5 m2 g9 [3 C" t( H0 C
5 z7 x2 |/ _* {$ n$ l15053.714' j& X1 T& X- l7 ~
! e s' A* E( ~% g, }9 D14044.729
) D- s' Q, V, J
) Q4 q2 B! b, |) c13530.397' e# k7 [: M) r- C
3 I$ p- k' g" I) ?) a+ f! }+ r
13654.6789 k5 `: H* |1 G; b4 F- |# T7 m
9 H. A4 F) B$ j7.00E-04
5 Y2 D. S/ q9 X+ J8 m% j
+ ~/ q6 x" E) [0 h0 s18194.397
T: d8 `8 g4 I
: Q. u: e6 Q4 i17760.638
2 ]. F# ?; w* M0 m+ S
- W2 E+ _5 P: V* v% i7 j4 y17743.578
$ Z0 W$ ~2 x' D- X5 [/ C( B0 K- b& s: C9 f8 R5 c
17333.377) [2 ]' F+ d2 n: v
1 ]# d. o6 Z! ]! ]- O% j$ B
17293.874" c/ u; |6 d( s" a8 f2 Z: D+ f
( C8 Y- K {8 G( U2 z* T$ {17204.638
j4 d" }- N& ~% _6 I+ F8 ^5 Q
$ [# F7 V1 `: s: g) k( @: }17058.809: i0 a% j. J# l) `& d( s$ g4 k' ^( w
. n: U8 [4 l* ~8 J
15946.101: Z" o2 n3 l8 W7 p; Y( Y
" G# B- w p. k1 K m. C, J! j15491.266
3 X% L j+ [8 Z& j9 @$ u O% h! e: {
4 u! w- K! p$ ?$ |) K1 P15399.538 G$ h0 o! p* Q V- @
+ g2 S5 U2 w6 f/ v0 Y( Ls
: _( U3 P$ w. P+ o* {
a, E1 U2 f. l: g* ]6 c7 P1305 E. U4 _4 P) E' C
) Z7 z/ y- n( b$ [
218
/ r/ l" C- g: g" C6 }* s" b
! o) t/ g4 |: B$ ~! a198
% G7 C Z1 t9 N a6 E |7 |( H
! d; c, L# Y$ d, @6 t* r! _/ c206! ^. p4 p. b. _- n3 r) t( G
0 k% J3 P; v% T" i) r; U2 w
204
0 j. ^; e" G1 k0 |# z2 V
* x8 f6 d v' q2 N9 P2189 Z+ g0 ]# g) l+ {* Z
# i9 C9 E- d! v1 l5 e220
2 C4 b' E% ?# @6 p, q0 ^+ t
9 B- H4 J$ l5 E( L' q; n204; [2 o1 d' ?6 u: e5 i" X2 K
3 Z2 y9 C: L' f( j) g# t( k( p
220
' F$ h; D2 q0 t7 I- l% D4 Y4 v
+ W1 M; Q- o9 l- q# s7 v216( p' M; T6 y* I8 V1 _
( k, n/ v% V J& @' D4 G% b( j/ m将收敛误差为7e-4的迭代次数画成图
! z# ? Q0 h F; d* B5 D; P
9 S8 j" J, {( r. J; O: m# y4 _ I9 f$ V
( V& e- a4 |# R4 |再将移位距离S的曲线画成图
2 \' ?4 h' d3 q& t9 _% \" {2 ?- t$ \. Q4 S
( G5 y% v) F ~5 h# X r
: A6 o" H( X: C. s( l$ {在这组数据中s和n之间的反比关系依然存在。1 y8 d' @' q$ X9 L. Z3 D \# l
( X% z0 P! q2 T
移位距离假设$ N& T0 ]9 C: K$ p" t9 M
" o% O- q4 s; B; \(A,B)---m*n*k---(1,0)(0,1)' z" Z! @1 H! v& i) {8 c
5 X4 Z( m! _2 Q) y3 L. I3 K9 r& L
7 _5 }2 ]2 X5 o4 ] M. U& |" z% ^( w9 O% V
用神经网络分类A和B,把参与分类的A和B中的数字看作是组成A和B的粒子,分类的过程就是让A和B中的粒子互相交换位置,寻找最短移位路径的过程。而熵H与最短移位距离S成正比,迭代次数n与S成反比。
1 b9 D/ ?4 J9 V0 l8 t
0 A6 k5 \$ C7 ^% `9 n u9 u, {移位规则汇总
: [! z3 O# I' [1 R3 T# Y5 n( h' Q4 }. \* x( V
移位距离就是等位点数值差的绝对值的和S=Σ|a-b|,如果训练集有多张图片取平均值,如果是多分类问题则移位距离为所有两两组合移位距离的和。7 a6 s% S( h) H' }* b
0 k) K2 G2 }9 h. M如对一组3*3的矩阵 e& @0 k9 a( o' j) p+ Y4 k* r3 w7 v
3 o& E, }3 d, \1 m. e5 S* E3 y& `, I- P" }5 Z) r- f9 T& m# K2 f/ {) C
+ P2 q' k; S' L/ p
S=s0+s1+,…,+s8=|a0-b0|+|a1-b1|+,…,+|a8-b8|5 D/ Y0 a0 }9 \( j. Z7 `
# f- Z4 F+ v& W2 r; E0 v" L
如果是3分类问题,就应该实现3个形态之间的两两分类,也就是要完成3对等位点之间的差。
* L" O3 L( [. T/ B# U* o
9 j7 J1 U9 e- A, N: p3 g' u
/ P3 e+ ?" v l, X0 @3 p
# }0 `- q# x0 Q因此移位距离, y+ d6 _0 X' l" h+ Z8 C, X
1 }3 j# G8 d/ p) N; ]: M
S=Sab+Sac+Sbc=) }9 O9 T, U) f; p- Q
5 b& f, h& }- J! d
|a0-b0|+|a1-b1|+|a2-b2|+|a3-b3|+
' i w# r* _9 v6 ~% ^9 T. X; ]
" {/ h6 v9 B& ?4 d& Q|a0-c0|+|a1-c1|+|a2-c2|+|a3-c3|+
5 p- s" f% m) Q6 h9 }
( ?- G# i+ d" ^7 ` Q# e; P! i: ||b0-c0|+|b1-c1|+|b2-c2|+|b3-c3|
5 T+ o8 p/ l& E% R————————————————
8 c- X/ [- i* z8 E- }5 B/ y版权声明:本文为CSDN博主「黑榆」的原创文章,遵循CC 4.0 BY-SA版权协议,转载请附上原文出处链接及本声明。
, z6 D# t: W* r6 F/ i原文链接:https://blog.csdn.net/georgesale/article/details/126690670) u- B( X' B9 X- U0 T% ~& X' s
8 X' W3 h: K8 e$ x! ~; L, o: a9 K
# t/ k: X. c6 `, m, A, V
|
zan
|