在线时间 1630 小时 最后登录 2024-1-29 注册时间 2017-5-16 听众数 82 收听数 1 能力 120 分 体力 557635 点 威望 12 点 阅读权限 255 积分 172663 相册 1 日志 0 记录 0 帖子 5313 主题 5273 精华 18 分享 0 好友 163
TA的每日心情 开心 2021-8-11 17:59
签到天数: 17 天
[LV.4]偶尔看看III
网络挑战赛参赛者
网络挑战赛参赛者
自我介绍 本人女,毕业于内蒙古科技大学,担任文职专业,毕业专业英语。
群组 : 2018美赛大象算法课程
群组 : 2018美赛护航培训课程
群组 : 2019年 数学中国站长建
群组 : 2019年数据分析师课程
群组 : 2018年大象老师国赛优
三分类网络的物理意义是什么?
, d* D8 E, T9 ~; V! C9 \
- f; t4 Z9 P" A7 H 用分类实现衰变( w6 D3 C1 ?+ B4 x& ~" L
专栏收录该内容- z6 g# x- B& P# ~
52 篇文章0 订阅5 b5 x9 |; X$ [8 M; G9 y! ?4 ^6 q
订阅专栏8 g" `4 `% ]1 r9 B# s
(A,B)---m*n*k---(1,0)(0,1)7 T; t! y- m6 |/ _* i, s8 h
& B7 \) D4 F! J. k) K, N* ^ 对于一个二分类网络可以将被分类的A和B分别理解为粒子和环境,因为粒子处于环境中。于是A和B之间的距离可以理解为0。因为t=s/v,则即便A和B之间的相互作用的速度小于光速,A和B之间仍然可以实现瞬时作用,并不违反理论。
4 }3 M: T6 Q& }( n6 V 7 G- R0 l. t- l9 L6 b( o' o2 X
( A, B, C )---m*n*k---( 1, 0, 0 )( 0, 1, 0 )( 0, 0, 1 )2 F' W- e& l4 G! o( l
- m+ o4 R. ?5 E$ ?
对于一个三分类网络要完成3次形态的变换。A⇋B,A⇋C,B⇋C,每一次形态变换就是一次二分类,因此对于一个三分类网络可以理解为由3个二分类网络组成
2 c9 y: z! [/ Y& H2 a
6 H+ f8 R* `8 b4 v* e* B: i (A,B)---m*n*k---(1,0)(0,1)
0 ^# ~* b$ e0 ^, q ! K* g& }) i8 P3 w. }) Z
(A,C)---m*n*k---(1,0)(0,1)
. j7 z, o% {# |
( r' ~6 N- V# I" E g (B,C)---m*n*k---(1,0)(0,1)) Z' z P% ]3 H) w! j3 v
8 ?% f/ g5 |$ i6 \. o8 M3 k
这就意味着存在3对瞬时作用,也就表明这3个粒子彼此之间的距离都是0.随着时间的推移网络的收敛误差会不断减小,而网络的分类准确率会不断变大。这个过程意味着A被错误的分成B和C的成分少了,同样B被错误的分成A和C,C被错误的分成A和B的成分也少了。
( l/ M" e- ]9 f8 L: Y+ a6 O' d
2 x9 i# S* ^% P& l- b 所以这个三分网络可以被解释为,3个距离为0的粒子不断的相互作用,随着时间的演化,最终变得越来越像自己。
& i3 Q. d: h0 y! e; ?
3 b! `3 y9 B' j, w5 l/ b, e 而前面的实验表明相同收敛误差下,迭代次数取决于等位点差的绝对值的和,这次就继续验证这一猜测。
3 t4 J6 Y0 Q# F) P# d V/ H0 S7 d- @( ]
用的训练集是mnist的0,1,2,3,4,的第一张图片。用间隔取点的办法化成13*13.0 D0 Q7 l3 D ~) y
6 u; t. f8 r0 M1 P; ?6 X6 Y ( 0, 1, 2 )---169*30*3---( 1, 0, 0 )( 0, 1, 0 )( 0, 0, 1 )这个网络简记为0*1*2.就只有3张图片不断循环往复,直到收敛。共进行了10组得到数据
3 x7 ~3 G4 z- z 9 B( v/ W- \9 J
1*3*4* u' q% C5 U6 b1 ~* r
. s. c4 `3 N2 ~- a" p 2*3*4- s. A7 _+ ~% a
2 V; R2 t$ Y$ g1 |# Q+ }: ~- [
0*3*4
6 m% O; Z7 \7 P8 ]1 X 2 E& Q# U( X- P0 {7 c
0*1*4
" d' ?. m3 S9 M$ O
) j" d' m. p' u; d 0*1*3
0 F* w1 n! H9 [4 Q8 Y# |) k0 _ 0 J$ A; U( X- i/ Y8 X
1*2*4
, q- ]. W! m+ z3 t+ [ , ]0 [" ?) s P- K9 G) t' }
1*2*3/ m5 y; A6 s: e" C- p2 C9 \, ^
+ ~- i$ ^+ y) X/ H: i 0*1*2. X' |! h( d; r2 }* m3 i9 j x$ u7 Q0 X
! C1 J4 N9 g$ S0 b. b 0*2*3% |8 u4 c X% A [ r+ Z" _
! m6 U6 N1 B" y. ~( a0 S 0*2*4# Z: T! s6 T R- e2 P
q9 P, C2 P* f$ |0 B. `! _* w δ
5 r4 A& R2 n/ v4 a) [8 P0 C
b( y1 V4 T& R( W6 E7 i( _+ x0 C 迭代次数n
6 u' r4 `; q# E/ ]9 |8 l" `
' M# c. A- ]6 x1 Q4 G8 H, b: v 迭代次数n2 z9 }0 v9 Z2 ~( p/ v/ ]
% q5 a& x2 u6 h3 M
迭代次数n( W; T* G* o3 Q& E, Z+ Q' X) T* F
/ q% O, l7 m I, N# F3 s 迭代次数n* E5 U' h' F7 a% x9 f! G
. U5 h' H% u7 j7 g9 f' W 迭代次数n
( s' G! ?3 N9 y9 V0 [! K- a
; N$ [1 Q& f! r( e) B9 [ 迭代次数n) w8 ^9 Q1 g; W. x* n
' j6 V+ o! A: |+ N! D U
迭代次数n0 D2 d; C( L0 `0 r b
7 t y# r* \$ ^: Y9 P# T 迭代次数n
& R# K0 E1 e6 f! A) [
6 G1 L- V: l) E 迭代次数n
1 X8 \$ c: C4 U/ D* U: p' M
* [# i M( ]/ M 迭代次数n% n* |& e2 A! U' }7 E
2 c1 ~7 W& K+ H& U" \2 E3 p
0.01
! Q% D5 x% G6 Y1 @9 W; d- @# V+ U : X+ K( Z4 `! j- H7 d1 x3 A2 D
1763.1809' s5 G( R* g7 [, {$ s, D
8 G% o) @/ k$ c; U& i
1626.57296 F \$ m0 `7 f" r2 c3 w8 o, R0 y
+ a/ F z7 H0 P. L
1672.4523! B$ c" A, E- i
5 J( v; j; Y7 f* }1 i( T. G- ` 1635.9196. A- Q0 {+ D7 u# P, g2 K( W
5 D+ U, r' Z. C! T" u+ t% d 1596.7035
! Y8 K2 W, N+ K z# R5 W
% B0 h2 l8 q' @ 1620.407
% B# i6 ~9 W8 _
! F! ^9 }) B6 w 1563.8945& M% |' F' b$ m! j
1 ]# n' a9 `# c' T: j 1444.29150 z7 L2 I/ t2 w/ I" i
$ I9 {) `" a1 ^2 S+ P
1410.0302
j- A; |, U1 ?6 j! S8 F. {% R* P' w# F
$ ?0 X1 @/ R1 t v7 A' K O 1465.4171
9 m1 E5 S* ?2 e: I& M0 R8 d: z) U& s) F
" Z+ j* L$ @- [7 m E v! q0 D: e 0.0019 |* D2 k8 p: ?0 N6 R
) z4 [; {0 ?$ S* t7 ? L2 w 13065.196
: C! j' L4 O6 c! T& z 8 ^1 Q: x- }% x& l0 | w
12674.9455 j; K* i9 o: Z. W! y
% o& X! `2 k$ I: M* R) V+ j9 f% d* `3 Y; V
12747.729# f& b! r- j0 H* ]' h) [9 M2 J/ t
' j: _: U. _+ i$ B 12386.216, p! h1 u! u' K% [2 c' t& t
7 I: c$ s( H' Z& Z! {+ L' s 12349.02# D- u( O" t0 ]- n- l9 h/ | ]
9 U, Z8 g; c; E7 A. _& P4 I M, g
12282.2016 p* @! z* }% O: B6 J" E8 }
& M, P- G l# [# `8 A! a 12270.035
! F1 E* y+ Y9 `/ K, M 6 U9 R( A9 N! s
11338.4775 {) k0 _7 i: m% q! Z
- o6 Z/ y% M, o4 {, l8 F 10985.2015 r! E2 E; h! s2 t4 J' e; G5 L/ ?
' e8 I; y/ ^7 |3 @2 a) X
11015.5033 i2 k% f" D3 X$ G, B) S, I
( [% J* n* _/ f( d7 z7 S; c
9.00E-04" R5 }9 q* L6 E$ y( g
9 [. v; ?# n* t B% K
14352.452
) c3 g, a$ o6 I F# q2 I, R% ^) r
0 b8 r0 M1 ~! |5 o( z 14004.6338 a. ]" M( e& z! U- ^
" b3 d- y1 o/ K9 R" @, u
14062.829( G- ]8 e1 b X/ K2 O+ U5 Z( \ L3 |* A+ ~
. n2 d+ r( e2 z2 x
13629.467% b# Z* A* h @1 X: n- } U
9 G/ N: b/ ?3 d5 Q 13613.362
' l i6 N: y1 j8 p% X& I& J" q / Y4 O& M. s# w( _: A3 X
13609.563
! m( d5 {. y/ J2 Z w' K
) e0 q8 w% P/ |3 C, t, X 13530.322
- A9 l1 ?4 K$ V . X9 g, N% B" Z; f6 D* |$ o7 g$ _
12458.171* G# k# Z! r; b" D D3 d
! u9 O6 f) u. E' U
12176.362
; p" |* Q8 q2 Z& m6 U
' C" R# U) o1 ]5 r9 x* Z# [ 12225.96
|5 Y5 v H: Y9 p6 ~9 i0 d ; p, z* M1 Y! D. U: S% [
8.00E-04
) T6 E. N _9 V1 k3 Z8 X% T# ` 7 ^6 ~# N6 y, s" q" r3 {- |
16141.206
" @! T/ [/ U2 L6 W
0 m* n' `! X) U( m. C 15611.1016 F6 O( d# o6 }4 c1 W
, F, N! h3 `9 e* ?# ~3 s$ ?
15749.91# i& O( \# {- S; }0 \" x/ P# C
- e5 [5 g$ C9 `1 t
15264.98, c" s- E. g2 w$ H& X; i C
$ I( O; f: |* ~. i* ]7 F1 n
15228.447 t% k" C+ _' ]& D
9 S: r H" _9 ]7 J3 N
15207.6287 w* ~: R7 R3 }" s, N; p
) x# e/ T0 L Y q. i 15053.714; ]% }: H3 J. O6 `- N6 N, v
4 o; P/ Y1 l8 a& | |6 a 14044.729
% |& ^7 M+ Q$ X7 t) |! j% T; d9 o
$ d. v7 o6 j6 Z$ h: ]6 u 13530.397# m6 b" G: P+ {
+ J! b/ x% I4 o 13654.678) x6 W/ i* N1 a( K: ~
' ? c. A" Y2 v% V& w
7.00E-046 l6 [) m0 {8 Z1 w" ]1 T
* B6 F. @' [0 o! ~ 18194.3975 u5 P5 ^4 s4 Q b+ l
) ?/ R4 I3 |' ^, j) F0 T
17760.6387 b8 H8 t) `7 |1 N
: C0 K( M0 F0 }3 \' [2 g 17743.578
4 i& K8 T9 t* L
% F9 V; o, `7 {* |3 L0 f4 P9 f% ? 17333.3772 r7 O# \, P* a% @ m
- i9 C* K- o" m% S 17293.874
1 v9 z' O% {1 ?, g: H# J3 s& J4 v
8 x. R; m6 i3 E$ e 17204.638) b5 L- g1 ?8 z/ c. q
! n' O, y9 m* n5 K
17058.809
- }" A" O/ Z3 n) X t" r9 P, ?7 L. z. T8 E# P
15946.101# ^7 W: v1 V7 q |+ k3 U1 l- Q
0 n3 x! s4 c4 A, V6 z9 a- z9 g 15491.266
' o, q& y( j m
$ t# M, C# b2 P, `% t$ | 15399.538
, n d3 e! G+ p; B" w
$ t* u/ c, o! e& A4 ~; ^ s" I t* ?8 h* I* K9 g# i
* I) `: Z8 r# G* o! s 1303 [3 e: h* g1 L# M: i
( D! _/ Z; m/ \1 X7 A
218
- Q. z0 P8 v+ v. ~% |/ `4 e2 Y8 W5 ]6 g. D 4 [4 K# X+ M& J5 f7 o# E8 D
1980 l& C- l* }" l& C3 h/ o
& _& _2 ?6 z& a( z# s. L9 N1 H
2061 [4 P- C- f: N2 k$ T
4 G% b5 X5 Y* O. p( o 204& w) ^; o, r7 |
9 v( y. u' i! w' ^% \$ ? 218
1 s5 Z3 d# m, Z: n; Y+ W
* X1 R; t b/ @* _, F( b 220. w- V, j6 w/ H% E# w
/ ^' H) Y# T0 z; r2 ~ 204
. s8 `& c. w4 S+ j: J# ^ 2 C/ O C9 `2 {; T3 h, o
220" h) a- @- j6 |
3 x0 k E3 r: [ A4 h x9 \
216
/ C, h" v9 ^# M/ E
9 m" c+ ^) N c9 ?: o' c 将收敛误差为7e-4的迭代次数画成图, o3 p+ M* j5 Q. K! r+ k' `
" q1 r4 @: D( A% W+ ]
% N4 S9 `( ?5 n# E : g! A- d7 M, X9 g3 O
再将移位距离S的曲线画成图
7 a4 r- [; L% L! l; C% W ! U5 b, N1 v x, p6 ?7 q
; W- F1 @% c+ ?4 ~6 v2 \2 h 3 |& `& P9 A9 o& U- ~2 S
在这组数据中s和n之间的反比关系依然存在。
" k- k& o+ N0 R: B/ o u
( G1 P+ U, G7 U+ U( |, Z 移位距离假设4 t' t7 O5 `/ G' n. q/ n1 G. d
0 u$ Q, E* h( H9 |4 R- U- U
(A,B)---m*n*k---(1,0)(0,1)
" v; \# M2 A* @( }, {
! F0 h/ M, Z' Z) ]/ i- A
" d$ A- o6 M+ d % T, B- v' e- W# T$ Z, w2 V
用神经网络分类A和B,把参与分类的A和B中的数字看作是组成A和B的粒子,分类的过程就是让A和B中的粒子互相交换位置,寻找最短移位路径的过程。而熵H与最短移位距离S成正比,迭代次数n与S成反比。3 c% q- E' c6 ]+ O6 n2 O
( b1 c6 Z: h: q 移位规则汇总6 ?. y. B' o r, _) V
+ s$ y) `+ q8 ~
移位距离就是等位点数值差的绝对值的和S=Σ|a-b|,如果训练集有多张图片取平均值,如果是多分类问题则移位距离为所有两两组合移位距离的和。! b4 ?: G: o' M& u0 [# ?
& U% I7 R$ U# `+ Y
如对一组3*3的矩阵6 O; {3 S/ e/ Q% p K( F e" B* T
2 X7 A2 y, Y x/ v% j' i% q/ L% n
. x8 G% ~$ ?* T( P5 u6 v ) M! ?8 s0 f9 [, D0 ~3 _9 y+ \4 D
S=s0+s1+,…,+s8=|a0-b0|+|a1-b1|+,…,+|a8-b8|
9 T' q0 ]) H' w( I7 u: j# I
( Z, i# P5 k9 G 如果是3分类问题,就应该实现3个形态之间的两两分类,也就是要完成3对等位点之间的差。
) p9 x0 m, @4 Q ' h q7 N0 Q+ h% {2 i* [9 M7 ^4 T' @
# V7 t8 i2 y7 ^) p& v- E+ v( [ ! n+ k3 ?, B" A- g
因此移位距离
1 {. X" s2 W- J1 ]
# G9 { F+ U; g' a- o1 G S=Sab+Sac+Sbc=
) D1 y+ _; g- ^7 j1 g r' T/ ~5 Q, o 2 U+ Z4 O6 f% x
|a0-b0|+|a1-b1|+|a2-b2|+|a3-b3|+5 ]: y+ N' {3 j5 z' {# b/ U3 S3 g
7 M$ D) {3 v$ @& w R8 n |a0-c0|+|a1-c1|+|a2-c2|+|a3-c3|+
7 }; Y I9 c" Q/ T6 [ 1 A) l6 C$ q: C! Q' u: v/ b) \
|b0-c0|+|b1-c1|+|b2-c2|+|b3-c3|2 a" d* [5 I) _/ _* m6 W9 N
————————————————$ f' {! y8 N. Z) S- h, n
版权声明:本文为CSDN博主「黑榆」的原创文章,遵循CC 4.0 BY-SA版权协议,转载请附上原文出处链接及本声明。1 q5 }- @$ o; y/ R8 d: X* m
原文链接:https://blog.csdn.net/georgesale/article/details/1266906707 T' l6 O Z5 }2 {
2 M' ]" b( V. Q( e. Q
! K1 t B% B; o9 W
zan