- 在线时间
- 1630 小时
- 最后登录
- 2024-1-29
- 注册时间
- 2017-5-16
- 听众数
- 82
- 收听数
- 1
- 能力
- 120 分
- 体力
- 563314 点
- 威望
- 12 点
- 阅读权限
- 255
- 积分
- 174217
- 相册
- 1
- 日志
- 0
- 记录
- 0
- 帖子
- 5313
- 主题
- 5273
- 精华
- 3
- 分享
- 0
- 好友
- 163
TA的每日心情 | 开心 2021-8-11 17:59 |
|---|
签到天数: 17 天 [LV.4]偶尔看看III 网络挑战赛参赛者 网络挑战赛参赛者 - 自我介绍
- 本人女,毕业于内蒙古科技大学,担任文职专业,毕业专业英语。
 群组: 2018美赛大象算法课程 群组: 2018美赛护航培训课程 群组: 2019年 数学中国站长建 群组: 2019年数据分析师课程 群组: 2018年大象老师国赛优 |
三分类网络的物理意义是什么?8 U6 ?5 o/ f8 J/ H$ S, V
6 ]. h; @" C* a* ~
5 j# e0 l! I: i' h
(A,B)---m*n*k---(1,0)(0,1)
3 [: f6 n3 I& P. T' _2 p6 \$ W3 a) t7 w& ?' E. q+ c+ c$ s
对于一个二分类网络可以将被分类的A和B分别理解为粒子和环境,因为粒子处于环境中。于是A和B之间的距离可以理解为0。因为t=s/v,则即便A和B之间的相互作用的速度小于光速,A和B之间仍然可以实现瞬时作用,并不违反理论。
7 L y3 E* x/ {! f2 a. t1 H$ f: u) D1 ~7 g9 g
( A, B, C )---m*n*k---( 1, 0, 0 )( 0, 1, 0 )( 0, 0, 1 )
% i. ^' T0 V2 i, w+ B# e& }* j/ [; \* ]# s
对于一个三分类网络要完成3次形态的变换。A⇋B,A⇋C,B⇋C,每一次形态变换就是一次二分类,因此对于一个三分类网络可以理解为由3个二分类网络组成* M) P! M* i, v8 b) o2 x7 j: K
" g% O! `! Q3 C; U) W
(A,B)---m*n*k---(1,0)(0,1)3 d2 t' o+ v% e' {$ k @
- H, h8 i' w8 O/ w9 }3 Q' G(A,C)---m*n*k---(1,0)(0,1)
- [! F7 a( J1 `/ D9 B: V! ]1 _4 H1 d0 l
(B,C)---m*n*k---(1,0)(0,1)9 C# k- w5 P9 s. u
$ J; z; Y- E$ O; n 这就意味着存在3对瞬时作用,也就表明这3个粒子彼此之间的距离都是0.随着时间的推移网络的收敛误差会不断减小,而网络的分类准确率会不断变大。这个过程意味着A被错误的分成B和C的成分少了,同样B被错误的分成A和C,C被错误的分成A和B的成分也少了。6 |- L. e( l5 t' V! `. M8 Y& y
8 |% T& c' f. s+ o所以这个三分网络可以被解释为,3个距离为0的粒子不断的相互作用,随着时间的演化,最终变得越来越像自己。- `- N1 s! R5 {7 }7 d
4 i6 G @' [6 E& O( z& t
而前面的实验表明相同收敛误差下,迭代次数取决于等位点差的绝对值的和,这次就继续验证这一猜测。
. B; p/ W; s, @8 F* I
! z! f7 P& s: g7 v+ P用的训练集是mnist的0,1,2,3,4,的第一张图片。用间隔取点的办法化成13*13.; [8 D2 t0 q3 _3 `- N4 A
/ Y9 c2 T" D/ T, k& v9 s( 0, 1, 2 )---169*30*3---( 1, 0, 0 )( 0, 1, 0 )( 0, 0, 1 )这个网络简记为0*1*2.就只有3张图片不断循环往复,直到收敛。共进行了10组得到数据
6 T2 Z" j! \) I5 c6 K( g0 D1 m
7 E, K' y; j$ X. E6 K$ M1 a1 d# y1*3*49 ]$ q9 S; [& S
6 }$ o9 b$ ~5 v2*3*4+ h+ v& s. {" H y% {
5 X6 t+ `& p j5 {. p" A; o0*3*4
: \2 C* | [' F4 g6 q) n' z
v# t9 V }; R `6 ~$ q# ~) N. U0*1*4) E& v$ \5 \% R+ u
5 ?$ M" D9 x7 G! O. y- K
0*1*3" {' x h: V/ h! K
N: I8 P+ [+ g* q/ {/ `/ v8 r; I
1*2*4
0 H" K7 o) h$ Q: Z8 {2 T! B* [: P! Y# d9 P( |2 g H
1*2*3
2 Q9 z: c& K9 M, W' q
% Y& s, X& t- M. x# `7 {0*1*2+ d9 i- w/ t6 ? T
0 w4 e7 b" F j( d. i9 k
0*2*32 H% ]1 `( o1 O) W2 D y
: a7 z. g) w3 m' J
0*2*4# a3 R" ]( D; d: D _' }5 \- ~
' s) T3 B+ g6 t! Dδ- v$ a) m- K& V( a' ?
0 d N- I" i5 u1 `6 G2 h' m* ]
迭代次数n
# s) h9 E0 z# |! o% C1 g( V
3 @1 h ~% T- b) \9 x7 t迭代次数n8 U' f% ]& R2 L5 u( j7 V3 N
0 k9 y) k6 ^7 C. a迭代次数n
* s+ G4 w( b( D- m# I, Z+ V7 {" k' b/ n% c4 O9 J: k: A
迭代次数n" C0 F( R4 m) l" J# q3 {
6 t, M: L7 t/ @
迭代次数n/ {2 |5 S! i7 E( R5 ~" ^
0 R, q" x. P. O
迭代次数n j- D1 U' X; K. a8 }0 B' |
$ m N2 [- H: L+ \迭代次数n
! ^# Y' p+ Y/ j" s: Y2 b3 _' n$ t- p
迭代次数n. ]! H+ S& c3 C; L4 a. H' `# k
* o6 \7 D7 i! m7 G8 ~. R- _( A迭代次数n" ] X5 c# ^% H; f+ ]5 b$ j/ k
0 N- F x0 I- u1 X; E( [迭代次数n
+ k; h" Y9 X5 O0 W* l3 `; V- n2 |2 W2 d
0.019 B- y" h9 E7 a! u
: K5 c/ h, e1 J, y1 T; E3 m
1763.18094 `1 M# B! m% h
" Y) C6 y/ t& f6 r
1626.5729" H2 H& E. t; a
5 W" [8 a# l- ?# W1 o9 d `$ D
1672.4523
) X7 }! a1 z: u5 t$ v0 A# S# ~
3 J! ?) v8 L* X& @- y1635.9196
+ `/ e( G7 k7 O
! {0 |4 A; Z0 B* h3 I1596.7035& s. w M9 U) i5 b
1 d" ]- `7 c4 x. }1 F
1620.407% u3 T. U) S! I' _
8 ]0 b" `7 D5 K1563.8945
1 l, ^( F* X1 M; P& u9 ^" ~. A1 A) q9 g" S. ]
1444.2915) C2 Z( G+ Y; \) y" B
& f I& q" a7 x' g; \+ Y
1410.0302
, w$ s2 Y9 q" c( o' i, c6 z" z) w3 p9 O
1465.41711 X! u7 x/ k( y3 Y) F @
7 A& N1 Z. v; @8 B4 w0.001
, c) f7 y, X2 Z. {6 ?# W3 M
0 c) L- @3 E" C- J% B$ C13065.196
$ }0 `" |# A+ s! c0 H4 R( T @. o9 b8 o
12674.9454 j+ ~+ n" J5 z, o
; ^- n# q7 {5 N! G/ W$ U12747.7297 \: E/ A: D* _9 R! r/ B
+ c, M7 Q) O9 y/ K6 e& i, l" s) w5 b* s
12386.216
0 [* U3 g! g: i, c9 g2 G1 g2 b
6 E$ Q# e. P2 g. F" k: q12349.020 j6 [ {7 V! z8 Z" S# U7 N3 t$ r
" {0 h+ F6 V1 ?( D8 }5 K12282.201
0 ?0 _. ]: P' T! _* F* ?* d# l! }5 T4 S; o4 T u$ y
12270.035
6 d5 `, q8 \6 V; w' T/ t% _7 ?8 s% r, d/ \& k
11338.477: G6 K; t: ?( U# ?) m( W# A% g8 Y
' y, f' V$ \$ y& [10985.201; t% ]" m; x5 c! i' m9 K/ G
: V) M! m* n1 x1 k+ Q) U4 m6 X! m( j11015.503
6 s# o0 w# H2 Y1 l* R0 m9 A9 O" ? z
9.00E-04
, o, K; w8 J8 a6 l2 b& `% C% p" A G/ @6 j
14352.452
3 K1 I/ V- ]! e6 M
2 m+ c) K7 T/ s( k0 U3 M% r14004.633
, j$ K9 V* J/ ^ @" I" N# w# _* j( y: F3 N0 s- w) V; b o
14062.829' M5 W6 V, w# ~; Y" f
! H& c1 N9 I' s$ b1 D" t$ Y S) c
13629.467
7 E! Y# j9 M6 M- r% i# [% K2 w. n8 L# |9 z: r6 g0 O$ T
13613.362! S }; P j4 N
Y2 H9 b6 M A3 H! j; f& M
13609.563
6 M5 O9 z0 L7 s0 n$ E
5 u( v R, K0 _4 ?$ f( \13530.322" E! c C, p1 l7 i
' n% Q5 X1 F& U2 c, M! W, D12458.171
4 ]" t8 X/ F* P' g9 B
, x+ n/ _; w0 ~8 I- d. A/ {8 x12176.362 z7 m- i. @3 G/ S! h% d3 p
) M0 h, s$ s% z/ {7 ~$ e
12225.96
& k4 t* x9 i; C8 \# ?0 R# i P" q9 I: }4 Z) ]! Y
8.00E-04
3 c i5 t2 H+ U' C8 F: c+ T; |. G" n0 r: B6 \5 V0 ^' G
16141.206- E$ k, W0 i( W# F B) q
! _( e! A1 g$ ~. b) q
15611.101
" ^! x& c, {- w. W/ t' C4 z8 a/ m: O& N* o& F
15749.918 `+ v, K* y0 J9 K
# V, E( E4 o; e6 m9 O5 g5 G15264.98
& ~0 N. ?, L) b0 Q1 {
; h& Z& x% X0 T" I15228.447+ D" B$ m0 K- l: e4 N$ u
8 H3 q/ C) f; `1 b0 {& E15207.628
, x2 i9 P! ]* _# |% X
1 ~3 @# }# d, i0 J6 z- c. r15053.714* G* A% @; u. { i
: H9 Y+ ?7 d3 W) H* X: s+ `& G14044.729
. j/ Q6 ?9 _; d$ f- G: T) L) d4 H! }0 M+ z5 K
13530.397 W7 F" w' K; A& ~, F, R& b7 x
( J& _0 I1 o. t3 E p! N/ \
13654.678
: n9 |! X2 S+ J4 j S
9 D, @) f8 X9 J9 u7.00E-04
/ S* Y4 `4 E h8 p
4 [. Y% E9 @, E; c* z18194.397
+ b4 G, V3 O C' \% Z2 w2 k9 v+ o& d* i4 {% h7 q% `% [$ C3 `- i: d1 C
17760.638
+ U$ P2 K: Y7 H6 P. `
/ r. s/ P8 N5 U8 _17743.578! D1 h: R8 A6 `2 A y2 Z5 s8 b
# ?' V2 c# a$ i8 i2 Z. i8 a
17333.377
+ {# q# R# n9 T! B3 C4 r
; J1 G. a8 ^2 ~! ?17293.874
7 G- m% a9 S1 R& r$ W. q- h( V5 w
. _% V, Q8 L! `7 q. M' m17204.638
, i/ j: ?6 s0 e5 }6 y
, Z9 C, }! c) l: K5 R+ x17058.809
4 R6 O9 p! O. V8 v! E5 L# K9 ^
. K9 a% z) j$ m7 X7 B15946.1018 c6 a% t1 Y8 r8 |% e, U
: @, s+ z7 s) Q6 {+ s15491.266# M$ ?1 J; O2 a
/ r3 {0 b. E+ k7 Q. R
15399.538' s7 y! G. \9 n- w& s
/ v; F3 B5 @, u% W7 G$ V/ y
s
6 ~6 `4 ?5 W5 y) N7 h$ n8 c1 u2 p1 R
130
9 }. X, b8 j# h, ~$ _+ w; q8 w# b0 _; U0 ]) A, e8 D
218
' y0 J* ?) {2 t* |# F6 g# f& [* V0 j0 s+ X2 ?* o
198
: m" d! Q" E: G" P2 w% e
! U, [4 q% E8 v/ _" K206
* c8 X$ |; G7 B5 f/ \! [9 ]& r0 m
5 q9 J5 j: j* G; S204
$ W3 r7 }# K ?6 H5 ~& B/ [* \5 n/ ?8 ?: }7 ]+ f
218
4 e' m i' K1 b: L% ]8 c
& v' B) C: y' E1 W2 [& l( f2203 r6 m: r& M" W& V. C1 O
5 Y% o+ b" M4 ?$ O. _. p2 z
204# ^- x& M: l# N; D; I9 s- y
0 {% A5 Q& s* b4 n5 P' `) A$ n
220; h: _8 n3 n0 `6 H
. T' a A+ _% `! B5 v+ P* }
216
, g+ B1 c/ ~# S" F9 J; _4 f6 X1 }0 F
将收敛误差为7e-4的迭代次数画成图
1 b) O1 ?; G$ n1 ?! U7 c" @( B: ~
- K( U- T# z% O6 \- S/ D7 @3 D
: ]( ^/ N4 I' C0 ~再将移位距离S的曲线画成图7 o* H0 T- q9 E# M
6 n! W' Q& `, I- W
: P6 I2 O. |. I+ X; q, K' s5 w
6 u! \1 ]. m+ D+ o3 d
在这组数据中s和n之间的反比关系依然存在。
4 z( y' n' D( r+ ?
/ M& Y- k( I7 @8 P' t移位距离假设4 r% o, }* R1 ^8 Y
3 V" a& n$ G, W
(A,B)---m*n*k---(1,0)(0,1)* y/ V- S7 u" @( a
8 b0 |/ ?1 j$ ~: U
% U, L8 g8 ]# v% ^, i6 W
7 ^# V- c! O+ k* U# e4 h! N用神经网络分类A和B,把参与分类的A和B中的数字看作是组成A和B的粒子,分类的过程就是让A和B中的粒子互相交换位置,寻找最短移位路径的过程。而熵H与最短移位距离S成正比,迭代次数n与S成反比。
, @, d8 J! b* o* s7 L( E) Z! d) k& U+ \0 K) Q
移位规则汇总
( c4 e9 a1 [3 _1 Y$ `- x- U# C9 P. c& w% D( X
移位距离就是等位点数值差的绝对值的和S=Σ|a-b|,如果训练集有多张图片取平均值,如果是多分类问题则移位距离为所有两两组合移位距离的和。
6 u& q3 W% [! o Q& m: H0 N
; B. ?! W) H* o$ ]2 A* Z' q3 r如对一组3*3的矩阵* ]& Z4 s& q! c% E1 F# f
( K7 H9 g q/ j$ K" e, D. L6 h/ P" O3 W* u0 X
- L" s6 p+ a5 R+ a$ b8 X" V- r
S=s0+s1+,…,+s8=|a0-b0|+|a1-b1|+,…,+|a8-b8|) a9 H7 f6 w6 i
3 L6 b8 W( D+ c# [) Q6 z6 N
如果是3分类问题,就应该实现3个形态之间的两两分类,也就是要完成3对等位点之间的差。
0 I$ L; n" V9 I) G0 R6 f- L* m) ~; _- F( T ^9 L8 S
" P8 H. ]8 j1 n: q0 K
0 l Y0 L) R* I- k2 G因此移位距离. |+ L0 m1 k @$ x! F+ E
3 D* c" S- Z: M- Y6 r
S=Sab+Sac+Sbc=
. N% U* o* U/ Q E1 w7 N$ W, w7 |
|a0-b0|+|a1-b1|+|a2-b2|+|a3-b3|+
, z# ` }7 P; V6 {- H
7 `# Y! [, {: h5 b|a0-c0|+|a1-c1|+|a2-c2|+|a3-c3|+
: B9 O; f/ ~7 S H3 Q1 N% U3 k7 |$ E4 [1 W# Q3 J. e3 g) G* l
|b0-c0|+|b1-c1|+|b2-c2|+|b3-c3|# y4 v2 g8 F' s, N' B
————————————————
! n+ q7 i: O2 ~版权声明:本文为CSDN博主「黑榆」的原创文章,遵循CC 4.0 BY-SA版权协议,转载请附上原文出处链接及本声明。
6 F/ t& K* {& f2 v原文链接:https://blog.csdn.net/georgesale/article/details/126690670, t! t5 n2 [: h1 L# L
" R7 P, I- C' [: ]1 D
' W1 I! @" [. ~ |
zan
|