在线时间 1630 小时 最后登录 2024-1-29 注册时间 2017-5-16 听众数 82 收听数 1 能力 120 分 体力 566251 点 威望 12 点 阅读权限 255 积分 175098 相册 1 日志 0 记录 0 帖子 5313 主题 5273 精华 3 分享 0 好友 163
TA的每日心情 开心 2021-8-11 17:59
签到天数: 17 天
[LV.4]偶尔看看III
网络挑战赛参赛者
网络挑战赛参赛者
自我介绍 本人女,毕业于内蒙古科技大学,担任文职专业,毕业专业英语。
群组 : 2018美赛大象算法课程
群组 : 2018美赛护航培训课程
群组 : 2019年 数学中国站长建
群组 : 2019年数据分析师课程
群组 : 2018年大象老师国赛优
三分类网络的物理意义是什么? ! d8 E8 \' ~; Q( q1 J
* g/ y4 ~5 I0 A 用分类实现衰变
2 h' ^' \* K7 x# E# L 专栏收录该内容6 U# e/ Z9 n2 t. G" t
52 篇文章0 订阅% J4 H9 a* `5 b9 n; M1 c! {
订阅专栏
l+ F" |# a. R# @7 ?9 o# o/ j (A,B)---m*n*k---(1,0)(0,1)
* n/ o6 R) M P8 [5 A4 O z( u & Y7 f! t# Q% L# e, r: E
对于一个二分类网络可以将被分类的A和B分别理解为粒子和环境,因为粒子处于环境中。于是A和B之间的距离可以理解为0。因为t=s/v,则即便A和B之间的相互作用的速度小于光速,A和B之间仍然可以实现瞬时作用,并不违反理论。2 `; \% Z' M$ g: M
8 l s$ }0 H' E4 @7 X9 g$ v, |8 f ( A, B, C )---m*n*k---( 1, 0, 0 )( 0, 1, 0 )( 0, 0, 1 )! N7 d: ?: J3 @6 F5 c+ d. X* I- u
1 y& L4 Q, I; I, o 对于一个三分类网络要完成3次形态的变换。A⇋B,A⇋C,B⇋C,每一次形态变换就是一次二分类,因此对于一个三分类网络可以理解为由3个二分类网络组成6 S& y1 @9 k1 Y6 }
+ ]' T! @- E# x# U& x8 i5 o5 n
(A,B)---m*n*k---(1,0)(0,1)
n) H( p% q# N. m' V1 ?) \
. `% F% a: y: j2 K- O; L (A,C)---m*n*k---(1,0)(0,1)% E5 v, m7 _$ e7 d$ y3 V# B
0 E/ e$ n9 v4 m: ^3 T8 e (B,C)---m*n*k---(1,0)(0,1)$ @9 w+ T# f# E! F6 J8 s }
- f8 Y$ n" \1 X4 `0 J6 N) |) T' Z 这就意味着存在3对瞬时作用,也就表明这3个粒子彼此之间的距离都是0.随着时间的推移网络的收敛误差会不断减小,而网络的分类准确率会不断变大。这个过程意味着A被错误的分成B和C的成分少了,同样B被错误的分成A和C,C被错误的分成A和B的成分也少了。6 C3 M( `9 q" o" k/ C6 t5 e
# W! C+ I: b6 S0 E5 `, p( | 所以这个三分网络可以被解释为,3个距离为0的粒子不断的相互作用,随着时间的演化,最终变得越来越像自己。
8 l9 X i( l' k, _+ V9 t& q9 g( V* }4 W ' {8 k L; K: }, v; R
而前面的实验表明相同收敛误差下,迭代次数取决于等位点差的绝对值的和,这次就继续验证这一猜测。% a9 m9 z* Z0 n0 s* G: u0 S* u5 C5 _
6 G0 u+ q) ~* I- U5 e
用的训练集是mnist的0,1,2,3,4,的第一张图片。用间隔取点的办法化成13*13.5 i z% Q5 h+ W, i' @% q+ |! @
# X: L# Y( C3 u( i% R# i
( 0, 1, 2 )---169*30*3---( 1, 0, 0 )( 0, 1, 0 )( 0, 0, 1 )这个网络简记为0*1*2.就只有3张图片不断循环往复,直到收敛。共进行了10组得到数据: B& q# O6 h3 R( q+ z. o4 y& v% r7 |
5 Q* T, j3 P( }& D/ p: s
1*3*4
# i3 _3 D+ J) j) {' l( D7 p 0 `* b# @- P' \, v6 l# E7 N
2*3*4
3 [% _7 q2 n- Q- t - T3 B/ y/ R/ ?( Q/ k8 m* ? v( j
0*3*45 Y; s" Q/ i2 F) a1 R! t. D
! _1 A2 j, }: G8 c5 P7 R- n; p+ b 0*1*4
% I4 `* v% J2 r) s
9 s6 w/ \) D9 m! ?2 j6 j2 ] t 0*1*3* [, X6 o5 g/ ]6 T- A
u, b+ P# G) d
1*2*4
5 D2 J- K+ C+ b% t6 p) w$ e8 D - m: v4 T! o1 k/ N
1*2*3
/ J* `4 k6 J, ~2 O : p" M( d' ~& u- e4 M1 t
0*1*2; X3 x& ~5 B3 H, |( A
8 C% O/ [ ]9 }& M% D! r0 T! T
0*2*3# U! a$ v; C% [, `3 [' v3 _
2 g3 e& P: i' _! V2 b
0*2*46 H2 i7 f$ g9 O
9 b6 @! I9 N0 l2 M
δ
3 o6 }" d, _- H1 L$ {
8 w1 ?# `1 x; @$ C 迭代次数n, N8 W4 d$ A) [6 S a9 b
$ x) N8 _# _9 |0 D' \5 A 迭代次数n
( F R: J. L7 ]4 c# {3 _
$ l7 D$ j% l ?3 I/ T 迭代次数n
" ~* f' {; ^, z/ T R5 T0 C
" {9 j1 z: B2 R+ k 迭代次数n+ H4 Q: U: v: A- I& I- I0 k
4 `- ]: f1 P0 s, q# t `) N 迭代次数n
x8 I- R" B3 @' |, u$ @ b; L& m
" Z2 ~% q/ v' B! u7 O 迭代次数n
5 x* O# p" r# f1 t6 w$ r2 @ ( D* n' E& x/ d; {% Q# a! @
迭代次数n9 K' z! U4 p% T, ? W# Q8 `, {) o
4 D* b' ^/ _# N$ y* M: b 迭代次数n6 @. z) p9 S1 q' ]5 a3 o% H
5 L* T( C; u5 X7 Y( ]7 D4 {, B; k 迭代次数n
8 p! {1 \6 t% m6 L; j 5 t/ k/ j( p% s/ `% u% J; k4 j
迭代次数n0 b- H5 {. _0 F" W2 o i5 a
2 [4 }2 ]6 H9 R& U 0.013 a& H: v5 x6 ^
+ b7 D1 e8 f0 W. } 1763.1809
. t. v/ y6 e* @ 5 h7 ], E* L3 n% X+ s
1626.5729
1 C% B5 L1 e) M7 E& x7 n# S; _, A ; R8 @( b7 j' R/ {, {+ R. I& R; t
1672.45234 k! V- k5 }9 ]7 r
. k; ]. e& U, G 1635.9196# E2 J; c% _& z5 p
: \9 J1 q( r! Q' v* j 1596.7035
; I, I) c' c; m& j: A$ @) E 7 ~4 v4 o* l }7 M% T; q
1620.407: g" q$ g5 i; `# ]# r
- K M, ?. ^+ m" o5 A
1563.89456 f* R6 H0 u2 J! T
1 O# B# h y, I& ]2 Z+ G9 a
1444.29152 e" C! @! g3 ] J9 a
$ y1 V/ {7 z" R, h- q8 f3 P6 [
1410.0302
. p; @7 t) y* {8 f8 D
+ S+ e" L# m4 G; b 1465.4171
* J. ~$ b% i6 D. G* f6 J* s7 ?2 w" ^ * S. \$ F% {; m5 }
0.001
* ^' v3 F( Q% v9 o! T
2 n) i: K, P: b0 |' ]) V 13065.196
9 i& C# |4 j# \/ j
1 k1 g( S! U9 i8 F. ?8 B 12674.945
3 ~5 [" a( m/ x. j- K5 N' ` E / `% ]4 C0 \& |: Y; x4 a3 M4 H+ t
12747.7291 e9 \2 k f7 H- V, ~7 l
5 H( v) r* J' w9 y- m. l; {
12386.216; u: D3 _+ \6 q, L& I0 E" E
& J, B ]# _* K& b! U) ~% n 12349.02- ^9 U, c$ V6 w: J$ \4 J2 Z) i
; L5 o2 m; R( \ 12282.201 \# _# ?6 Y7 t q8 I7 F1 d. d
G% X3 J: Q3 V2 e& ]: R 12270.035# V+ q$ h8 a3 I8 l# y* z
4 a3 L+ n6 m- z0 i5 ^+ z I8 O 11338.477
4 s) v% {1 C; I6 |- H$ a( H
' d# s" q1 Z3 J: o7 Q+ j5 G 10985.201
' G- {- n8 r5 `* \6 Q, D * `! P }- \/ H+ j- \- b
11015.5030 \7 h$ G V9 N0 P" `: C* f
) K& @: u7 ?7 \ 9.00E-045 s( e1 }" {) V! }) G8 {
( @2 F/ Y6 ~- @; U3 l/ y1 x5 ^ 14352.452
) C1 q9 G, r1 H) _ 3 A% V6 M d% z( d
14004.633) P4 q9 ?$ F4 y i# c9 c4 b
! Q. f$ R( g# B1 A e2 b 14062.829$ k$ _2 P( Z4 u j0 I# h
& {9 I" ^4 w/ G: s# d: X 13629.467
) _7 {- Q3 ~8 C& L4 j+ K ; o( w( W, f3 r" p8 x4 G% X
13613.362
0 L, k. L: e' z. J# i2 R3 x; Y1 K0 y9 m ' z& A+ A; A8 O
13609.563
+ o/ k) ~$ O4 A J8 @ W2 @5 }
13530.322
2 ]# e! s7 v6 c ?" S6 q ! V7 j% I8 \8 u5 B
12458.171# r# Z$ d* Y8 |2 W- W$ g: c
: h5 M) G4 ^+ e }/ ?5 J 12176.362) ^" X( Y/ W( T, D0 T; F
" [0 j( }9 ^, [ N% L* K. {: I g
12225.96
0 g0 [" d6 y$ t* G% f& T9 X6 B
+ K, ^0 m) M8 @0 Y' I$ D' ~3 b" Q 8.00E-04$ ^5 @+ k O* R1 \+ W
* J& a4 O- E$ N 16141.206" o9 d' W# b8 u6 y+ T
& |; x& y0 X4 H B 15611.1013 ^" g8 l! t% {1 _
3 f0 B$ c9 }* @8 ]% j 15749.91+ H% K4 U7 q( z) d; x6 j( G
8 J8 o* j) u( ]
15264.98: A% }" J8 E/ L% _& O# i n
% j! m, l$ A+ E) s8 @ 15228.447/ Y1 ?" q* t9 w3 v4 u; {
" D/ d7 a, ~: K* ~' `7 {: f 15207.628
. j& [# `) z. L; L0 y$ l ) p/ I8 E' g1 e0 I, B* Z6 z
15053.714
; Y1 _+ E7 B+ N: d' v5 r A
9 U7 @# g ~# C" W. b 14044.729# y7 A% G0 I) B* t/ }* A' R
& o! ?, `" r5 U8 P8 ~" R
13530.397
* w% `2 \1 h$ L9 G3 Q ( F% u# f7 C1 W( F
13654.678% z& z8 P5 _0 @4 |
/ Y# m8 c1 ^" t7 D) u |/ k 7.00E-04
: J5 b' _4 S7 O, n' e/ M* P' h$ S * n9 _$ i6 p/ ]: O
18194.397. \+ I1 j4 q) U. d* O
7 n- U. T$ U5 \$ {! S0 s! T: B7 S
17760.638' `3 [6 m% J3 @! U
7 A' O0 {6 d( b5 Q3 h 17743.578
. ^$ U: D% n- C* G
( N9 |: \! _: h# C" h 17333.377, s, ^. a8 n0 L9 n. k, b) I/ B2 x
" t- A9 ]$ s8 d! W% k
17293.874
1 x( E2 Z! A5 b& o3 r: a * t# c. K' T6 L4 _
17204.638
1 m$ a+ E9 \1 o, f9 v0 B , T# ]0 `+ |$ \1 X, S: h
17058.809/ y! N0 l! N7 N1 o) z# z Y
) t% ~3 L" I2 h 15946.101
/ R/ F4 y7 u. D- B$ q
1 x' \0 }) t' q9 b, W' a 15491.266" \0 Y% d0 X: F8 N5 j3 _
: k* E, A1 x' O: v0 q, g+ O6 E 15399.538, z/ X" V3 r6 p4 V% ~( _
. U; M4 g8 o( q. ~: `
s' m: c( L! x8 ]
. E( n; V* i, \& k, |
130
6 i2 _, \7 i8 S4 h; i
" k) F9 E9 D7 r* _4 [ 218- _6 I, R" o4 p0 F) B f, n
2 C: M: e" N* F; `3 u3 t 198
+ h G% I! Z) o( L, z. V. Z
5 N5 \( u, L e* ?. D' B; i8 b; U 206
& T3 P' W7 J3 Z# i+ V
- b7 [0 x$ d" d7 Y! P3 ], _* \ 2040 g0 _# K: }3 {9 i' I
" k j7 F, |! E8 a: h 218
; R, U' t; h1 B 1 Z5 u6 K8 H# @! U( M8 \8 ^
220
0 N' F& n( h' {+ o3 m' ]% w
2 P2 ]& p) M: k+ e 2042 k9 C3 X; _9 l& Q8 @0 Y
& A# l/ S9 Q: X" i7 |7 V4 V' B$ t; ? 220( O5 s0 ~4 c- H9 y, ]- j! K
1 A, ^- p- ^; @) B) E' h h 216
, _$ d5 @) K9 w; b+ h4 m C " H) o/ l& |- h) r& P" |# I. Z
将收敛误差为7e-4的迭代次数画成图2 ?) J' l% t# V+ \
+ ]+ a+ Y5 [$ ]4 w& F+ }
3 V7 v* |; f2 _8 x7 k' a. `" r
. b1 f( k. I% r* B% W 再将移位距离S的曲线画成图: M# X' r3 w; _4 w2 V2 j
$ v: u" w& M) v) `5 \' L5 q ! S' u+ ~( h& |1 I6 x
3 B. H2 H) I1 U& y# H
在这组数据中s和n之间的反比关系依然存在。
# u3 A0 [" h/ G% R* }
% s1 b8 m+ i7 [1 W0 i 移位距离假设
9 d" B3 R- \# q6 B/ t ) W+ |/ D7 S, f; b; L
(A,B)---m*n*k---(1,0)(0,1)
; x0 B! K3 c9 @ 5 k' d9 S/ ^7 b0 I" t
: `. _0 E& q1 S ! z3 Q/ T7 E! Z& b
用神经网络分类A和B,把参与分类的A和B中的数字看作是组成A和B的粒子,分类的过程就是让A和B中的粒子互相交换位置,寻找最短移位路径的过程。而熵H与最短移位距离S成正比,迭代次数n与S成反比。1 k( d( ^* L* }' b2 J
7 F- x0 B8 V7 @1 X$ |
移位规则汇总
5 R/ H6 R. j" J
+ `+ d6 K% c1 j; o* V2 H# u 移位距离就是等位点数值差的绝对值的和S=Σ|a-b|,如果训练集有多张图片取平均值,如果是多分类问题则移位距离为所有两两组合移位距离的和。
9 @$ E' c/ _9 P1 q; H + R# n& M: H8 e
如对一组3*3的矩阵
9 p0 p* o+ y' E6 H% N 2 _& J# O5 e- ]7 q) d; N1 s1 ^
# S& G( ^ V; x" J
& Q: ~4 s' K* O4 h. E S=s0+s1+,…,+s8=|a0-b0|+|a1-b1|+,…,+|a8-b8|
) V3 ~/ W) a0 k; D# B* x
, O5 W1 J" F0 S {; W) A5 E- ~ 如果是3分类问题,就应该实现3个形态之间的两两分类,也就是要完成3对等位点之间的差。$ G, q$ p+ o0 `: y4 E3 R" s
1 h. D- e1 w! ?3 a/ P8 e ; T+ X3 N1 {0 U
4 j3 S7 H% u* A- n8 ]: H& q& Q5 n
因此移位距离% M4 \& J) [1 t0 R
7 s: o2 d. c1 Y8 W
S=Sab+Sac+Sbc=2 G; g+ C/ b1 g; w5 Y
8 p4 F1 `) B: \1 [. H' ?
|a0-b0|+|a1-b1|+|a2-b2|+|a3-b3|+
( w2 b K) k' W/ C5 i" @3 {+ ]) J
8 ^* U, M; A7 v, a7 w0 X5 Y |a0-c0|+|a1-c1|+|a2-c2|+|a3-c3|+* e/ O3 Q: N N" S
' ~0 x( h0 o- ^ |b0-c0|+|b1-c1|+|b2-c2|+|b3-c3|6 W: `$ P, K y
————————————————. [" d% ~5 M9 u9 Q; ~
版权声明:本文为CSDN博主「黑榆」的原创文章,遵循CC 4.0 BY-SA版权协议,转载请附上原文出处链接及本声明。7 P+ {4 I/ B0 Q9 E2 `# [
原文链接:https://blog.csdn.net/georgesale/article/details/126690670+ |$ D4 \2 {: z& V, `
t; E' c) T" l0 ~% D$ A
7 z& U# r8 x2 k! {
zan