- 在线时间
- 1630 小时
- 最后登录
- 2024-1-29
- 注册时间
- 2017-5-16
- 听众数
- 82
- 收听数
- 1
- 能力
- 120 分
- 体力
- 564695 点
- 威望
- 12 点
- 阅读权限
- 255
- 积分
- 174631
- 相册
- 1
- 日志
- 0
- 记录
- 0
- 帖子
- 5313
- 主题
- 5273
- 精华
- 3
- 分享
- 0
- 好友
- 163
TA的每日心情 | 开心 2021-8-11 17:59 |
|---|
签到天数: 17 天 [LV.4]偶尔看看III 网络挑战赛参赛者 网络挑战赛参赛者 - 自我介绍
- 本人女,毕业于内蒙古科技大学,担任文职专业,毕业专业英语。
 群组: 2018美赛大象算法课程 群组: 2018美赛护航培训课程 群组: 2019年 数学中国站长建 群组: 2019年数据分析师课程 群组: 2018年大象老师国赛优 |
三分类网络的物理意义是什么?
8 B, L# o# j. ^
: K1 p" G6 z' L2 \1 q9 L/ d* H; y# J" g! w, H H
(A,B)---m*n*k---(1,0)(0,1)
1 s0 Q2 l# E" b: t$ w+ C9 ?% ^" m6 O) @
对于一个二分类网络可以将被分类的A和B分别理解为粒子和环境,因为粒子处于环境中。于是A和B之间的距离可以理解为0。因为t=s/v,则即便A和B之间的相互作用的速度小于光速,A和B之间仍然可以实现瞬时作用,并不违反理论。# F4 E L( p0 D+ u$ ~6 S
9 b# k+ M. i% e$ h4 O
( A, B, C )---m*n*k---( 1, 0, 0 )( 0, 1, 0 )( 0, 0, 1 )
8 j, c0 F$ K5 q
$ {5 r& p8 p5 j对于一个三分类网络要完成3次形态的变换。A⇋B,A⇋C,B⇋C,每一次形态变换就是一次二分类,因此对于一个三分类网络可以理解为由3个二分类网络组成
9 F) g# o$ E/ ?3 D" f
1 B- [) I) G, D# p' ]- ^(A,B)---m*n*k---(1,0)(0,1)# t$ N0 V4 D: k$ t/ D
/ m2 s9 N: n. @ |' V(A,C)---m*n*k---(1,0)(0,1)
; s- F: X1 \$ S- C J
* M c! Z3 x+ {+ }5 e0 k* B: C(B,C)---m*n*k---(1,0)(0,1)
7 y" N/ j* K8 I4 Y/ G# B- }( g2 l* g
这就意味着存在3对瞬时作用,也就表明这3个粒子彼此之间的距离都是0.随着时间的推移网络的收敛误差会不断减小,而网络的分类准确率会不断变大。这个过程意味着A被错误的分成B和C的成分少了,同样B被错误的分成A和C,C被错误的分成A和B的成分也少了。5 K6 ^- r9 O' P6 a# K% w6 Q
* U# X3 _# }7 n/ E; v所以这个三分网络可以被解释为,3个距离为0的粒子不断的相互作用,随着时间的演化,最终变得越来越像自己。1 D X5 c+ W1 H* z- e4 `
& j9 f" d6 Z0 R p! X" }3 E而前面的实验表明相同收敛误差下,迭代次数取决于等位点差的绝对值的和,这次就继续验证这一猜测。
! }% e1 N! E5 m* [2 G" e: _* \+ z( k4 v- Z' d' @* c
用的训练集是mnist的0,1,2,3,4,的第一张图片。用间隔取点的办法化成13*13.3 E2 @" F- d& p! I3 v
7 t& H- n! x* j2 }! K A6 J0 O9 c- t( 0, 1, 2 )---169*30*3---( 1, 0, 0 )( 0, 1, 0 )( 0, 0, 1 )这个网络简记为0*1*2.就只有3张图片不断循环往复,直到收敛。共进行了10组得到数据% p( \! |+ D/ N5 X* x( }
3 I* w; ^# E; x8 t- s: L1*3*4
% A/ N# {( f3 f9 u: ^$ C0 n( H: _+ V6 [" h; I6 \. W+ B6 G
2*3*4/ a' a, g; B3 O9 p, m
7 N) [" t0 d5 D& W( Y& D
0*3*4* I9 u K( E' Y4 h" F
+ n1 t+ w4 N5 ], w+ G0 ^0*1*4
4 {' d p r" k# ] r: Z
2 {' N0 r" J" ]/ l. H$ |. J+ J0*1*3
& _, r- D: X$ Z8 q) P8 r2 d. [ d) c1 [) h9 j( _
1*2*4
! I* i- _0 ^6 Y0 ~4 K+ F' S
8 B! g& K* B* D. B1*2*34 B% p3 q' W& i0 D$ B8 \/ L; f
, ~3 _ [/ U w* J% z# ` u0*1*2
: ^3 g& A- _9 b! V$ h) x5 f% M/ z9 g- L
0*2*32 i- q: `! f: s+ i4 w
+ d2 s% U- `% y2 e7 p7 f
0*2*43 U2 o# L* `& K) F
+ P4 j+ z4 I" A# R) }' }δ# ]$ R ~. P; q1 |; M( G @7 w
: L, E7 d9 H1 v! Y迭代次数n
# A; B) ^1 g0 H) e) L' ]1 [8 U0 _ _ C1 }- q# h* g& N" s t
迭代次数n
' ~' C9 Z3 U$ f; p8 m" K/ w# Q% Q4 |8 c" o
迭代次数n6 J" q3 J1 u3 s9 n K5 g6 p1 ~+ V1 E8 f
1 k: J6 h8 L0 B d4 H2 B迭代次数n
9 q- t# f3 k" M ~1 g; }1 k% d' G0 v
迭代次数n
3 q# V2 t! p* r0 n- u) |: Y$ ^* p. s6 F9 \6 Z: A
迭代次数n
+ `: I$ M9 l1 V' a5 P
9 l! n1 c2 p o. T1 o$ W迭代次数n9 z3 L7 |/ E6 h+ k. s
- t& D- F0 W# H; f8 z迭代次数n
d3 x8 c8 L) g" \/ G2 J3 O0 O0 y6 [1 G( ^1 L2 n
迭代次数n: {! [+ A7 Q2 w0 M0 T% h
d% _/ m7 z( z0 H \
迭代次数n
& i4 j/ G* z0 p, [. L- G$ [" I6 E' F$ B0 p6 C% B0 L" @; e9 s
0.01( T- k0 H6 [% |# s. Z9 b
6 I3 E8 h1 G- Z s" O/ L
1763.1809
+ G' k' E5 X% q+ U) ?3 o# \+ P/ S) w) X2 q
1626.5729
/ |, U# U5 x0 \2 b* T* P( J" T+ u0 p- k( ]6 S
1672.4523% z v6 ]5 m: l- E; G6 |) x
2 q6 x0 k+ Z8 D1635.9196# t% }, t$ H: @0 p5 ]4 H1 T
" s/ O1 C" |9 m2 m! m1596.7035
1 F! _5 n' w2 l$ O. J
* _' v' X7 @0 w1620.407% x$ a7 u' a7 V0 d& h
- h. `# Z! R9 R6 i- ]1563.89456 r; I( r% J6 {# f- v
5 u$ G1 C0 b# j$ z$ k( v
1444.2915
4 v* F1 i& I# X: u) n& v# P6 Q/ Q2 J0 p: k* b- _9 E
1410.0302
5 v/ i. X0 H6 J- Z; Z! q! W- Y7 u; @# i& D6 w8 d
1465.4171* o0 P5 x/ K2 e' ^- Y& g. F/ M) X, e
: [5 w) v4 I8 @3 T$ ^% y- S0.001
. D1 _& t- `' N4 J* G0 w" v! a7 G4 v4 L
13065.196! Y- ?5 R: }" ^$ B; O! {
3 [1 Q4 G7 K) a+ @- _5 G- V
12674.945
) r2 u+ M0 \2 j' q v9 z( O
4 d# v- y1 w7 y1 t12747.729
& F" b( `: {# t, O }* N0 ]* a9 r1 R3 `2 m6 d/ E
12386.216
! F0 f6 v4 p0 S) G6 L9 j
7 z- q/ _3 @# i12349.02
( Z0 B7 d, W' @, [8 R$ U, U: O; P& k) a$ h& r4 d
12282.201& Z7 F( W* E, z/ I
5 n3 `; R. L# S1 W" g/ w( y6 H- r
12270.035
1 `& K% C% X& ?: r$ b) i
4 j( w: e# ]+ @* A; Y; Q11338.477
, x; F% @9 U) x2 M& e2 M8 H0 Y+ n4 h/ `' ~
10985.201
* m6 C) }6 _ P- i! k
, G2 Q! a4 h9 Z Y9 l2 d, i8 V! y11015.503
l& L* ]5 C* [; v: C* L6 K2 @) P; z" o: i( \ S- X d5 O, Z W/ b
9.00E-04, v4 M& c: J4 Z: X" m% ?' r! m2 a
: [ L7 z! v# K0 l6 E. O14352.452
4 n! n7 |5 @' R+ q1 ]( {8 c4 R, M4 z( y# j; y# u7 b4 K0 a$ c
14004.6338 ]! E% Z7 r8 B& p
- {2 v) {" W- x7 k2 ~9 {$ [' q
14062.829
, A( N. Z/ U! V% C3 ?* r! j! Z$ O Y) @, P% X: q
13629.467+ a" ~7 F$ ~8 ^9 m: l2 f
6 j( U+ N9 i9 G- A0 }, Z) B' [
13613.362
7 G) ^7 v, z4 T# g' f/ ~7 R% _% h v0 y$ V- z) k
13609.563
6 M. O) }9 G" y: ~- R
/ U% \' R- ]4 H6 W1 M9 t2 N- q* @13530.322) ]3 J3 r/ Y2 E: t- S# _
$ B3 s! w% s4 O H& L$ a7 @
12458.1716 G. q1 c( J2 q1 p! b
/ m, V4 O0 r5 t) J12176.362
/ Y7 z3 T, k8 @, M0 r7 T+ y8 X- X. o2 } d- l
12225.96. j& P* [9 Q- q7 b
8 H. v4 i! y" |) O
8.00E-04' f; O& |) N' K0 G0 n
* v O. X6 Z4 ^) P- i' \
16141.206
( X3 `( r) a6 p9 D0 n
! h. s- I7 i1 W% g c# A. u15611.101 m" I3 S& Q( l+ b2 b
" e1 D; P9 l5 I4 O( g
15749.91, Q4 A6 v( j! f& [6 {
; G# K8 O0 n& `/ t4 i, e# M- L6 b6 K
15264.98. u0 h! I) ?* _) W
1 A3 _8 Q% d w9 t
15228.447
6 l' `! |- W+ T* K$ L$ I
3 S+ c- q4 o% Z) |4 l15207.628
# c" @% T2 M- p# ]3 J1 v- s5 ?
15053.714
/ X; }% \' \6 E9 ^9 y; y4 |
6 Z& J! A# U# m8 k: k1 H- P14044.7292 j. a i3 T6 S
: c* O( U$ o9 Y. v2 d h13530.397
5 y; D. V# @7 s
5 g1 V7 C2 w7 N13654.678- ?) P2 t( W S6 F s
7 t. @- n B' a: v
7.00E-049 V% L! M, h* q9 J% ]- n T
+ @$ S3 \& D5 b( ]18194.3972 j# d# m6 w6 b. \
8 Z8 d% c- |7 p8 j$ Y/ N
17760.638; J$ X- X+ s" H/ E8 S# A8 b
+ Q7 k$ `: L4 h! s1 R/ s
17743.5784 w: B: @! ^+ W- J
/ E+ z/ a9 R+ A- O- E4 G17333.377
# k" U/ w2 y; G: e% D& \# Q- ]3 z2 O& v$ c# v0 v
17293.874
8 c8 H9 [0 ]3 Y- C# P
/ i* ^6 A1 `5 Q( N17204.638
# y" p7 e+ c+ |4 J- c" d9 Z( y
5 |% }0 w3 U, ?" K. g( g- f17058.809
8 o% Z8 p) ?) R3 a! w9 S, y
' x2 ]0 {9 V8 a" B15946.101, f7 @* e! G% e* p7 ?& L, Z
+ M6 ]0 R7 c" r/ d15491.266
/ j* X0 B n* h4 T# T$ p
' N8 d/ U! c# G* ~6 K! e15399.538
: R: b6 t7 _3 x
# x% c6 x4 J* c6 r! E4 ?- H6 Ls: Z1 L' l( C4 L7 U/ m
' r _ r9 d8 u, [
130
! R# P8 K6 `) h9 I& M
7 F2 z- }4 @6 `/ y+ c218
: [1 f1 B+ O- m2 i) J! r
* \+ |( `$ p! @* a1980 F0 s3 t) [. [
9 S6 j% m$ _8 w: w0 U" o
206
+ v E$ n: r. P2 c- N) q# X( R9 U
9 l' ^+ M0 i" l' m; E+ D/ [204
) s& h2 r! r' d7 H4 ]! E; o6 K1 R! g; \. F" ]9 g; i
218
& ], p9 w' b. D" r& C- A1 |: ` ?- H6 d" W! A% x. d9 A8 X
220* M( I7 D& j- ~4 C O
$ R! Y8 S. i; S( y6 U# C204 e2 O9 n4 l; k- D. {4 A
/ H# J" i7 Z& P4 x p( Q220/ Z4 y9 f3 S- M; c
$ l' M6 e1 v% ]; ~6 l216
" G5 f" Z8 t2 t6 C4 K( d8 z
- Q; O# m1 J4 |. h将收敛误差为7e-4的迭代次数画成图5 B. a* O4 F0 `# s( L# r! D
# x }: x7 ]) x w) C% V' @
: Q0 k+ s' d: R; M' g- h; K3 W# z; \2 ?
再将移位距离S的曲线画成图+ t5 {6 b- L3 H3 P
* p3 X$ P$ k& } N6 [ @
8 D( W6 v7 l( _8 E
7 g) G) d, \) I; T. t( D
在这组数据中s和n之间的反比关系依然存在。+ O$ l% ]0 ?$ r, k
! ~) y" b7 z" x6 G5 c移位距离假设
( B* Z5 Q# N" W+ L- J
* ?+ Z: F$ Q' k, |(A,B)---m*n*k---(1,0)(0,1)! M# \& C" U* y6 H6 @9 _
) @( W9 h9 u$ k- J$ E- f" a$ Q
# F0 N) H$ n$ \2 T; X7 W
+ @4 ^& i# y% l" B( j- j! _/ ~1 ], [
用神经网络分类A和B,把参与分类的A和B中的数字看作是组成A和B的粒子,分类的过程就是让A和B中的粒子互相交换位置,寻找最短移位路径的过程。而熵H与最短移位距离S成正比,迭代次数n与S成反比。
$ X) u: ]+ b1 y) A4 W. W$ B
. J! B% l( v6 S _移位规则汇总
# x2 N& m- M3 q
. R; b( A5 v+ D4 L, g9 w! n移位距离就是等位点数值差的绝对值的和S=Σ|a-b|,如果训练集有多张图片取平均值,如果是多分类问题则移位距离为所有两两组合移位距离的和。
. I, i/ J$ L- p+ K
3 l6 Y k/ `- `% V5 p% e4 V如对一组3*3的矩阵' T( e/ _8 [7 l% U' Y- L
5 _( Y* Y: K8 Q7 v% ?, Z6 H" f3 \
8 y8 E9 A/ Q8 Y( } P8 H( z7 Y+ K' S) j6 ]
S=s0+s1+,…,+s8=|a0-b0|+|a1-b1|+,…,+|a8-b8|
% a$ Z- B4 V0 R; o3 t& ~: s
. E6 ]* U( {. P- V7 x! d; c3 u如果是3分类问题,就应该实现3个形态之间的两两分类,也就是要完成3对等位点之间的差。
! Y4 J' n' `' @& p8 Z7 Y4 D9 w3 |! ^( W
, \- s* h2 t; ]8 U2 Y8 \ N1 `" k' i% U
因此移位距离
N' M/ k0 _: a+ L, W2 x- f) b3 P5 q" @' H1 S- s U/ n* u) V( X# H; ^
S=Sab+Sac+Sbc=: c$ m8 ]8 ]8 N! g
! l' |1 R0 R+ C1 n% R* _$ H|a0-b0|+|a1-b1|+|a2-b2|+|a3-b3|+ L+ p: ^$ q& D; Y/ ^" n; T
) }0 D" s; f2 Z" J7 ]
|a0-c0|+|a1-c1|+|a2-c2|+|a3-c3|+
' B: U5 j$ F' o( G k
4 M( r; S8 _0 h0 u|b0-c0|+|b1-c1|+|b2-c2|+|b3-c3|! J. W/ o9 \- t9 v
————————————————/ B) x2 u. F/ M$ K0 ?- T) I
版权声明:本文为CSDN博主「黑榆」的原创文章,遵循CC 4.0 BY-SA版权协议,转载请附上原文出处链接及本声明。+ ?) k# p$ i( i
原文链接:https://blog.csdn.net/georgesale/article/details/126690670
: x$ ]. ?( O/ j, J
8 d/ N( ~8 T9 ^
0 M7 }! ~% J* y. ?& [1 x |
zan
|