- 在线时间
- 1630 小时
- 最后登录
- 2024-1-29
- 注册时间
- 2017-5-16
- 听众数
- 82
- 收听数
- 1
- 能力
- 120 分
- 体力
- 564693 点
- 威望
- 12 点
- 阅读权限
- 255
- 积分
- 174631
- 相册
- 1
- 日志
- 0
- 记录
- 0
- 帖子
- 5313
- 主题
- 5273
- 精华
- 3
- 分享
- 0
- 好友
- 163
TA的每日心情 | 开心 2021-8-11 17:59 |
|---|
签到天数: 17 天 [LV.4]偶尔看看III 网络挑战赛参赛者 网络挑战赛参赛者 - 自我介绍
- 本人女,毕业于内蒙古科技大学,担任文职专业,毕业专业英语。
 群组: 2018美赛大象算法课程 群组: 2018美赛护航培训课程 群组: 2019年 数学中国站长建 群组: 2019年数据分析师课程 群组: 2018年大象老师国赛优 |
三分类网络的物理意义是什么?
3 J1 Q9 V. `9 n& G- B' Z
. H- Y2 y& m1 |6 T, Y# z用分类实现衰变
7 `( O' [) w: p2 x, P: q/ [专栏收录该内容
' N `" A7 K. ?& t/ S; c& @: G4 ?52 篇文章0 订阅
& U- q- n# ~; _4 q订阅专栏
2 a" o% N6 h9 Y. |(A,B)---m*n*k---(1,0)(0,1)
! {9 f8 j) d" \2 y' ~% r9 I* ~5 d4 S' u* y
对于一个二分类网络可以将被分类的A和B分别理解为粒子和环境,因为粒子处于环境中。于是A和B之间的距离可以理解为0。因为t=s/v,则即便A和B之间的相互作用的速度小于光速,A和B之间仍然可以实现瞬时作用,并不违反理论。9 @* Q2 A9 W& X- x# k
/ u( i8 Q3 ~5 m0 M) E
( A, B, C )---m*n*k---( 1, 0, 0 )( 0, 1, 0 )( 0, 0, 1 )
3 S7 A, I2 ~" N$ V" `% \$ C. }
. R; Z x: c% ~1 T2 R对于一个三分类网络要完成3次形态的变换。A⇋B,A⇋C,B⇋C,每一次形态变换就是一次二分类,因此对于一个三分类网络可以理解为由3个二分类网络组成" ]/ A; s! N3 d. U, V
1 R# H7 x& X, v" Q(A,B)---m*n*k---(1,0)(0,1)
9 j8 A" y+ \, m4 y& T. R" o: Z! a
+ p1 j1 Z5 P _% V4 c2 u(A,C)---m*n*k---(1,0)(0,1)) k) o& |0 L: ]" ^
/ c' J* z! O v) v, R! ^(B,C)---m*n*k---(1,0)(0,1)/ K3 _% w) G/ n
" A6 u1 `" A& z, s* G; d
这就意味着存在3对瞬时作用,也就表明这3个粒子彼此之间的距离都是0.随着时间的推移网络的收敛误差会不断减小,而网络的分类准确率会不断变大。这个过程意味着A被错误的分成B和C的成分少了,同样B被错误的分成A和C,C被错误的分成A和B的成分也少了。
: B+ s& X% A- F; `( T* l* x
. C. t4 L1 e; G* a+ Q: D' j( i所以这个三分网络可以被解释为,3个距离为0的粒子不断的相互作用,随着时间的演化,最终变得越来越像自己。
3 e6 J, B7 _7 c+ a0 ~
7 v: c8 x9 U, e* ?4 A) w而前面的实验表明相同收敛误差下,迭代次数取决于等位点差的绝对值的和,这次就继续验证这一猜测。$ v+ k" L) j. f. t T& m. k5 e
6 t$ i. w" n" T% B
用的训练集是mnist的0,1,2,3,4,的第一张图片。用间隔取点的办法化成13*13.: H9 _3 d( ], U' r
4 J! O4 k; A8 j6 p' q3 V
( 0, 1, 2 )---169*30*3---( 1, 0, 0 )( 0, 1, 0 )( 0, 0, 1 )这个网络简记为0*1*2.就只有3张图片不断循环往复,直到收敛。共进行了10组得到数据
* }/ W- Y" C4 Q0 V" G
2 p0 h. h/ _. K$ x# }' j1*3*4* a6 u8 C9 x2 r1 u9 [
3 j0 S( H# u0 h' d9 R" k
2*3*4
$ t" u4 p1 L, s; M$ [& f0 d) r5 T }' K9 F
0*3*4
% L& l1 v- i$ u% p; i7 {- F u# g1 j) E1 y& ^5 l
0*1*4* f- F1 `6 B& s$ p7 M6 d
0 ]: w! J9 k! ~8 i V5 F
0*1*3
/ F+ q, E( {9 R
1 J& a/ `2 |( p8 T6 v! }0 S$ M1*2*4
$ d# x. }9 a$ e+ F
2 R |* L/ V# I9 Q' a8 t; X$ Z: \1*2*3
3 M. j+ v ^' z! n% t# z
) A5 D- V) r4 C z- k$ F. v! b0*1*2" \' }6 K( r3 N2 R
! D) S4 T' K F6 P- H0*2*3' S" k7 z& j, h: \
- p) O x7 x. D& O+ |+ Q+ @0*2*4# Z" U% k- I. Z, y, B
6 O( h: P* `7 g$ Y5 qδ
' N& k! Z' `: s( d |
+ Z2 H B n F* F* n, b5 u迭代次数n
# [. R8 l, x: ~) ]$ y/ J9 ?+ w; w% P9 U" x8 Q# b- V
迭代次数n
- U) ~4 a8 Q5 b' i1 p6 o8 H; ?7 ?9 |8 t
迭代次数n
4 y" g* v% k) a: e) F- k# k2 w
, [# q( j, \# c1 @迭代次数n, B0 t: ?: {6 H1 Z& w5 l! X) ?) L
% z1 M5 _& e! [1 [% ]# h- R3 J9 z+ v- y
迭代次数n
- z2 g# T' a/ Q' h/ T7 q) ]( r$ n, P8 y# ` a
迭代次数n
p# Y" c. w; A Z! X. W4 W0 L
6 K" B' {$ Y3 x3 _' s- S" v. P. r0 u迭代次数n% E9 g( z: g. x" O3 K* }1 C# Z
* c8 A4 a1 l7 m- t迭代次数n
/ M6 `$ [/ ^5 B3 g
4 a% u" b/ w: |1 m迭代次数n/ a; L% p( `* p* E. v# w
; t% h- A v4 j5 X2 `; S
迭代次数n+ R# F* t& z( [6 |
) O" d3 y( k! I) s/ N0.01
5 f& f: x A/ B& m0 l) l/ Z. h/ N. F8 A, F9 F- O/ ?
1763.1809
7 r/ X; h) y. S8 H V' H* h* h! j+ X$ ]9 o* B
1626.57299 H6 ^+ U+ K' X* Z/ ?
. e( E5 S9 C4 J$ t, _1672.45238 t( Q- ?8 x% |4 T0 y$ E& Z" f
! D* m$ l+ C2 [- A* U& |
1635.9196
% z1 }0 p# i/ m: s% x& l+ O9 C3 [3 q5 o* |
1596.7035
3 x) ]& V% y+ V) {2 W3 _, ?0 Y2 w4 U0 L/ [; X7 l
1620.407: _( b; g4 [1 w
. P" J8 r) K$ v+ ]5 s' r
1563.89456 a1 R" r$ H* E& O. L! e
9 I5 O* j( X; W
1444.29152 f! j' b) v% e7 @
; f1 ?% t# C- c6 R" J1410.0302: @4 N9 S" Q9 S' U$ u* s( l) M
$ r0 B% u' |1 k% ~" i9 Z1465.4171- }9 U+ N/ K- ~ i4 W, ?. d3 F
) @0 V+ ^( D) G: }8 E- Q/ U
0.001: D' P( b% G3 R. c; r
8 ?0 J! F7 v4 {; `8 ~( `
13065.196. E8 a& r4 e. {4 C
* X, \3 W" @# e# M12674.945& W9 u5 O2 u$ o6 Y! L
+ ^5 u0 N" Y. z1 B9 b3 t2 z12747.729
: G; Q8 I9 P! Z7 @. p& H9 l: p
( f/ `. |7 c& U12386.216
6 n0 [. B: k! E% ?, {
/ H7 D0 P5 T: G0 }% q( i' s12349.02( @- O3 q2 f+ A. r z6 D" ?% M2 S, p
. u2 |7 c* b* S0 R: ?
12282.2018 M- b! l6 |9 q4 r
' R, k+ o/ U5 J% y12270.035
2 l7 ~7 J( O6 q1 M# k
6 K7 ?" ~4 }) a; ?6 C5 o5 k11338.477
8 b! q* ]- }. K' L$ Z! e! P" m6 V
0 ]1 P5 z0 i) z10985.201) l0 ]8 P0 D8 n* V/ t% ?" O
0 S4 n& h$ X3 j) [6 q
11015.503( d$ L2 _2 r- |8 r+ [" e
8 s$ a: w. x# Z# M4 o
9.00E-046 O9 o% ]" {1 f( k* B
% M/ Y6 r8 W; U( e
14352.452
. r7 N6 R5 C* K, Y, W( ^+ S; G
; i6 w( [5 b' i; F14004.633
0 m W T2 |( j
6 g, c }! |4 w) @8 |14062.8293 S! R+ g( m4 A8 n t! B B! u! O
8 {) h- }) p0 I' q6 ^4 |# v
13629.467
; q" J: ?$ V& U$ N/ L2 V8 o4 q1 g" X7 I2 [! l
13613.362; p5 E1 f p% B8 f/ X+ u$ P
& `+ C! _+ U2 _% {% R/ j. U! ~2 V13609.563+ x$ A( V/ U0 f! f; y& R
! a# v/ V6 T9 p: _2 E. N( N2 H7 W) G+ n
13530.322$ [$ x1 d/ z$ C2 n7 L+ O
3 L( a% i& z" y V, G
12458.171
U; [, u5 V" G1 J1 o0 ^
2 C' p) L" A5 e0 [! n. u12176.362
$ U3 Z7 V4 l: [' `( w5 u2 X! u
5 g' q3 p$ }6 o' i, t& z, d' N. Z0 v12225.96: ], N! J- E$ A; J3 n1 c
% V7 I' a. m a# }% q
8.00E-04
" H" g% Z# h, } b8 P# _, d C' {! P+ c w; ~
16141.206
+ s+ I" j7 C3 u2 ]
- K+ c2 r t4 \3 y o" h15611.101
: ?5 |- A9 z1 x! y5 \% z9 e! R
( a& q9 a- e% K0 ^2 c8 H" S: o+ p15749.91
6 Y! q& z) w6 V; z
& M# @+ }7 J" q8 |4 z15264.983 D+ N2 m+ D* k3 P- M# x4 `4 a
( r6 q! _# w. E) o6 D/ b
15228.447' P6 \* u9 s; E/ ]" i& N, [2 H- \2 e
2 Z. r$ {& F8 D6 O1 ^% l15207.6283 U; O; }/ K9 S+ i, a. b
I; M: Z9 G, X6 b( R" d15053.714) L9 m( C3 y, H6 a4 i; J! T
- }" t6 P4 {+ i- `9 @* D2 J
14044.729; T0 T" ^! [9 h, u5 R
9 i: S2 W) j9 s5 f13530.397
4 Z. {. U' F% a: a
! E& h& U, A* j; h13654.6782 K7 F. i, ^- x) m
; N) d( @2 z, |& M
7.00E-04
! m( ?4 q2 H5 i1 a( L& g# H S E' n/ Y o. d$ n1 u! | h
18194.397
1 L. c! h8 s( p% m$ `5 X e3 J
8 R7 _, Q# w/ F2 L4 g17760.638
! P/ A8 R, n" O, M3 [; ]
' Y- C1 h' r0 x5 k17743.578
* ]5 a) ]6 N @ b( \" ~9 s7 S, {- Q7 w5 l5 k
17333.377
( Y$ n( V3 P4 y. F5 u' n$ z, D( g( u/ q
17293.874' r: l/ }% {! ]: j% R: J2 H
" M% L& }. x) W% `) x$ Z! g' x17204.638
$ [1 M- ^; q) F4 E, m' b
2 E6 m* A; Y" |$ ~) X17058.809
0 e8 q8 N$ d3 l0 q; Q0 a6 F: l# l" O7 w( S$ X+ i
15946.101
2 Y f, t! M% B% V4 O# @# r8 ]! n- D7 M, n# @8 e
15491.266& w3 b* F! v C% }
( q2 @' x! l7 I& g6 {' L& A
15399.538
7 {9 `+ H' a' f8 Z$ }( H( E. Y% X! O: Z/ J5 {" ]
s, {! ]: o0 N: J+ b' L
2 c8 d0 V$ b. n! \- s* s }: f
1308 n& a, _6 h& G4 i; C4 [
: l( s1 E4 K; [) W( K" v218
0 m# n& v: c6 A/ @$ \1 A" }9 V7 O0 J# r
198 P2 J) y" d- b9 u
1 r- h, R* T& v* B. i X; n206# `8 P' }2 I) A
' R0 g, X5 B3 Q2 U
204% k. |' d% o' j/ R1 f# S
: V# ]0 t7 j5 s/ I R9 [' n9 W218% T2 I) U4 s2 ?3 U' @
: f( @1 z2 ]6 V220
5 j* L1 f4 O" ~/ U7 b, X! {& Z" u
! |) }" C- ]8 k2 e2045 \2 V( I) K0 r
+ {$ Z) J* {2 S% o) n% M& o# {220' r+ c V' I$ D8 {* ^* M$ a7 k
1 x* d, ~% p3 H1 D- A: x1 U5 m& N
216
# v. e" Q- o. s" C6 f* {) ]5 L6 s# w' p7 ~7 B r
将收敛误差为7e-4的迭代次数画成图* Z; `1 T) W2 f+ W, t
9 A' u: ~ V- c& i, G- I1 C0 H
2 ?9 c; `2 _6 z2 k2 C) u
{7 ^* |1 A. y q9 |% I
再将移位距离S的曲线画成图
8 ?- K, t7 W5 o# r8 Y5 u
1 H( d$ W8 M2 Z. Y3 {3 ~) m8 Q
) O. @, }& D( W7 a. J" }0 k5 D+ J9 L e: o6 M2 @
在这组数据中s和n之间的反比关系依然存在。
. A: g" T4 Q C, B
r" S+ ]7 D6 L5 D: B0 B' D移位距离假设
m! N/ p7 l, N4 q8 q: X/ v1 p
* C. G) l- g2 z/ g' x4 R. }1 {4 g(A,B)---m*n*k---(1,0)(0,1)5 p7 w7 p1 d" c1 Q
9 z( Q. D4 _5 Y! o
. @; j9 |+ j8 Z/ _7 [' X4 s4 q' ~
用神经网络分类A和B,把参与分类的A和B中的数字看作是组成A和B的粒子,分类的过程就是让A和B中的粒子互相交换位置,寻找最短移位路径的过程。而熵H与最短移位距离S成正比,迭代次数n与S成反比。
) M/ R5 \% B- _; S+ f" H+ f* q, A$ h
) x" n2 N% {8 V) s# p移位规则汇总2 I/ P+ j0 e- Y# M2 }) y: B; J$ U
; Z8 [$ L, [7 j# k5 F/ M( L移位距离就是等位点数值差的绝对值的和S=Σ|a-b|,如果训练集有多张图片取平均值,如果是多分类问题则移位距离为所有两两组合移位距离的和。
. Y+ y& Q1 @+ \1 J L* t1 n' ]
$ Z8 J$ v7 S) M8 F7 L如对一组3*3的矩阵
' I( }% w6 y, d, g& ^- z& ~) @4 R9 Y" ~. o' ^8 t
, i, D; _& m. e3 V9 t
& O$ a, U% e) l3 J. q( R$ G
S=s0+s1+,…,+s8=|a0-b0|+|a1-b1|+,…,+|a8-b8|
+ x/ Q# ^4 H/ W U% C& c7 o+ O I3 x- i$ g1 N4 e
如果是3分类问题,就应该实现3个形态之间的两两分类,也就是要完成3对等位点之间的差。
+ |1 M! }* h0 F A: Q4 T2 M) d% ~8 n0 @2 o8 [2 T4 c$ m; }
/ \. u1 ^& R* w4 f. ] g7 T ^7 ~% R
因此移位距离
- s/ a. D' Z& o( o; N* `. W3 v. {% _ T7 b# {) C
S=Sab+Sac+Sbc=
' G$ D. _5 M. @
. L n1 S6 `: h/ l: O [|a0-b0|+|a1-b1|+|a2-b2|+|a3-b3|+
2 c1 Q9 S! W! O
+ d. g' P9 Q# |# Q$ W' g% [6 g|a0-c0|+|a1-c1|+|a2-c2|+|a3-c3|+- J7 J: X& }% q; r: ~ e \
! n" g/ u5 _+ q" u2 p- S( }' T" Z7 w|b0-c0|+|b1-c1|+|b2-c2|+|b3-c3|' d! g' p4 P" j; ~. C' P& d1 l
————————————————$ V& Z$ U* t2 \9 Z! u( ~* @0 J
版权声明:本文为CSDN博主「黑榆」的原创文章,遵循CC 4.0 BY-SA版权协议,转载请附上原文出处链接及本声明。
1 A; T2 A1 \6 k" e% o' P原文链接:https://blog.csdn.net/georgesale/article/details/126690670
* k& K- T/ `7 A0 o- ^ p* j5 B* e% i
' s" t- _! ?2 R; o( O |
zan
|