在线时间 1630 小时 最后登录 2024-1-29 注册时间 2017-5-16 听众数 82 收听数 1 能力 120 分 体力 564666 点 威望 12 点 阅读权限 255 积分 174623 相册 1 日志 0 记录 0 帖子 5313 主题 5273 精华 3 分享 0 好友 163
TA的每日心情 开心 2021-8-11 17:59
签到天数: 17 天
[LV.4]偶尔看看III
网络挑战赛参赛者
网络挑战赛参赛者
自我介绍 本人女,毕业于内蒙古科技大学,担任文职专业,毕业专业英语。
群组 : 2018美赛大象算法课程
群组 : 2018美赛护航培训课程
群组 : 2019年 数学中国站长建
群组 : 2019年数据分析师课程
群组 : 2018年大象老师国赛优
三分类网络的物理意义是什么?
# |, W# k; f# d# c5 k4 y$ A + u+ A9 P& s7 F1 B
用分类实现衰变
3 `% u# F4 r/ Y, C 专栏收录该内容
9 I( ^# @8 I9 j% a. t+ S1 O 52 篇文章0 订阅
- ?2 t; r1 ?8 J2 I) O j 订阅专栏
- I ~3 u U7 j+ _7 _& P% p, T (A,B)---m*n*k---(1,0)(0,1)
! \/ P$ o& Z- L) w/ S0 o: [3 A" C6 K# E 4 d2 S( z. Y3 j6 c0 o' {7 J
对于一个二分类网络可以将被分类的A和B分别理解为粒子和环境,因为粒子处于环境中。于是A和B之间的距离可以理解为0。因为t=s/v,则即便A和B之间的相互作用的速度小于光速,A和B之间仍然可以实现瞬时作用,并不违反理论。- _- o4 o/ b$ ^. |4 F; q( M
' K4 ~' W$ Q4 w- L# W/ U
( A, B, C )---m*n*k---( 1, 0, 0 )( 0, 1, 0 )( 0, 0, 1 )8 i, v/ R% s a" l
% r8 L3 Q# n3 p/ g 对于一个三分类网络要完成3次形态的变换。A⇋B,A⇋C,B⇋C,每一次形态变换就是一次二分类,因此对于一个三分类网络可以理解为由3个二分类网络组成
9 F H' H3 Q5 `8 O ' [7 M2 Y) D' c/ v, T3 X% S
(A,B)---m*n*k---(1,0)(0,1)% u% X4 N4 c$ F5 n0 I
! _' x# i' Y3 H b
(A,C)---m*n*k---(1,0)(0,1)- [0 o, s9 Q- q" `! p
9 T3 F' h9 O3 k- h (B,C)---m*n*k---(1,0)(0,1)
4 z w% Q: Q$ f9 S3 ?* x2 x 3 m1 O; r% n" N: K/ @
这就意味着存在3对瞬时作用,也就表明这3个粒子彼此之间的距离都是0.随着时间的推移网络的收敛误差会不断减小,而网络的分类准确率会不断变大。这个过程意味着A被错误的分成B和C的成分少了,同样B被错误的分成A和C,C被错误的分成A和B的成分也少了。
" l7 M$ p7 I4 `8 e. u / ?9 R2 ?5 Q! ?& b3 d4 i
所以这个三分网络可以被解释为,3个距离为0的粒子不断的相互作用,随着时间的演化,最终变得越来越像自己。) Y. r& u- b: @) Y, [) g
0 Q( r& |5 ?6 G: r, i% T
而前面的实验表明相同收敛误差下,迭代次数取决于等位点差的绝对值的和,这次就继续验证这一猜测。; n ^* u& V! D2 R, q" ]
0 z9 Q6 b+ S n, n 用的训练集是mnist的0,1,2,3,4,的第一张图片。用间隔取点的办法化成13*13.
: }) f% s3 _5 E8 @, D - v" U* [$ P: }* i; H
( 0, 1, 2 )---169*30*3---( 1, 0, 0 )( 0, 1, 0 )( 0, 0, 1 )这个网络简记为0*1*2.就只有3张图片不断循环往复,直到收敛。共进行了10组得到数据, \4 q- H a1 ]8 ^& V
9 r5 R( ^/ K! Q 1*3*4
; O: y# C3 f& Z# N3 v ! H( _" [5 M1 @( P2 K
2*3*4
0 k7 A' |, n% x, f* p/ R; t, f; n0 s 5 n4 Z$ o( E5 g
0*3*4
+ L7 x4 c" w5 V) E5 v3 m' C 4 ~; Z4 l4 P: u1 m. u, T) a3 `
0*1*4
3 B# k& C, H& i$ t3 z1 q9 k
8 D+ y: P' u4 N3 D, P. K 0*1*3
; v/ Z- L% j+ Y* B, r
' X4 Y! ~5 w3 Y- U; `$ [ 1*2*4
9 X* { t- M% O, c9 Z 0 w1 w7 ?& t5 I/ d1 }
1*2*3
( U \1 b4 k6 p7 Y
- B6 t$ q7 q, g# |, z: ^2 l5 W. @" t4 T- o 0*1*2! w; s3 P8 d9 n' u& e" j
) U8 `5 K! b7 y' j 0*2*3
+ Y+ ?" [0 _, o9 O* l" @ ; s1 C4 D" K- Y* C
0*2*4* \* Z0 u6 `2 r1 ~9 u) o$ M7 R0 }4 [6 }
3 R+ A: M! J7 D4 b) h δ4 M: }( Y2 A8 e4 Q, z- A& M9 N7 k
8 @1 k$ N! V+ @7 l L7 X7 }1 M
迭代次数n
% E+ y" _* W. T" C0 k% |; Q : G- Q- B- @2 O \
迭代次数n( i; p; J, K5 `# U4 N5 U; y- d
& H' ~0 q1 f% ?: @1 s 迭代次数n9 L( w$ g8 S J$ a! J3 E2 P! @$ ~/ _
$ c6 z5 e! a; r; X' ^2 b/ b
迭代次数n, q: a% E9 r) [% a" k
1 @( ~* c8 {) [- e. g# d
迭代次数n
0 U0 i3 o) j. `/ d( x5 d( I* j v. f
+ d3 O2 A) j, O' v 迭代次数n
- l; ], E2 h' H/ N: U+ P# G5 g 6 _ T; R% v4 g! V+ I( ^
迭代次数n1 Q6 \! D: O: W: Q
7 x# P* R7 q9 H; S 迭代次数n$ e6 k! G. s; P, e( K( j U
, [, |! o& @3 @, Y* m, y. o$ a2 D 迭代次数n
" `0 n& F! y5 }8 h( ?) A) d
; e4 I$ H" Q# r) k3 D' q; A 迭代次数n" k4 T8 d, u+ F
; a. {2 P3 ?7 p; c1 z% H8 h8 f# g3 q$ I
0.01 e$ d- O- X4 U, X
. X+ T1 D d3 T, \2 Z: b
1763.1809
5 R4 @, d) E. ^& s" L " e) P; V& j; f
1626.57292 f( L/ C* v+ e+ S1 |" i& C
h/ ~ m6 M( g3 z$ a# Y. G+ p2 I
1672.4523
, J% I9 d' m* v( [% }% `* r
4 ]1 T. T8 n0 G) ~/ C 1635.9196% A1 O4 p2 C! f! b6 f
" w/ B2 J' Z% e2 W1 ^ 1596.7035
* R. ?8 {$ M3 I+ l
8 \% o4 ~& g F) [# d1 o 1620.407
8 {. T, W3 I2 [; I: e) }$ h! t x 7 B8 Y, \, R$ q0 p( j4 \
1563.8945' [* ~8 v9 N! \+ r* M y: q* m
9 V' t! R2 j% ]5 |' C( k) S
1444.2915
. R& C- r* B1 @3 D
) H5 q7 D2 u6 \ 1410.0302, Z+ O2 G; ~. o. n9 S+ W3 d
$ x2 o# H$ k4 I 1465.4171' Q: M C; i/ C! G: N4 R2 b$ y
& e4 W1 Y% ^' k6 p2 X6 @ 0.001+ }7 F' L) m$ H8 z+ T8 A# q' E
. Y! w9 F9 e' z O
13065.196
8 }* g6 k( A- G2 w% e, Z* ~! V ) ^% P3 ?+ y0 h( s& X2 Y; [- A! }
12674.9457 Z' p: A+ w: r9 \1 @' t
$ L- A; }& T* T) z' V' Z) C
12747.729
4 f, y; \9 b* o6 Q$ h6 T ' K2 ^* O7 |( {& {, l, j
12386.216
, E3 i) {; w) s, e, S 3 ]" f" H% Y5 y0 y5 G5 z+ z0 F
12349.02
/ y3 J: U' P$ a; ` 5 V1 F" T( G, K
12282.201* ~# a. l2 g4 d0 C: |) _1 j' \/ o
# w$ g$ {! Z4 ]% t4 {% O 12270.035/ i& p1 t: n3 I5 y" e
1 `8 R% M0 r7 }0 D: e
11338.477: R) Q7 i0 q4 ~' q2 ^
4 s( `3 v0 X; t; X4 z+ o 10985.201
0 n. k: T( u# t( l& W + P+ l% y: X* n! K- H* v/ u0 N
11015.503% n& D0 ]# Z2 S1 }$ N, d
+ Y* r& x7 A3 J) b! d- @ 9.00E-04, j0 c* d9 }- [! a7 @) [) \
" a3 ]. g+ B1 s6 t2 K$ F) ^ 14352.452 a2 @: B1 V9 u: g2 z2 V
* B5 G" E- q; m W9 {$ ~
14004.633; `. R" p0 J9 o# c ?
! Z2 q$ q( i1 L# | 14062.829
$ a$ K3 |# p7 l7 P" L1 Q# H
& V2 f+ J# e" f' Y& d& t 13629.467
/ C5 x) ?: w: K0 R" w$ |2 K1 J , `; O @ o1 v$ b' q: n* z
13613.362
. X' \( V; Z# c3 {# I " F- z6 v6 z: W6 A, u& x0 ?8 D/ g4 X7 C
13609.563& a; B4 H& X( \( J- D
5 i+ ?% D2 R# [5 r
13530.322
& N! ], w! h: W% @1 Q
" i+ [5 g9 _0 R8 y. h 12458.171
7 b; R, a" q: _' Z) |9 t4 ^ 6 O! Y; U0 O! P) R6 n5 \
12176.3625 b( A) l7 K# R1 U
( A1 y* ]2 n; z; t$ L8 d( C 12225.967 d, \: @& Q8 a/ ]) m
8 u' i6 m5 L; E6 j6 A' v3 U$ h' }/ L 8.00E-04
( v' s! _( L# P8 A) ?, n % g6 q1 O6 `- L% k! R
16141.206
8 F3 x9 M! r. c1 _) P6 p
# R, N- m2 v( x- H6 ? 15611.101
7 M4 i$ C) b7 [! m2 U1 Z1 z
' h0 B' Q! J: g$ s 15749.91
1 S" ]: M9 i" b! p) t3 B4 _) } . n$ B" X F& a* y' I }
15264.98
2 `8 y0 Z0 l' ?0 ~8 N2 [
1 F& }4 ~/ T, A9 Q; w! Y: {, u 15228.4473 F1 n8 n. m3 n( s
' S$ E8 @! l; O. j' f0 U: B" I- L7 I
15207.6285 D2 ?3 w0 y$ O0 x* S B i( g
; K: Z4 {2 U% i' Q- \& J4 G 15053.714
k- Z6 K/ q9 J0 ^
1 r* e+ F7 x* ~+ s- C$ t# h: p, A 14044.729
& @) d* H8 g- X ~; G( e : N2 n, p. L' h$ {
13530.3971 s9 v. k3 M! Q* m
7 X# _+ r1 H* R& F3 H8 } 13654.678
& L; a0 c6 R, C4 h! H4 a$ W) A% A- M ) A+ Q9 z& o4 i* m- b# l
7.00E-04- @. Z3 n: `" {1 K$ s' ]
: |$ F" @: ^1 S 18194.3977 Z; K# H7 Z5 m: @
0 A) t) s" Z7 `# O8 \
17760.638# N- [( O7 H; g+ z3 G! A8 }# R
/ ~/ z; T. \+ H, x U J2 e
17743.578. Q% l9 k u0 E$ ^6 N2 x Z
7 o( ^! L; m4 O. b8 C0 t/ @% N
17333.377& `# `+ G# D: C, o
' V3 \5 f0 T7 c/ b 17293.874
+ ], F1 {& u i7 }
+ k3 ]6 n, |; A, Z2 r/ B 17204.638
7 {2 J- A: @5 O" i A" a
" b8 R/ ^7 G K) \9 X 17058.809
+ v: G( z! q2 h! z3 g! C6 j
) a- t7 F/ G' L6 J1 z 15946.101
: }8 S/ _9 h. b% ]+ o
: f6 Q3 N; e9 f 15491.266" h5 C7 x( J \) ]4 \4 Y
4 g8 U8 Z; i, L( R4 I8 _# C/ \5 _ 15399.538
& S! P7 O. r5 r4 b- R" Z" f& ?
4 c0 L* p6 V5 k+ [ s% |7 V8 ]9 H8 ^" P S+ {4 ~0 N
/ Y2 K6 M( Q# x& g9 i0 x 130. t% l: K& j. a; T1 n) _
+ G0 P) u8 X# ?: V0 C+ [
2186 q! H, `0 i0 q. L: W2 y
; m$ l! }! D! i+ X: j* L 198
- P2 s5 A8 d. Y( } 0 T8 z+ H; z! i/ z, e/ F
206! g& D$ {8 Z3 e% O% k
0 f, r5 k7 W' c5 m
204
0 f; z. J: A/ t+ W) |+ w ; e B" U* H, t1 [
218% P6 |( j0 O1 \
$ N, s. \' R! d+ ^. {
2207 M0 X/ g9 M! X
4 L8 J" t: Y" \- W" Y6 m$ d) J5 L
2040 j, B( Y) ]2 `% l& V: Q) ^
1 u. V+ d/ e3 s" X; w5 k 220
6 Q4 w% i1 i; ?7 N, \
4 J2 |- _9 ~# c- Z 216; H1 d6 y0 ^$ z0 S: W
& a9 F7 b _# F3 g$ t& `" q1 M
将收敛误差为7e-4的迭代次数画成图/ [7 V: T5 G/ O& N" d
( o4 ~: w+ k& L( P* K
- G W4 J& m- E
9 i# s6 d# ~ J; m4 o( @ 再将移位距离S的曲线画成图9 `8 j ?% r: E# L6 w6 s
8 T6 h' J( t# U& \, D
* n+ d& [% a0 j \# @, o
+ {. W6 H/ a1 Q 在这组数据中s和n之间的反比关系依然存在。- ~" A. I6 A" Y5 i+ z( L: ?2 Y0 w
: V6 z( w X- k% W& p: E
移位距离假设
; A( i8 J+ z# a 5 }# F0 a# ?# E% \9 z3 r9 \2 C- o( F
(A,B)---m*n*k---(1,0)(0,1)
5 _* u( a" e; u6 \6 A ' K& x% y: @2 \! k0 R* Y, Z
# N# v' k, q I: s) R! `
8 E2 E. |* T. ^. b+ O: H 用神经网络分类A和B,把参与分类的A和B中的数字看作是组成A和B的粒子,分类的过程就是让A和B中的粒子互相交换位置,寻找最短移位路径的过程。而熵H与最短移位距离S成正比,迭代次数n与S成反比。
: `( X) o' v& _1 w; b
7 w8 t/ x- `5 S3 x8 k: v 移位规则汇总0 i. K- Z; M/ n0 k# N
/ K3 f8 [1 W, @4 i
移位距离就是等位点数值差的绝对值的和S=Σ|a-b|,如果训练集有多张图片取平均值,如果是多分类问题则移位距离为所有两两组合移位距离的和。- L5 W5 Z1 k# a1 O. T* V) ]
# @. C% v. J) p9 H( Q# x6 C7 j8 S& R
如对一组3*3的矩阵2 X! p$ y* u: D) J8 J2 v3 `- n! j2 K( Z* O
( M* e" M( |: @' ]0 W
- n' K8 E7 B4 C% I V f9 U+ H& q8 A+ c; V
S=s0+s1+,…,+s8=|a0-b0|+|a1-b1|+,…,+|a8-b8|- a, f- I# m" `( g- t+ D; z2 [
# i0 e9 y. d4 F
如果是3分类问题,就应该实现3个形态之间的两两分类,也就是要完成3对等位点之间的差。$ U0 [6 J* S+ V8 q: i% L
5 }* r7 s( s! m" E. ]) v1 z2 m0 h
8 t$ @9 y, d. f 7 S9 @7 R" w; f: r! y1 `# a
因此移位距离
6 |, @: A6 ]1 e( o - a6 ~' g `2 ]) W1 f0 G% b
S=Sab+Sac+Sbc=
) F& m X" a0 w# ]7 U. C( h2 k+ Y: y
0 O- \! R! \! H. S, |6 X/ P/ ] |a0-b0|+|a1-b1|+|a2-b2|+|a3-b3|+
' D$ H$ ]: c. v& A! r# _
{, H3 L1 U j8 F4 R3 z |a0-c0|+|a1-c1|+|a2-c2|+|a3-c3|+; V ]% L" |, y6 B/ w! A
2 u% D- t- W1 S3 L& r( R, W |b0-c0|+|b1-c1|+|b2-c2|+|b3-c3|
8 M6 u7 L2 n0 R ————————————————( p& |0 M2 a% ]2 F4 Z. D+ V
版权声明:本文为CSDN博主「黑榆」的原创文章,遵循CC 4.0 BY-SA版权协议,转载请附上原文出处链接及本声明。
+ i- C3 T- @, X5 h 原文链接:https://blog.csdn.net/georgesale/article/details/126690670
5 B$ Q2 s- y, Z% y! x% t, t
3 g5 n" M8 a% S5 k 9 t. f' c; w8 {! J; _6 E; v2 ?
zan