三分类网络的物理意义是什么?

杨利霞

三分类网络的物理意义是什么?
. O* x: `3 y) p/ `/ H, t
) W* D/ h9 L; N
( J: ~6 C2 \! H) A  t' \! O4 i2 r(A，B)---m*n*k---(1,0)(0,1)
4 }+ O+ I8 u; T4 D4 T$ w5 u
) Z1 \- a# X' `; N  I- D对于一个二分类网络可以将被分类的A和B分别理解为粒子和环境，因为粒子处于环境中。于是A和B之间的距离可以理解为0。因为t=s/v，则即便A和B之间的相互作用的速度小于光速，A和B之间仍然可以实现瞬时作用，并不违反理论。

/ j* H& x3 J( k9 a+ U" q( A, B, C )---m*n*k---( 1, 0, 0 )( 0, 1, 0 )( 0, 0, 1 )
$ X! ]9 `2 Q1 D2 P
$ K8 t9 U. y+ m: I: E! V7 r对于一个三分类网络要完成3次形态的变换。A⇋B，A⇋C，B⇋C，每一次形态变换就是一次二分类，因此对于一个三分类网络可以理解为由3个二分类网络组成

(A，B)---m*n*k---(1,0)(0,1)
3 @) n! p3 P% C% ]6 O: a5 b- f
(A，C)---m*n*k---(1,0)(0,1)

(B，C)---m*n*k---(1,0)(0,1)

! ]% e( u6 k' b% y' o3 i$ Q 这就意味着存在3对瞬时作用，也就表明这3个粒子彼此之间的距离都是0.随着时间的推移网络的收敛误差会不断减小，而网络的分类准确率会不断变大。这个过程意味着A被错误的分成B和C的成分少了，同样B被错误的分成A和C，C被错误的分成A和B的成分也少了。

5 m# ?" h6 Q: i6 A. v1 J! A2 s3 m所以这个三分网络可以被解释为，3个距离为0的粒子不断的相互作用，随着时间的演化，最终变得越来越像自己。
3 }. A5 Z: m. C$ l
1 P, e- D# J9 F2 l9 W' N, g而前面的实验表明相同收敛误差下，迭代次数取决于等位点差的绝对值的和，这次就继续验证这一猜测。
' `" w1 u: k! U0 y7 ^5 R
+ c8 D3 T/ I7 B- r, c- D- k用的训练集是mnist的0，1，2，3，4，的第一张图片。用间隔取点的办法化成13*13.

( 0, 1, 2 )---169*30*3---( 1, 0, 0 )( 0, 1, 0 )( 0, 0, 1 )这个网络简记为0*1*2.就只有3张图片不断循环往复，直到收敛。共进行了10组得到数据

! Y" ^, \* V( B. A; W3 @+ h% E1*3*4
# o7 `/ m( }* S2 u, V8 v$ l) H
2*3*4
; l, {0 x9 M& G* Z! ?
0*3*4
8 [9 B* {3 Y( P+ Y: e' g
0*1*4

4 Y2 r7 _, k0 l6 x" A) H6 u0*1*3
" s9 O1 u0 f; w, @4 d6 ?( R% G! |
1*2*4
- l: j, K, |! k- n  Z
1*2*3

8 q. Y3 x) m+ t( Y! i$ C8 L& e; W0*1*2
. ]9 Z; e0 k! ^8 f. G
3 W# G, \& W7 D( L0*2*3
5 ~8 D. o& {- s$ i. O. j' ~& a
0 K; h4 |- N2 G8 F0*2*4
& d/ v0 S* r4 u9 y! Y* u3 I8 D
; v/ p3 w! G# R8 t. x7 ^( Vδ
5 y4 ?8 x/ q4 x0 x  A0 e) Z& R
迭代次数n
0 S- m/ |! C! h8 t9 |- z' |: Y
迭代次数n

迭代次数n
# {" O: n/ \  W' f" s7 N1 H. V
迭代次数n

迭代次数n

迭代次数n
5 T" h0 R  v+ ^' z8 S
. m* R& z3 W# A0 K! F3 p迭代次数n
  M! }& x  |0 \6 I
3 B1 K2 E1 n: R- B. _6 T1 V迭代次数n
* d% B( s) C; Y9 K3 y
迭代次数n
6 u5 r. z- v( d
迭代次数n
, P( I/ U9 n- x: j  d
0.01

( ~8 B7 ^1 L5 ^& q" {' l1763.1809

1626.5729

1672.4523
/ ~  j( \7 n; V( s+ ]# C
; M  ?1 k& ~/ |1635.9196

# W( f& Y3 ~, w5 g% q2 S1596.7035
& b* K6 Z6 S. S- h! B
& O& p' k. u9 M% q/ H% T. o: o1620.407
) i9 F: M6 @! e* }
3 ~5 f  j! T2 r$ P5 G+ G1563.8945
: v9 U* g# `* i2 J* {
1444.2915

* _/ u. o) d2 j1410.0302
, z5 _4 I! R- u# ?/ H1 `4 k0 ^! [
1465.4171
8 w  g1 z: x9 B$ _
* C1 p3 B4 g* A9 D) _* \% o0.001

13065.196

3 r+ F& B  O. Y1 ]! W12674.945

12747.729
& w0 d" d/ y/ [. f/ w
+ w8 ~* E7 s, X. {' E6 |12386.216
5 \# e7 n2 V3 U; u
12349.02

9 ~2 x! c% J  a: ~" H12282.201

4 Q, [0 x, l; x& J+ t12270.035

11338.477
; \2 e+ }. g" `) K, B" S
$ f  l$ O& e3 N$ i& L9 ~& ]5 W" ]10985.201
: \+ @2 y- Q1 w/ s( y
11015.503
0 h  V: `0 W) A% D# y% Q$ L0 t
9.00E-04
( r& b2 {: U( v1 B! e3 c' ?& `( M
1 C0 y/ X7 y% p* E4 X14352.452

14004.633
. z) k  E* S$ b" O6 [1 C6 j
8 ~& P* o4 L  T14062.829
! N0 ^' T3 d# A4 x; ^' L
1 n- s  }! d' e- W# G6 W# T13629.467

: r) K9 L! t5 p' k9 R13613.362
4 A: L+ T% A! z- [' O9 I
. h3 p: |5 l/ k% d6 P5 D13609.563
& G* K7 w5 A0 o: f* y0 c/ B# }6 X' T
13530.322
$ o( O- G$ u" ?1 C
12458.171
. K) i0 {; r) G2 x; f
12176.362

% _/ R; [# \: H+ ^12225.96
5 P  q: J8 a. H+ V' h5 D
* D" F( q1 z) |6 `  I% e& H8.00E-04
  p; U& }7 S" j$ e
16141.206

15611.101

15749.91
) h" p2 h! D# A# q9 Y' h; J6 X
15264.98

0 h" N4 X6 w3 S6 s" s/ s15228.447
: o6 k; w4 `& K. T6 T, [# S5 p7 D
15207.628

15053.714

14044.729
3 u2 X4 s. ^$ a9 T& q
% `8 v3 Z- E3 r3 g  G* `" N13530.397
, K1 P# P1 R% g/ E+ h4 @
13654.678
( [; G0 k8 y, t" |
1 \5 d* _8 [5 {3 \7.00E-04
& ]& Z- n, X; L8 B  |( |! P
18194.397

/ i4 {  B3 e" D: F) R4 T17760.638

17743.578

17333.377
: u' j* c' p6 ?' Z; L1 V
17293.874
, A; ]% d7 ?& u
( {5 w3 u7 R7 e; n1 Z. y! P- D17204.638

) d6 G0 q; G! U( z6 @* Y# ~/ p( C17058.809
2 P$ p8 i$ K$ ]0 U1 e
15946.101

15491.266

. K) H5 v0 f+ P+ F8 g15399.538
/ ^! @. B1 j1 x( S& j
3 a; X. d( _$ js
' {, B2 d! B0 t+ E
0 [/ ~6 a0 z# c) ]130
( m7 `0 |3 [0 S1 A6 H8 _- g
7 C5 H) @6 |: J218
3 E4 @0 {, i$ W! y) t) y. b  b
198
/ @% j$ e% s: w. \/ D' l/ X
206

204

; c+ }) ~  F7 g218

  v* W1 ^; J3 T! b- B2 A220

204

220

% M" g6 L2 r- _8 V! Z' d' G! }216
+ \4 r% s8 R4 t& c9 ~* o& H
将收敛误差为7e-4的迭代次数画成图

- y( y. S% G' _: |; D6 ?7 F
) p/ s; p8 t( \* h
  J6 A% {) _7 s再将移位距离S的曲线画成图
% B/ a' ]2 z9 `


$ Z( v- `0 r1 H4 s7 |在这组数据中s和n之间的反比关系依然存在。
) y5 b0 M: D  w6 [/ Z  p/ p
, f6 F+ J' W/ b. f( n$ s移位距离假设

) N& q- B, z: J7 d4 G(A，B)---m*n*k---(1,0)(0,1)
7 K" V! U6 ~2 N8 P! r/ h

+ _3 K: V4 E/ m4 E5 F
用神经网络分类A和B，把参与分类的A和B中的数字看作是组成A和B的粒子，分类的过程就是让A和B中的粒子互相交换位置，寻找最短移位路径的过程。而熵H与最短移位距离S成正比，迭代次数n与S成反比。
  h* s/ [$ [3 F' N8 ^
移位规则汇总

$ ~* i3 @. J. t& X! t9 i% X& @移位距离就是等位点数值差的绝对值的和S=Σ|a-b|，如果训练集有多张图片取平均值，如果是多分类问题则移位距离为所有两两组合移位距离的和。

如对一组3*3的矩阵


# d- ?! F7 u/ ~. m, F* L. [
S=s0+s1+，…，+s8=|a0-b0|+|a1-b1|+,…,+|a8-b8|
* T7 l1 u/ |2 r, p
8 G9 o( H/ ~% ?+ \* b如果是3分类问题，就应该实现3个形态之间的两两分类，也就是要完成3对等位点之间的差。

% q: W' H4 d& K% r% s

- U) T( B% q" O7 z" y0 r因此移位距离
, r$ }3 W! X# x
S=Sab+Sac+Sbc=

4 T$ T! G  e! K. s$ |( \, b|a0-b0|+|a1-b1|+|a2-b2|+|a3-b3|+
& m0 `0 `5 X2 \3 e% R6 ]
: }+ j2 S) Q$ `9 I, e|a0-c0|+|a1-c1|+|a2-c2|+|a3-c3|+

|b0-c0|+|b1-c1|+|b2-c2|+|b3-c3|
————————————————
% \+ W; u4 G- D0 E版权声明：本文为CSDN博主「黑榆」的原创文章，遵循CC 4.0 BY-SA版权协议，转载请附上原文出处链接及本声明。
原文链接：https://blog.csdn.net/georgesale/article/details/126690670
& W8 p7 O# a, ~: ?0 d
; M- a( _/ o- A( e! a7 m
2 c& K; d# y1 `