三分类网络的物理意义是什么?

杨利霞

三分类网络的物理意义是什么?

4 R6 Z4 }0 e- r) L* A6 C
(A，B)---m*n*k---(1,0)(0,1)
7 C' u6 s) o7 b# i
/ {2 c* H2 n6 h( s! ]; x& r" w% k对于一个二分类网络可以将被分类的A和B分别理解为粒子和环境，因为粒子处于环境中。于是A和B之间的距离可以理解为0。因为t=s/v，则即便A和B之间的相互作用的速度小于光速，A和B之间仍然可以实现瞬时作用，并不违反理论。
# o0 l4 ]! a4 n5 S1 Q! a' y
0 o2 `: h% r" ]$ o; H( A, B, C )---m*n*k---( 1, 0, 0 )( 0, 1, 0 )( 0, 0, 1 )
, }+ E. ~2 F# g; Y) o$ H) n
1 U5 D9 h+ Q& S$ K: x对于一个三分类网络要完成3次形态的变换。A⇋B，A⇋C，B⇋C，每一次形态变换就是一次二分类，因此对于一个三分类网络可以理解为由3个二分类网络组成

(A，B)---m*n*k---(1,0)(0,1)

) y/ _9 y3 @  R) U(A，C)---m*n*k---(1,0)(0,1)
/ J4 A! F4 o! {- K2 I5 b7 u- f! F
% D, d! W' X4 Q% X9 X( ^(B，C)---m*n*k---(1,0)(0,1)
1 ^6 U9 _/ r7 E- X" g6 A
( [6 A+ x& ^1 T0 B: i9 B$ W2 _+ T0 M" f 这就意味着存在3对瞬时作用，也就表明这3个粒子彼此之间的距离都是0.随着时间的推移网络的收敛误差会不断减小，而网络的分类准确率会不断变大。这个过程意味着A被错误的分成B和C的成分少了，同样B被错误的分成A和C，C被错误的分成A和B的成分也少了。

: z5 i" r: |, U3 N1 x& m所以这个三分网络可以被解释为，3个距离为0的粒子不断的相互作用，随着时间的演化，最终变得越来越像自己。

而前面的实验表明相同收敛误差下，迭代次数取决于等位点差的绝对值的和，这次就继续验证这一猜测。
3 k$ U3 H' @8 _' h) @( A. F7 ^7 I
用的训练集是mnist的0，1，2，3，4，的第一张图片。用间隔取点的办法化成13*13.

8 i/ P6 z. g+ v2 f( 0, 1, 2 )---169*30*3---( 1, 0, 0 )( 0, 1, 0 )( 0, 0, 1 )这个网络简记为0*1*2.就只有3张图片不断循环往复，直到收敛。共进行了10组得到数据
2 N5 ^* {4 d. l0 v6 N3 V
5 v" Y$ q4 {) d) \; @- M8 ]! O+ q1*3*4

2*3*4
1 d* H3 p6 n9 l
; g) p- k) C8 H, [, I, a8 x0*3*4

' s! Y, {- I! s- Q% U0*1*4

0*1*3
* c. _: j6 Y- T) i7 W2 m; v. G3 X
1*2*4

+ R* z1 J4 o) I0 \$ E- J2 c# V1*2*3
7 Z. t# x1 e; }0 d0 K
' V3 L7 S% r7 _3 X; k0*1*2

7 m- f/ {1 Q; F* X0*2*3
& ]" \; D/ X- l' a$ A( n, h; ?# E
% x6 M/ ?2 i0 r! b- I6 b1 \0*2*4

δ

迭代次数n

迭代次数n
/ m1 k' I- c6 j% P7 u3 }7 D6 u
9 Q: u6 C% e+ T/ F, S# I5 O迭代次数n

- l1 u4 b: d+ N0 s0 q迭代次数n

' ]7 H, y0 x6 N+ B迭代次数n

+ b* q: W6 W5 G9 j迭代次数n
/ j% B. O8 V. p  O
迭代次数n
- _* J5 ?, N+ V. V
迭代次数n
! M, X6 D# a% w% i  Q" F
" P1 D% B8 V* G9 f迭代次数n

% `1 U5 p0 H( M9 V1 I8 M2 @迭代次数n
+ F" h$ w( J( g  J
! o( h* |3 K' W8 {0.01
4 r+ `; L; a$ v+ `8 k4 @5 a6 }
1763.1809

1626.5729
, |- I  @3 Y" Z( \) `; G  U
6 H4 K; ?' g5 \& Y1672.4523

1635.9196
) B# ~) ^2 n. X' ~+ U8 r$ K& y
1596.7035
" h+ h( Z* o7 J. D7 H
4 ~. f3 @* e" J9 i& V; B1620.407
% i* w$ a" d% v" J+ F8 i
1563.8945
  I; N5 @$ r8 M: v- {
& x; Q/ B+ }  e+ t4 K3 k" k1444.2915
: A+ S9 x* S; c4 e9 ^- [
1410.0302
5 ~# f( y  N0 I+ J
, r+ M+ C+ F+ _0 H4 n" Y. W1465.4171
% A0 m4 _1 g/ d3 }. Y, R* x
6 r* [$ ~+ i4 q, R0.001

13065.196

0 p6 @$ T4 S0 N& z/ q- n12674.945

' h# {  g5 k# N( K2 f12747.729

3 Y' \8 e  [: ?# c4 x12386.216

12349.02

12282.201

+ U& y7 n* ?" Y+ t3 a12270.035

7 C7 r0 E( H  E: i' j4 m11338.477

10985.201
8 n" g5 G0 Z+ x
11015.503
+ R3 B5 r. O$ r5 Q( E
9.00E-04
4 f) e! J" z2 c% g- e) w1 z- b" t
14352.452

14004.633

) F7 G: M! H; x14062.829
# f' z5 e0 i/ j/ h* j* y* N( {7 i0 O
2 F$ n# \. a# z  B, G# I% J7 h- t, _13629.467
6 l+ d0 z3 g$ j
; j9 p+ g! A0 }' `, r. i13613.362

$ N' Z) {( O( V' W8 f/ c0 |13609.563

4 Z3 }2 v; ?8 M7 Q# X: _13530.322
  t* b  Q8 M) x2 A: T. J$ q5 z' D
12458.171
  q: z/ _6 g6 H, J3 n7 T
12176.362
( Y/ C4 r/ P$ E$ x% W
12225.96

$ C6 ?" A+ _& o. Y; r8.00E-04

16141.206

15611.101
% f6 ~5 ]4 l3 o
0 {* y# ]3 |) m3 ~( V3 |$ R$ ~+ P4 O3 f15749.91

15264.98
' @" e0 z" k, v+ w# U- Y* N
# K/ q; J0 h: @- D5 |' i15228.447

15207.628

15053.714

9 ]- a7 O7 g* D& b. t14044.729
) R$ G' b* Q6 U% U) J
8 E- V0 {  U- @; r! h; W4 m13530.397
1 f9 C; a: q  J; D  s! p8 Y
13654.678
. @# ~! E( J# Y5 H* a$ `. Z
7.00E-04

18194.397

17760.638
9 o: l8 y6 \: J. x0 C) d' p# c
% S8 ~- p6 F; L17743.578
/ \; w0 [4 c6 P! A8 h- J1 K$ [" T
+ e! V  m! v3 m/ T" E( P' u17333.377
: z# j1 Z& w; o
6 `& w& [) d. T# ~$ `' B17293.874

17204.638
+ l. Z& p" w4 A# [
- ^8 M$ t3 `$ R0 Y6 C. x" _17058.809

5 `1 p/ Q+ p& F  V7 v- N/ @15946.101

" L9 }/ n) Y% M) r+ s15491.266
7 K4 F' @- l( d6 e& x
15399.538

s
0 p, V; _7 N& |; n0 ?3 q
130

218
: t7 P4 v: R" {' P- K/ Y
) J  j4 a5 {- N( Z4 Z  B198

206

# A$ e8 O: r6 A204
& Z3 N* O9 k7 g- `
: D* G$ Y2 Z3 D9 {. f218
, c8 |# I! e; S% \2 W# Y' C
$ f2 w  R: i. J# Z% D! y220
+ k* J  \& J, A3 H+ y
204
) X& M- ~! A, D$ B- y7 m
220
- ^0 _; Q' u! a4 `3 ]
216
/ `3 M! m8 h' M6 [' T* ^5 ^0 M5 K. {
将收敛误差为7e-4的迭代次数画成图
* y( T( R8 C' ?! w% i9 v


再将移位距离S的曲线画成图
0 r# F; O5 H* r7 \0 ~( X+ t1 \

8 b$ x1 V% v' x: |; C: C
在这组数据中s和n之间的反比关系依然存在。
, P& w" g# [6 G  ?# T, b
移位距离假设

- z6 f2 u1 z2 o& m(A，B)---m*n*k---(1,0)(0,1)
1 w0 H9 N  s7 i  t+ L% G7 n
. C2 Q$ P5 v. r: J
7 g  I7 J% F, ?  O6 G+ H& S, L
用神经网络分类A和B，把参与分类的A和B中的数字看作是组成A和B的粒子，分类的过程就是让A和B中的粒子互相交换位置，寻找最短移位路径的过程。而熵H与最短移位距离S成正比，迭代次数n与S成反比。
: j" ^  @6 q  N4 H- X  v9 I
移位规则汇总
! l! ?" {4 ^, @+ R$ O; w) n
移位距离就是等位点数值差的绝对值的和S=Σ|a-b|，如果训练集有多张图片取平均值，如果是多分类问题则移位距离为所有两两组合移位距离的和。

7 q; {" _+ g$ b2 g5 J6 K如对一组3*3的矩阵

* N+ B' G, Q# l7 d# O
# D; X, B/ @+ h* d0 F2 I- Y
S=s0+s1+，…，+s8=|a0-b0|+|a1-b1|+,…,+|a8-b8|
. k+ g+ q, K( Q& j/ K
如果是3分类问题，就应该实现3个形态之间的两两分类，也就是要完成3对等位点之间的差。


; P, M( T9 [/ E) L4 v
. j) Z4 `, r9 ?/ j0 b( d因此移位距离
: |3 N/ V& |& O' \' X# `
S=Sab+Sac+Sbc=
! D* F$ v. E) r& c2 j
9 d! P0 r. C8 @7 h. d* U* e|a0-b0|+|a1-b1|+|a2-b2|+|a3-b3|+
+ T7 E1 O* B* h% I/ W7 O0 \4 W
|a0-c0|+|a1-c1|+|a2-c2|+|a3-c3|+
2 U/ W4 f% G8 q3 X; d
|b0-c0|+|b1-c1|+|b2-c2|+|b3-c3|
————————————————
版权声明：本文为CSDN博主「黑榆」的原创文章，遵循CC 4.0 BY-SA版权协议，转载请附上原文出处链接及本声明。
原文链接：https://blog.csdn.net/georgesale/article/details/126690670

* H) G0 i1 y1 K" i: g