KNN分类算法及MATLAB程序与结果

杨利霞

KNN分类算法及MATLAB程序与结果K邻近算法
3 t8 v' C+ S/ r0 T
KNN算法的决策过程
+ O9 [. w$ m; {' H7 R　　k-Nearest Neighbor algorithm
$ z9 A7 ~& Q  j3 x- N3 F4 B　　右图中，绿色圆要被决定赋予哪个类，是红色三角形还是蓝色四方形？如果K=3，由于红色三角形所占比例为2/3，绿色圆将被赋予红色三角形那个类，如果K=5，由于蓝色四方形比例为3/5，因此绿色圆被赋予蓝色四方形类。
# |2 H9 G6 A: `6 X% w. U# C　　K最近邻(k-Nearest Neighbor，KNN)分类算法，是一个理论上比较成熟的方法，也是最简单的机器学习算法之一。该方法的思路是：如果一个样本在特征空间中的k个最相 似(即特征空间中最邻近)的样本中的大多数属于某一个类别，则该样本也属于这个类别。KNN算法中，所选择的邻居都是已经正确分类的对象。该方法在定类决 策上只依据最邻近的一个或者几个样本的类别来决定待分样本所属的类别。 KNN方法虽然从原理上也依赖于极限定理，但在类别决策时，只与极少量的相邻样本有关。由于KNN方法主要靠周围有限的邻近的样本，而不是靠判别类域的方 法来确定所属类别的，因此对于类域的交叉或重叠较多的待分样本集来说，KNN方法较其他方法更为适合。
　　KNN算法不仅可以用于分类，还可以用于回归。通过找出一个样本的k个最近邻居，将这些邻居的属性的平均值赋给该样本，就可以得到该样本的属性。更有用的方法是将不同距离的邻居对该样本产生的影响给予不同的权值(weight)，如权值与距离成正比。
. J" N, j4 h  V, k* V0 g　　该算法在分类时有个主要的不足是，当样本不平衡时，如一个类的样本容量很大，而其他类样本容量 很小时，有可能导致当输入一个新样本时，该样本的K个邻居中大容量类的样本占多数。因此可以采用权值的方法（和该样本距离小的邻居权值大）来改进。该方法 的另一个不足之处是计算量较大，因为对每一个待分类的文本都要计算它到全体已知样本的距离，才能求得它的K个最近邻点。目前常用的解决方法是事先对已知样 本点进行剪辑，事先去除对分类作用不大的样本。该算法比较适用于样本容量比较大的类域的自动分类，而那些样本容量较小的类域采用这种算法比较容易产生误 分。
. a: `* Q" ^) G3 s& o' b9 I) N
        相比于之前介绍的SVM及BP算法，KNN算法思想比较简单，它没有训练出模板model，然后利用model进行测试的过程，而是直接就是训练，利用已知的有标记的样本，进来一个样本就计算它与这些已知样本的距离，然后对这些距离中挑K个最小的进行投票，看K个最接近的样本中哪一个样本所占的个数多，就判断为哪一类。
* V) G. [5 n- }: D* N! X
前面也提到了KNN算法的一个当样本不平衡时，如一个类的样本容量很大，而其他类样本容量 很小时，有可能导致当输入一个新样本时，该样本的K个邻居中大容量类的样本占多数，为此我觉得可以在每类中随机抽取相同的样本数进行重组成新的样本，然后再进行KNN算法，记为改进方法1，或者调节距离的权重，距离越小的投票时的权重值就越大，记为改进方法2。下面是KNN算法的MATLAB代码，及没有用随机抽样的方法进行的试验结果（三类数据分别为150 50 50），和改进方法1，及改进方法2的结果对比。

未改进的结果，由于其中一类样本是150个，其他两类是50，所以数据有偏斜，结果为：

- w3 R9 y3 V2 h( s( c' ?整体分类精度为：0.90476
' Z! q/ A  w. @类别1的分类精度为：0.94118
4 v. K0 z. \, {. ^类别2的分类精度为：0.58824
类别3的分类精度为：1

& o0 n; T, W6 I) ?2 B
/ l$ f* s! E2 b改进方法一，随机抽样组成新的样本，新样本中，各类的样本数相同。结果为：
$ O! C: Z0 P# Z, y2 I
( p0 o+ K( l& b1 r4 e& ?* o整体分类精度为：0.94048
7 G. }  f% W! }- }! [9 B类别1的分类精度为：0.94118
  y# U! }" s. i' |1 @) r! w类别2的分类精度为：0.76471
类别3的分类精度为：1
改进方法二，增大最小距离的投票权重，当然也可能是我的权重选的不合适，结果为：
! O0 g( }1 _4 n% w3 t# w# E
整体分类精度为：0.90476
类别1的分类精度为：0.94118
. `* f, y( E3 [0 ~- u5 i类别2的分类精度为：0.58824
$ N; K4 y+ w: {: k0 p类别3的分类精度为：1
可见和没加权重的未改进结果相同，当然我也试过好多数值，如果不当，精度还会下降。
, L$ h$ ^. L$ t1 M$ ^! F; Z
8 x$ y- I5 J3 f' L/ i把改进方法一和改进方法二相结合的结果：
# m8 \+ z7 C* f8 h
整体分类精度为：0.90476
类别1的分类精度为：0.94118
类别2的分类精度为：0.76471
3 }$ l4 h$ d* Z! B0 p类别3的分类精度为：0.94
9 `  `, [+ C2 Q, A4 I5 a只是类别三的精度相对于改进方法一有所下降，所以看来还是样本数据的分均匀程度对分类的结果影响比较大。
1 U& v3 f' L7 o1 m5 ]+ p& P$ C
4 j% c! g$ F2 d* N0 t下面是程序的源代码：
9 W3 [  d8 z# O
  d. f+ X9 P3 B, r3 q7 Q9 }! i* yclear all;
! Y% h" T3 g% }) _close all;
- v2 n3 t+ K' t# e: \% T1 Aclc;
1 e" d' w4 a+ hload D:\硕士学习资料3\硕士毕设资料\区域生长等分割算法程序\遗传分割\MYGAseg\特征选择\traindata.mat
" ~" X. w1 t# D2 Bload D:\硕士学习资料3\硕士毕设资料\区域生长等分割算法程序\遗传分割\MYGAseg\特征选择\testdata.mat
7 Z2 D& Y9 `' R1 v0 F1 x) s* ~0 o* }load D:\硕士学习资料3\硕士毕设资料\区域生长等分割算法程序\遗传分割\MYGAseg\特征选择\trainlabel.mat
+ F3 D7 b1 c2 ?5 L9 v. P% }load D:\硕士学习资料3\硕士毕设资料\区域生长等分割算法程序\遗传分割\MYGAseg\特征选择\testlabel.mat
traindata=traindata(1:99,;
" ]  K7 B* C  S9 H& F9 i* _ trainlabel=trainlabel(1:99,1);
[predictlabel,acc]=myKNN(traindata,trainlabel,testdata,testlabel,15);

* j. L2 M$ Y8 }4 T( |
  x; |' z- X! _/ kfunction [predictlabel,acc]=myKNN(traindata,trainlabel,testdata,testlabel,K)
9 c3 {( N- ?  i8 u* L5 c, T" e[mtrain,ntrain]=size(traindata);
' F! _5 m/ t8 a[mtest,ntest]=size(testdata);
9 I) f; F8 F$ Yjuli=zeros(mtest,mtrain);%每一行存储的是一个样本与所有训练样本的距离
sortjuli=zeros(mtest,mtrain);
zuobiaojuli=zeros(1,mtest);
( r+ C) l' k6 b9 M1 ~+ Tnum1=0;
& x% a5 A# q: F3 L* Xnum2=0;
num3=0;
rightnum=0;%记录整体分类正确的个数
. u" ]  s0 i# _" r5 G% D  zrightnum1=0;
0 x& s; J- z9 B: b$ l9 g9 Erightnum2=0;
% K2 k2 {  h9 Y& R" Frightnum3=0;
for i=1:mtest
' m% d' T4 P/ x4 [    for j=1:mtrain
        juli(i,j)=sqrt((sum(testdata(i,-traindata(j,).^2));%计算每个测试样本与每个训练样本的oushi距离
    end
end
" X2 K! }6 f' X( _6 I4 yfor i=1:mtest
# c  H" c2 g0 n9 u$ v2 T+ x   [ sortjuli,zuobiaojuli]=sort(juli(i,);%sort函数默认返回的是由小到大的排序结果
( ?1 ]0 D  h+ z  U' H2 Q   sorttrainlabel=trainlabel(zuobiaojuli);%标签也相应的改变顺序
9 {( `) N: j' H9 r1 \, E5 h   ksortjuli(1,=sortjuli(1,1:K);%取距离和坐标的前k个
- k" v4 R, Q/ R& d+ j9 r9 j   ksorttrainlabel=sorttrainlabel(1:K,1);
   for j=1:K%统计前K个结果中那个的数目多
; Y) y' H: p. R7 L+ W, s% O  y       if j==1%如果是排在第一位的，也就是距离最小的，那么投票权重加大4
         if  ksorttrainlabel(j,1)==1
           num1=num1+5;
, d) D, F& J( w, ?0 n       end
       if  ksorttrainlabel(j,1)==2
, f7 D6 g: W. _5 ?* h% J0 W; O           num2=num2+5;
8 w. a' q3 G6 x$ f1 {8 X! r* c       end
       if  ksorttrainlabel(j,1)==3
           num3=num3+5;
, _9 ~- q3 N- {% {7 j% c% ~       end  
$ T5 n% \0 u/ x6 t, w0 A0 t       elseif j==2%排在第二位的权重加大2，当然也可以自行改变
           if  ksorttrainlabel(j,1)==1
           num1=num1+2;
       end
2 f9 a2 r* t) o. z) Q+ F       if  ksorttrainlabel(j,1)==2
' _1 o: I3 G" B! [0 P5 q; q5 |  T           num2=num2+2;
       end
' n- [; o4 \' d$ u4 [( C  N/ j1 J       if  ksorttrainlabel(j,1)==3
- P3 m; M" H8 m7 `  l& E           num3=num3+2;
' B4 u1 a) z, c, O6 `1 K       end  
       else
       if  ksorttrainlabel(j,1)==1
% e: U$ v3 `. z, [  k$ `           num1=num1+1;
9 E) V  \0 n, w: Z       end
1 d4 [: f- Z# ]+ g2 P) r; n, z5 Z       if  ksorttrainlabel(j,1)==2
           num2=num2+1;
5 o# h( V5 W/ F5 q) ^! ^2 o. }2 n* b       end
6 L, O& h  l& C8 A       if  ksorttrainlabel(j,1)==3
           num3=num3+1;
8 N9 K+ ^4 l( P8 [1 g# r1 t       end   
       end
6 F# F! i0 }, I! ]  \# j   end
    A=[num1 num2 num3];
' Y+ _) l* J6 H! @. s    Xsort=sort(A);%按照从小到大排序
+ j0 h2 m* E/ w1 {1 ^        if Xsort(1,end)==num1
            predictlabel(i,1)=1;
) Z7 c5 b( z# _        elseif Xsort(1,end)==num2
            predictlabel(i,1)=2;
        elseif Xsort(1,end)==num3
# y# I1 `/ V2 R            predictlabel(i,1)=3;
        end
' p1 D$ r# M  ^% T        if predictlabel(i,1)==testlabel(i,1)
& K% Q) _+ t2 \1 G0 F" e  ]            rightnum=rightnum+1;
        end         
; g8 {: ^. F- a: f        if predictlabel(i,1)==testlabel(i,1)&&testlabel(i,1)==1
& \- f& y* |1 K; h9 u            rightnum1=rightnum1+1;
        end   
( w" I' t) k% o! h        if predictlabel(i,1)==testlabel(i,1)&&testlabel(i,1)==2
! t: P9 U/ o) W% A' O! e6 O            rightnum2=rightnum2+1;
* M3 T  S6 n; w( f) y        end     
) }+ |! A8 Z9 u& Y- c7 j; j        if predictlabel(i,1)==testlabel(i,1)&&testlabel(i,1)==3
            rightnum3=rightnum3+1;
, I9 K. Q, n3 l0 Z$ i, ~        end     

2 j7 T6 H; u2 T  v        num1=0;%清0
$ j7 _4 B; u( {/ X' X  d/ t        num2=0;
4 ?" h2 k! D9 ]& k! }        num3=0;
! o: i( c/ g9 O( zend
0 U& C8 t$ x3 \leibie1=size(find(testlabel==1),1);%找出测试样本1的个数
leibie2=size(find(testlabel==2),1);
) d1 ~- x! `6 ^3 zleibie3=size(find(testlabel==3),1);
acc1=rightnum1/leibie1;
acc2=rightnum2/leibie2;
/ d/ ?; y$ T3 u. }acc3=rightnum3/leibie3;
acc=rightnum/mtest;%总体分类精度
disp(['整体分类精度为：',num2str(acc)]);
/ c# @) E+ ]( ~* cdisp(['类别1的分类精度为：',num2str(acc1)]);
disp(['类别2的分类精度为：',num2str(acc2)]);
, |) |2 }0 O9 h3 b1 g: gdisp(['类别3的分类精度为：',num2str(acc3)]);
! z- _! H* }8 Y1 f: g% L
+ g  v' `+ L" c9 T! o" I" r
& g- g: Q7 j# M5 uK最邻近密度估计技术是一种分类方法，不是聚类方法。

不是最优方法，实践中比较流行。
4 Q1 |5 \# i5 K* U- n7 v1 u0 G+ E
/ l3 {; n% Z6 ?% u8 ]7 h通俗但不一定易懂的规则是：

1.计算待分类数据和不同类中每一个数据的距离（欧氏或马氏）。
) s5 h! w( v, b6 `9 _
2.选出最小的前K数据个距离，这里用到选择排序法。
9 [" m% U* E0 e0 C
3 n7 W  A- [+ u( [+ l7 Y3.对比这前K个距离，找出K个数据中包含最多的是那个类的数据，即为待分类数据所在的类。
- e* }$ ^1 ?' N2 h/ E; J3 S2 I8 [1 j  X
. b3 u8 ~9 f; H0 i3 {$ \6 v/ W不通俗但严谨的规则是：

. g3 }$ ?; t" i# S3 O给定一个位置特征向量x和一种距离测量方法，于是有：
2 m, V% t3 I; _
1.在N个训练向量外，不考虑类的标签来确定k邻近。在两类的情况下，k选为奇数，一般不是类M的倍数。
4 E% x7 [" g% o5 t2 D
2.在K个样本之外，确定属于wi,i=1,2,...M类的向量的个数ki,显然sum(ki)=k。
5 M* Z/ \8 |  s# A* A
3.x属于样本最大值ki的那一类wi。
" C4 ^% u9 C. M: F: B) e0 [————————————————
版权声明：本文为CSDN博主「dulingtingzi」的原创文章，遵循CC 4.0 BY-SA版权协议，转载请附上原文出处链接及本声明。
8 X, H3 p; _" Y  t+ J' d原文链接：https://blog.csdn.net/dulingtingzi/article/details/51152363
2 ?- ~! b$ F5 ?% P
  X$ F) h7 Z" Y! r0 _3 ~. V3 F