- 在线时间
- 468 小时
- 最后登录
- 2025-7-31
- 注册时间
- 2023-7-11
- 听众数
- 4
- 收听数
- 0
- 能力
- 0 分
- 体力
- 7544 点
- 威望
- 0 点
- 阅读权限
- 255
- 积分
- 2843
- 相册
- 0
- 日志
- 0
- 记录
- 0
- 帖子
- 1160
- 主题
- 1175
- 精华
- 0
- 分享
- 0
- 好友
- 1
该用户从未签到
 |
支持向量机(Support Vector Machine,SVM)是一种常用的监督学习算法,广泛应用于模式识别、分类和回归分析等领域。SVM 的主要目标是找到一个最优的超平面来对数据进行划分,并实现在非线性情况下的高效分类。 通俗地说,我们可以想象 SVM 是一个将不同类别的数据点分隔开的分割线(二维平面)或超平面(高维空间)。SVM基于训练集中的样本点,通过寻找最优的分割线或超平面来实现分类。这里的最优意味着,将不同类别的样本点分隔得尽可能宽,以提高对新样本的泛化能力。分割线或超平面两侧的数据点被称为支持向量,它们对分类决策起到重要作用。
, g1 N+ N# X4 [1 F7 \这段代码是一个简单的支持向量机(SVM)分类器的示例。代码使用了名为 "heart_scale" 的数据集,首先将数据集分为训练集和测试集,然后利用SVM模型对测试集进行分类,并将结果与实际标签进行对比。为了可视化高维数据,代码还使用了多维缩放(MDS)将数据从13维降低到2维。
8 h/ x4 P5 s3 F; J首先,代码读取 "heartscale" 数据集,其中包括标签(heartscalelabel)和特征向量(heartscale_inst)。然后确定训练集和测试集的索引,并将数据分成相应的部分。* |7 ^: K( |( L1 ], s' Q
接下来,代码使用训练集数据(trainData)和标签(trainLabel)训练SVM模型。然后使用训练好的模型对测试集数据(testData)进行分类,得到预测标签(predictlabel)、准确率(accuracy)和类别概率值(probvalues)。- K. r1 A4 f; b# H& R( y
代码的下一部分是为每个类别分配颜色。根据数据集标签的值,将其转换为类别索引,然后使用预先定义的颜色列表(colorList)为每个类别确定颜色。
& a1 v/ e" o& v3 x! ^; e. \& i通过多维缩放(MDS),代码将原始的13维特征向量降低到2维。首先,通过计算特征向量间的欧氏距离(distanceMatrix),得到距离矩阵。然后,将距离矩阵作为输入,使用MDS将特征向量降低到2维,得到新的坐标(newCoor)。
7 ]8 a1 R) y1 g. X/ H% I7 A最后,代码使用散点图展示结果。首先,在整个数据集上绘制散点图,并根据真实类别(colorTrueClass)为每个数据点上色。然后,绘制测试集的散点图,并根据真实类别(colorTrueClassPlot)和预测类别(colorResultClass)分别为数据点上色。最后,绘制训练集的散点图,并根据真实类别(colorTrueClassPlot)为数据点上色。
( a/ w* A9 ~6 x) L9 r Y
+ ]; a% O& |$ ]% A, e当然,我会逐行解释以下代码的功能和作用。
9 Z: z k9 Y" l. [$ U* i7 Sclear1 O% [9 c" ]- O- t. k
clc/ j! L6 P, E" }" e% ?% B
close all
+ Q+ {4 ^* E- Y/ i' C3 M0 g, |% [( g% ~, ?! s
这些行代码用于清除MATLAB工作区域中的变量,清除命令行窗口上的内容,并关闭所有打开的图形窗口。
* B" i$ t4 Q) L: x, s2 Z( m[heart_scale_label, heart_scale_inst] = libsvmread('heart_scale'); R1 m* \1 Q$ ]4 G' n" e
[N,D] = size(heart_scale_inst);/ l) c5 f' z- N0 p4 ?! P+ c* ?7 m; @
9 t# `! d5 P" I8 \3 J0 B7 E3 B这两行代码读取文件 heart_scale 中的数据并将其分配给变量 heart_scale_label 和 heart_scale_inst。heart_scale_label 是数据的标签,而 heart_scale_inst 是数据的特征或属性。[N,D] = size(heart_scale_inst) 用于获取 heart_scale_inst 的大小,其中 N 是数据点的数量,D 是每个数据点的特征维度。
% m( u2 u, O& n0 D8 Q. wtrainIndex = zeros(N,1); trainIndex(1:200) = 1;
1 v; ^" B2 A8 y4 K4 Y& v- I: x9 atestIndex = zeros(N,1); testIndex(201:N) = 1;
% }, Q6 h" r6 |/ ~$ \" x& xtrainData = heart_scale_inst(trainIndex==1, ;/ ~3 S" ^4 E9 G
trainLabel = heart_scale_label(trainIndex==1, ;
* k- s4 ~2 d) L$ o: stestData = heart_scale_inst(testIndex==1, ;6 A1 i$ m* h7 w2 Q4 i. Q
testLabel = heart_scale_label(testIndex==1, ;: X! D5 {: s/ t- S6 k0 u
% _; z v9 P- S$ g这部分代码定义了训练集和测试集的索引,并使用这些索引将数据划分为相应的部分。首先,通过创建一个大小为 N 的零向量 trainIndex 和 testIndex,将训练集和测试集的索引位置标记为1。然后,使用这些索引从 heart_scale_inst 和 heart_scale_label 中选择相应的数据点和标签,形成训练集数据 (trainData)、训练集标签 (trainLabel)、测试集数据 (testData) 和测试集标签 (testLabel)。
6 _0 w6 v8 l+ q6 |& r4 M+ ?7 Q+ J. Smodel = svmtrain(trainLabel, trainData, '-c 1 -g 0.07 -b 1');' x3 A! L" ~- z0 X
[predict_label, accuracy, prob_values] = svmpredict(testLabel, testData, model, '-b 1');
3 B1 j7 t( {6 E4 a2 v& x! N7 H- k9 V. Y, H! {, ~
这部分代码使用支持向量机 (SVM) 进行训练和测试。首先,使用 svmtrain 函数训练一个SVM模型,其中训练集标签 (trainLabel) 和训练集数据 (trainData) 作为输入。额外的参数 -c 1 -g 0.07 -b 1 是SVM的参数设置,其中 -c 是惩罚项系数,-g 是高斯核函数的参数,-b 启用概率输出。训练完成后,得到一个训练好的模型 (model)。( l+ f) B' P% d
然后,使用 svmpredict 函数根据 model 对测试集数据 (testData) 进行预测,并将预测标签 (predict_label)、准确率 (accuracy) 和类别概率值 (prob_values) 分别赋值给相应的变量。5 j8 h" ]; O9 ]$ H# m6 C
colorList = prism(100);
& {- n8 ~1 P& I8 otrueClassIndex = zeros(N,1); A, K+ \ H5 q6 F r1 {3 B
trueClassIndex(heart_scale_label==1) = 1;' Z% R. l- s' k, f: G
trueClassIndex(heart_scale_label==-1) = 2;
2 ]0 W% a- D: v; F0 s. e1 VcolorTrueClass = colorList(trueClassIndex, ;
2 L D5 E4 @$ f7 w/ @resultClassIndex = zeros(length(predict_label),1); n' D3 Q; b3 R' O* }4 e1 ?9 U
resultClassIndex(predict_label==1) = 1;- n3 U7 @( d9 P
resultClassIndex(predict_label==-1) = 2;5 n3 m) B, Q& ?: B) Q
colorResultClass = colorList(resultClassIndex, ;4 @8 m: m; A9 C" W+ P3 G+ N: \
4 p& Q9 `! q( I' o- f/ S: g8 u这部分代码用于为每个类别分配颜色。通过 prism(100) 函数创建一个颜色映射列表 colorList。然后,根据原始数据的标签 (heart_scale_label),将标签为1的数据点的索引标记为1,标签为-1的数据点的索引标记为2。根据这些索引,从 colorList 中选择相应的颜色,得到真实类别的颜色 (colorTrueClass)。类似地,使用预测标签 (predict_label) 创建结果类别的颜色 (colorResultClass)。
9 D4 W9 O* N/ {distanceMatrix = pdist(heart_scale_inst,'euclidean');2 z5 ^9 N0 ~5 R! C
newCoor = mdscale(distanceMatrix,2);& _7 {% L, K2 ^ M
. v$ m& G |: t. [& }9 f这部分代码计算了原始数据点之间的欧氏距离矩阵 (distanceMatrix),并将其作为输入传递给 mdscale 函数。mdscale 函数将高维特征向量 (13D) 降维到2维,并返回新的二维坐标 (newCoor)。7 r' I$ c g8 D& x1 ^( {2 ?$ o6 M
x = newCoor(:,1);
5 A8 x/ G W0 F4 |3 {y = newCoor(:,2);, A% B$ `4 ~+ Q% `9 ]" _/ o/ H& w
patchSize = 30;
# W! d/ _! s' B5 KcolorTrueClassPlot = colorTrueClass;
/ c0 _3 q) j% W( pfigure; scatter(x,y,patchSize,colorTrueClassPlot,'filled');
. v( E' K9 N0 s8 Otitle('whole data set');
" i! h! e# I0 b
8 C* a' [% ~' q6 ` m' l这部分代码用于绘制整个数据集的散点图。首先,将新的坐标中的第一列 (x) 和第二列 (y) 分别赋值给变量。然后,根据真实类别的颜色 (colorTrueClassPlot),使用 scatter 函数绘制散点图,并设置散点的大小为 patchSize。最后,通过 title 函数给图像添加标题。
% c- P5 x& ~1 m; H+ q8 ux = newCoor(testIndex==1,1);7 R- j. J `1 P. R& B
y = newCoor(testIndex==1,2);) \# R5 F+ `* c( U. r
patchSize = 80*max(prob_values,[],2);
+ t Z% g. z$ W; S, v5 JcolorTrueClassPlot = colorTrueClass(testIndex==1, ;
/ D# F0 D* x( @/ v3 sfigure; hold on;
3 W, a+ ~; E9 u& H, ~scatter(x,y,2*patchSize,colorTrueClassPlot,'o','filled');
4 v2 Y/ T; O' M# ]; `0 J$ c; z; @scatter(x,y,patchSize,colorResultClass,'o','filled');
/ o4 h# f( @# Nx = newCoor(trainIndex==1,1);
1 C o- j; l5 P6 `( Ny = newCoor(trainIndex==1,2);
- D6 A3 `4 R9 \ x6 b) dpatchSize = 30;0 S: N3 c" w$ _8 Q5 j
colorTrueClassPlot = colorTrueClass(trainIndex==1, ;
- \: F1 Z, [) S5 escatter(x,y,patchSize,colorTrueClassPlot,'o');- o! D- p9 [8 ?# N- F
title('classification results');0 \. X E/ Q9 H- I# f, k% f
4 L9 a; n0 I2 l% c6 w3 J& ]这部分代码用于绘制分类结果的散点图。首先,将测试集的新坐标 (newCoor) 中仅包含测试数据的部分的第一列 (x) 和第二列 (y) 赋值给 x 和 y 变量。然后,根据真实类别的颜色 (colorTrueClassPlot) 使用 scatter 函数绘制测试数据的散点图,设置散点的大小为 patchSize 的2倍,并使用真实类别的颜色填充。接下来,再次使用 scatter 函数绘制测试数据的散点图,散点的大小为 patchSize,颜色根据预测的类别 (colorResultClass) 填充。最后,将训练集数据的散点图绘制在图像上,同样使用真实类别的颜色填充。通过 title 函数给图像添加标题。
/ s, s7 A; z8 s) g1 l希望这些逐行解释能够帮助您理解代码的功能和作用。如果还有其他问题,请随时提问。 R* u7 V; j% a( p
4 [+ z8 i* x- E) q7 W
* a: [2 U5 z( z$ h# |4 Q& D3 A2 i* j5 {* I
|
-
-
SVM.rar
6.37 KB, 下载次数: 0, 下载积分: 体力 -2 点
售价: 3 点体力 [记录]
[购买]
zan
|