一种基于高斯过采样的集成学习算法

杨利霞

一种基于高斯过采样的集成学习算法

" Z8 S% r( u5 A4 f, t( M
* \- v- z& G: Q5 b3 Z9 [' d
( X( v8 D' `1 y  f" t& F
2 x( T1 g. O' {! n* N& s8 D  g在数据挖掘研究领域, 分类任务广泛存在着数据分布不均衡问题, 例如制造状态检测, 医疗
7 H! t# X2 V8 p6 K8 a' X1 g诊断, 金融服务, 等等. SMOTE 是处理不均衡数据分类问题的常用技术, 与 Boosting 算法相结合可
进一步提升分类系统性能, 但是这种集成学习容易导致基分类器多样性缺失. 基于此, 本文提出了
一种基于高斯过程 SMOTE过采样的 Boosting集成学习算法, 即(Gaussian-based SMOTE in Boosting,
. R. z; \7 X! m+ I% K3 YGSMOTEBoost). 该算法在 Boosting 集成框架下构建不均衡学习模型, 为了提高分类系统的鲁棒性,
1 d( E# ?; s5 r4 I" {采用基于高斯过程 SMOTE 过采样技术来增加基分类器训练样本的多样性, 从而提高基分类器之
间的差异. 为了验证算法的有效性, 以常用的处理不均衡分类问题的算法作为对比方法, 采用 KEEL
0 [- i' Z' Q; N- O, H数据库里的 20 个标准数据集对算法进行测试, 以 G-mean, F-measure 以及 AUC 作为算法的评价指
标, 利用统计检验手段对实验结果进行分析. 实验结果表明, 相对于其他算法, 本文提出的
; G; p3 |9 s& i& ]7 Y+ K9 B- [GSMOTEBoost 具有显著的优势.

! j; d: t8 _0 a7 G$ i

/ ?4 u* [, {1 k/ l  U. S. W" X+ f