一种基于高斯过采样的集成学习算法

杨利霞

一种基于高斯过采样的集成学习算法

$ Z% I9 _! g0 U
( s! K% |1 e0 o2 M6 M

9 D8 U" x3 b+ [在数据挖掘研究领域, 分类任务广泛存在着数据分布不均衡问题, 例如制造状态检测, 医疗
' Q  m. j5 d  `7 w诊断, 金融服务, 等等. SMOTE 是处理不均衡数据分类问题的常用技术, 与 Boosting 算法相结合可
8 y8 o3 l3 K, a" P, m/ D进一步提升分类系统性能, 但是这种集成学习容易导致基分类器多样性缺失. 基于此, 本文提出了
8 w" t! h# F) T+ R一种基于高斯过程 SMOTE过采样的 Boosting集成学习算法, 即(Gaussian-based SMOTE in Boosting,
2 t8 K! H( d$ `: i% yGSMOTEBoost). 该算法在 Boosting 集成框架下构建不均衡学习模型, 为了提高分类系统的鲁棒性,
( N2 f0 H9 t% Q, j: A% ?' @4 M采用基于高斯过程 SMOTE 过采样技术来增加基分类器训练样本的多样性, 从而提高基分类器之
间的差异. 为了验证算法的有效性, 以常用的处理不均衡分类问题的算法作为对比方法, 采用 KEEL
5 z; ?( v- C9 ~+ V" g! X* A数据库里的 20 个标准数据集对算法进行测试, 以 G-mean, F-measure 以及 AUC 作为算法的评价指
0 t  O7 i2 ^8 y! i( B/ d7 r3 u# t标, 利用统计检验手段对实验结果进行分析. 实验结果表明, 相对于其他算法, 本文提出的
: c" ~8 Y' W/ v# ^7 ?' @8 @7 sGSMOTEBoost 具有显著的优势.
3 t: _4 V5 f5 D, j9 p6 h
) o# v* z' w( z* I& ?
7 \# [( P' Y& j. n
/ u% t" M* X2 k0 m
6 R9 M7 R& a1 R4 y2 [