【机器学习】无监督学习的概念,使用无监督学习发现数据的特点 0 k7 x- W1 R0 L " v% q3 P8 f' ]* H* a$ ], L到目前位置,我们主要把注意力集中在监督学习的问题上,数据集中的每个数据点都有一个已知的标签或者目标值。然而如果面对没有已知的输出结果,或者没有人监督学习算法,我们要怎么做。$ k4 D Z( f V
' {" k$ M" n: ~这就是无监督学习 。0 E7 p1 @* j: e
& _0 a* `7 W4 o, [$ n/ z/ P在无监督、非监督学习中了,学习过程仅使用输入数据,没有更多的指导信息,要求从这些数据中提取知识。我们已经讨论了非监督学习众多形式的一种降维。另一个普及的领域就是聚类分析。他的目的是吧数据分为相似元素组成的不同区域中。; m1 y4 l9 E3 ], c7 h, ~8 M0 x2 ]
% G) U- a2 c' J/ p- x% j# N" Q+ I0 z
在本章中,我们想要理解不同的聚类算法如何从简单到,无标记的数据集中提取特征。这些结构特征,可以用于特征处理,图像处理,甚至是作为无监督学习任务的预处理步骤。7 _; p7 Z) S' y. {4 \+ j/ a2 {
作为一个具体的例子,我们将对图像进行聚类,将色彩空间降到16位数。; Z: ?+ x9 p. Y& |1 I& l
0 f) M4 a @$ T
解决的问题 3 U$ N7 ~" X4 b0 y( K1.K-means聚类和期望最大化是什么?如何在opencv中实现这些算法。( W, q. A3 b: N( q
2.如何在层次树中使用聚类算法。他带来的好处有哪些。 - m$ z, d3 U h7 Z$ n# M3.如何使用无监督学习,进行预处理,图像处理,分类。5 c3 A/ ?' u7 h
+ @; ] }' G0 Y8 z
1 理解无监督学习 $ F4 ?: l5 i1 }5 ]+ ?" P: Y8 Q无监督学习可能有很多形式,但是他们的目标总是把原始数据转化为更加丰富,更加有意义的表示,这么做可以让人们更容易理解,也可以更方便的使用机器学习算法进行解析。% m6 ?, C1 f& X/ R; K$ ?3 ~" {1 R
无监督学习的应用包括一下应用: 4 F2 U- _0 q& }7 B: {1降维:他接受一个许多特征的高维度数据表示,尝试对这些数据进行压缩,以使其主要特征,可以使用少量的携带高信息量的数据来表示。& D* E1 C+ s, A! d9 D& d
2因子分析:用于找到导致被观察的到的数据的隐含因素或者未观察到的方面。 9 {4 e4 K# @1 y3 ~/ H" c3聚类分析: # L1 Z+ A a2 E3 F1 }尝试把数据分成相似元素组成的不同组。0 ~5 o3 G5 z' D5 k* [4 V
* r# X8 Z7 R* m! L6 w/ {. j* r! R无监督学习主要的挑战就是,如何确定一个算法是否出色,或者学习到什么有用内容,通常评估一个无监督学习算法结果的唯一方式是手动检查,并确定结果是否有意义。 4 {2 s; j+ _1 p3 D& h8 m% r# j( D' J: Q) A
话虽然如此,但是非监督学习,可以非常有,比如作为预处理或者特征提取的步骤。 ; g; d; G @. ]: |0 |: y- n+ ^; P) \1 q1 l/ ?) f( J% y
2理解K-means聚类 Y( W i& n8 J5 X
Opencv 提供最有用的聚类算法是k-means,因为它会从一个没有标记的多维度数据集中搜寻预设的K个聚类结果。 ' }# ^8 ?! D" d/ t: e7 P( u# r5 P O% e1 `1 F/ q
它通过两个简单的假设来完成最佳聚类了。 ! V9 A5 S# {' U. }$ W( c/ F' x3 d0 Q1 每个聚类中心都是属于该类别的所有数据点的算术平均值 2 ~8 v, T1 V, W9 \- L2 聚类中的每一个点相对其他聚类中心,更靠近本类别的中心。8 ~$ z1 }+ M) k* X! D- {' z
6 i Q/ _4 p$ @! X2.1 实现第一个kmeans例子$ i8 q: {! n6 ^% D
首先,生成一个包含四个不同点集合的数据集。为了强调这是一个非监督的方法,我门在可视化将忽略哪些标签。使用matplotlib进行可视化。 1 M* l# x3 ~! _ Z$ g & G2 T; ^% \( j3 Z% [( Himport matplotlib.pyplot as plt $ w/ G- U' G( c' K, uimport pylab3 v* ]; f- F. F1 I5 x
from sklearn.datasets._samples_generator import make_blobs , ~6 N2 e# M) C. }" { % U5 u3 ]5 b/ n0 h5 {plt.style.use('ggplot'); K9 v+ S4 h2 o! V
x,y=make_blobs(n_samples=300,centers=4,cluster_std=1.0,random_state=10)2 L! k2 O- r" W& L" h
plt.scatter(x[:,0],x[:,1],s=100)# l: L% m- [ v Y5 z
pylab.show(); I' i2 }! I: g/ @7 u
/ Z& m3 x3 d+ W
0 _" e. l5 x# H2 | F0 U0 O: v+ O
1 6 G& ] H, }! M9 ?: G2 ; d+ G% Y7 t. r6 r2 \$ B' G- N36 I9 P3 k+ d. C
4, r# m# [4 ?$ O- x
5; Q' L2 e5 u0 c H
6 # e) F: H% S) g. i; M. b% E7 * [6 f! i/ b3 z9 V& X8 ! G+ z4 j1 O. t: O5 q9 O6 k% t+ X% g5 m
10" C2 ]% k5 g \7 y) r/ e$ a