数学建模社区-数学中国
标题:
1.机器学习概念及相关术语解释
[打印本页]
作者:
杨利霞
时间:
2022-9-8 10:23
标题:
1.机器学习概念及相关术语解释
9 x1 W; y, @( L
1.机器学习概念及相关术语解释
% f8 B9 x( X. m7 S5 |$ I
9 D# n, N0 o8 e" I
一丶 机器学习概念
; M& L* O0 K4 N* G+ {
概述: 机器学习是人工智能具有智能的必要技术手段,人工智能的核心,机器学习是致力于研究如何通过CPU和GPU(图形图像处理器)的计算,利用经验或数据来改善计算机系统自身的性能
6 h. _7 k3 C4 e
" _5 H5 n; x: _4 m3 M( I
总结: 机器学习模型=数据+算法
% m1 \- g5 V+ B0 I/ `( E1 A
* P& ~; y1 o, O" H; E' O$ u% D
如果有新的数据,我们只需要带入到Model中就可以输出预测值
2 r% [! X$ k1 A' K& O
* E# l4 s) S' g; l0 U8 @, v
什么不是机器学习?
7 K" y$ j6 L* m
3 O" \5 L6 F: S5 T# h7 x
比如对于计算问题丶已经知道结果等不是机器学习问题(比如: 统计成绩搞的同学的topN)
, G/ I! L5 ~: F; S! N
机器学习其实就是需要有一个预测的过程
$ B" y) d, u( a4 }( J1 R
3 o8 Y5 r v9 n- f3 z* I) ~8 b- K6 @
机器学习概念补充:
5 [' L# r$ w: I) N* |
I' I- U! P. y0 E/ ?. l4 c# m( d
1.说明: X: 特征或属性 Y:类别标签类或预测的值
; I0 i, r6 l8 o% [+ l
- q- j, d' t3 B7 J' K9 ^
训练集和测试集: 通常要将数据集分为两部分,训练集用来模型的训练,测试集用来模型测试模型的好坏程度.
' t. P. w' t7 P6 H
模型的好坏: 训练误差(模型预测在训练集上的Y值误差)丶测试误差(模型预测在测试集上Y值的误差)丶准确率(分对的/全部)丶错误率(1-正确率)
! c7 |3 P! [ a" C3 O& u' u
二丶两种学习方式
3 x- M4 O5 d1 W# a) Y
基于规则的学习: 主要是通过基于专家发现的规则,指定规则,只需要新数据带入规则进行判断即可
A! I8 h' r- G! _: X" S
基于模型的学习: x:特征数据 --> f(函数-模型) --> Y(结果数据),基于模型就可以直接预测分析得到结果数据
/ ^3 X9 ?9 w9 \, @; G3 L
三丶术语
+ @' |$ u, L: n6 ?' h0 W
3.1机器学习分类的几种概念
, W, U. Z/ D2 Y$ H& Q
4 Y: R) [% l% f) K" \* z6 j
监督学习: 训练集数据有类别标记
& d% q( e- K( ?
无监督学习:训练集数据没有类别标记
4 d8 v+ q& B7 [+ V$ h t
半监督学习: 有类别标记的训练集+无标记的训练集
8 c. S/ F6 d. s* c& p+ _% y
强化学习: 常见的应用场景包括动态系统以及机器人控制等
9 a# ~* W; b" b- E2 o, q" ^' m
监督学习:
. m% _) d4 P/ q# y+ ?- x# y' b+ F0 Y. s
5 D* p* w9 ^0 c% s2 j: r( c
分类:预测值是否为连续值,不是连续值的预测的话,是分类
1 L$ p& I& H/ F. i. g3 b$ V: z
回归:预测值是连续值的话,是回归
9 o. T8 w8 g5 n* f! V+ U+ z
非监督学习:
6 U( S" s+ Q; T2 z% C2 G3 m9 w3 d) ?3 c
! r% U. Z# B. H+ r% R5 W" ^3 ~0 L
聚类:通过相似性度量,组内的相似性是极高的,组内的相异性是极高的,进行分类
/ {1 E6 i5 u5 H* G/ w* n
降维-通过算法进行降维的话,Z1和Z2的物理含义是不明确的
, J% V0 J0 [2 C: ^4 o
– 特征选择: 从原有的特征中选择比较重要的特征—x1,x2,x3==>Z1,Z2
; ]1 m. L8 T$ l" V
半监督学习:
5 w) a1 D/ ^3 G4 E! O6 @
2 d+ ?5 F9 P9 r5 |7 J
1.基于聚类的假设
* j8 [& D9 ^0 W) `) F( i
–有类别标记的数据+没有类别标记的数据,将有类别标记的数据,去掉标签列,
4 v6 f9 [4 J- ]9 w2 |4 P6 z
此时所有的数据均没标签,对全部数据进行聚类,聚类之后,有类别标记的数据和没有类别标记的数据,有可能被分到不同的组或簇中,将所有的,有类别标记的数据,根据机器学习常用的处理方法–投票原则,根据少数服从多数的原则进行表决,将没有带类别标签的数据加上类别标签
/ c9 p5 a k* z' \' P
2.利用所有样本再进行模型训练
7 n; Z" c1 I7 G1 m4 Z3 U" S4 N- f
强化学习:
$ X9 [' ?5 k) Z' y8 N, ]
. r1 H e+ W+ l. A6 i7 [" H7 k
解决连续决策的问题丶围棋丶无人驾驶汽车等问题
- F& [) \ r2 B; \6 c
3.2机器学习三要素
# ]8 P& z; ?, P8 w) G* j
8 T1 w& S, ~" Q7 `
模型: 决策函数丶条件概率分布
7 A+ }' g, f s) q, w) Q
算法: 解析解和最优解(梯度下降法和牛顿法)
5 L! w0 f, P3 [1 E7 Z3 m
策略: (损失函数)评判一个模型的好坏
7 Q, ]1 [8 T8 v
3.3其他
# W- F9 T* G& I* O" x% ~2 `
8 g7 b4 r5 @0 ?
降维: 将多维数据降成低维度数据,不过降过的维度不能使用具体的物理含义表示
6 k" B0 O. w1 s7 i) B: Y
抽样: 有行抽样和列抽样,如果模型发生欠拟合和过拟合,可以使用抽样方法很好的解决
% U8 a, F; u: O3 y+ K8 m
交叉验证: 交叉验证就是将拿到的训练数据，分为训练和验证集。以下图为例：将数据分成4份，其中一份作为验证集。然后经过4次(组)的测试，每次都更换不同的验证集。即得到4组模型的结果，取平均值作为最终结果。又称4折交叉验证
. e7 U: K* R! I8 P, Q
过拟合: 模型对于训练集效果很好,对于测试集效果较差 原因:模型过于复杂
/ J7 z/ |- }. c3 e
欠拟合:模型对于训练集和测试集效果都很差 原因: 模型太过简单
p8 v. y( w' p" O S, o
模型选择的基本原则-奥卡姆剃刀原则:在具有相同泛化误差的模型中,选择较为简单的模型,防止过拟合
2 \5 n7 W+ v' X" v5 S
特征向量: 将属性或特征,通常使用向量来进行表示
: C1 c6 R) J1 _! u2 ~' N K b
训练集: 数据集划分的一部分,来用于模型或者算法的训练
# \8 v! A( \& C: a- g0 H
测试集: 数据集划分的一部分,来用于对已经训练好的模型进行测试模型的误差好坏
$ K! z' V0 i5 D
& c# Y2 K' ]7 l" b. W# [4 H/ V
; a* B" w5 I2 G7 z
四丶分类和回归问题
' F' ^1 o/ }: J& C
4.1说明
# I, f" p/ u4 f9 z* C% F0 ~, K0 F
. X5 a0 k4 [3 ` C/ o. l* U+ o, d) ~
如果预测值是连续值对应的问题是回归问题
" w. u J* ~1 ]5 d) W# S
如果预测值是离散值对应的问题的分类问题
( ]2 \+ o9 q+ w
4.2类别型变量处理
3 p" K- ]& R3 H5 M: ^; B, T( g
比如天气: 晴天丶阴天丶雨天
( c' x" I# k# M% ~, K5 l
lable encoder: 标签编码
6 Y/ Q y- {; U. K
2 T1 `- |; g3 l+ K* u! B2 X& k
晴天丶阴天丶雨天
' K/ i! z- U, r1 f
0--------1--------2
% O* |' e' Y1 }1 C1 B: q6 U
6 y6 m" ?+ d5 U1 r, I
ont-hot encoder: 独热编码(二进制方式)
& q% v- h( U& ?2 e- H7 Y
2 W' ~8 n4 W+ x% p+ T1 A8 v- P: P
晴天 丶 阴天丶 雨天
2 J" }! S! G- ^) R
1---------0----------0
1 l7 r8 n9 A: @* J
0---------1----------0
8 T( A- C: J. q
0---------0----------1
2 J: J3 m: |2 ]! M( U, ~
0 e* Q, H' `2 N" ?2 g3 d3 ^; K$ R: s% ?
总结:通常使用label encoder(标签编码)
! p9 x0 T% ?( h7 F
————————————————
' d/ o& ~1 C+ u2 q
版权声明：本文为CSDN博主「First_____」的原创文章，遵循CC 4.0 BY-SA版权协议，转载请附上原文出处链接及本声明。
6 Q; m: n6 I" ]/ l
原文链接：https://blog.csdn.net/First_____/article/details/126717523
1 A l% ~- u# a |0 J b. u
3 q9 U/ i8 e; ^# R" }3 p8 f
k2 x8 Z6 x! L9 |
7 S( ]1 ?0 V& {; d/ n; B$ v P
欢迎光临 数学建模社区-数学中国 (http://www.madio.net/)
Powered by Discuz! X2.5