数学建模社区-数学中国

标题: 1.机器学习概念及相关术语解释 [打印本页]

作者: 杨利霞    时间: 2022-9-8 10:23
标题: 1.机器学习概念及相关术语解释
' {% f: I4 t! z9 P( p) ]9 }
1.机器学习概念及相关术语解释
- a  @8 s% ~) d3 m. y' j- h; V8 E& f3 p
一丶 机器学习概念" m1 T0 m- \4 W4 i  D
概述: 机器学习是人工智能具有智能的必要技术手段,人工智能的核心,机器学习是致力于研究如何通过CPU和GPU(图形图像处理器)的计算,利用经验或数据来改善计算机系统自身的性能6 q  g" A+ k. \: k! Y* o  M

4 v" |, U% I/ e4 h2 }" k; y总结: 机器学习模型=数据+算法+ @4 h) G, z# D+ p$ a% r9 {

" L9 ~9 C. p  V: n4 y如果有新的数据,我们只需要带入到Model中就可以输出预测值
  y8 Z" p/ m! J& X2 M+ ^3 k' C. N9 p0 r- p( ~( M0 Q
什么不是机器学习?" W& b9 Q; g5 S1 y$ ?
" C9 @4 u- H6 v: b# V$ m4 T
比如对于计算问题丶已经知道结果等不是机器学习问题(比如: 统计成绩搞的同学的topN)$ E1 w) J. l9 m, l  g5 S
机器学习其实就是需要有一个预测的过程
% J: j) M* B0 a: [( Y
& ~0 Q$ \" X2 c9 {; _机器学习概念补充:- T& ]; R! v4 C* _
3 x  ], W, o9 `
1.说明: X: 特征或属性 Y:类别标签类或预测的值1 A; Z! q& Z( C+ U" k: V: U7 S

* k6 A2 S3 C6 q2 z0 n2 Y& w训练集和测试集: 通常要将数据集分为两部分,训练集用来模型的训练,测试集用来模型测试模型的好坏程度." O* i& N6 ^; A- {) J: g, {# g% T: h
模型的好坏: 训练误差(模型预测在训练集上的Y值误差)丶测试误差(模型预测在测试集上Y值的误差)丶准确率(分对的/全部)丶错误率(1-正确率)7 c2 t0 U8 R. _1 p  M& u# z' q$ |  s
二丶两种学习方式! f$ h, H3 s4 H
基于规则的学习: 主要是通过基于专家发现的规则,指定规则,只需要新数据带入规则进行判断即可$ A! B# u8 \7 p: W6 D0 e
基于模型的学习: x:特征数据 --> f(函数-模型) --> Y(结果数据),基于模型就可以直接预测分析得到结果数据  t) L% x% K; C, }: W
三丶术语' \5 N* V# v5 b
3.1机器学习分类的几种概念5 _9 n, [0 F$ I- u% u

( H5 f2 R+ D1 L! {3 l* [监督学习: 训练集数据有类别标记
' v! A" @" c2 f; P2 w无监督学习:训练集数据没有类别标记
1 s5 l+ n" ~" p半监督学习: 有类别标记的训练集+无标记的训练集0 G  c' m- |; i+ l( f) n
强化学习: 常见的应用场景包括动态系统以及机器人控制等
. l; P) `  ?: [. K& `6 f% Q3 L% z监督学习:( x  g: z- r: U
. `/ \/ ^5 p( r7 F* p% k, |
分类:预测值是否为连续值,不是连续值的预测的话,是分类% N1 [6 y2 A4 `3 N2 W8 r& Q- d" d; A
回归:预测值是连续值的话,是回归3 I3 e3 ^, f" L) S8 V
非监督学习:) r8 A$ R$ p7 r3 p- s; t- }4 f: \
' L: e" ?' e: h, @' @
聚类:通过相似性度量,组内的相似性是极高的,组内的相异性是极高的,进行分类2 ~$ z0 v4 f6 I6 D% x; f9 ~
降维-通过算法进行降维的话,Z1和Z2的物理含义是不明确的$ e) }- m3 J: D8 j6 }
– 特征选择: 从原有的特征中选择比较重要的特征—x1,x2,x3==>Z1,Z2- S7 h+ a& [% U6 [% Z( o
半监督学习:! J2 }3 d7 O) T0 j. K% T# j
% y0 R5 G% h( X
1.基于聚类的假设- v. k# I6 x2 l" ^  d
–有类别标记的数据+没有类别标记的数据,将有类别标记的数据,去掉标签列,
3 u8 Z2 [! c+ }2 i! J& ~' H$ ]% }此时所有的数据均没标签,对全部数据进行聚类,聚类之后,有类别标记的数据和没有类别标记的数据,有可能被分到不同的组或簇中,将所有的,有类别标记的数据,根据机器学习常用的处理方法–投票原则,根据少数服从多数的原则进行表决,将没有带类别标签的数据加上类别标签8 U7 V: X" c6 F1 |: n- ]
2.利用所有样本再进行模型训练6 a% `% f) P; s" Q8 H% i  i! I
强化学习:( k/ q0 j! N$ W
* K1 q. g. V- _8 j6 s$ v! M, ?9 S
解决连续决策的问题丶围棋丶无人驾驶汽车等问题
: B+ k7 P( [* A/ T* m! n! m3.2机器学习三要素. E% c/ L* D( N

& O/ z* T* q8 I6 h: ?6 \, z模型: 决策函数丶条件概率分布
+ r! a- n( y  N2 J2 W; R; T算法: 解析解和最优解(梯度下降法和牛顿法)
* ?' A8 z7 B: V1 q策略: (损失函数)评判一个模型的好坏3 e: `& T: q7 E6 g, q! q2 b% K2 P
3.3其他( n9 _# {' }" G. f  z2 i2 j- S; p

3 \3 \0 z4 z% P& H3 N降维: 将多维数据降成低维度数据,不过降过的维度不能使用具体的物理含义表示
. v& d" e: A/ e8 v; @$ \, u/ {1 u抽样: 有行抽样和列抽样,如果模型发生欠拟合和过拟合,可以使用抽样方法很好的解决) n/ y1 w: r  o9 A- J& ]
交叉验证: 交叉验证就是将拿到的训练数据,分为训练和验证集。以下图为例:将数据分成4份,其中一份作为验证集。然后经过4次(组)的测试,每次都更换不同的验证集。即得到4组模型的结果,取平均值作为最终结果。又称4折交叉验证, \/ g' P. c0 [5 S3 h$ K$ T
过拟合: 模型对于训练集效果很好,对于测试集效果较差 原因:模型过于复杂+ i" X: l8 Q( i) c& z
欠拟合:模型对于训练集和测试集效果都很差 原因: 模型太过简单; T5 g! b8 ?' Y# s
模型选择的基本原则-奥卡姆剃刀原则:在具有相同泛化误差的模型中,选择较为简单的模型,防止过拟合" c+ K( \2 x, J6 i, ^
特征向量: 将属性或特征,通常使用向量来进行表示, y1 _) G# ?+ j" f' H' P4 D
训练集: 数据集划分的一部分,来用于模型或者算法的训练) l  r( G! U+ }# h8 C0 L! a) J8 P
测试集: 数据集划分的一部分,来用于对已经训练好的模型进行测试模型的误差好坏; }5 P1 t2 W. j; J, E3 b

$ o  b  w1 X' G# V5 v* T( |+ r/ E$ {( X1 ^% U% w
四丶分类和回归问题8 p) V, T( g7 C' u+ @! }: L
4.1说明  ~7 ?0 i% F* C7 ~6 v5 J' g" H: t

6 d9 h: B& {+ F; e/ G如果预测值是连续值对应的问题是回归问题
; M" U% W4 B8 B; z) c如果预测值是离散值对应的问题的分类问题
* F7 w/ r) }4 b7 G3 [4.2类别型变量处理( K6 {; S) l* {( G7 o
比如天气: 晴天丶阴天丶雨天
0 E: `' D8 w* A7 I: H4 ?2 M$ c# p6 ?lable encoder: 标签编码: ]; x$ u0 b5 q# F+ h
* K5 F0 `  `& E- M6 i' w& d/ j, H  W
晴天丶阴天丶雨天
2 P, D7 h. H  z( w0 j  H8 z0--------1--------2
& J2 b3 {( u4 r: s2 u
# Y6 f/ E2 Z, q" T2 Qont-hot encoder: 独热编码(二进制方式)6 Y; e8 z! P* P6 j

! x9 Z& [* h  B/ s+ R# O% m" k& ]晴天 丶 阴天丶 雨天
1 ]+ H+ G$ y! C' Y! ?# @% v1---------0----------0# x3 a% @0 c! ~. x$ C4 H; }
0---------1----------03 w1 ~1 D' ]$ E, l' H9 T: Z! j! h3 g
0---------0----------1
: w& R% J/ x; J
) I- \" c6 n1 u( T总结:通常使用label encoder(标签编码)
# o+ ]7 h! Z6 }* d; x/ a% V/ w————————————————
6 L) j: B2 [1 q) s版权声明:本文为CSDN博主「First_____」的原创文章,遵循CC 4.0 BY-SA版权协议,转载请附上原文出处链接及本声明。
$ N- u: k9 e. G7 Q- k  g6 f原文链接:https://blog.csdn.net/First_____/article/details/126717523
3 f7 u0 ~; X: d* v: {( Q) B5 K" ~$ A# ~3 s3 ]
- \7 v, E1 W/ [# h, F" ~. d. i$ |$ q: q

; `. |" A8 _7 ?: y




欢迎光临 数学建模社区-数学中国 (http://www.madio.net/) Powered by Discuz! X2.5