数学建模社区-数学中国
标题:
浅谈大数据建模
[打印本页]
作者:
浅夏110
时间:
2018-11-1 10:28
标题:
浅谈大数据建模
前言：建模的过程和方法，不断地被开发和完善，你可能会说不同的数据类型，不同的业务场景，不同的需求，都会有不同的建模方法。但是不管你的数据是什么，要在大数据中建立自己的数据模型这其中的套路还是有规律可寻的。
1 B2 T: ]1 F% D: S; d+ R8 _/ E
; P$ E' _: B; ]" }* V+ }
一.数据准备
& u. T; w3 p; ~& j$ w6 B0 H
; l8 r W! Y2 |8 F) J' S
二.执行探索性数据分析
4 [0 T- {* K v" N) Q
, \( I9 q0 o% \7 i5 W6 e
三.建立初始模型
$ I; E$ J) R/ i
8 E. z% |/ E/ \( h* I8 |- P) W
四.模型迭代构建
) Z8 c& c2 k, r; R- ]
( h: H. M5 e' z4 d
数据准备：在大数据计算中从来不嫌数据太多，相反的数据越多越好。只要数据量大就好么？不是的，宁可要一小堆有潜质的矿石，我也不会去要山一样的土堆。在你数据量尽可能大的同时，一定要注意你的数据质量。数据质量一般体现在数据的时间维度，和数据粒度上。时间维度当然是越长越好，我们拿计算降雨量来看，如果你要预测一个地区未来一年的降雨量，你拿今年一年的数据去预测明年的数据，肯定没有我拿该地区过去一百年到现在的数据来预测明年降雨量客观。关于数据的粒度，很多人都会认为，数据"全"就是粒度小，或者是粒度细，我对此抱有不同看法。我认为数据粒度体现在数据的划分上，我们对现有数据的划分情况,方可体现数据的粒度，假如我们可以得到的数据量，和维度上是一样的，一个数据划分比较详细有很多数据关联，另一个划分很粗糙，那么结果不言而喻。
; s, b0 [% Z# S0 M% j* c3 q2 R" U
8 _' D$ T& w) d$ K7 m( y o
执行探索性数据分析：我们对数据划分，本身就是分析数据的一种体现，这个步骤可以让你理解数据，获得数据之间的关系，以及我们对于数据的直觉。当然我们对于数据的理解，和对于数据的直觉是简历在相关知识上的，如果你对现有数据一窍不通，你怎么去进行探索性数据分析呢？数据可视化，我认为是进行数据分析的关键。人脑无法与计算机相比，我们需要可视化的界面来展示数据，这样有利于我们对数据进行分析，像来自SAS，IBM，SAP或者QlikeTech和Tableau的可视化产品，它们已经商业化了。对于数据探索是永远不会停止的，我认为图形化数据是一个很好的方式，但是你可能会有更好，更适合你的方式。有一篇关于数据分析的文章，我记忆尤新的一句话，我也非常赞同作者的看法，那就是：要知道何时停止探索。要探讨这句话的意思，小编真的是停不下来，要知道何时停止探索，就是要明确你数据探索的标准，没有标准你怎么能在茫茫数据大海中捞针呢？
5 C7 ?( R$ W. R, t$ l
" R* ~: w7 }1 `4 Q) b$ y
建立初始模型：这是一个至关重要的步骤，不管是否你对数据有深刻的研究，都不能跳过的一步。引用一下爱迪生的那句话“我并未失败，我刚刚发现了10000种不成功的方式”。除非你建立初始模型，否则你无法准确评价模型的潜在影响。决策树不失为一个好办法，实践是检验真理的唯一标准。
; W* b" }' o1 u9 \3 v
% z5 [& [+ Y N1 i. G% d" O
模型迭代构建：这应该是建模时间最长的一个阶段，也可以说没有时间终点的一个阶段。每一次的迭代都是一次实践的反馈，你要建立的模型是要经历不同的场景的，是一个“有故事”的模型，故事越多越好。通常是没有一个具体的评判标准来评判，你是否还有更好的建模，但是实际情况是，我们业务或者需求会有一个强制的时间窗口。就比如说，下个月客户就要你的清单，那么，你要做的就是在有限的时间里，不断地去迭代你的模型。
% L% t! a' i; ?: i6 H( R9 ~2 D+ p6 ^
9 _# `2 M& ]7 e9 T2 \0 S
: \9 I3 z4 p# g3 j, b$ _
欢迎光临 数学建模社区-数学中国 (http://www.madio.net/)
Powered by Discuz! X2.5