数学建模社区-数学中国

标题: 求c语言数据挖掘算法 [打印本页]

作者: wangzheng3056    时间: 2013-8-21 11:57
标题: 求c语言数据挖掘算法
       老师最近给我们发了一个文档,txt格式的。大小有2GB。8 X' Z: F# r6 n/ k2 ?
       要求使用C++配合hadoop,用最快的速度统计出文档中出现频率最高的10个词。5 U1 H9 p. r2 i9 s: O* V
       what can I do? can you give some ideas?
作者: 我爱照镜子    时间: 2013-8-21 14:28
楼主应该把所有单词放到链表中,并且建立一个链表的索引。字典序排列每一个单词,重复出现在链表中计数。
& ]/ h8 q9 V' |/ I5 n+ j; l$ q' |2 v4 U- [+ Z5 W
. o, W' G$ z% I6 @0 l1 @
hadoop是什么啊?
作者: wangzheng3056    时间: 2013-8-21 16:22
我爱照镜子 发表于 2013-8-21 14:28 8 Z- \! U. x9 o& T, k' N
楼主应该把所有单词放到链表中,并且建立一个链表的索引。字典序排列每一个单词,重复出现在链表中计数。. h* q0 P+ v1 H0 o3 L
...
7 ~$ x- r0 u' F  E
我也不太清楚,好像和云计算有点关系
作者: wangzheng3056    时间: 2013-8-21 16:22
我爱照镜子 发表于 2013-8-21 14:28 ) [2 I  F/ r' N6 ]  O5 e  c
楼主应该把所有单词放到链表中,并且建立一个链表的索引。字典序排列每一个单词,重复出现在链表中计数。% H5 o* I" y% Q$ w2 ?  _
...

9 M4 H* A& k; s* S! m谢谢你的回答,只能这样做了
作者: math~a    时间: 2013-8-21 22:15
学到了!) w7 X+ F5 r: G( ~. `: N

作者: wangzheng3056    时间: 2013-8-22 09:00
math~a 发表于 2013-8-21 22:15
1 b  D0 }0 u% H$ s0 V1 N9 J学到了!

) z9 |$ z1 b3 t8 w5 `* X您有什么好的想法吗?
作者: math~a    时间: 2013-8-22 14:21
只看到2L的思路,学到了他的方法,自己的还没出来!!
作者: 海阔天空521    时间: 2013-8-22 17:39
不错 不错 谢谢啦!
作者: topershbby    时间: 2013-10-8 09:38
hadoop中不是有自带的wordcount的例子么,LZ可以去试一试




欢迎光临 数学建模社区-数学中国 (http://www.madio.net/) Powered by Discuz! X2.5