ITPub博客

首页 > 大数据 > 数据分析 > 好程序员大数据技术盘点 你都知道吗

好程序员大数据技术盘点 你都知道吗

原创 数据分析 作者:好程序员IT 时间:2019-05-31 15:53:01 0 删除 编辑

  好程序员大数据技术盘点 你都知道吗, 大数据的概念,指的是无法在一定时间内用常规软件工具对其内容进行抓取、管理和处理的数据集合。而大数据技术,是指从各种各样类型的数据中,快速获得有价值信息的能力。

   第一,数据采集

   ETL工具负责将分布的、异构数据源中的数据如关系数据、平面数据文件等抽取到临时中间层后进行清洗、转换、集成,最后加载到数据仓库或数据集市中,成为联机分析处理、数据挖掘的基础。

   第二,数据存取

   关系数据库、 NOSQL、SQL等。

   第三,基础架构

   云存储、分布式文件存储等。

   第四,数据处理

   自然语言处理 (NLP,Natural Language Processing)是研究人与计算机交互的语言问题的一门学科。处理自然语言的关键是要让计算机"理解"自然语言,所以自然语言处理又叫做自然语言理解(NLU,Natural Language Understanding),也称为计算语言学(Computational Linguistics。一方面它是语言信息处理的一个分支,另一方面它是人工智能(AI, Artificial Intelligence)的核心课题之一。

   第五,统计分析

   假设检验、显著性检验、差异分析、相关分析、 T检验、方差分析、卡方分析、偏相关分析、距离分析、回归分析、简单回归分析、多元回归分析、逐步回归、回归预测与残差分析、岭回归、logistic回归分析、曲线估计、因子分析、聚类分析、主成分分析、因子分析、快速聚类法与聚类法、判别分析、对应分析、多元对应分析(最优尺度分析)、bootstrap技术等等。

   第六,数据挖掘

   分类 (Classification)、估计(Estimation)、预测(Prediction)、相关性分组或关联规则(Affinity grouping or association rules)、聚类(Clustering)、描述和可视化、Description and Visualization)、复杂数据类型挖掘(Text, Web ,图形图像,视频,音频等)。

   第七,模型预测

   预测模型、机器学习、建模仿真。

   第八,结果呈现

   云计算、标签云、关系图等。

   其实,关于大数据的技术内容远不止以上内容, 欢迎继续关注。


来自 “ ITPUB博客 ” ,链接:https://blog.itpub.net/69913892/viewspace-2646377/ ,如需转载,请注明出处,否则将追究法律责任。

请登录后发表评论 登录
全部评论
欢迎关注公众号:好程序员特训营 web前端教程分享 723729549 大数据教程分享 703503210

注册时间:2019-03-20

  • 博文量
    539
  • 访问量
    410804