ITPub博客

首页 > 大数据 > 数据分析 > 大数据分析需注意哪些问题

大数据分析需注意哪些问题

原创 数据分析 作者:大数据小知识 时间:2020-07-22 13:38:53 0 删除 编辑

  信息时代,数据俨然已成为一种重要的生产要素,如同资本、劳动力和原材料等其他要素一样,而且作为一种普遍需求,它也不再局限于某些特殊行业的应用。在提高大数据分析效果方面我们都需要注意的问题都欧哪些。

大数据分析需注意哪些问题


  提高大数据分析效果的常用方法分享:


  1、业务分析:对于业务的理解能力越强,选择的数据和变量就越有价值,这是机器学习的要点,当然极个别的场景除外,比如下棋。


  大多数企业机器学习的应用场景涉及的要素基本是无法穷尽的,因此,越复杂的环境,就越需要强大的业务理解能力,现在只有人有这个能力。


  2、样本数据准备:大多时候,我们需要从数据仓库(当然数据库,文件都可以)获取所需的样本数据,数据仓库的效率起到至关重要的作用,比如数据预处理,这个阶段往往耗费了大量的时间。


  3、变量选择:业务分析虽然能大致圈定一些变量,但有时还是需要依赖一些更为客观的评价方法,比如IV,WOE等等,甚至需要单独建个模型来取舍变量,这个过程往往是独立的。


  4、样本数据输入:需要根据变量选择的结果决定样本的终数据,作为模型训练的数据输入。


  5、模型训练:需要选择合适的数据挖掘引擎和算法(深度学习或者机器学习等等),无论是基于图形界面或是脚本;需要将样本数据输入到挖掘引擎中,无论是基于JDBC,ODBC还是文件。


  一般我们以为的机器学习就特指这个过程,因为技术含量高嘛,但实际上这个阶段花的时间并不多。


  6、模型发布:需要将训练好的模型文件发布到生产环境,这又是一个完全独立的过程。


  7、生产数据输入:需要基于数据仓库或大数据平台定期生成待预测的数据作为模型输入,然后获得模型预测的结果。


  8、结果数据应用:将预测结果(一般是表)推送到各种应用平台,真正产生价值。


  大数据分析需注意哪些问题.中琛魔方大数据分析平台()表示企业应加强业务需求调查和业务体系结构优化,巩固数据基础和应用基础,不断选择、训练、评估、应用和优化模型,不断推进大数据分析建模的应用,为大数据的转换和升级奠定坚实的基础。


来自 “ ITPUB博客 ” ,链接:http://blog.itpub.net/69936596/viewspace-2706134/,如需转载,请注明出处,否则将追究法律责任。

请登录后发表评论 登录
全部评论
中琛魔方大数据分析平台(www.zcmorefun.com)

注册时间:2019-07-01

  • 博文量
    899
  • 访问量
    439828