首页 > 大数据 > 数据挖掘 > 关于数据挖掘工具的讨论(转)
这个数据挖掘的黑盒子过程实际上包括了统计学的精华。最后的"模型"检验通过了,"模型"的有效性就是可信,可以应用。
要求解释"模型"的一方面,是要降低数据质量的风险,于是就找些与目标不相干的事抽查一下。另一方面是在应用人员控制不了分析流程的情况下,防止挖掘人
员作弊。这些都是"模型"数据输入的问题,不是"模型"自身的问题。
要理解"模型"是另一个问题,就是为了理解现实世界。有些应用场合,实在是无法解释"模型"的,也不是很要紧,例如在文本分类、机器视觉,"模型"很
炫,其中的数学完全让我看不懂,更不要说业务含义。商业的现实世界本身也很混乱,很难用数学解释。尽管如此,如果通过"数据挖掘"能发现一些深层的"知
识"也不错,这时如果仅服务于一个"模型"就有点可惜。在做大的"模型"的过程中,积累这些"微模型"(实质上更广义的模型概念),定期整理,好用的就
封装成可重用的知识构件,这比前面说的数据变量重用要高一个层次。在以后的建模在使用,象砌积木一样,可以以更低的成本搭建更好的"模型"(更佳的可理
解性和准确性)。其实计量经济、微观经济、市场科学的人早就在做这些工作,挖掘工人拿来套一下就可以了。
来自 “ ITPUB博客 ” ,链接:https://blog.itpub.net/8227599/viewspace-932937/ ,如需转载,请注明出处,否则将追究法律责任。