ITPub博客

首页 > IT基础架构 > 服务器/存储 > 从数据收集到信息挖掘,我们该看重什么?

从数据收集到信息挖掘,我们该看重什么?

原创 服务器/存储 作者:HitTwice 时间:2018-06-05 15:29:49 0 删除 编辑

  说到人工智能、深度学习,大家总会第一时间想到算法和模型,再然后就是最根本的、提供动力源的数据。由于人工智能技术的飞速进步与广泛应用,我们对待数据的方式已从收集为主转变为以获取信息为主。

  如果你不把存储的数据转化为可用的信息,那么这些数据——狭隘点说——就只是一堆字节而已。而完成这个转化的过程之前,有时也需要多年时间来收集足够的数据,比如医学方面新工艺、药物或设备的试验;基于不常发生的外部因素的群体行为;气候变化。

从数据收集到信息挖掘,我们该看重什么?

  首先,数据保存的重要性无法否认

  关于数据,有一句很拗口的话,你不知道什么是你不知道的。有个很好的例子:“垃圾DNA”。这一术语是20世纪70年代某遗传学家发明的,用来表示基因组中95%—98%的不编译任何蛋白质或酶的DNA。当时的生物学家认为,既然几乎所有具体的生理机能都要蛋白质来完成,那么不编码蛋白质的DNA应该是没有用的,可以称为“垃圾DNA”。到本世纪初,人们发现一些垃圾DNA其实调控着染色体的复制方式和时间。

  对于当时的人们来说,存储数据的成本是很高的。当然DNA测序的成本更大,这也是当初人们要保留垃圾DNA数据的原因之一。收集数据的成本很高,存储数据的成本也很高,正是因此,我们要更加感谢那些在我们之前做出正确事情的人。他们顶着成本压力储存了这些旧的数据,让我们有机会从中发现更多信息。

  我们知道,一些天气预报中心每天都会保存所有收集到的数据,包括其预报模型的输出。当这些网站有一个新的预测模型时,他们通过新的模型运行旧的数据,查看模型的输出和观察,看看新模型是否比旧模型更好,以及有多好。对于一个城市来说,这个工作似乎很容易,但对整个地球来说,是大量的数据和信息比较。

  因此,存储和数据架构师面临的挑战往往是如何通过开发满足性能、可伸缩性和治理需求的架构来保存这些数据。

  由数据收集向信息挖掘的转变

  从有数据收集开始,其唯一目的就是要使所收集的所有数据都有实际意义。手工进行数据收集和分析非常耗时,将数据转换为信息也既费时又费钱。

  信息时代始于1890年美国人口普查时何勒内斯打孔卡片的使用,尽管它们是空白的,但与你见过的格式化卡片不同。这里的关键问题是,在1890年以前虽然有大量的数据,但并没有工具来进行分析,而且将其转化为信息的成本很高。

  很明显,在1890年的人口普查中产生的信息在今天的标准下是非常基础性的。但按照19世纪90年代的标准,却是革命性的。通过这个办法,人们能够非常迅速地查看人口普查的结果并做出决定(例如,基于数据的可操作的信息)。

  到了今天,我们已经不再把1890年人口普查数据的表格化称为信息。信息的定义——与数据相比——应该基于当代的标准,同样的,许多其他领域中的某些定义也在发生变革。

  信息分析市场的规模和范围在不断扩大,从自动驾驶汽车到安全摄像头分析再到医疗发展。在每一个行业,在我们生活的每一个角落,都有快速的变化,并且变化的速度也正在增加。所有这些都是数据驱动的,所有收集的新旧数据都被用来开发新的可用信息类型。围绕数据收集与信息发展的需求,有很多问题也因此浮现。

从数据收集到信息挖掘,我们该看重什么?

  除保持数据活性外,合规性同样重要

  许多需求基于你所拥有的信息和数据类型。例如,一些可能涉及使用所谓DAR(Data Encryption at Rest,空闲时数据加密),它会对存储设备进行加密,这样如果从系统中删除,数据几乎是完全不可能访问的。(其困难程度取决于加密算法和大小、复杂性等)。我们可以将这种类型的需求归纳为“可操作性需求”,即数据在发挥价值的整个过程中会对架构、设备等产生的硬性需求,以确保满足业务运行所需的性能、可用性和数据完整性,为保持数据和信息的活性,所有这些问题都需要得到解决。

  除此之外,你的数据或信息也应该基于你所在行业的最佳实践或地区的法规条例,如最近欧盟出台的GDPR(通用数据保护条例)。也就是说,你对数据的使用需要始终保持合规性。由此产生的体系结构或过程方面的变化,也是需要架构师来处理的一类重要事务。

  最后的想法

  要做到合规并不容易,而且也不便宜。决定其成本的因素有很多,但是在计划和搭建好体系架构之后试图强制遵从,总是比事前做的代价要高。

  笔者认为,在定义合规性需求时,你应该着眼于未来,而不是只看现在,因为事后硬塞东西的成本和挑战会更多。这意味着,我们需要不断地研究行业中的合规性需求,以及最佳实践。数据在未来只会变得更加重要,我们始终会面对挑战,何不先定好应对方案。

来自 “ ITPUB博客 ” ,链接:http://blog.itpub.net/31473948/viewspace-2155650/,如需转载,请注明出处,否则将追究法律责任。

请登录后发表评论 登录
全部评论

注册时间:2017-07-06

  • 博文量
    133
  • 访问量
    231596