ITPub博客

首页 > 大数据 > 数据分析 > 真的,不要迷信数据分析

真的,不要迷信数据分析

原创 数据分析 作者:大数据频道 时间: 0 删除 编辑



来源:知乎

作者:Allen Sun


最近有同学问了我一个很致命的问题:数据分析真的有必要做吗?为什么感觉都是伪需求?怎么确定数据分析结论是真的?

其实这个问题我也曾经想过,究竟为什么很多人都在神化数据分析,遇到任何问题不管三七二十一,都要拿出数据来分析一通?

其实,这是过度追求数据分析的表现,数据往往不一定就是真实客观的,做数据分析的人也会被数据给欺骗,所以很多时候太过迷信数据,反而容易出问题。

所以今天从数据来源偏差、数据解读陷阱、人为操控误导这三方面来聊聊数据的“坑”,希望你看完后能了解些套路,再看报告或数据时多个心眼,带着怀疑的精神看数据,不要掉入陷阱。

一、数据来源偏差

 

1、样本量和代表性

你可能听说过“黑巧克力能减肥”这个说法。2015年约翰波哈诺博士在一篇期刊上登出了这项研究成果,媒体记者们纷纷转载。
但其实这个事件都是波哈诺杜撰出来的,他随便找了16个人做样本基数,然后就推导出这么个结论,目的就是想看看谣言怎么变成权威媒体的头条。研究发表后没有一个记者来联系他问他这个实验的样本量是多少、代表性怎么样、过程是否合理,直接就发表和引用了“研究成果”。
所以,样本量和代表性是决定数据结果靠不靠谱的前提条件
大厂们虽然看起来有“大”数据,但是由于数据孤岛的存在,其实数据也是有偏向的。比如阿里固然有淘宝几亿用户的消费数据,但是也拿不到这几亿用户的微信数据。而且大数据基本都是行为数据,和真实态度、心理预期等等态度数据还有有差别,再有就是用相关性推测因果也有不少坑。
作为非专业人士的我们,其实看报告或者看数据时主要还是留个心眼。看看有没有提到数据源,数据源可能带来哪种偏差,带着思考去看报告。
如果看到一些数据结论和你的认知有差别、甚至是相反的,不用立刻相信结论,扭转认知,而是先想一想这数据来源靠谱嘛,发数据的机构有目的吗。另外,也不用太纠结于具体数字,而是去看数字背后的趋势、比较、差异

2、问题缺陷
刚才我们也提到大数据更多是行为数据,有时要拿到态度数据,还是要靠用问卷问问题的方式。在用问卷收集数据时,如何问对问题就很有讲究了,比如这几种情况:
曾经有个某饮料品牌打算推出新口味的饮品,推出前心里没底,就做调查。
他们问了一个问题“我们要推出一款口味更柔和的新产品,你会喜欢吗?”数据收集回来以后,发现喜欢的比例高达90%,结果新品上市以后,消费者恶评如潮。现实和数据体现了如此大的反差,原因就在于问题中有一个很明显的正面诱导词“更柔和”。
所以无论是看别人的数据报告,还是自己做问卷,都得注意问的问题是不是客观无偏向,选项是不是合理。选项一般来说要尽可能符合MECE原则

二、数据解读陷阱

 
数据解读可以说是遍地是坑,这里我选了比较常见和有意思的几种。

1. 相关不等于因果
相关和因果是解读数据绕不开的话题,特别是我们要用数据去预测趋势,解决问题,用一件事的情况去推测和判断另一件事,搞混相关和因果,就容易闹笑话。
比如:

每年冰淇淋销量一升高,游泳溺亡人数就开始增长。所以禁止销售冰淇淋,有助于挽救生命。

其实,事件A和事件B有相关关系,但可能有因果关系也可能没有因果关系。
这个道理说起来简单,好像人人也都知道,但是很多时候,甚至经验丰富的分析人员也会在这上面犯错。
其实很多时候我们都是带着期待,带着目的在看数据,我们希望数据能告诉我们真相,给我们解答,告诉我们为什么,好让我们做出决策。
所以看到两条曲线趋势有规律,看到两组数据有相关,就会开始兴奋,感觉自己好像抓到了答案,但这时候就往往容易过度解读。
数据只是数据而已,所谓答案其实不是数据告诉你的,而是你自己推出来的。越是这时候就越应该冷静一下,多思考,不要轻易下判断。

2. 幸存者偏差
还有一个特别有名的误读,你可能也听说过,就是大名鼎鼎的幸存者偏差。
幸存者偏差是怎么来的呢?
二战期间,美军计划在飞机上安装厚钢板来抵抗攻击,提升飞行员生存率。但是因为重量限制,只能给最关键的部位安装。他们仔细检查了所有返航回来的飞机机身上的弹孔分布,发现大部分都位于机翼和飞机尾部。于是大家就热火朝天准备给机翼加钢板。
但是这时候,数学家瓦尔德就站出来反对,他说要加强那些没弹孔的位置,比如发动机和驾驶舱。

3. 自选择偏差
有时我们自以为找到了支持自己想法的客观数据,但其实我们是先有了想法,再找数据来支持自己的想法,那些不符合我们假设的数据会被忽视掉,这就是“选择偏差”。

4. 辛普森悖论
这个就比较神奇了,我们还是先看个故事:
话说有个综合大学招生,结果招生数据一公布,男生们都表示反对:因为女生的录取率比男生要高很多!
而事实上呢,其实明明两类院系都是男生录取率高,但是一加起来,就变成女生录取率高了:
其实是因为文科院的女生录取率拉高了女生整体录取率,而理工科的男生录取率拉低了男生整体录取率。
这就是辛普森悖论,两组数据分别看时都满足某种结果/趋势,但加起来就呈现相反结果/趋势

三、人为操作误导

 
前面讲的那些坑很多时候都是无意的。这部分就不太一样了,很多数据其实稍加修饰,就成了一个个陷阱。
1. 放大尺度
比如你看下面这张图,是不是增长势头非常猛?要是当成业绩汇报给老板岂不是分分钟要升职加薪走上巅峰。
但其实注意Y轴,这种差异只是被人为的放大了,一旦回归正常尺度……

2. 重新定级
川普做了民调,发现30-39岁的刁民们对自己很不友善:
这要公布出去,岂不是要在推特上被喷爆,于是将两个层次进行合并:
这样一看,就好看多了。

3. 提自己,不做对比。
购买A类产品的用户中80%都是甲类用户,是不是就应该给甲类用户推荐更多A类产品?
这个结论乍一看没有问题,但是如果B类产品的用户中90%都是甲类用户呢?
如果B类产品只有20%是甲类用户,但是B类产品基数远大于A类呢?
很多时候,数据还是要对比才有意义。

4. 自定标准
只要你敢加的标签足够多,你就永远是名列前茅。虽然小明考试考了班里的40名,但是他在第四列所有身高1.7以上的学生中排第2。
所以再看到有广告声称自己产品排名怎么怎么样,可以想一想这排名是怎么排出来的。

5. 片面释放
为什么每次平均收入一公布,大家都觉得自己拖后腿了?
其实数据分布情况不一样,平均数有时并不能描述“平均情况”。还有中位数、众数呢。
总而言之,数据也只是数据,它来帮助我们理解复杂世界中的庞大信息,但是不是万能的,是来帮我们解释,而不是替我们思考的,所以“尽信数据,还不如无数据”。

来自 “ ITPUB博客 ” ,链接:http://blog.itpub.net/31545816/viewspace-2694568/,如需转载,请注明出处,否则将追究法律责任。

请登录后发表评论 登录
全部评论

注册时间:2018-07-12

  • 博文量
    51
  • 访问量
    97352