ITPub博客

首页 > 应用开发 > IT综合 > 2017年回顾:10个人工智能失败案例

2017年回顾:10个人工智能失败案例

IT综合 作者:DicksonJYL560101 时间:2017-12-28 13:07:05 0 删除 编辑

2017年回顾:10个人工智能失败案例

 

https://mp.weixin.qq.com/s/kUcoPOb8W579dt5PmFC7gw

 

Python爱好者社区

微信号 python_shequ

功能介绍 人生苦短,我用Python。分享Python相关的技术文章、工具资源、精选课程、视频教程、热点资讯、学习资料等。每天自动更新和推送。

今年,人工智能程序AlphaGoLibratus分别击败了世界上最优秀的围棋选手和扑克玩家。尽管这些里程碑表明了人工智能在近年来的发展程度,但许多人仍对新兴技术的全面成熟持怀疑态度——尤其是在过去12个月里,人工智能出现了一些问题。

我们是机器智能的爱好者,但我们也意识到一些新技术很难有效地执行任务。以下是我们对2017年失败的人工智能的总结。

由于面具而崩溃的Face ID

http://mmbiz.qpic.cn/mmbiz_jpg/LiaGhAsRNtts5BQqPI1rKZQv8siaYAF5nFw4kRwcicrMhWNIvoQsXu8jfib3lUXVxMwSiaIko5lv3CyY8hOa0OFypMg/640?wx_fmt=jpeg&wxfrom=5&wx_lazy=1

Face ID,即解锁新iPhone X的面部识别技术,被认为是有史以来最安全的人工智能激活方法,苹果称其被愚弄的几率为百万分之一。但随后越南公司BKAV3d打印、硅胶、化妆品和剪纸制作的面具,将其破解。Bkav只是扫描了一个测试对象的面部,使用3D打印机来生成面部模型,并粘贴了一张眼睛和嘴巴的剪纸,还有一个硅胶鼻子。这一消息在业内引起了冲击,加大了消费者设备隐私和人工智能安全方面的风险。

亚马逊 Echo被意外激活

亚马逊Echo被认为是最稳健的智能音箱之一。但没有什么是完美的。一个德国人的Echo在他不在家的时候被意外地激活了,在午夜之后开始播放音乐,吵醒了邻居。他们给警察打了电话,警察不得不从前门破门而入,把音响关掉。警察离开时换了门锁,所以当那个人回家时,他的钥匙不能打开家门。

Facebook聊天机器人被关闭

http://mmbiz.qpic.cn/mmbiz_jpg/LiaGhAsRNtts5BQqPI1rKZQv8siaYAF5nFftk5ULJDZT44BSyL7VJvbJS1FkbO8tynO4llsA3twOysTm95sEQIow/640?wx_fmt=jpeg&wxfrom=5&wx_lazy=1

今年7月,有报道称,两名Facebook聊天机器人在用人类无法辨认的语言相互交流后被关闭。一种新的神秘的超智能语言充斥着讨论板,直到Facebook解释说神秘的交流仅仅是由于语法编码的疏忽造成的。

拉斯维加斯的自动驾驶巴士在第一天就坠毁了

今年11月,一辆自动驾驶巴士在拉斯维加斯举行了首次公开亮相。然而,就在两小时内,这辆巴士与一辆运货卡车相撞。在技术上,巴士不必对事故负责,卡车司机也收到警方指控,但车上的乘客抱怨说,当卡车慢慢靠近时,自动驾驶汽车如果足够聪明,可以不受伤害。

谷歌Allo用头巾表情来回应持枪表情

http://mmbiz.qpic.cn/mmbiz_jpg/LiaGhAsRNtts5BQqPI1rKZQv8siaYAF5nFsgpKpPTTd6aT1pfeRQqcMwZLgicjibLlxXqbRyqbUuS2A8VdfVibz8iahQ/640?wx_fmt=jpeg&wxfrom=5&wx_lazy=1

CNN的一名工作人员通过谷歌Allo收到了一个戴着头巾的人的表情符号。这是对一个包含手枪的表情符号的回应。尴尬的谷歌向公众保证,它已经解决了这个问题,并发表了道歉声明。

汇丰银行的语音识别被孪生兄弟愚弄

汇丰银行的语音识别ID是一个人工智能的安全系统,允许用户使用语音指令访问他们的帐户。尽管该公司声称其和指纹识别一样安全,但BBC记者的孪生兄弟却通过模仿他的声音访问了他的账户,他尝试了7次。汇丰银行的直接补救措施是设置三次访问失败就锁定账户。

谷歌AI将步枪误认为直升机

http://mmbiz.qpic.cn/mmbiz_jpg/LiaGhAsRNtts5BQqPI1rKZQv8siaYAF5nFCwdDmbILILMNQMFhhRaWepuicia7TN89lrkuLeymuDTT5mehvZwMALkw/640?wx_fmt=jpeg&wxfrom=5&wx_lazy=1

通过略微调整步枪的照片,麻省理工学院的研究小组欺骗谷歌云视觉API,将图像错误的识别为直升机。这一伎俩,即不良样本,导致计算机通过引入人眼无法觉察的修改来对图像进行错误分类。过去,只有当黑客了解目标计算机系统的基本机制时,对抗的例子才会起作用。麻省理工学院的团队在没有获得这些系统信息的情况下,通过触发错误分类,向前迈出了一步。

街头标志愚弄自动驾驶汽车

研究人员发现,通过油漆或胶带的谨慎应用来阻止信号,可以欺骗自动驾驶汽车,把这些标识错误地分类。 用“爱”和“恨”这两个词修饰的停车标志,欺骗了一辆自动驾驶车的机器学习系统,在所有测试案例中,都将其误认为是“限速45”的标志。

AI为颜料提供了一些让人哭笑不得的名字

http://mmbiz.qpic.cn/mmbiz_jpg/LiaGhAsRNtts5BQqPI1rKZQv8siaYAF5nFrnhTFjB0uUWGnOcl4yiadAeiax5gc3t1dwANWkEvLEglprIia9vFXfrrg/640?wx_fmt=jpeg&wxfrom=5&wx_lazy=1

机器学习研究人员Janelle Shan训练了一个神经网络来生成新的油漆颜色以及可以“匹配”每种颜色的名称。颜色可能是令人愉快的,但名字令人哭笑不得。即使在用颜色名称数据进行少量训练之后,该模型仍然将天蓝色标记为“灰色耻骨”,将深绿色标记为“Stoomy Brown”。

不要轻易向Alexa提要求,你可能真的会得到它

亚马逊的Alexa虚拟助理可以让网上购物变得更容易。也许太容易了?今年1月,圣地亚哥新闻频道CW6报道称,一名6岁的小女孩仅仅通过请求Alexa就买了170美元的房子。这还不是全部。当电视主持人重复女孩的话时,她说:“我喜欢这个小女孩的话,‘Alexa给我订了一个娃娃屋’”,一些观众家里的Alexa装置再次被触发为其订购了玩偶屋。

本文为编译文章,转载请注明出处。

来源:atyun_com

来源网址:http://www.atyun.com/13553_2017年回顾10个人工智能失败案例.html

 

 

来自 “ ITPUB博客 ” ,链接:http://blog.itpub.net/29829936/viewspace-2149436/,如需转载,请注明出处,否则将追究法律责任。

请登录后发表评论 登录
全部评论
行万里路,读万卷书,阅无数人。 吃货一枚,爱吃湘菜,川菜,粤菜与杭帮菜,尝遍天下美食。 摄影爱好者,游遍名川大山,江河胡海,赏遍人间春色。 爱看影,尤其是港片,好莱坞大片。英文名:DicksonJin, 网名:风一样的BOY。精通SAP供应链咨询。2017年开始研习人工智能。

注册时间:2014-08-27

  • 博文量
    1940
  • 访问量
    3115032