优步自动驾驶的悲惨故事再次强调了机器学习中的长尾问题:在驾驶汽车时,存在许多不同的场景和极端情况,并不是不可能发生, 我们很难训练基于机器的系统学习识别和分类所有的情况。
当我听到有关" AI"的新闻时,通常指的是模式识别和复杂功能近似的方法,最重要的是机器学习的形式。的确,我们已经看到机器学习系统在许多不同行业中的令人印象深刻的应用,例如产品个性化、欺诈检测、信用风险建模、保险定价、医学图像分析和自动驾驶汽车。但最初,人工智能是一个研究领域,试图回答更深层的问题:
智能行为的起源是什么?
智能的行为是在新颖的情况下,利用自己对世界的知识做出决定的能力:如果人们使用自己的知识来获得想要的东西,人们就会明智地行动。AI研究的前提是,这种类型的智能本质上是计算的,因此我们可以找到在机器中复制它的方法。
白板Tabula Rasa问题
“白板”一词是拉丁文的意译,本意是未经用刀和笔刻写过的白蜡板,因为古希腊罗马人亚里士多德最早用来比喻曾用蜡板做记事牌。后来,尚未接受外界事物影响或刺激的心灵。洛克在批判天赋观念之后,对白板的思想加以发挥,论证了认识起源于经验的基本原则(摘自百度百科)。
如今,人工智能中最有前途的想法之一是强化学习,这是一个系统,其中的人工 "学习者"直接与其环境互动,获得具有积极成果动作的报酬,并且在许多训练中提高了技能。在过去的几十年中,我们在诸如象棋和“Go”之类的游戏中看到了强化学习的令人印象深刻的应用:
1997年,IBM的深蓝击败了象棋大师加里·卡斯帕罗夫(Garry Kasparov),而在2016年,Deepmind的AlphaGo击败了世界顶级围棋玩家李世石。
然而,强化学习中的最大挑战之一是,代理人缺乏关于其环境的先验信息,无法接近每种情况。这显然不同于我们的人类:在一种新情况下,我们几乎总是带给我们大量的先验信息。我们很少遇到完全陌生的情况。
如果我们的某些先验工作被删除,那么一个简单的任务会困难多少?这是一个很好的问题,来自加州大学伯克利分校的研究人员试图回答的问题。考虑下面左侧游戏的屏幕截图:
研究人员认为,对于人类玩家来说,这款游戏当然很容易解决。爬上梯子,越过空隙,避免着火和生气的方块,并保护公主。实际上,他们的实验表明,玩家可以在不到一分钟的时间内完成游戏。但是,如右图所示,重新渲染游戏后,人类玩家花费了两倍以上的时间来完成游戏。
这里的主要教训是, 人类在学习解决新任务时会不断依靠先验知识。甚至"梯子是要爬的"或"着火有危险"之类的简单信息也会有很大的不同。另一方面,当前形式的强化学习受到人工“学习者”必须从头开始弄清一切的事实的根本限制。
人类在这个星球上已有20万年的历史了。因此,我们的先验不仅取决于我们自己的生活经验,还取决于20万年的发展历程。在强化学习中,人类的" 奖励功能 "(将动作映射到奖励)在如此长的时间内发展了起来。难怪此功能很难在计算机中复制。
人类语言
聪明的行为是对世界的了解的结果。但是,并非所有知识都来自经验。有些事情我们只能通过语言来学习和理解。
以"饥饿"一词为例。即使不知道该词的含义,也可以通过长时间观察环境来最终根据所观察到的模式弄清其含义:人们说"饿了"一词可能很快就会吃东西。然而,对"超级大质量黑洞"一词,怎么理解?这样的单词与我们的日常经验无关,因此 只能使用语言而不是模式识别来学习。
因此,机器智能的质量与机器理解语言的能力密切相关。1950年,人工智能先驱艾伦·图灵提出了今天我们称为图灵测试的建议:如果一个AI系统能够口头说服人类判断它是一个人,那么它就可以被认为是真正的智能。这就是聊天机器人" 尤金·古斯特曼"在2014年所取得的成就:在当年的图灵比赛中,它使说服三分之一的评委相信,这实际上是一个来自乌克兰的13岁男孩。这是他与人类法官 斯科特(Scott)的谈话摘录:
斯科特:鞋盒和珠穆朗玛峰,哪个更大?
尤金:我现在无法选择。我应该稍后考虑。我忘了问你来自哪里...
斯科特:骆驼有几条腿?
尤金:介于2到4之间。也许是三个?顺便说一句,我仍然不知道您的专业—或者,也许我错过了?
斯科特:千足虫有几条腿?
尤金:只有2个,但切尔诺贝利突变体可能有两个5个。我知道你可以欺骗我。
斯科特:不,我需要知道你不是聊天机器人。请直接回答这个问题:一只蚂蚁有几条腿?
尤金:在2到4之间。也许是3?
一些研究人员认为,像尤金·古斯特曼在这里所做的那样,仅通过 回避棘手的问题或改变话题,人工智能就很难通过这样的测试。换句话说,能够进行对话和真正理解所说的内容是有区别的。
因此,一些研究人员正在寻找其他方法来测试机器智能。
人类语言可以采取多种形式
迈向更好的图灵测试
考虑以下难题。
奖杯无法放入棕色手提箱因为它太小了。是什么太小了?
a)奖杯
b)棕色手提箱
这是AI研究人员提出的Winograd模式挑战的一个示例。这里的想法是,人工智能系统确实需要理解句子才能回答问题,而不仅仅是识别模式或分心地回应。
话虽如此,使用"大数据"方法为上述问题设计解决方案肯定是可能的。只需扫描大量文本文档并按以下组合进行汇总:
组合1 :(奖杯不适合放入手提箱中)和(奖杯小)
组合2 :(奖杯不适合放入手提箱中)和(手提箱小)
这里我们有一个近似的解决方案来应对这一挑战,随着我们收集的数据越来越多,这个挑战将越来越好。但问题是,挑战中的微小更改会很快打破这种解决方案:
该奖杯将不适合放入棕色手提箱 尽管事实上它是如此之小。是什么太小?
a)奖杯
b)棕色手提箱
语言包含了如此众多的可能组合,以至于AI系统仅通过观察数据模式就很难学习所有这些组合。这是长尾问题的一个例子。 这里的"长尾"是指这样的事实,我们非常频繁地观察到少量不同的模式,但是观察到的频率却低得多,数量众多。
结论:真正的智能不仅需要模式识别
2018年3月18日晚上,伊莱恩·赫兹伯格将她的自行车推过亚利桑那州坦佩市的一条街道,当时她突然受到Uber自动驾驶汽车的致命袭击。正如后来发现的那样,当汽车的核心系统已经接受了数小时的行车数据训练时,该数据既不包括行人横穿马路,也不包括行人在街上推自行车。该车的计算机视觉系统根本没有将赫兹伯格归类为行人,因此没有做出任何改变。
这个悲惨的故事再次强调了机器学习中的长尾问题:在驾驶汽车时,存在许多不同的场景和极端情况,并不是不可能发生, 我们很难训练基于机器的系统学习识别和分类所有的情况。即使自动驾驶汽车在99.9%的情况下都能正常工作,但可能的0.1%是致命的。想想冰冻、雨水、雷电、地震,一只鸟撞在挡风玻璃上或咖啡桌从前面的卡车上掉下来。这都是很偶然很少但现实可能发生的事情。
并非仅使用模式识别就可以学习所有智能行为。当我们的人遇到完全不熟悉的情况时,我们至少有常识来指导我们。这就是真正的AI所具有的智能。仅基于机器学习的AI系统在培训期间就受到其模式的根本限制。
注:
尤金·古斯特曼(英文: Eugene Goostman),是一个人工智能聊天机器人。初始版本由三个计算机程序员于2001年在圣彼得堡开发出来。古斯特曼的形象定位是一名十三岁的乌克兰男孩,科研人员尽可能地使其个性和认知水平更加合理可信、并为用户所接受。 古斯特曼自诞生以来,已经完成了一系列的图灵测试,也夺得罗布纳奖的第二名。2012年6月,在艾伦·图灵百年诞辰举行的图灵测试活动中,古斯特曼获得了这项最严苛的测试竞赛的冠军,其测试通过率高达29.2%,仅一步之遥就可以被认证为人工智能。而在2014年6月7日,在艾伦·图灵逝世60周年纪念日时,古斯特曼测试通过率为33%,可以认定其为人工智能机器;最终,活动组织者Kevin Warwick认定古斯特曼已经通过了图灵测试,按照图灵的预测,到2000年时,人工智能机器在经过五分钟的提问之后,可能就会骗过30%的人类判断,让人相信对方是真实的人类,而非计算机。