谷歌再获语音识别新进展:利用序列转导来实现多人语音识别和说话人分类
从 WaveNet 到 Tacotron,再到 RNN-T,谷歌一直站在语音人工智能技术的最前沿。近日,他们又将多人语音识别和说话人分类问题融合在了同一个网络模型中,在模型性能上取得了重大的突破。对于自动理解人类音频的任务来说,识别「谁说了什么」(或称「说话人分类」)是一个关键的步骤。例如,在一段医生和患者的对话中,医生问:「你按时服用心脏病药物了吗?」患回答道:「Yes」。这与医生反问患者「Ye
「图像分类」简述无监督图像分类发展现状
无监督图像分类问题是图像分类领域一项极具挑战的研究课题,本文介绍了无监督图像分类算法的发展现状,供大家参考学习。作者 | 郭冰洋编辑 | 言有三1 简介近年来,深度学习在图像识别领域取得了前所未有的进步,究其根本,可以归功于数据集容量的扩充和计算资源的提升。现阶段的图像分类任务在很大程度上是靠监督学习实现的,即每个样本都有其对应的标签,通过深度神经网络来不断学习每个标签所对应的特征,并最终实现分类
计算机视觉(AI)的算法有哪些,具体都有哪些特点?
1. 野兽派以大力出奇迹为主。主要利用1Billion数据+512TPU+100小时以上的训练方式得到5%以内的accuracy提升。代表作有各大厂XXXNet2. 印象主义派讲求得其main idea即可。主要利用MNIST、CIFAR等各种toy data+简化假设+数学公式组合画符来得到声称可generalize至大规模数据集上的效果。代表作有各实验室XXXnet,常见于icml nips
30年,Python正在吞食世界
这篇长文详细写了Python从诞生到流行的故事,专访了Python发明人Guido van Rossum以及相关的一些人,展示了Python是如何成为最受欢迎的编程语言的。谁能想到,30年后,一条蟒蛇因为人工智能而席卷了全世界!这一切,都源于1989年的那个圣诞节。一个名叫Guido van Rossum程序员在荷兰的阿姆斯特丹呆着,无所事事的圣诞假期有点无聊。为了打发时间,他开发了一个新的脚本解
清华、李飞飞团队等提出强记忆力 E3D-LSTM 网络
清华大学、Google AI 和斯坦福大学李飞飞团队提出了一种具有强记忆力的 E3D-LSTM 网络,强化了 LSTM 的长时记忆能力,这为视频预测、动作分类等相关问题提供了新思路,是一项非常具有启发性的工作。如何对时间序列进行时空建模及特征抽取,是 RGB 视频预测分类,动作识别,姿态估计等相关领域的研究热点。清华大学、Google AI 和斯坦福大学李飞飞团队提出了一种具有强记忆力的 E3D-
台积电黄汉森:2050年晶体管能做到0.1纳米,氢原子尺度
台积电研发负责人Phillip Wong近日在硅谷举行的Hot Chips会议上表示,摩尔定律没死,依然有效且状况良好,并表示随着新技术的进步,到2050年晶体管做到0.1纳米,约等于氢原子的大小。“毋庸置疑,摩尔定律依然有效且状况良好,它没有死掉,没有减速,也没有生病。”台积电研发负责人Philip Wong(黄汉森)在Hot chips大会上表示,他展示了台积电对芯片技术的前瞻,称到2050年
图解 Python 浅拷贝与深拷贝
Python 中的赋值语句不会创建对象的拷贝,仅仅只是将名称绑定至一个对象。对于不可变对象,通常没什么差别,但是处理可变对象或可变对象的集合时,你可能需要创建这些对象的 “真实拷贝”,也就是在修改创建的拷贝时不改变原始的对象。本文将以图文方式介绍 Python 中复制或“克隆”对象的操作。首先介绍一下 Python 中浅拷贝与深拷贝的区别:浅拷贝:浅拷贝意味着构造一个新的集合对象,然后用原始对象中
「NLP」GPT:第一个引入Transformer的预训练模型
目前两种最重要的预训练语言模型,一种是前面介绍过的BERT,另外一种就是GPT。GPT出了两个版本,GPT1.0和GPT2.0,GPT2.0相对于GPT1.0差别不大,可以认为是它的增强版。本篇介绍GPT1.0和GPT2.0,看看它于BERT有什么不一样。作者 | 小Dream哥编辑 | 言有三1 GPT是什么General Pre-Training(GPT),即通用预训练语言模型,是一种利用Tr
「深度学习系列」CNN模型的可视化
前面几篇文章讲到了卷积神经网络CNN,但是对于它在每一层提取到的特征以及训练的过程可能还是不太明白,所以这节主要通过模型的可视化来神经网络在每一层中是如何训练的。我们知道,神经网络本身包含了一系列特征提取器,理想的feature map应该是稀疏的以及包含典型的局部信息。通过模型可视化能有一些直观的认识并帮助我们调试模型,比如:feature map与原图很接近,说明它没有学到什么特征;或者它几乎
「GAN优化」详解SNGAN(频谱归一化GAN)
今天将和大家一起学习具有很高知名度的SNGAN。之前提出的WGAN虽然性能优越,但是留下一个难以解决的1-Lipschitz问题,SNGAN便是解决该问题的一个优秀方案。我们将先花大量精力介绍矩阵的最大特征值、奇异值,然后给出一个简单例子来说明如何施加1-Lipschitz限制,最后一部分讲述SNGAN。作者 | 小米粥编辑 | 小米粥在GAN中,Wasserstein距离比f散度拥有更好的数学性
「杂谈」一招,同时可视化18个开源框架的网络模型结构和权重
深度学习开源框架众多,对于开发者来说其中有一个很硬的需求,就是模型结构和权重的可视化。使用过Caffe的同学都因为强大的Netscope可以离线修改实时可视化网络结构而暗爽,那其他的框架怎么样呢?今天给大家介绍一个可以离线可视化各大深度学习开源框架模型结构和权重的项目,netron。作者&编辑 | 言有三1 项目介绍项目开发者Lutz Roeder,一位来自于微软Visual Studio
不要低估AI面临的困境
通过对7000多家“AI初创企业”进行研究分析,我发现大多数人低估了AI发展所面临的困境和挑战。这其中,有你的参与吗?”你可能听过Andrew Ng这句话类似的一些说法:“AI正如同我们新时代的电力!电力的发展曾经改变了无数行业;现如今的AI也将如此。”我基本上同意这种观点。然而问题在于,这种说法忽视了AI在快速应用过程中面临的巨大障碍。毕竟AI不会在一夜之间随处可见。就电力而言,它的发展经历了四
9轮融资95.98亿!旷视招股书详解:去年盈利3千万,研发年薪43万
中国AI创业,从此迈步新阶段。旷视,以产品Face++知名的AI公司,向港交所提交的招股书已经披露,一切顺利的话,将成为AI创业第一股。创办于2011年,感召于深度学习突破,由清华姚班3位毕业生联手创立,当时创始团队平均年龄24岁——所以旷视的IPO上市,也是AI复兴的标志性成果体现。7年来融资9轮,吸金95.98亿。2018年开始规模化盈利,连续三年复合增长率358.8%。在AI公司估值、营收和
丰田+小马智行=全球最大车厂+中国估值最高无人车创业公司
自动驾驶公司+车厂,现在又有新结盟。8月26日,中国无人车公司小马智行,全球第一大车厂丰田,正式宣布展开自动驾驶合作。双方披露公告称,将共同探索自动驾驶的进一步落地,在自动驾驶技术和未来出行领域强强联合,打造能真正造福每个人的产品和服务。车厂丰田,普罗大众并不陌生,不仅是日本知名车厂,而且也是全球销量最大的汽车制造商。每年拥有超过一千万辆的新车销售规模。丰田旗下所属的卡罗拉是全球单一车型的冠军,而
Google照片现在可以搜索照片中的文字
谷歌今天在推特上宣布,为其照片应用加入新的AI功能,让你可以在谷歌照片库中搜索照片和截图中出现的文字。然后,您就可以轻松地将该文本复制并粘贴到便笺、文档或表单中。这两项新功能都采用了光学字符识别(OCR)的技术。根据外媒9to5Google的说法,这个功能现在可以在一些Android设备上使用,iOS上现在还无法使用。现在Google已经可以做到从照片库中的任何照片或屏幕截图中获取文本,下一步谷歌
华为去年AI研发投入15亿美元,人才年薪平均30万美元
华为凭什么做得好AI和一众新业务?轮值董事长徐直军说:不缺钱。这是在8月23日,华为AI芯片昇腾910正式宣布商用,以及自研AI框架MindSpore开源进展同步后,徐直军接受采访时的回答。这场发布会上,华为昇腾910用数据证明,这将是算力最强的AI芯片,跑分对比,2倍于英伟达V100。而开源框架方面,结合自研芯片,也比TensorFlow和PyTorch展现出更大潜力。但后发的华为凭什么做得好A
深度学习在视觉上的局限性以及我们如何对付它们
作者:Alan L. Yuille, Chenxi Liu编译:ronghuaiyang导读深度学习在视觉领域取得了巨大的成功,即便如此,深度学习在视觉上仍然有很多的局限性,这篇文章从深度学习的历史开始说起,阐述了深度学习在视觉上的局限性,并给出了一些可能的方案。深度学习历史我们正在见证深度学习的第三次兴起。前两次浪潮—1950 - 1960年和1980 - 1990年—引起了相当大的兴奋,但慢慢
吐血推荐清华大学表情识别翘楚之作(已开源)
2019-08-25 11:48:10今天在这里推荐的是清华大学博士生开源的人脸Action Unit(表情动作单元)识别的翘楚之作 AU R-CNN。论文全名:《AU R-CNN: Encoding Expert Prior Knowledge into R-CNN for Action Unit Detection》该识别方法创造性的将关键点landmark以及AU的专家先验知识融合
NLP数据就像开飞机,你永远不知道会遇见什么情况
全文共2006字,预计学习时长4分钟最好在错误发生之前预测并修复错误标注NLP数据就像开飞机,看起来容易,但你永远不知道会遇到什么情况,往往会出现一些莫名其妙的错误。找到出错的地方,然后检测并修复错误才是良好的第一步。本文将分享NLP实体标注中出现的四个常见问题,讨论它们的根本原因和可能的解决方案。空白空白部分很难看到,可能会引起混淆标记者不一致的最常见原因可能是尾随空格和前导空格以及标点符号的标
现代机器人之父:超强AI只是幻想,人类应当顺势而为
本文作者是Brian Bergstein,他是《麻省理工科技评论》的副主编与执行编辑以及美联社的技术编辑。1984年的某天,罗德尼·布鲁克斯(Rodney Brooks)在泰国的家中感到炎热、无聊、孤独。正是在这种情形之下,他灵光乍现,产生改变机器人技术领域发展的灵感,并最终使Roomba扫地机器人走进数百万个家庭。那一年,布鲁克斯即将步入而立。作为麻省理工学院的一名新成员,他努力使机器人在世界范