覆盖40种语言:谷歌发布多语言、多任务NLP新基准XTREME
机器之心报道参与:泽南、蛋酱、杜伟自然语言权威数据集 GLUE 一直是衡量各机构 NLP 预训练技术水平最重要的指标之一。近年来在其榜单之上实现更好的成绩,也成为了科技公司技术提升的体现。不过现有的大多数 NLP 基准仅限于英文任务,无法评价 NLP 模型在其他语言上的能力。近日,来自 CMU、谷歌研究院和 DeepMind 的科学家们提出了覆盖四十种语言的大规模多语言多任务基准 XTREME,希
百度发布全球首个大规模隐变量对话模型PLATO
百度于2019年10月公布的通用领域对话生成预训练模型PLATO,最近已正式被ACL 2020接收。PLATO是业界首个基于隐空间(Latent Space)的端到端预训练对话生成模型。据悉,该模型利用隐向量来表示对话的潜在方向,从而达到对话内容丰富度和流畅度的显著提升。针对具体对话任务,基于PLATO可以用少量数据训练得到非常流畅的对话系统。https://www.toutiao.com/a16
简洁透彻讲解傅立叶变换及其在AI中的应用
2020-02-19 11:34:53傅里叶变换的作用是将我们从时域移到频域。介绍傅里叶变换是有史以来最深刻的数学见解之一,但不幸的是,其含义深深地埋在了一些荒谬的方程式中。傅立叶变换是一种将某些东西分解为一堆正弦波的方法。像往常一样,这个名字来自一个很久以前的数学家,叫做傅里叶。用数学术语来说,傅立叶变换是一种将信号转换为其组成成分和频率的技术。傅里叶变换不仅广泛用于信号(无线电,声音等)处理,
更细粒度表情运动单元检测:来自物体检测的启示
2020-04-13 21:14:56作者 | 马晨编辑 | 贾伟本文解读清华大学马晨等人发表的人脸表情运动单元检测的论文:《AU R-CNN:将专家先验知识融合进R-CNN模型进行表情运动单元的检测》。这篇论文率先利用先验知识和物体检测技术做Action Unit人脸表情识别,在BP4D和DISFA两个数据库达到了SOTA的实验结果:在F1 score这个benchmark下BP4D数据库达到了
大规模计算时代:深度生成模型何去何从
2020-04-13 21:14:55作者 |Chunyuan编辑 | 丛末人工智能的核心愿望之一是开发算法和技术,使计算机具有合成我们世界上观察到的数据的能力, 比如自然语言,图片等等。每当我们建立一个模型来模仿这种能力时,该模型就称为生成模型(Generative Models)。如果该模型涉及深度神经网络,则该模型是深度生成模型(Deep Generative Models, 简称 DGMs
计算所山世光:AI方法论需升级,疫后 AI 将如何发展?
2020-04-10 21:16:01作者 | 贾 伟校对 | 山世光编辑 | 丛 末曾被誉为人工智能的三驾马车——算法、算力、数据,到了需要反思的时刻。特别是深度学习在学术前沿的后续发展乏力,恐难支撑AI能力继续升级。步入新的十年后,如今 AI 可能已经到了一个拐点时刻。那么接下来,AI 技术将如何发展、应用?随着国内疫情的结束,这逐渐成为领域内众多研究者和从业者亟需回答的一个关键问
图神经网络的新基准
2020-04-12 22:10:41作者 | 李光明编辑 | 贾 伟编者注:本文解读论文与我们曾发文章《Bengio 团队力作:GNN 对比基准横空出世,图神经网络的「ImageNet」来了》所解读论文,为同一篇,不同作者,不同视角。一同参考。近些年,图神经网络(GNN)的关注度越来越高,相关的算法也越来越多,应用领域越来越广,其面临的两大基础问题是:1)构建GNN的第一原则和第一要素是什么?使
清华唐杰教授:人工智能的下一个十年,认知推理是重点
来源:学术头条本文约4400字,建议阅读5分钟本文为大家带来《人工智能下一个十年》的主题报告。标签:人工智能2020 年 3 月 25 日,智源研究院学术副院长、清华大学计算机系唐杰教授作客首届中科院“先导杯”并行计算应用大奖赛启动仪式,并为大家带来《人工智能下一个十年》的主题报告。在报告中,唐老师从人工智能发展的历史开始,深入分析人工智能近十年的发展,阐述了人工智能在感知方面取得的重要成果,尤其
为什么真正的人工智能不仅仅需要模式识别?
2019-12-01 23:03:08优步自动驾驶的悲惨故事再次强调了机器学习中的长尾问题:在驾驶汽车时,存在许多不同的场景和极端情况,并不是不可能发生,我们很难训练基于机器的系统学习识别和分类所有的情况。当我听到有关" AI"的新闻时,通常指的是模式识别和复杂功能近似的方法,最重要的是机器学习的形式。的确,我们已经看到机器学习系统在许多不同行业中的令人印象深刻的应用,例如产品
简洁详尽讲解文本聚类
2020-03-27 20:45:17用于单词和文档的聚类的大量方法不胜枚举,让我们仔细研究其中几种。本文涵盖的主题包括k均值、布朗聚类、tf-idf聚类、主题模型和潜在的Dirichlet分布(也称为LDA)。聚簇是数据科学中最大的主题之一,其规模如此之大,以至于你很容易会发现有大量书籍正探讨它的每一个细节。文本聚类的子主题也不例外。因此,虽然本文无法提供详尽的概述,但是本文涵盖了它
分析师和统计学家的历来之争
2020-01-26 22:21:57人生中的许多决定根本不值得付出太多努力,如果我们对所有事情采取谨慎的统计方法,我们将不会做很多事情。如果你全力以赴,那么是否确定不会浪费宝贵的时间呢?分析师可以帮助您提出更好的问题,而统计学家则可以提供更严格的答案。看起来就像一个协作梦想的成果,但是这些职业最终以某种方式落到了经常触碰彼此的喉咙。让我们看看我们是否可以理解分析和统计之间的奇怪战争。分析师和统计
中国首款智能显微镜获批进入临床:病理诊断AI化,腾讯AI Lab打造
2020-04-09 13:02:01机器之心发布机器之心编辑部癌症被称为「众病之王」,若能尽早检测诊断,病人则更可能得到有效救治。一般来说,癌症的检查和诊断依赖于病理学检查;而在病理学检查过程中,显微镜观察是必不可少的步骤。钟南山院士曾表示:「临床病理水平是衡量国家医疗质量的重要标志」。今日,腾讯 AI Lab 宣布,联合舜宇光学科技、第三方医学检验机构金域医学宣布三方研发的智能显微镜已获得 N
Bengio 团队力作:GNN 对比基准横空出世,图神经网络的「ImageNet」来了
2020-04-07 22:10:43作者 | MrBear校对 | 丛 末编辑 | 贾 伟图神经网络(GNN)是当下风头无两的热门研究话题。然而,正如计算机视觉的崛起有赖于 ImageNet 的诞生,图神经网络也急需一个全球学者公认的统一对比基准。近日,Bengio 大神带领其团队发布了新的图神经网络对比基准测试框架以及附带的 6 个标准化数据集。大家可以开始尽情刷榜了!论文链接:https:/
人工智能下一个前沿:可解释性
2019-07-01 22:56:51不确定性是AI的一个特征,而不是一个bug。十亿美元的问题50多年来,计算机已成为我们生活的一部分。他们开始时只是大公司使用的这些巨大的装置,他们最新的迭代是我们口袋里的小巧智能手机。在我们与计算机交互的整个历史中,我们主要使用它们作为扩展自身能力的手段。它们使我们能够更有效地编写,更轻松地编辑照片和视频,以便即时访问信息。在这样做的过程中,他们遵循了古老的机
自然语言处理中注意力机制综述
2020-03-27 00:34:52目录1.写在前面2.Seq2Seq 模型3.NLP中注意力机制起源4.NLP中的注意力机制5.Hierarchical Attention6.Self-Attention7.Memory-based Attention8.Soft/Hard Attention9.Global/Local Attention10.评价指标11.写在后面12.参考文献写在前面近些
AI可能会在不久的将来超越人类艺术创造力
2019-08-25 17:53:36创意AI可能是人工智能的下一个里程碑,它促进了多模态工程和关联学习以及有效的人工智能协作过程的开发我们的艺术体验——绘画,音乐、雕塑、诗歌,融入多种感觉、联想、记忆和情感,并涉及有意识的成分。人工智能(AI)如今缺乏主观体验和多模态,但开始获得艺术创造力。创造力是否需要意识体验能力?答案是否定的。专业人工智能可能很快变得比人类更有创造力,更好地捕捉
模型仅有7M:轻量级高精度人脸识别方法DBFace
2020-04-10 12:47:10机器之心报道参与:Racoon X这个仅 7M 大小的人脸识别模型几乎识别出了世界最大自拍照中的所有人像!项目简介之前机器之心报道过一个跨平台人脸识别项目,在 CPU 上就能轻松跑出 1000FPS。这次介绍的项目也是一个轻量级人脸识别项目。不同的是,该项目在保持较小参数量的前提下,识别精度要高很多,并且只需要 OpenCV 和 PyTorch 就能运行。DB
华为视觉研究路线图:三大挑战,六项计划
2020-03-30 17:15:02作者 | 贾伟昨天在华为开发者大会上,华为首席科学家陈雷发布的全场景AI计算框架MindSpore开源框架,引起业界广泛关注,毕竟在短短一周之内,国内相继涌现出计图(Jittor,清华)、天元(MegEngine,旷视)、MindSpore(华为)三个深度学习开源框架,可谓“2020年是深度学习框架井喷的一年”。但在昨天的大会中,华为发布的另一项重
人与机器——解析人工智能的三大类别以及哲学家的相关思想实验
2020-02-21 14:10:10你是否曾经产生过怀疑,你身边的某个人可能是个机器人呢?毕竟现在由于技术的发展,机器人的外观、行为都有可能被设置得和人类十分相像。这似乎有些荒谬和匪夷所思,但是你如何能百分之百确定,某个人就是他看上去的那样,而不是一个“拟人”的机器。你没法打开他的身体零部件去进行判断,没法透视他的大脑、身体或是五脏六腑。所以你如何确定你所面对的是人类,还是一个非常智能的机器?今
「NLP」NLP的12种后BERT预训练方法
2020-03-12 21:59:24来源 : 深度学习自然语言处理作者:朝九晚九学校:北京航空航天大学研究方向:自然语言处理目录1. RoBERTa2. ERNIE3. ERNIE 2.04. XLMs5. MASS6. UNILM7. CMLM8. ELECTRA9. SpanBERT10. ALBERT11. MT-DNN12. XLENET1. RoBERTa论文:A Robu