BERT, RoBERTa, DistilBERT, XLNet的用法对比
BERT, RoBERTa, DistilBERT, XLNet到底哪家强?在不同的研究领域和应用场景如何选择成了大难题。凡事莫慌,这篇文章帮你理清思路。BERT 以及后续模型谷歌基于transformer的BERT系列一经问世就在NLP领域掀起了一场风暴,在几项任务中的表现可谓势头强劲,已经超越了先前沿用的最先进的技术。最近,谷歌对BERT进行了改版,我将对比改版前后主要的相似点和不同
人工智能教育下的7种新学习方式
本文浅析了人工智能教育下的7种新学习方式——游戏化、社交化、协作型、问题式、自主型、探究型、项目式。人工智能教育的形态减负、整治监管、素质教育这三座大山把K12教育的线下辅导机构、线上教育压得喘不过气来,逼得不管是线上还是线下的K12教育企业不得不面临变革,而变革的企业无一不顺势而为,遵从素质教育、顺应人工智能教育。似乎只有打着人工智能教育的旗号,才能避开监管雷区,才能够获得资本青睐。但更多的企业
AI助力环保遥感监测,强大算力很关键
虽然遥感监测为环境保护提供了一个全局性的解决方案,对环境保护有着不可或缺的作用,但是遥感也存在问题:发现问题和着手解决的时间差。毫无疑问,最大程度上缩短这个时间差,是遥感监测在应对环境保护之时的必然之路。在这个问题上,AI的强大算力为环保遥感监测添上了一双翅膀。我国环境保护的历史源远流长,最早可追溯到尧舜时期,设立的专门进行山林川泽的保护与治理的机构“虞”。此后的历朝历代均对环保设立了专门的监察机
谷歌AI中国中心负责人李佳:改善人类生活需要 AI,而 AI 需要「四步走」
导语:实际应用的 AI 系统有多方面的因素要考虑雷锋网 AI 科技评论按:12 月 13 日,谷歌开发者大会 2017 在上海召开,多名谷歌工程师和重量级嘉宾登台演讲,宣布了许多振奋人心的消息,美国工程师的中文演讲也让现场听众觉得亲切有趣。最令广大 AI 研究和从业者感兴趣的,是谷歌云首席科学家李飞飞宣布谷歌 AI 中国中心在北京成立,并且也正是由李飞飞和她
要啥给啥的写作AI:新闻评论小说能编,题材风格随便选,真假难辨
AI编故事,一模更比一模秀。这里“一模”,自然是OpenAI横空出世的GPT-2。但今日更秀的另一模型,来自Salesforce——全球最大的SaaS提供商,虽然之前AI能力展露不多,但这一次,绝对一鸣惊人。作家知道会沉默,评论水军看了要流泪。因为定向化编故事、生成文案评论的能力,实在太强了!话不多说,直接看“作品”。定向化编故事,真假难辨给它一把刀,它编出了这样的“恐怖故事”:刀柄从洞里拔了出来
一文看懂词性标注(基本概念+4种方法+7种工具)
2019-09-12 18:28:51什么是词性标注?维基百科上对词性的定义为:In traditional grammar, a part of speech (abbreviated form: PoS or POS) is a category of words (or, more generally, of lexical items) which have similar grammat
XLNet如何结合GPT和BERT的优点
2019-09-12 08:51:00XLNet是一种新的预训练模型,在20项任务中表现优于BERT,且有大幅度的提升。这是什么原因呢?在不了解机器学习的情况下,不难估计我们捕获的上下文越多,预测就越准确。 因此,模型能够深入而有效地捕获大多数上下文的能力是其提升的原因。让我们玩一个游戏,在下面的上下文中,[Guess1]和[Guess2]分别是什么呢?[‘Natural’, ‘language’
谷歌全面开源 MLIR 及生态联盟,全球 95% 的加速器硬件都在使用
导语:覆盖超过 40 亿部的手机和无数的物联网设备雷锋网 AI 开发者按:近日谷歌宣布,向非盈利性 LLVM 基金会提供今年 4 月开源的 Multi-Level Intermediate Representation(MLIR)架构,一个与 TensorFlow 紧密结合的表示格式和编译器实用工具库,该架构介于模型表示和低级编译器/执行器(二者皆可生成硬件特定代码)之间。谷歌希望通过向社会提供该
5步实现深度学习OpenCV对象检测:Faster-RCNN图片识别
2019-09-12 06:39:48Faster-RCNN图片识别Faster-RCNN对象检测算法是R-CNN对象检测的第三个版本算法,其前面还有Fast-RCNN与RCNN算法,由于R-CNN无法实现End-to-End训练,Fast R-CNN Selective Search耗时比较长等原因,作者在此2版的基础上,更新到了Faster-RCNN对象检测算法。对象检测从下方结构
在花 100 天学习人工智能之后,我得出这 5 个结论
导语:未来发生得很慢,但一下子就爆发了本文的作者是 Jamie Beach,在自学人工智能 100 天以后,他分享了自己对人工智能的 5 个感悟,以下是他的全文。我根据 Max Tegmark 的 Life 3.0 的第一章——The Tale of the Omega 画的2019 年 1 月底,我突然意识到,我对人工智能的理解不足。它正日益影响着我们的每一天。人工智能保护我们的收件箱免受垃圾邮
为什么机器人非要像动物一样?UCLA的新设计颠覆了传统四足模式
全球顶尖机器人实验室 RoMeLa 推出了一款能跑、能跳还会空手道的四足机器人——AlPHRED 2。与波士顿动力等公司的四足机器人不同,这款机器人的四足不分前后,而是对称排布在身体周围,能向各个方向走动。而且,它还能变身两足或三足机器人,空出来的脚(手)可以用来劈木板。先来看一下这个机器人的走姿:ALPHRED 2 C 位出道,后面跟着研发小弟。跳着走也不在话下:跳起来险些按不住:这款机器人共有
超多,超快,超强!百度飞桨发布工业级图像分割利器PaddleSeg
近日,飞桨官方发布了工业级图像分割模型库 PaddleSeg,给开发者带来诚意满满的三重超值惊喜:①一次性开源 15 个官方支持的图像分割领域主流模型,大礼包带来大满足。②多卡训练速度比对标产品快两倍,工业级部署能力,时间节省超痛快。③揭秘包揽了 CVPR2019 LIP 挑战赛人体解析任务大满贯的三冠王 ACE2P 预测模型关键技术,带你一步体验世界领先水平效果。1. PaddleSeg 重磅发
如何理解神经网络空间,深度学习在计算机视觉中的应用有哪些?
2019-09-09 21:46:16专栏推荐(此处已添加圈子卡片,请到今日头条客户端查看)正文线性分类器是这样的:当大于0 的时候为正类,当小于0的时候为负类,在神经网络中我们可以使用图来表示这样的分类器。我们称这个为单层的神经网络,这个简单的神经网络可以完成如下两个操作:一个是OR操作,一个是AND操作,举例OR操作,当我们设置输入特征x1和x2的权重为1的时候,只要结果大于0,那么y=1,如
贾佳亚等提出Fast Point R-CNN,利用点云快速高效检测3D目标
2019-09-10 09:50:04选自arXiv作者:Yilun Chen、Shu Liu、Xiaoyong Shen、Jiaya Jia机器之心编译参与:韩放、一鸣本文提出了一个统一、高效且有效的,基于点云的三维目标检测框架。其两阶段方法采用体素表示和原始点云数据并充分利用了它们的优势。第一阶段的网络,以体素表示为输入,只包含轻量卷积运算,产生少量高质量的初始预测。初始预测中每个点的坐标和索
教师是唯一无法被人工智能取代的职业
2019-09-10 11:13:50随着人工智能的发展,越来越多的工作将被AI所取代。如果你问我什么工作不会为AI所取代,我会说---- 教师。 老师可能是这个世界上最艰难的工作之一,不论是在身体方面,而是在情感和精神方面。 然而,机器人却没有那么多老师该有的素质。 但是人工智能肯定能够帮助老师,使教育孩子的过程越来越容易,并使得教学过程更加生动有趣。 下面来解释一下我为什么这么认为以及理由是什
日本自动驾驶新规:无人车路测时速不超20公里,须加手动装置
郭一璞 发自 凹非寺量子位 报道 | 公众号 QbitAI日本警察厅周四作出一项决定,在公路上进行自动驾驶实验时,原则上最高时速要低于20公里。此外还附加了一个条件,即车上有乘客时,不要进行急刹车。同时,还新加入了针对没有安装方向盘和刹车踏板、发生紧急情况时需要乘车人员使用控制器手动操作的“特别装置汽车”的规定。— 完 —https://www.toutiao.com/i673
「NLP-词向量」从模型结构到损失函数详解word2vec
上周我们讲到,在进行NNLM训练时,能够得到副产品,词向量。本文介绍一种专门用于词向量制备的方法:word2vec,利用它能够高效的训练出词向量。作者 | 小Dream哥编辑 | 小Dream哥1 word2vec是什么?在阐述word2vec的原理之前,笔者先大致介绍一下,word2vec是什么,能够用来干什么,让读者有一个大致的认识。word2vec是2013年Efficient estima
「每周CV论文推荐」 初学GAN必须要读的文章
欢迎来到《每周CV论文推荐》。在这个专栏里,还是本着有三AI一贯的原则,专注于让大家能够系统性完成学习,所以我们推荐的文章也必定是同一主题的。GAN作为当前最有前途,也最烧钱的方向之一,值得每一个从事CV领域的同学跟进,今天给大家介绍入行GAN需要读的文章。作者&编辑 | 言有三1 GAN首先当然是要读GAN之父Goodfellow的文章[2]了,引用量已经超过了10000+,不过因为GA
AI新药登上Nature子刊:46天合成新药候选分子,比传统方法快15倍
2019-09-09 12:34:51铜灵 发自 凹非寺量子位 出品 | 公众号 QbitAI用AI进行药物开发,可以省下2至3年的研发时间。最新一期的Nature子刊上,就刊登了这样一项新研究。这项来自Insilico Medicine和药明康德等机构的AI算法,21天内就能够设计出潜在分子架构,并在46天内完成初步生物学验证。也就是说,单从研发过程来看,AI 46天设计系统,距离真正可用的药物
教授下海,学生遭殃:不可阻挡的AI工业化已让学界创新能力下降
机器之心报道参与:杜伟、张倩、泽南近年来,受到薪资、待遇、硬件条件等方面的吸引,越来越多的 AI 学者选择投身业界,加入各个科技巨头或创业公司。但罗切斯特大学的一份研究表明,这一趋势已经对大学的创新产生了负面影响,即越多的 AI 教授投身业界,学生毕业后创建的 AI 公司越少,创业初期得到的融资也越少。人力资本对于 AI 驱动的创新至关重要。2004 至 2018 年期间,AI 研发所需人力资本的