-
SCHAEVITZ HT-SGLBM141150K1T2S
SCHAEVITZ HT-SGLBM141150K1T2S
-
谷歌开源“穷人版”摘要生成NLP模型：1000个样本就能打败人类
2020-06-14 14:28:33晓查 发自 凹非寺量子位 报道 | 公众号 QbitAIBERT、GPT-2、XLNet等通用语言模型已经展现了强大的威力，它们可以应付各类任务，比如文本生成、问答。当这些模型对各种语言任务进行微调时，可以达到SOTA性能。以上这些NLP模型都是“通才”，虽然全面，但在面向特定任务时需要微调，训练数据集也十分庞大，非一般人所能承受。如果开发一个非通用NLP模型
-
OpenAI发布首个商业产品，集成GPT-3的API，已有十几家公司买单
2020-06-12 18:06:11作者 | 蒋宝尚编辑 | 丛末据OpenAI官方博客报道，其于昨日发布了一个文本生成的API，通过这个API用户可以尝试任何形式的文本生成类的英语任务，包括但不限语义搜索，摘要，情感分析，内容生成，翻译等等。据说，该API已经集成了GPT-3系列自然语言理解模型，这无疑在“宣布”GPT-3不会像GPT-2那样公布代码。毕竟，在博客中OpenAI称该
-
全面改进Transformer类预训练模型，自然语言任务超越BERT
来源：新智元本文约2476字，建议阅读8分钟。本文介绍近日arXiv上一篇深度学习文章引起小编注意。本文中，薄言(RSVP.ai)联合加拿大滑铁卢大学和北京大学提出全新预训练模型SegaBert，用以改进基于Transformer的预训练过程，在多种自然语言任务上全面超越Bert。近日arXiv上一篇深度学习文章引起小编注意，文章下载地址：https://arxiv.org/abs/2004.14
-
让你搞懂Transformer、BERT、GPT
2020-05-17 16:13:40一 Transformer熟悉NLP的同学肯定知道近两年非常火的结构Transformer，基于该结构的预训练模型也是刷爆各大数据集，如BERT、GPT等模型。但是由于最早介绍Transformer的论文《Attention is all your need》一文对于transformer的细节描述非常有限，导致很多同学理解起来非常抽象，而且网上基本上没有特别
-
2020智源-京东多模态对话挑战赛开战 产学研联合推动AI技术发展
为推动跨模态智能对话与人机交互技术发展，智源-京东跨媒体对话智能联合实验室在2018年首届任务导向型对话挑战赛、2019年基于知识增强的任务导向型对话挑战赛的基础上，于2020年再度推出多模态多轮任务导向型对话挑战赛。
-
ACL2020 | FastBERT：放飞BERT的推理速度
2020-05-27 21:20:53本文介绍的是 ACL 2020 论文《FastBERT: a Self-distilling BERT with Adaptive Inference Time》，论文作者来自北大、腾讯以及北师大。作者 | rumor酱编辑 | 丛 末项目地址：https://github.com/autoliuweijie/FastBERT1 导语自从BERT问
-
万字长文带你纵览 BERT 家族
2020-05-26 03:08:10自18年底谷歌BERT问世以后，NLP便逐渐步入bert时代，bert家族儿孙满堂，如RoBERTa、ALBert、ERNIE等等，这些bert们正在给并持续给nlp领域输入无限生机，让人工智能 皇 冠上的明珠更加光彩夺目，在其光芒的照耀下，人类的人工智能之路必定越来越清晰、明朗。通过阅读大量博客资料，知乎专栏和论文，文本以通俗易懂而不失
-
百度发布全新 NLG 训练模型 ERNIE-GEN，获 5 项 SOTA
2020-05-24 17:11:07头图 | CSDN下载自视觉中国5月20日，百度ERNIE重磅发布全新的语言生成预训练模型ERNIE-GEN，解决自然语言处理领域“生成”方向的难题，让机器不但能“理解”人类的意思，还能完成更高阶的“表达”。这项工作在4类语言生成任务，5项国际权威英文数据集上均取得SOTA，被国际顶级AI学术会议IJCAI 2020收录。论文链接：https://
-
数据为王的时代，NLP数据产业会是下一个蓝海
在数据“坐庄”NLP的大背景下，大量的商业机会呈现，而客观上的高要求阻却了大量低门槛入场的玩家，NLP数据相对于CV更像一个蓝海。工作人员齐整坐好，每个人都对着电脑全神贯注，一件又一件的“东西”在眼前划过，经过标准化处理就转到下一流程……这实际上是人工智能行业里的数据标注办公区一角。由于深度学习的研究方向，人力密集型的数据标注工作是推进人工智能技术落地的重要环节之一。很长一段时间以来，在过往AI的
-
调参利器 Fitlog，复旦NLP实验室专用
2020-04-27 03:07:28作者 | 邱锡鹏本文介绍一个复旦NLP实验室内部使用的调参利器fitlog，开源地址：https://github.com/fastnlp/fitlogfiglog原本是作为fastNLP的一部分开发，后来分为一个单独项目。这里有个简单的介绍：使用fitlog 辅助 fastNLP 进行科研https://fastnlp.readthedocs.io/zh/l
-
NLPIR九眼文档智能审核比对系统有效解决文档人工审核问题
使用九眼文档智能核查，对企业意味着什么？ 提升审核效率 AI辅助下，2分钟可完成人工需要花4小时才能审完的合同，大大提升了合同审核的效率，降低人工投入成本！ 降低法律风险 AI解决占合同审核时间70%的重复性、基础性问题，解放出法务人员应对专业问题与隐藏风险，严防合同法律风险。 赋能企业数据 AI实现“专家”经验的快速学习、累积、复用，避免新手从零开始；赋能企业非结构化数据挖掘与智能化应用能力。
-
京东NLP企业级项目实战训练营
基于先进的AI技术和强大项目实战能力，为培养更多专业人工智能人才，京东经过长时间打磨面向大众学员推出“真企业级项目实战训练营”，让每一位学员切切实实接触到企业级的AI项目资源，从实战中提升自己。
-
ACL 2020 | PLATO：百度发布首个大规模隐变量对话模型
2020-04-16 19:10:31本文对百度被 ACL 接收的论文《PLATO:Pre-trained Dialogue Generation Model with Discrete Latent Variable》进行解读，相关工作通用领域对话生成预训练模型PLATO 已于去年10月份公布。PLATO 是业界首个基于隐空间（Latent Space）的端到端的预训练对话生成模型。据悉，该模型
-
覆盖40种语言：谷歌发布多语言、多任务NLP新基准XTREME
机器之心报道参与：泽南、蛋酱、杜伟自然语言权威数据集 GLUE 一直是衡量各机构 NLP 预训练技术水平最重要的指标之一。近年来在其榜单之上实现更好的成绩，也成为了科技公司技术提升的体现。不过现有的大多数 NLP 基准仅限于英文任务，无法评价 NLP 模型在其他语言上的能力。近日，来自 CMU、谷歌研究院和 DeepMind 的科学家们提出了覆盖四十种语言的大规模多语言多任务基准 XTREME，希
-
百度发布全球首个大规模隐变量对话模型PLATO
百度于2019年10月公布的通用领域对话生成预训练模型PLATO，最近已正式被ACL 2020接收。PLATO是业界首个基于隐空间（Latent Space）的端到端预训练对话生成模型。据悉，该模型利用隐向量来表示对话的潜在方向，从而达到对话内容丰富度和流畅度的显著提升。针对具体对话任务，基于PLATO可以用少量数据训练得到非常流畅的对话系统。https://www.toutiao.com/a16
-
CVPR 2020 | 京东AI研究院对视觉与语言的思考：从自洽、交互到共生
好奇心是个人或者组织创造力的源泉，在权威图像描述生成评测集 COCO 上的成绩彰显了京东 AI 研究院在视觉与语言领域的世界领先水平。
-
自然语言处理中注意力机制综述
2020-03-27 00:34:52目录1.写在前面2.Seq2Seq 模型3.NLP中注意力机制起源4.NLP中的注意力机制5.Hierarchical Attention6.Self-Attention7.Memory-based Attention8.Soft/Hard Attention9.Global/Local Attention10.评价指标11.写在后面12.参考文献写在前面近些
-
「NLP」NLP的12种后BERT预训练方法
2020-03-12 21:59:24来源 : 深度学习自然语言处理作者：朝九晚九学校：北京航空航天大学研究方向：自然语言处理目录1. RoBERTa2. ERNIE3. ERNIE 2.04. XLMs5. MASS6. UNILM7. CMLM8. ELECTRA9. SpanBERT10. ALBERT11. MT-DNN12. XLENET1. RoBERTa论文：A Robu
-
「NLP」在 NLP 领域创业，真的很难
2020-03-06 23:22:40来源 | 公子龙作者 | 公子龙从 2015 年开始，在 AI 领域创业的公司如雨后春笋一般林立而起。如果细分的话，可以分为机器学习ML，图像视觉CV，和自然语言处理NLP。当然，理论上来说，CV 和 NLP 也是属于 ML 范围的。市面上，这几个领域的创业公司都有不少，相对而言，CV 领域的公司数目和规模是较大的。我从事 NLP 行业，在相关的创业公司待过一
