-
AI学者热议：如果深度学习有“寒冬”，哪些技术方向可孕育新芽？
今年的图灵奖选择了“深度学习三巨头”——Yoshua Bengio、Yann LeCun、Geoffrey Hinton，但这一事件并未减弱人们对深度学习“寒冬已至”的担忧。随着越来越多的深度学习应用走向日常生活，该技术的局限性也开始受到大量关注，例如对大数据的强依赖、缺少泛化能力、不可解释性等，这些因素都阻碍着基于深度学习实现真正的人工智能。此前人工智能领域经历过的“寒冬”现象，最主要的特质在于
-
CNN进化史
CNN进化史
-
八千字长文深度解读，迁移学习在强化学习中的应用及最新进展
机器之心发布作者：Luo Sainan编辑：H4O迁移学习通过将源任务学习到的经验应用到目标任务，从而让目标任务的训练更灵活高效，也更贴近现实情况——往往要解决的目标问题可能很难直接学习，因为训练数据不足或者无法直接与环境交互难以获得训练数据。因此将迁移学习应用到强化学习中，势必能帮助强化学习更好地落地到实际问题。本文将从迁移学习、强化学习中的迁移学习、强化学习中的迁移技术最新进展三个部分向大家分
-
张俊林：BERT和Transformer到底学到了什么 | AI ProCon 2019
演讲嘉宾 | 张俊林（新浪微博机器学习团队AI Lab负责人）编辑 | Jane出品 | AI科技大本营（ID：rgznai100）【导读】BERT提出的这一年，也是NLP领域迅速发展的一年。学界不断提出新的预训练模型，刷新各项任务指标，业界也不断尝试在工程问题中引用BERT、XLNet等预训练模型，那BERT为什么能有这么好的效果，深入其原理本身，又究竟好在哪里？在AI ProCon 2019大
-
深度学习如何大规模产业化？百度CTO王海峰最新演讲深度解读 | CNCC 2019
10月17日-19日，2019年中国计算机大会（CNCC2019）在苏州举办，本届大会以“智能+引领社会发展”为主题，1000家机构的代表、8000余人参展参会。百度首席技术官王海峰在会上发表题为《深度学习平台支撑产业智能化》的演讲，分享了百度关于深度学习技术推动人工智能发展及产业化应用的思考，并深度解读百度飞桨深度学习平台的优势，以及与百度智能云结合助力产业智能化的成果。以下为演讲实
-
「GAN优化」GAN训练的小技巧
2019-10-17 13:45:25上一期中，我们说明了GAN训练中的几个问题，例如由于把判别器训练得太好而引起的梯度消失的问题、通过采样估算距离而造成偏差的问题、minmax问题不清晰以及模式崩溃、优化选择在参数空间而非函数空间的问题等，今天这篇小文将从博弈论的角度出发来审视一下GAN训练时的问题，说明训练GAN其实是在寻找纳什均衡，然后说明达到纳什均衡或者说损失函数收敛是很难的，
-
「完结」12篇GAN的优化文章大盘点，浓浓的数学味儿
2019-10-17 13:50:40专栏《GAN的优化》（第一季）正式完结啦！在这一季里，我们从生成模型出发，讲述了GAN的基本理论，包括工作原理，更具有普适性的f散度度量和Wasserstein距离，以及IPM框架并顺带给出了一个处理WGAN的莱布尼茨限制的优雅解决方法；接着介绍了GAN训练困难的原因以及几个训练技巧；然后从动力学视角出发探索GAN的训练，将GAN与动力学方程联系在
-
AI大佬“互怼”：Bengio和Gary Marcus隔空对谈深度学习发展现状
编译 | AI科技大本营编辑部出品 | AI科技大本营（ID:rgznai100）去年以来，由于纽约大学教授 Gary Marcus 对深度学习批评，导致他在社交媒体上与许多知名的 AI 研究人员如 Facebook 首席 AI 科学家 Yann LeCun 进行了一场论战。不止 LeCun ，他还对另一深度学习 大牛 Yoshua Bengio 的相关观点进行了反驳。近期，由于Bengio 对外
-
深度学习/计算机视觉常见的8个错误总结及避坑指南
导语：或许，有些问题是大家都会遇到的人类并不是完美的，我们经常在编写软件的时候犯错误。有时这些错误很容易找到：你的代码根本不工作，你的应用程序会崩溃。但有些 bug 是隐藏的，很难发现，这使它们更加危险。在处理深度学习问题时，由于某些不确定性，很容易产生此类错误：很容易看到 web 应用的端点路由请求是否正确，但却不容易检查梯度下降步骤是否正确。然而，在深度学习实践例程中有很多 bug 是可以避免
-
一个简单快速的OCR表单识别录入工具
“一个简单快速的表单识别录入工具！”常年在辗转于纸质表单文件处理，听起来是不是有点跃跃欲试？日常生活工作过程中，必不可免会产生大量单据和纸质文档资料，譬如表单、档案、理赔等，在电子化档案建设过程中，都需要大量人力完成手工录入。OCR技术出现之后，电子档案建设模式发生了颠覆性的变化。云脉深度学习人工智能识别技术，推出的表单识别技术结合光学电子设备（扫描仪、摄像机等），通过拍摄/扫描的方式快速提取表单
-
开源图神经网络框架DGL升级：GCMC训练时间从1天缩到1小时
又一个AI框架迎来升级。这次，是纽约大学、亚马逊联手推出图神经网络框架DGL。不仅全面上线了对异构图的支持，复现并开源了相关异构图神经网络的代码，在GCMC、RCGN等业内知名的模型实现上，取得更好效果。还发布了训练知识图谱嵌入（Knowledge Graph Embedding）专用包DGL-KE，在许多经典的图嵌入模型上都获得了性能提升。目前，这个在2018年NeurIPS大会上发布的框架，已
-
Facebook 发布 Detectron2：基于 PyTorch 的新一代目标检测工具
Detectron 是 FAIR 在 2018 年初公开的目标检测平台，包含了大量业内最具代表性的目标检测、图像分割、关键点检测算法，该框架主要基于 python 和 caffe2 实现，开源项目已获得了超 2.2w 的星标数。而 Detectron2 则是刚推出的新版 PyTorch 1.3 （详情查看：https://www.leiphone.com/news/201910
-
Facebook开源模型可解释库Captum，这次改模型有依据了
作者 | Narine Kokhlikyan, Vivek Miglani, Edward Wang, Orion Reblitz-Richardson译者 | Rachel出品 | AI科技大本营（ID：rgznai100）【导读】前脚 TF 2.0 刚发布，在 PyTorch 开发者大会首日也携 PyTorch1.3 版本而来。除此之外，还发布了隐私保护机器学习框架 CrypTen、模型可解释
-
谷歌又出量子计算新成果，这次用上了深度强化学习
日前，谷歌在 Nature 合作期刊《npj Quantum Information》上发表了一篇论文，提出结合深度强化学习的方法来实现通用量子控制，从而能够极大地提高量子计算机的计算能力。谷歌也在官方博客上发表文章介绍了这项工作。论文下载地址：https://www.nature.com/articles/s41534-019-0141-3.pdf实现近期量子计算机的主要挑战之一与其最基本的组成
-
速度与精度的结合 - EfficientNet 详解
2019-10-11 22:47:53初识本篇将为你介绍来自 google 的 EfficientNet，论文提出了一种多维度混合的模型放缩方法。论文链接(文末有代码)：https://arxiv.org/pdf/1905.11946.pdf作者希望找到一个可以同时兼顾速度与精度的模型放缩方法，为此，作者重新审视了前人提出的模型放缩的几个维度：网络深度、网络宽度、图像分辨率，前人的文章
-
Facebook 发布 Detectron2，新一代目标检测平台
2019-10-12 12:44:08Detectron 是 FAIR 用于实现最先进的目标检测算法（包括 Mask R-CNN）的软件系统。该系统是在Apache 2.0许可下提供的Python库，并建立在由Facebook支持的深度学习框架“Caffe2”上。自2018年发布以来，Detectron对象检测平台已经成为Facebook人工智能研究(FAIR)广泛采用的开源项目之一。
-
细粒度物体检测算法的升级揭秘
EasyDL是百度大脑的定制化模型训练和服务平台，用户通过EasyDL可以低成本地训练自己的深度学习模型，从而获得效果优异的定制化AI服务。自上线以来，EasyDL的用户规模和使用场景迅速增长，也收到了深度学习业内人士的赞赏和青睐。在众多模型使用场景中，小目标物体的检测比较常见，一般的目标检测算法往往效果不理想；因此，EasyDL团队针对小目标物体的检测进行了专项优化，并取得了令人瞩目的效果提升。
-
探索无限大的神经网络
AI 科技评论按：今天我们要介绍对无限大的神经网络的探索。这个故事来自 CMU 杜少雷和胡威撰写的博客《Ultra-Wide Deep Nets and Neural Tangent Kernel (NTK)》，雷锋网 AI 科技评论编译。让我们从头讲起。被推翻的「复杂度甜点」机器学习界有一条流传已久的规矩：你需要在模型的训练误差和泛化能力之间谨慎地做出取舍。衡量泛化能力，有一个很便捷的指标是看看
-
MNIST数据集介绍
大多数示例使用手写数字的MNIST数据集[1]。该数据集包含60,000个用于训练的示例和10,000个用于测试的示例。这些数字已经过尺寸标准化并位于图像中心，图像是固定大小(28x28像素)，其值为0到1。为简单起见，每个图像都被平展并转换为784(28 * 28)个特征的一维numpy数组。概览用法在我们的示例中，我们使用TensorFlow https://github.com/tensor
-
大话目标检测经典模型：Mark R-CNN
2019-10-10 22:00:56在之前的文章中介绍了目标检测经典模型（R-CNN、Fast R-CNN、Faster R-CNN），目标检测一般是为了实现以下效果：在R-CNN、Fast R-CNN、Faster R-CNN中，实现了对目标的识别和定位，如下图所示：为了更加精确地识别目标，实现在像素级场景中识别不同目标，利用“图像分割”技术定位每个目标的精确像素，如下图所示（精确分割出人、汽
