AAAI 2020 | 北大:图卷积中的多阶段自监督学习算法
2020-01-13 04:15:12作者 | 孙科编辑 | 唐里本文对北京大学林宙辰团队完成,被AAAI-20录用的论文《Multi-Stage Self-Supervised Learning for Graph Convolutional Networks on Graphs with Few Labeled Nodes》进行解读。图卷积网络GCN[1,2,3,4]在图学习任务中扮演着关键的
告别2019:属于深度学习的十年,那些我们必须知道的经典
2020-01-02 11:12:17选自leogao.dev作者:Leo Gao参与:一鸣、泽南、蛋酱2020 新年快乐!当今天的太阳升起时,我们正式告别了上一个十年。在这十年中,伴随着计算能力和大数据方面的发展,深度学习已经攻克了许多曾经让我们感到棘手的问题,尤其是计算机视觉和自然语言处理方面。此外,深度学习技术也越来越多地走进我们的生活,变得无处不在。这篇文章总结了过去十年中在深度学习领域具
深度学习的应用与实践
深度学习的应用与实践 一、深度学习简介 深度学习,英文名称为Deep Learning,是近几年人工智能领域的主要研究方向。深度学习的主要任务是通过构建深度卷积神经网络(Deep Neural Network,DNN)和采用大量样本数据作为输入,人们最终会得到一个具有强大
深度学习的应用与实践
深度学习的应用与实践 一、深度学习简介 深度学习,英文名称为Deep Learning,是近几年人工智能领域的主要研究方向。深度学习的主要任务是通过构建深度卷积神经网络(Deep Neural Network,DNN)和采用大量样本数据作为输入,人们最终会得到一个具有强
深度学习可以不要乘法,北大,华为诺亚:加法替代效果不变,延迟大降
2020-01-07 13:40:28机器之心报道参与:思、一鸣深度学习对算力要求太高,怎么简化计算复杂度呢?北大、华为诺亚方舟实验室等提出完全用加法代替乘法,用 L1 距离代替卷积运算,从而显著减少计算力消耗。和加法运算相比,乘法运算在计算复杂度上要高很多。在深度学习中,被广泛使用的卷积运算相当于是衡量输入特征和卷积滤波器之间相似度的交叉相关计算。在这一过程中需要很大规模的浮点乘法,因此很多研究
利用OpenCV和深度学习来实现人类活动识别
作者:Adrian Rosebrock翻译:吴振东校对:赵春光本文约5700字,建议阅读16分钟。这篇教程会告诉你如何利用OpenCV和深度学习来实现人类动作识别。通过阅读这篇教程,你可以学到如何利用OpenCV和深度学习来实现人类动作识别。我们实现的人类活动识别模型可以识别超过400类活动,其中准确率在78.4-94.5%之间(取决于任务类别)。 比如,活动类别的可包括:1. Archery 射
图神经常微分方程,如何让 GNN 在连续深度域上大显身手?
2020-01-06 05:45:34瑞利-贝纳德对流(Rayleigh–Bénard Convection)。利用有限元方法将空间上连续的问题离散化,将复杂的关系归纳偏差显示为实体集合。图源:https://www.youtube.com/watch?v=OM0l2YPVMf8&t=74s.作者 | Michael Poli编译 | JocelynWang编辑 | 丛末多智能
告别2019:属于深度学习的十年,那些我们必须知道的经典
2020-01-02 11:12:17选自leogao.dev作者:Leo Gao参与:一鸣、泽南、蛋酱2020 新年快乐!当今天的太阳升起时,我们正式告别了上一个十年。在这十年中,伴随着计算能力和大数据方面的发展,深度学习已经攻克了许多曾经让我们感到棘手的问题,尤其是计算机视觉和自然语言处理方面。此外,深度学习技术也越来越多地走进我们的生活,变得无处不在。这篇文章总结了过去十年中在深度学习领域具
新的深度学习优化器Ranger:RAdam + LookAhead强强结合
2019-12-30 20:34:00作者:Less Wright编译:ronghuaiyang导读给大家介绍一个新的深度学习优化器,Ranger,同时具备RAdam和LookAhead的优点,一行代码提升你的模型能力。Ranger 优化器结合了两个非常新的发展(RAdam + Lookahead)到一个单一的优化器中。为了证明它的有效性,我们的团队最近使用 Ranger 优化器在 F
预训练是AI未来所需要的全部吗?
2019-12-30 10:16:55今天,我们生活在一个由大量不同模态内容(文本、图像、视频、音频、传感器数据、3D 等)构建而成的多媒体世界中,这些不同模态的内容在具体事件和应用中具有高度相关性。跨模态任务也越来越多,涉及多个模态的数据的交互,例如图像和视频的检索,字幕,视频摘要,文本到图像和视频的预测与合成,语言驱动的时空动作定位,以及视觉常识推理等等。因此,跨模态学习日益引起了学术界和工业
残差网络再升级之深度残差收缩网络(附Keras代码)
从本质上讲,深度残差收缩网络属于卷积神经网络,是深度残差网络(deep residual network, ResNet)的一个变种。它的核心思想在于,在深度学习进行特征学习的过程中,剔除冗余信息是非常重要的;软阈值化是一种非常灵活的、删除冗余信息的方式。1.深度残差网络首先,在介绍深度残差收缩网络的时候,经常需要从深度残差网络开始讲起。下图展示了深度残差网络的基本模块,包括一些非线性层(残差路径
22张精炼图笔记,深度学习专项学习必备
2019-12-28 16:45:27作者 | DL&CV_study9编辑 | Elle来源 | CSDN 博客本文为人工智能学习笔记记录。【深度学习基础篇】一、深度学习基本概念监督学习:所有输入数据都有确定的对应输出数据,在各种网络架构中,输入数据和输出数据的节点层都位于网络的两端,训练过程就是不断地调整它们之间的网络连接权重。左上:列出了各种不同网络架构的监督学习,比如标准的神经网络
draw.io (流程图绘制工具)Mac版
draw.io Mac版是Mac平台上的一款流程图绘制工具。draw.io Mac版是一款非常好用的绘制流程图的工具,提供了流程图,UML图等丰富的接口。它还支持第三方云存储,能够方便的将这些设计图分享给团队成员。并且它还是免费的。软件特色 文件创建好后,我们就进入图表编辑界面,左边是控件列表,中间是编辑区域,右边是属性窗口。draw.io Mac版虽然是一款免费工具,但它的用户体验丝毫没有下降
WPS文字商标符号怎么打出来?
WPS文字商标符号怎么打出来?当客户发来一份文件,做好审核工作后需要在文档上面添加上商标符号,可是有些小伙伴研究了半天都没发现怎么输入商标符号。如下是两种WPS文字商标符号打出来的方法供参考。一、上标输入方法第一步、将光标调整至需要输入商标符号的位置,在“开始”选项卡下,在功能区中找到并单击“上标”按钮第二步、使用输入法键入TM,我们就会发现商标符号已经出现在他该出现的位置了温馨提示:Ctrl+S
高德网络定位算法的演进
在过去的几年中,高德网络定位算法经历了从无监督算法向有监督算法的演进,从定位精度、定位能力透出等方面都有了显著的提升。
深度残差收缩网络:(六)代码实现
深度残差收缩网络其实是一种通用的特征学习方法,是深度残差网络ResNet、注意力机制和软阈值化的集成,可以用于图像分类。本文采用TensorFlow 1.0和TFLearn 0.3.2,编写了图像分类的程序,采用的图像数据为CIFAR-10。CIFAR-10是一个非常常用的图像数据集,包含10个类别的图像。可以在这个网址找到具体介绍:https://www.cs.toronto.edu/~kriz
OCR纸质文档管理实现文档信息快速录入
在工作和学习中,会产生大量的纸质文档。令人苦恼的是,面对这些内容、用处毫不相同的文件,该如何有效管理呢?如果将纸质文件随意堆放在办公室角落里,一方面要用到资料的时候不好找,另一方面纸质文件还容易潮湿蛀虫,难以保存。数字时代到来之后,很多人选择了将纸质文档转化为电子文档,存储在云端,市面上更是推出了不少纸质文档管理工具,选择一个高效稳定的管理软件,可以帮助我们更好的管理办公学习中产生的信息资源。OC
主动学习可减少对标注数据的依赖却会造成标注冗余?
深度学习如今能够大获成功,其中的一大功臣便是大规模的标注数据。然而在大多数现实场景中,我们往往只能获得未经标注的大规模数据集,如果要对这么多数据进行人工标注,势必耗费大量的人力成本。在此前,研究界已经提出主动学习的方法来解决这一问题,然后采用该方法选择出来的数据可能存在大量重复的情况,从而造成标注冗余问题。对此,牛津大学的理论和应用机器学习研究团队(OATML)在一篇 NeurIPS 2
深度学习该往何处走?Yoshua Bengio这么认为
2019-12-19 14:08:12选自IEEE Spectrum作者:Eliza Strickland机器之心编译参与:魔王、张倩一个普通的深度学习模型动不动就需要十万、百万级的数据,但即使投喂了这么多数据,一个自动驾驶系统也很容易被一张贴纸攻破……2019 年,我们看到深度学习受到越来越多的质疑,Gary Marcus 等批评者甚至认为,「深度学习不起作用」。在如此强烈的质疑声中,深度学习将
Ross、何恺明等人提出:渲染思路做图像分割,提升Mask R-CNN性能
2019-12-20 13:08:43机器之心报道参与:魔王、一鸣Facebook FAIR 实验室再次创新图像分割算法,这回使用的是图像渲染的思路。算法可作为神经网络模块集成,显著提升 Mask R-CNN 和 DeepLabV3 性能。实例分割是计算机视觉任务中一个重要的任务。传统的示例分割方法输入图像,并对图像的每个像素点进行预测,推断像素点所属的实例标签,并区分属于不同实例的像素点。然而,