ITPub博客

首页 > > > 5.2.1 卷积神经网络

5.2.1 卷积神经网络

作者:RayChou 时间:2019-12-27 15:07:57 0 删除 编辑

卷积神经网络(CNN)

在《什么是深度学习》的章节中,咱们已经看到了全连接网络的工作原理。在我们举的例子中,这些神经元之间彼此连接的方式有一个特点,那就是每一个神经元节点的输入都来自于上一层的每一个神经元的输出。这种方式就叫做全连接网络(Full Connect Network)——整个网络的每一层都是以这种“全连接”方式完成的。

全连接网络的好处从它的连接方式上看给人感觉是每个输入维度的信息都会传播到其后任何一个节点中去,会最大程度地让整个网络中的节点都不会“漏掉”这个维度所贡献的因素。不过它的缺点更为明显,那就是整个网络由于都是“全连接”方式,所以w和b格外多,这就使得训练过程中所要更新的权重非常多,整个网络训练的收敛也会非常慢。这对于像图片识别这种输入像素动辄数百万维度(像素点为单位)的分类处理会变得不可行,因为根本找不到计算速度能够满足需要的处理器。不过好在前辈中还是大神多,多亏他们发明了卷积神经网络(CNN、Convolutional Neural Network)。

卷积神经网络没有太多特别的地方,它的神经元可以响应一部分覆盖范围内的周围单元,对于大规模的模式识别都是有着非常好的性能表现的,尤其是对大规模图形图像处理效率极高,这也是大家热衷研究这类网络的重要原因。当然了,近几年由于科学工作者们的研究,卷积的形式也有了扩展,研究落地的领域也从单纯的图形图像处理向文字语言、声音等方向去迁移,总体来说效果也不错。

早在20世纪60年代,美国神经生物学家Hubel和Wiesel在研究猫脑皮层中用于局部敏感和方向选择的神经元时发现其独特的网络结构可以有效地降低反馈神经网络的复杂性,继而提出了卷积神经网络。日本人福岛邦彦在上个世纪90年代提出的新识别机是卷积神经网络的第一个实现网络。随后,更多的科研工作者对该网络进行了改进。

说到卷积网络有两个比较大的特点。

其一、卷积网络有至少一个卷积层,用来提取特征。

其二、卷积层的卷积层通过权值共享的方式进行工作,大大减少的权值 的数量,使得在训练中在达到同样识别率的情况下收敛速度明显快于全连接网络。

总之它的优点是非常明显的,也因此成为现在基于深度学习的解决方案中几乎必不可缺的网络组件。在接下来的章节,我们将详细讲解卷积神经网络的原理。

来自 “ ITPUB博客 ” ,链接:https://blog.itpub.net/69954080/viewspace-3156140/ ,如需转载,请注明出处,否则将追究法律责任。

上一篇: 正向最大匹配法
下一篇: 2.3 逻辑回归算法
请登录后发表评论 登录
全部评论
现任金山办公软件人工智能组高级AI研发工程师。多年从事机器学习,特别是NLP自然语言处理算法的研究及开发工作。拥有丰富的软件开发经验,以及丰富的人工智能算法训练平台开发经验。

注册时间:2019-11-14

  • 博文量
    71
  • 访问量
    60577