本次我们接着上一节内容继续分享,今天的分享内容是人脸风格化这个主题。 同样我们将从以下几个方面进行分享:
首先,我们会对风格化做一个简单的介绍。 风格化到底是一个什么样的课题? 在我们这里实际上包含了两层内容,即 通用的风格化问题和 与人脸有关的风格化问题。
其次, 我们将会对风格化中的核心算法给大家做一个简短的介绍。 它主要包含了风格迁移的算法, 以及人脸的分割匹配以及融合一些算法。
最后,我们对风格化的应用做一个简单的总结。
现在我们正式开始我们的内容。
风格化到底是一个什么样的操作? 我们平常所接触的风格 化 大概包含三个内容:
1)风 格 迁移。 风格迁移在几年前, 也就是15年 , 最早被德国的一些科学家来用来将普通的图片转换成梵高等艺术家的风格。 所以 实际上我们现在意义上 所说 的风格迁移 就是把照片转化为绘画素描等艺术类的风格。
2)变脸的算法。 变脸的算法我们应该并不陌生, 像 天天 P图他们经常会在 青年节或者建军节等一些节日, 推出一些特殊的滤镜。 这些滤镜通常是一些变脸的算法, 也就是我们将我们自己的人脸贴到他们设计好的一些模板上。 比如说穿军装的小哥哥之类的。
3)人脸卡通 化 。 人脸卡通化是一个非常有用的算法, 也就是说我们用我们自己的正面人脸图像生成一个卡通形象, 这个卡通形象要保持我们人脸的一些特征, 主要是形状等等。
通用的风格化最早是从 Premiere 开始大火起来。 它的主要特点就是设计一些具有艺术气质的一些模板和一 些风格,然后把我们的图像处理成这样的风格。 现在有非常多类似的 APP大家可以去下载尝试。
我们再看一个变脸算法。 现在有一部清宫剧叫做延禧攻略,特别的火, 所以天天 P图也顺势 推出了延禧攻略剧照这样的一个模板。这里 我们将赵丽颖的图像做了一个展示, 可以看到效果还是不错的。 这就是风格化的主要内容。
下面我们对其中的算法做一个简单的介绍:
我们首先来说 风格迁移算法 。 风格迁移 说法来源于下面这样一篇文章, 这是 15年的德国科学家的一篇文章: A Neural Algorithm of Artistic Style.
在说它具体算法之前,我们先说一下它的核心思想, 也就是它的操作的一个流程,我们以下面这张图为例:
首先,我们要给定一个参考的风格。 右面大图图的左下角就是我们的参考的风格, 然后我们提供一个 待 转换风格的图片, 也就是我们自己拍摄的图片,也就是左面这张图。 有了这两张图之后,我们把它们进行融合, 就得到了右边的大图, 也就是我们最终的结果, 即我们风格化之后的结果, 这就是风格迁移 。
那 风格 迁移 中的核心算法是什么? 它的主要原理就是通过分离并重新组合图片的内容和风格。
我们看上面这张图,图片左侧有两张小图,上面那张 就是那个风格图,也就是我们的艺术作品, 下张图就是我们的内容图, 也就是我们自己的图。 这就是 各自 指的就是图片的内容和图片的风格。
我们可以看到经过神经网络, 它 分别对风格和内容进行了重建。 在不断地重建的过程中,最后对它们进行组合, 就得到我们最终的结果。
那我们重建这样的一个图像, 它使用一个什么样的优化目标呢? 主要包含两个:
第一个是我们的像素内容损失,是这样一个函数:
F跟P就是我们的参考图和我们的最终的结果图,
它们是在像素空间来进行计算。
这样的一个内容损失实际上就是让我们重建之后的图,
也就是我们风格化之后的图,
要与我们自己提供的那张图的内容是匹配的,
也就是说我们希望它能够保证保持它的内容。
第二个是风格损失。 这里使用 Gram矩阵 来进行风格损失的一个表征, Gram矩阵 实际上 表征 的不同的 feature map 的融合。
这就是
Gram
的
矩阵
:
Gram矩阵 就限制了我们最终的结果 图 , 要与我们的艺术风格图也要保持一致。 有了这样的两个损失函数之后, 我们对他们进行一个加权, 最终就得到我们的最终的优化目标。 基于这样的一个优化目标, 就得到我们的风格迁移的结果。 这是来源于最早的一篇文章,也是目前效果来说处于顶尖的文章。
除了风格迁移之外, 我们看看我们的 变脸算法 。 所谓变脸算法就是我们刚才所说的天天 P图, 将我们的人脸转化为模板,比如 延禧攻略或者说穿军装的小哥哥等等。
这样的一个变脸算法,它的核心流程是:
我们要对我们的
人脸
的关键点进行检测,
然后将人脸进行对齐
,
对齐之后,
我们实际上利用了前面所说的这风格迁移算法,
把我们的内容图跟我们最开始的图进行一个风格的迁移,
在这样的一个约束情况下,
就得到了我们的正
面
姿态的结果,
然后我们对图像进行
分割
,
最后我们又重新对其进行图像融合。
我们看上面的这张图, 它展示了一个完整的流程。左边输入图, 我们首先经过人脸关键 点 检测对齐之后, 然后经过中间的神经网络的一个风格迁移 之后,我们再进行重新的人脸对齐, 最后进行妥善的融合, 就得到我们最终的结果。
我们的图是自己拍摄的一张图, 然后我们的这个风格图实际上是尼古拉斯的一张图片, 这里并没有给出原始的尼古拉斯的那张风格图, 大家感兴趣可以去线下看相关的论文。 总之他的思想就是我们输入图像 A , 也就是我们自己的图, 把它的姿态和表情作为我们的内容, 然后把输入的图像B , 也就是我们要转换成风格的那张图作为风格。
那这个算法里面比较核心的就是我们的风格迁移, 风格迁移实际上是如下面这张图的操作, 它通过类似于一个金字塔的框架来不断重建我们的风格迁移的结果。
核心的思想与前面所说的风格迁移差不多。 它 的损失函数也是一个内容函数加 风格 函数。 大家如果对这个函数感兴趣,对这个优化目标感兴趣, 可以线下再去深入的了解。
最后,我们说一下我们的 卡通图像。 卡通图像的生成, 它一般包含了几个操作, 例如人脸检测以及对人脸的各个部位的分割, 然后再进行匹配,融合 。
上面这张图展示的是腾讯天天 P图实验室在早几年做的一个算法, 它实际上也被用在了天天 P图这个产品里面。 我们看看它的流程:
我们先输入一张图进行人 人脸 测 关键点 检测之后, 接下来要对他的性别以及是否佩戴眼镜等等做一个检测。 随后我们用这个人脸分割算法, 把人脸分割成几个区域, 包括眼睛嘴巴头发等等。得到这些区域之后, 我们分别对它进行特征的提取,在 提 取 到特征之后, 与我们所建立的库里面相对应的人脸的部位进行 最近邻 的匹配, 匹配到这些部位之后, 我们查询到对应的卡通图像的一个子元素, 然后利用 支持 向量回归的方法, 再去对这些元素进行一个内容的重新的调整。 这一步实现了一个更好的艺术化的设计, 最后得到我们输出的结果。
实际上现在有很多更新的方法,包括使用 GAN 来进行这样一个风格迁移。 以后有机会我会给大家做更多的介绍。 人 脸 的风格 化 主要就包含这些内容。
最后,我们对那个风格化的应用做下简单的总结。
这个人脸风格化的 滤镜 , 它主要还是应用在社交方面, 就是我们生成一些风格化的滤镜。 这些滤镜非常的好玩有趣, 我们会把它分享给朋友。 尤其是在特殊的时刻, 比如说像现在延禧攻 略 这个电视剧非常火的情况下, 我们做一些这样的滤镜来展示我们的社交行为。 其次 我们也可以尝试用这样的方法来进行一些动漫产品的艺术创作, 只是目前这样的方法的 鲁棒性 还不是非常强, 但我相信以后一定会有这样的一天到来。
上面这张图左面的是 我们看的权力 的 游戏, 我利用自己的证件照生成了一张布兰的一张图。 右边的是今天用一个 APP生成的一张社交图。 可以看到,实际上更多的应用还是在风格化这方面。 风格化滤镜可以做一些有意思的社交展示个性。
免费领取技术大咖分享课,加蜂口V信: fengkou-IT
感谢您的阅读,更多精彩请持续关注蜂口微信小程序!
来自 “ ITPUB博客 ” ,链接:https://blog.itpub.net/31553577/viewspace-2216462/ ,如需转载,请注明出处,否则将追究法律责任。