万花镜
    首页社会国际娱乐科技时尚军事汽车探索美食旅游历史健康育儿
    品牌亚当美国纽约名人绘画汽车人物画家

    用数据说话:把自拍照变成毕加索名画哪种算法最高效?

    2017年3月15日 来源: 互联网

    提起前段时间红遍朋友圈的 Prisma,可能许多朋友都还记忆犹新:输入一张自己的照片,再选一个 Prisma 内置的名画滤镜,几秒之后就能得到一张名画风的新照片。

    用数据说话:把自拍照变成毕加索名画 哪种算法最高效?

    绝大部分用户可能只是通过 Prisma 过了一把当画家的瘾,但对于程序猿们来说,仅仅得到一张风格迥异的新照片似乎还远远不够。

    近日,有位外国开发者根据 fast.ai 平台开设的深度学习代码实践课程,亲手实现了一个照片风格转换器,并对几种常见的优化算法的性能进行了综合对比,最终以图表加博客的方式记录下来。

    下面就让我们跟随作者的脚步,一起看看究竟哪种算法最高效(程序猿是怎么玩坏 Prisma 的)。原文来自 medium.com,雷锋网编译。文中相关的代码开源地址和原博客地址见文末。

    什么是照片风格转换器?它是怎么工作的?

    问题1:什么是风格转换器(style transfer)?

    所谓照片风格转换器,就是类似 Prisma 的,转换照片风格的软件 App。他们抽取 A 照片的风格特征(一般都是一张名画),然后将这种特征应用到 B 照片的内容上,从而生成了全新的照片 C。

    问题2:怎样分隔一张照片的风格和内容?

    使用卷积神经网络(CNN)。由于 AlexNet 已经成功地将 CNN 应用于目标识别(即确定图像中的主体内容),并且在 2012 年主导了最流行的计算机视觉竞赛,因此 CNN 是目前用于图像目标识别的最流行和有效的方法。

    简单说,CNN 是通过学习构建在先前图层上的各个过滤器层来识别对象的。例如,第一层通常用来学习识别简单的图案,例如物体的边缘和棱角。中间层可能用来识别更复杂的图案,例如人物的眼镜、汽车的轮胎等。Jason Yosinski 大神曾在下面这个视频中详细介绍了 CNN 的相关内容。

    https://www.youtube.com/watch?v=AgkfIQ4IGaM

    事实证明,CNN 第一层中的过滤器对应于一张照片的风格,包括画笔描边、纹理等。靠后的图层中的过滤器对应于识别图像中的主体,例如狗,建筑物或一座山等。

    例如,将一幅毕加索的画作输入 CNN,并分析第一层(样式层)有多少过滤器被激活,就可以得到该画作的样式表示。同样,通过最后一层(内容层)的分析,我们也可以得到画作内容的表示。

    问题3:怎样将风格和内容融合在一起?

    这一步很有意思。由于两张照片的风格大不相同,因此它们的样式层中激活的过滤器也就不同,通过分析两个样式层中的过滤器,就能获得两张照片的样式之间的差别。同样,对内容层中过滤器的分析,也能得到两张照片内容的差别。

    用数据说话:把自拍照变成毕加索名画 哪种算法最高效?

    例如,如图所示,我们想把一张自拍照和毕加索的画作融合。融合后的图像首先以图示中的噪声图像为起点,然后将这张图像输入 CNN ,它会激活样式层和内容层中的一些特定的过滤器。按照上述的方法,通过对比融合照片和毕加索画作的风格层,就可以得到风格损失(style loss);通过对比融合照片和自拍照的内容层,就可以得到内容损失(content loss),将两种损失相加,就得到了总损失。

    下面的任务就很清楚了:通过优化算法的介入,我们想办法将这个总损失最小化,最终就得到了一张毕加索风格的自拍照了。

    问题4:有哪些常见的优化算法?

    到目前为止,我遇到了两种类型的优化算法:一阶的和二阶的。

    一阶方法通过梯度(gradient)将目标函数最小化(或者最大化)。应用最广泛的就是梯度下降法(Gradient Descent)及其各种变体,详情见如下链接:

    http://sebastianruder.com/optimizing-gradient-descent/

    二阶方法是通过二阶导数将目标函数最小化(或者最大化)。由于二阶导数的计算成本很高,因此这里所讨论的二阶算法 L-BFGS(Limited-memory Broyden–Fletcher–Goldfarb–Shanno) 使用了 Hessian 矩阵近似。

    哪种优化算法最高效?

    由于我们在以下试验中处理的照片颜色灰度都介于 0-255 之间,因此将各算法的学习率(learning rate)都设置为 10,这看起来可能有点大,但效果还可以接受。算法的其他超参数(hyperparameters)都保持默认。测试的硬件环境是:Amazon P2 实例上的单片 K80 GPU。

    实验1:100 次循环,300 x 300 像素

    用数据说话:把自拍照变成毕加索名画 哪种算法最高效?

    如图所示,我们输入了两张 300 x 300 像素的照片,并运行整个优化循环 100 次。虽然 100 次并不足以生成一个效果很好的融合照片,但对我们分析各个优化算法的性能已经足够了。

    用数据说话:把自拍照变成毕加索名画 哪种算法最高效?用数据说话:把自拍照变成毕加索名画 哪种算法最高效?

    如图所示,由于学习率设置的略大,因此梯度下降(Gradient Descent)、Adadelta 和 RMSProp 在整个循环中都处于不断的震荡状态,并没有显示出明显的收敛趋势。反观 Adam 和 L-BFGS 算法则能够快速收敛,并且误差也基本相同。

    实验2:100 次循环,600 x 600 像素

    当参数增多时,L-BFGS 算法应该表现的更好。为此,我们在试验2中增大了图像,并切换了素材。

    用数据说话:把自拍照变成毕加索名画 哪种算法最高效?用数据说话:把自拍照变成毕加索名画 哪种算法最高效?

    如图所示,虽然学习率的设置还是略大,但梯度下降和 Adadelta 算法在面对大数据量时显得更稳定,RMSProp 还是始终处于震荡状态。

    另外,Adam 算法一开始收敛很快,但后期被 L-BFGS 反超。不知道是不是和循环次数有关,下面我们试着增加循环次数。

    实验3:1000 次循环,300 x 300 像素

    在实验3中,我们增加了循环次数,依然使用实验2中的照片素材,但像素变为 300 x 300。

    用数据说话:把自拍照变成毕加索名画 哪种算法最高效?用数据说话:把自拍照变成毕加索名画 哪种算法最高效?

    如图所示,在略大的学习率设置下,梯度下降、Adadelta 和 RMSProp 始终处于震荡状态无法收敛。但 Adam、Adagrad 和 L-BFGS 三种算法的收敛情况则相对较好,其中效果最好的 L-BFGS 大约比 Adam 的优化效果好 50% ,并且速度也更快。

    用数据说话:把自拍照变成毕加索名画 哪种算法最高效?

    从最终生成的融合照片的成像效果也能看出来,L-BFGS、Adam 和 Adagrad 的效果要好一些。

    实验4:不同的学习率,100 次循环,300 x 300 像素

    有说法称过大的学习率可能会导致梯度下降、Adadelta 和 RMSProp 三种算法不收敛,因此在实验 4 中我们减小这三种算法的学习率。

    用数据说话:把自拍照变成毕加索名画 哪种算法最高效?

    可以看到,所有算法最终都收敛了。可能是得益于较低的学习速率,梯度下降的最终表现要优于 Adadelta 算法。另外,较高的学习率虽然在一开始时帮助 Adam LR 10 取得了较快的收敛速度,但最终效果并不好。而 Adam LR 1 虽然收敛缓慢,但表现很稳定。那么问题来了,如果增加循环次数,Adam LR 1 的表现是否会超过 Adam LR 10 呢?

    实验5:不同的学习率,500 次循环,300 x 300 像素

    增加循环次数之后,即便在学习速率较小的情况下,梯度下降、Adadelta 和 RMSProp 三种算法也还是出现了震荡。

    用数据说话:把自拍照变成毕加索名画 哪种算法最高效?

    有趣的是,Adam LR 1 最终果然反超了 Adam LR 10,甚至有超过 L-BFGS 的趋势。

    实验6:1000 次循环,300 x 300 像素

    这一次我们仅仅对 Adam LR 1 和 L-BFGS 进行了对比,通过进一步增加循环次数,可以看到,Adam LR 1 最终的表现并没有超过 L-BFGS。

    用数据说话:把自拍照变成毕加索名画 哪种算法最高效?总结

    从上述试验可以发现:在较大的学习率设置下,梯度下降、Adadelta 和 RMSProp 三种算法不容易收敛,但增大数据量,前两种会有所好转。总体上,L-BFGS 算法的收敛效果最好,速度也最快。

    改变学习率。Adam 在学习率较小时,收敛情况提升明显,随着循环次数的增大,收敛效果几乎与 L-BFGS 算法相当,但收敛情况最好的依然是 L-BFGS 算法。

    最后作者表示,以上实验只是从参数设置、数据量和迭代次数等方面入手简单探索了几种常见算法的特性,目的只是帮助大家在开发中更好地使用它们。虽然试验结果显示 L-BFGS 算法的收敛速度最快,效果最好,但按照个人习惯,他用 Adam 算法的情况反而更多。另外,究竟哪种算法效果最好,也不能一概而论,还是要根据数据类型和项目要求灵活选择。

    源码地址:https://github.com/slavivanov/Style-Tranfer

    来源:medium,雷锋网编译

    雷锋网相关阅读:

    通过从零开始实现一个感知机模型,我学到了这些

    城市版Prisma?用神经网络技术构建梦想中的城市

    中国版 Prisma 来了,我们今天再聊聊深度学习

    位置:首页 > 科技
    加载更多评论...
    本类推荐
    英国男子每天与女友合照照片中暗藏求婚誓言
    英国男子每天与女友合照照片中暗藏求婚誓言

    来自英国格里姆斯比的38岁送货司机Ray Smith,花费5个月的时间为自己的33岁怀孕女友Claire Bramley策划了一场非常浪漫的求婚仪式。这5个月里,Ray每天都与Claire合照,并且偷偷在照片里藏了一张便签:“Will you marry me?

    今年最流行的5款发型,她们都剪了,难怪比你漂亮!
    今年最流行的5款发型,她们都剪了,难怪比你漂亮!

    可能每个人都有疑问,时尚博主和明星们的发型和常人不同的地方在哪里?大家都有兴趣知道的话就跟着小编我一起来研究一下吧!小编给大家列举了最流行的5种风格发型1.易打理,LOB 发型这个算是今年最HIT的发型了,很多艺人、模特们都纷纷跟风,当然是少不了走在时尚尖端的博主们。

    今年时尚圈最流行什么裤子?第三件简直辣眼睛!
    今年时尚圈最流行什么裤子?第三件简直辣眼睛!

    秋天来了,时髦精们都脱下美裙,纷纷换上了裤装,今天搭姐跟大家盘点一下,今年最流行的几款裤子。踩脚裤一条简单的长裤,裤脚加上一个脚胖的设计,小心机大时髦,有点90年代健美裤的感觉。而且搭配高跟鞋来穿最是有个性。

    头发千万别乱剪,要剪就剪今年最流行的!
    头发千万别乱剪,要剪就剪今年最流行的!

    剪头发之前我们最好的是看看女星们的长短发对比照,一般都能找到属于我们想要的发型!【IU 长发vs短发】长发是清纯可爱的感觉,短发是成熟和带有一些小性感的感觉!【高俊熙 长发vs短发】想过几十次想剪高俊熙这样的短发!

    该不该把1.35亿名画,交给国家?这老太太说:老娘不干!
    该不该把1.35亿名画,交给国家?这老太太说:老娘不干!

    这部电影的故事,要从一幅名画讲起,《阿黛尔·布洛赫-鲍尔夫人肖像一号》,价值:一亿三五百千万美元。1907年,画家克利姆特耗时4年,完成了这幅名画。画中的模特:阿黛尔·布洛赫夫人,是一位犹太富商的妻子。

    那些有爱的明星合照
    那些有爱的明星合照

    陈妍希在舒淇身边乖乖的像个小女生,两个人同盖一床被子,画面还是挺温馨的嘛没想到陈晓这么个高冷boy谈了恋爱以后也变的爱秀恩爱哟,确实,看他恋爱前后上快本的状态,明显开朗了许多,这也许就是好的恋爱给人带来的改变吧...

    一开始不知道他在土地上干什么,直到在飞机上看到后,惊为天人!
    一开始不知道他在土地上干什么,直到在飞机上看到后,惊为天人!

    如果你乘坐飞机经过美国明尼苏达州明尼亚波利斯,一定会被地上巨幅的梵谷名画所震撼。这是64岁的艺术家斯坦(StanHerd)花费6个月的时间,使用各种植物所打造的特别作品。他将梵谷的名画《橄榄树》完美的搬运到了现实世界中。

    韩国女演员朴敏英,上传自拍照给人清纯的感觉,“不是玩偶啊~”
    韩国女演员朴敏英,上传自拍照给人清纯的感觉,“不是玩偶啊~”

    演员朴敏英展现了自己的清纯美。6日在自己的instagram上传了一张自己的照片,展现了完美女神的样子。给人玩具娃娃的感觉。白色的连衣裙和粉色的花纹,给人活泼可爱的感觉。纤细的腰部曲线也可以很明显的看到哦~~~朴敏英纤细的身材和性感的锁骨线条加上小小的脸...

    他将服用荷尔蒙变成女人的过程公开,一年后的自拍照完全是两个人
    他将服用荷尔蒙变成女人的过程公开,一年后的自拍照完全是两个人

    性别意识的抬头,让很多人都勇敢做出那个内心真正的自己。性别在我们有生命的那一刻就已经决定,无法改变更不可能重来,然而有许多装错性别的灵魂,因为社会环境的因素,违背内心真正的渴望,勉强自己以外表的性别过完一生,只有少数人能够突破重重难关,勇敢展现真正的自己。

    10岁左右就快超越爱因斯坦的天才小神童,别再纠结孩子的成绩了
    10岁左右就快超越爱因斯坦的天才小神童,别再纠结孩子的成绩了

    1. 巴尼特 (Jacob Barnett):巴尼特是一名患有重度自闭症的天才数学家,当初医生说他严重到可能将无法说话、阅读或独自从事某些活动,结果事实證明医生大错特错。他3岁那年跟家人去参观天文馆时...

    三宗罪!为何不能买法系车?
    三宗罪!为何不能买法系车?

    原文题目《法系车主—从死忠粉到脑残粉》,作者:屠龙刀。如果不是当年法国政府很执拗地军售台湾飞机,广州标致505也许和大众桑塔纳一样成为当时的国民车。在我印象中,标致看起来要比大众更高级、更豪华。任性似乎就是法国人的代名词。

    16张爸爸女儿合照,融化你的心!
    16张爸爸女儿合照,融化你的心!

    编译:Daisy爸爸是女儿的第一个情人。没有一种关系能像父女之情一样。一个好爸爸会让女儿知道,她是多么珍贵、特别。无论何时,只要女儿需要,爸爸就会在她身边。爸爸对女儿的生命有及其深刻的影响。看看这16张爸爸和女儿的合影照片,可以证实这一点。

    延伸热词
    首页社会国际娱乐科技时尚军事汽车探索美食旅游历史健康育儿
    万花镜 版权所有 京ICP备14059027号
    值班QQ:3012642954
    邮箱:wanhuajingnews@qq.com