万花镜
    首页社会国际娱乐科技时尚军事汽车探索美食旅游历史健康育儿
    品牌亚当美国纽约名人绘画人物汽车画家

    用数据说话:把自拍照变成毕加索名画哪种算法最高效?

    2017年3月15日 来源: 互联网

    提起前段时间红遍朋友圈的 Prisma,可能许多朋友都还记忆犹新:输入一张自己的照片,再选一个 Prisma 内置的名画滤镜,几秒之后就能得到一张名画风的新照片。

    用数据说话:把自拍照变成毕加索名画 哪种算法最高效?

    绝大部分用户可能只是通过 Prisma 过了一把当画家的瘾,但对于程序猿们来说,仅仅得到一张风格迥异的新照片似乎还远远不够。

    近日,有位外国开发者根据 fast.ai 平台开设的深度学习代码实践课程,亲手实现了一个照片风格转换器,并对几种常见的优化算法的性能进行了综合对比,最终以图表加博客的方式记录下来。

    下面就让我们跟随作者的脚步,一起看看究竟哪种算法最高效(程序猿是怎么玩坏 Prisma 的)。原文来自 medium.com,雷锋网编译。文中相关的代码开源地址和原博客地址见文末。

    什么是照片风格转换器?它是怎么工作的?

    问题1:什么是风格转换器(style transfer)?

    所谓照片风格转换器,就是类似 Prisma 的,转换照片风格的软件 App。他们抽取 A 照片的风格特征(一般都是一张名画),然后将这种特征应用到 B 照片的内容上,从而生成了全新的照片 C。

    问题2:怎样分隔一张照片的风格和内容?

    使用卷积神经网络(CNN)。由于 AlexNet 已经成功地将 CNN 应用于目标识别(即确定图像中的主体内容),并且在 2012 年主导了最流行的计算机视觉竞赛,因此 CNN 是目前用于图像目标识别的最流行和有效的方法。

    简单说,CNN 是通过学习构建在先前图层上的各个过滤器层来识别对象的。例如,第一层通常用来学习识别简单的图案,例如物体的边缘和棱角。中间层可能用来识别更复杂的图案,例如人物的眼镜、汽车的轮胎等。Jason Yosinski 大神曾在下面这个视频中详细介绍了 CNN 的相关内容。

    https://www.youtube.com/watch?v=AgkfIQ4IGaM

    事实证明,CNN 第一层中的过滤器对应于一张照片的风格,包括画笔描边、纹理等。靠后的图层中的过滤器对应于识别图像中的主体,例如狗,建筑物或一座山等。

    例如,将一幅毕加索的画作输入 CNN,并分析第一层(样式层)有多少过滤器被激活,就可以得到该画作的样式表示。同样,通过最后一层(内容层)的分析,我们也可以得到画作内容的表示。

    问题3:怎样将风格和内容融合在一起?

    这一步很有意思。由于两张照片的风格大不相同,因此它们的样式层中激活的过滤器也就不同,通过分析两个样式层中的过滤器,就能获得两张照片的样式之间的差别。同样,对内容层中过滤器的分析,也能得到两张照片内容的差别。

    用数据说话:把自拍照变成毕加索名画 哪种算法最高效?

    例如,如图所示,我们想把一张自拍照和毕加索的画作融合。融合后的图像首先以图示中的噪声图像为起点,然后将这张图像输入 CNN ,它会激活样式层和内容层中的一些特定的过滤器。按照上述的方法,通过对比融合照片和毕加索画作的风格层,就可以得到风格损失(style loss);通过对比融合照片和自拍照的内容层,就可以得到内容损失(content loss),将两种损失相加,就得到了总损失。

    下面的任务就很清楚了:通过优化算法的介入,我们想办法将这个总损失最小化,最终就得到了一张毕加索风格的自拍照了。

    问题4:有哪些常见的优化算法?

    到目前为止,我遇到了两种类型的优化算法:一阶的和二阶的。

    一阶方法通过梯度(gradient)将目标函数最小化(或者最大化)。应用最广泛的就是梯度下降法(Gradient Descent)及其各种变体,详情见如下链接:

    http://sebastianruder.com/optimizing-gradient-descent/

    二阶方法是通过二阶导数将目标函数最小化(或者最大化)。由于二阶导数的计算成本很高,因此这里所讨论的二阶算法 L-BFGS(Limited-memory Broyden–Fletcher–Goldfarb–Shanno) 使用了 Hessian 矩阵近似。

    哪种优化算法最高效?

    由于我们在以下试验中处理的照片颜色灰度都介于 0-255 之间,因此将各算法的学习率(learning rate)都设置为 10,这看起来可能有点大,但效果还可以接受。算法的其他超参数(hyperparameters)都保持默认。测试的硬件环境是:Amazon P2 实例上的单片 K80 GPU。

    实验1:100 次循环,300 x 300 像素

    用数据说话:把自拍照变成毕加索名画 哪种算法最高效?

    如图所示,我们输入了两张 300 x 300 像素的照片,并运行整个优化循环 100 次。虽然 100 次并不足以生成一个效果很好的融合照片,但对我们分析各个优化算法的性能已经足够了。

    用数据说话:把自拍照变成毕加索名画 哪种算法最高效?用数据说话:把自拍照变成毕加索名画 哪种算法最高效?

    如图所示,由于学习率设置的略大,因此梯度下降(Gradient Descent)、Adadelta 和 RMSProp 在整个循环中都处于不断的震荡状态,并没有显示出明显的收敛趋势。反观 Adam 和 L-BFGS 算法则能够快速收敛,并且误差也基本相同。

    实验2:100 次循环,600 x 600 像素

    当参数增多时,L-BFGS 算法应该表现的更好。为此,我们在试验2中增大了图像,并切换了素材。

    用数据说话:把自拍照变成毕加索名画 哪种算法最高效?用数据说话:把自拍照变成毕加索名画 哪种算法最高效?

    如图所示,虽然学习率的设置还是略大,但梯度下降和 Adadelta 算法在面对大数据量时显得更稳定,RMSProp 还是始终处于震荡状态。

    另外,Adam 算法一开始收敛很快,但后期被 L-BFGS 反超。不知道是不是和循环次数有关,下面我们试着增加循环次数。

    实验3:1000 次循环,300 x 300 像素

    在实验3中,我们增加了循环次数,依然使用实验2中的照片素材,但像素变为 300 x 300。

    用数据说话:把自拍照变成毕加索名画 哪种算法最高效?用数据说话:把自拍照变成毕加索名画 哪种算法最高效?

    如图所示,在略大的学习率设置下,梯度下降、Adadelta 和 RMSProp 始终处于震荡状态无法收敛。但 Adam、Adagrad 和 L-BFGS 三种算法的收敛情况则相对较好,其中效果最好的 L-BFGS 大约比 Adam 的优化效果好 50% ,并且速度也更快。

    用数据说话:把自拍照变成毕加索名画 哪种算法最高效?

    从最终生成的融合照片的成像效果也能看出来,L-BFGS、Adam 和 Adagrad 的效果要好一些。

    实验4:不同的学习率,100 次循环,300 x 300 像素

    有说法称过大的学习率可能会导致梯度下降、Adadelta 和 RMSProp 三种算法不收敛,因此在实验 4 中我们减小这三种算法的学习率。

    用数据说话:把自拍照变成毕加索名画 哪种算法最高效?

    可以看到,所有算法最终都收敛了。可能是得益于较低的学习速率,梯度下降的最终表现要优于 Adadelta 算法。另外,较高的学习率虽然在一开始时帮助 Adam LR 10 取得了较快的收敛速度,但最终效果并不好。而 Adam LR 1 虽然收敛缓慢,但表现很稳定。那么问题来了,如果增加循环次数,Adam LR 1 的表现是否会超过 Adam LR 10 呢?

    实验5:不同的学习率,500 次循环,300 x 300 像素

    增加循环次数之后,即便在学习速率较小的情况下,梯度下降、Adadelta 和 RMSProp 三种算法也还是出现了震荡。

    用数据说话:把自拍照变成毕加索名画 哪种算法最高效?

    有趣的是,Adam LR 1 最终果然反超了 Adam LR 10,甚至有超过 L-BFGS 的趋势。

    实验6:1000 次循环,300 x 300 像素

    这一次我们仅仅对 Adam LR 1 和 L-BFGS 进行了对比,通过进一步增加循环次数,可以看到,Adam LR 1 最终的表现并没有超过 L-BFGS。

    用数据说话:把自拍照变成毕加索名画 哪种算法最高效?总结

    从上述试验可以发现:在较大的学习率设置下,梯度下降、Adadelta 和 RMSProp 三种算法不容易收敛,但增大数据量,前两种会有所好转。总体上,L-BFGS 算法的收敛效果最好,速度也最快。

    改变学习率。Adam 在学习率较小时,收敛情况提升明显,随着循环次数的增大,收敛效果几乎与 L-BFGS 算法相当,但收敛情况最好的依然是 L-BFGS 算法。

    最后作者表示,以上实验只是从参数设置、数据量和迭代次数等方面入手简单探索了几种常见算法的特性,目的只是帮助大家在开发中更好地使用它们。虽然试验结果显示 L-BFGS 算法的收敛速度最快,效果最好,但按照个人习惯,他用 Adam 算法的情况反而更多。另外,究竟哪种算法效果最好,也不能一概而论,还是要根据数据类型和项目要求灵活选择。

    源码地址:https://github.com/slavivanov/Style-Tranfer

    来源:medium,雷锋网编译

    雷锋网相关阅读:

    通过从零开始实现一个感知机模型,我学到了这些

    城市版Prisma?用神经网络技术构建梦想中的城市

    中国版 Prisma 来了,我们今天再聊聊深度学习

    位置:首页 > 科技
    加载更多评论...
    本类推荐
    一周男星穿衣榜|贝克汉姆大儿子摔断锁骨依旧帅?
    一周男星穿衣榜|贝克汉姆大儿子摔断锁骨依旧帅?

    Michael Fassbenderat Song To Song Premiere, SXSW Festival 2017你可能不知道《300勇士》中的巴达勇士Stelios,不知道《饥饿》中的Bobby Sands...

    GoogleAllo现在可以将用户的自拍照变成卡通表情贴纸
    GoogleAllo现在可以将用户的自拍照变成卡通表情贴纸

    相反,Google的版本通过利用机器学习和神经网络,将用户的自拍照转变成由艺术家Lamar Abrams设计的动画版本,然后可以进一步定制。最终的产品是各种不同的卡通表情贴纸,其特点是用户的新卡通造型将可以在未来的Allo聊天中使用。

    她帮小婴儿拍下一张照片留念,没想到却让她拍到了恐惧不已的东西
    她帮小婴儿拍下一张照片留念,没想到却让她拍到了恐惧不已的东西

    关于鬼怪这种事情,有些人相信它们的存在,有些人则不相信。不管你相不相信,有时我们却会捕捉到令人难以解释的画面,就会解读它为灵异照片,它们总会在你卸下防备,在你最意想不到的时候出现。 Reddit用户RickieOnRadio的阿姨...

    五个都是女孩,德州一孕妇生下罕见的五胞胎
    五个都是女孩,德州一孕妇生下罕见的五胞胎

    美国得州休斯敦一名孕妇上周诞下罕见的「全女班」5胞胎,相信是美国有史以来第一次,也是自从1969年以来,全球首次有5胞胎女婴出生。这5胞胎女婴4月7日在得州妇科医院,以剖腹手术诞生。由12人组成的医疗团队花了不足4分钟时间,便把她们全部迎接到世上。

    这幅画被撞破过,然而却卖了1.55亿美元!
    这幅画被撞破过,然而却卖了1.55亿美元!

    1《梦》 1.55亿美元美国顶级艺术藏家史蒂夫-科恩(Steve A. Cohen )从拉斯维加斯大富豪、赌场大亨史蒂夫-韦恩( Steve Wynn)那购买了毕加索1932年创作的情人肖像画《梦》(Le Rêve)。

    大师毕加索人生14张自画像,揭示数十年画风演变秘密
    大师毕加索人生14张自画像,揭示数十年画风演变秘密

    法国现代派大师毕加索,一生中给自己画过很多自画像,但是,当我们把他人生第一张自画像和最后一张自画像放在一起对比的时候,会发现差距特别大……而当我们把下面的14副自画像按照时间顺序排列的时候,就会发现,毕加索的这些改变...

    三大地狱式男生穿搭,颜值再高也无药可救!
    三大地狱式男生穿搭,颜值再高也无药可救!

    欢迎点击上方蓝字免费订阅!堪称史上最性感的歌手 Adam Levine 去年在台湾演出,强掳了一大把少女心!独特的悦耳高亢嗓音,搭配电死人不偿命的眼神,让多少人连两晚再次重回初恋心悸。但是然并卵呢?Adam 你穿成这样你家人知道吗?

    木心辞世四周年:如欲相见,我在各种悲喜交集处
    木心辞世四周年:如欲相见,我在各种悲喜交集处

    木心熟悉木心的人可以从木心的散文、诗歌谈到其学生陈丹青整理的种种著作,不熟悉木心的人或许还听过一首叫做《从前慢》的歌。从前慢木心记得早先少年时大家诚诚恳恳说一句 是一句清早上火车站长街黑暗无行人卖豆浆的小店冒着热气从前的日色变得慢车...

    梁云菲深夜放送自拍照!网友看了鼻血直流
    梁云菲深夜放送自拍照!网友看了鼻血直流

    梁云菲深夜放送激凸照C奶乍现北岳网讯:女神梁云菲(NANA、娜王)外型甜美,拥有傲人C罩杯及性感身材,从小向往成为饶舌歌手,近期如愿成为饶舌乐团「玖壹壹」师妹,将推出单曲《坏女孩》,努力朝音乐梦迈进。她14日凌晨在Instagram发文...

    看完这些妈妈的自拍照,你会更爱自己身上的所有痕迹!母爱的伟大
    看完这些妈妈的自拍照,你会更爱自己身上的所有痕迹!母爱的伟大

    女孩们,你有橘皮、腹纹或妊娠纹吗?事实上,不管你高矮胖瘦,身上都有可能出现这样的纹路线条不相信吗?问问名模克莉丝汀.泰根 (Chrissy Teigen) 就知道,这可是她前几天自己放上网路的照片。无论年纪大小,人生中都难免会遇到这些状况。

    20岁模特儿莎拉被赞为“全球最性感网红”
    20岁模特儿莎拉被赞为“全球最性感网红”

    我们常常在喵星人的双眼看到「异色瞳」的特征,这种症状被称为「虹膜异色症」,跟天生的遗传有关系;而现实中其实也有人拥有不同颜色的双眼,比如今天要介绍的这位,年仅20岁的模特儿莎拉(Sarah Rose)。

    大猜想|席勒VS毕加索,谁将称霸纽约春拍
    大猜想|席勒VS毕加索,谁将称霸纽约春拍

    ▲ 点击上方关注 美术报,分享美的一切仿佛上一次秋拍才刚刚结束,2017年的春拍便紧锣密鼓地来了。从15日(纽约时间)起,纽约苏富比与佳士得纽约的重头戏:“印象派与现代艺术晚拍”即将相继上演,相信这又是一场没有硝烟的“战争”。

    延伸热词
    首页社会国际娱乐科技时尚军事汽车探索美食旅游历史健康育儿
    万花镜 版权所有 京ICP备14059027号
    值班QQ:3012642954
    邮箱:wanhuajingnews@qq.com