机器之心报道,机器之心编辑部
近几天网上最热的话题是「看看他老了以后的样子」。总部位于俄罗斯圣彼得堡的 Wireless Lab 掀起了一次社交媒体浪潮,其推出的应用「FaceAPP」在极短的时间内火遍全球。
这款应用使用 AI 算法,可以瞬间把人们上传的人脸照片「年轻」或者「老化」。它就是这几天网上充斥各界明星 17 岁/80 岁照片的万恶之源。
不过,随着基于人工智能算法的 FaceAPP 成为人们关注的焦点,也有人开始担忧自己的隐私会在「全民换脸」的大潮中受到侵害。
一夜爆火的应用
你很可能已经看到过 FaceAPP 处理过的图片了。照片编辑应用 FaceApp 作为一款 2017 年推出的图像滤镜产品,近几天因效果大幅升级再次在社交媒体上受到欢迎,它已在本周冲上了苹果和安卓应用商店免费榜的头名位置。
这款应用可以自动检测人脸,仅需上传一张照片,就可以实现改变表情、变年轻、变老、改变性别等各种效果,当然也少不了最为基本和实用的美颜滤镜。
使用 FaceAPP 模拟出的,苹果公司 CEO 蒂姆·库克年轻时的样子。
众多好莱坞影星完成了「年龄挑战」,很多明星甚至主动参与其中。
机器之心也在 App Store 上下载了 FaceAPP,并试用了免费版。从使用上来看,上传照片的速度比较慢,但上传一次就可以进行各种操作,例如变换笑容、发色、发型、年龄、胡子、性别等等。每一个类别都会有一些免费的风格,但也有很多需要付费的风格。例如在变换胡子的选项中,从完全没胡子到络腮胡子一共 8 种风格,免费使用的只有「潮派胡子」。
如下所示我们拿 Demo 面孔试了各种风格的变化效果:
其中第一张为原图,第 2 到 4 张分别是采用不同风格的变换效果。我们可以发现,它的效果还是很好的,我们用自己的照片也能达到差不多的效果。除了上面的这些特征,我们还特意尝试了年龄的变换效果,免费版也支持所有年龄变换的。
「它在收集我们的数据」
一款使用人工智能算法的 APP 受到了所有人的欢迎,但对于最近正在严打隐私泄露的美国政坛来说情况似乎不是这样。出于该应用是俄罗斯人开发的,民主党全国委员会 DNC) 向 2020 年民主党总统竞选团队很快发出了慎用的警告。
参议院少数党领袖 Chuck Schumer 甚至正式要求 FBI 和联邦贸易委员会对该应用展开国家安全调查。
「这款应用能让用户对照片里的人进行不同风格的转换,如让照片中的人物变老。然而不幸的是,这种新奇的尝试并非没有风险:FaceApp 是由俄罗斯人开发的。」DNC 首席安全官 Bob Lord 警告称。
Schumer 则在信中写道:「如果将美国公民的敏感个人信息提供给一个积极从事针对美国的网络敌对行动的外国势力,那将是非常令人不安的。」
虽然 FaceAPP 确实会将图片上传到服务器进行处理,但这一应用只会上传需要修改的特定图片,而不是整个相册。FaceApp 首席执行官 Yaroslav Goncharov 早在 2017 年就曾向 the Verge 表示,虽然该公司有时可能会为了提升人工智能模型性能而短期存储图片,但大多数图片都会很快被从服务器上删除。
对于有关隐私泄露的指责,FaceAPP 在本周三发布声明表示:
-
FaceAPP 会在云端执行大部分照片处理,它只上传用户选择的照片进行编辑,从未上传其它图像到云端。
-
FaceAPP 会在云端储存上传的图像,这主要出于性能和流量的考虑。FaceAPP 希望确保用户不会为每次编辑操作重复上传照片,且大部分图片会在上传 48 小时内从服务器删除。
-
FaceAPP 接受用户从服务器中删除其图像的请求,尽管目前支持团队已经满负荷工作,但这些请求将具有优先性。如想更快地发送这类请求,用户可以在「Settings->Support->Report a bug」内发送「privacy」。
-
FaceAPP 的所有功能在没有登录时都能使用,因此 99% 的用户都没有登录,FaceApp 也就无法访问任何关于个人身份的信息。
-
FaceApp 不会贩卖或共享任何用户数据给第三方。
-
即使研发团队在俄罗斯,但用户数据并不会转移到俄罗斯。
最后,FaceApp 还表示在获取相册的访问权后,软件只会上传选定的图像,用户可以通过网络嗅探工具快速检查。
AI 真的能预测我们未来的样子?
看起来,有关人工智能应用侵犯用户隐私的担忧有些被夸大了,但我们或许仍然需要更加透明的管理机制——目前看来,FaceAPP 显然是不符合欧洲隐私管理条例 GDPR 的。
随着技术的进步,AI 改变人脸的方法已经越来越成熟了。今天我们不仅可以让人在照片里变得更年轻,改变表情,还可以合成一个人的语音,甚至为他/她生成一段并不存在的录像。此前引发人们关注的「Deepfake」即可制作出虚假的名人照片,进而制造假新闻,或者让政治人物说出从未说过的话。现在这项技术已经可以被普通人轻松使用了。
与很多其他应用程序一样,FaceApp 调用 Facebook 和谷歌提供的应用程序接口(API)通过神经网络实现其滤镜效果。
然而 AI 真的靠谱吗?人脸转换的基本原理是什么? 假设让你盯着一个人的视频连续看上 100 个小时,接着又给你看一眼另外一个人的照片,接着让你凭着记忆画出来刚才的照片,你一定画的会很像第一个人的。在这里,Deepfake 这样的机器学习算法通常使用自编码器(Autoencoder)基于原始的图片再次生成类似的图片。在处理过程中,编码器把图片进行压缩,而解码器对图片进行还原。
为了进行换脸,人工智能算法也需要经过大量标注后人脸图像的训练。所以说,AI「预测」出你未来 30 年的样貌是在数据库中几率最大结果的叠加,似乎靠谱,但并不严谨。
最后,也有人工智能也搞不定的人脸。有网友对好莱坞著名演员摩根·弗里曼的照片用了 FaceAPP,结果如下:
看起来并没有什么区别……或许 FaceApp 设定了变老年龄了吧。
参考内容:
https://www.theverge.com/2019/7/17/20697771/faceapp-privacy-concerns-ios-android-old-age-filter-russia
https://www.nytimes.com/2019/07/17/us/faceapp-old-privacy.html?smtyp=cur&smid=tw-nytimes