还在为人脸识别担忧?是时候了解一下人脸伪造了 2024-05-10 11:24:37 全文共 2391 字,阅读大约需要 5 分钟全世界有76亿人口,但是在“查无此人”的网站上,你能看到的人脸远不止这个数字。网站全拼是ThisPersonDoesNotExist.com,网页里并无其它信息,只有一张人脸——每刷新一次,就会有一张新的脸出现,发色发型、肤色脸型、瞳孔的颜色和皱纹全是新的,每一张照片似乎都暗示背后存在一个真人。可如网址所言,“查无此人”。网站是优步的软件工程师菲利普·王(Philip Wang)所搭建,背后是最近几年炙手可热的生成式对抗网络(GANs)。GANs的神奇之处,在于它同时拥有一对图片伪造者和甄别者,一个负责生成尽可能逼真的图像,另一个负责判别生成的图片与原始真实图像的区别,然后将结果反馈给图片生成者。在二者的竞争里,图片不断重新生成、判定、修改,直到真假难辨。脸书的首席AI科学家严·勒存(Yann LeCun)称,GANs是过去20年里深度学习领域最酷的想法,而百度前首席科学家安德鲁·吴(Andrew Ng)说,这是“重大而根本性的进步”。学者们说,当未来的技术历史学家回首往事,可能会认为GANs是通往类人工智能之路上的重要一步。 在”查无此人“网站上,每刷新一次,就会有一张新的人脸生成。(图源:网站截图) 但在科技发展之前,这项技术已经走向了另一个令人担忧的方向。在过去的两年间,不停有媒体曝出,这些图片被附加一系列身份信息,伪装成媒体或者社交平台上的用户,发布信息、影响舆论。在脸书上搜索阿方索·马西亚斯,能找到不少于500个搜索结果,这些同名的男性遍布西班牙、墨西哥、哥伦比亚、委内瑞拉等西语国家。搜索者或许无法注意到其中那个中年的阿方索,他的面容并不显眼,嘴边一圈胡子,头顶是稀疏的黄褐色头发,微笑着露出几颗牙齿。他是亲特朗普的媒体The BL(美丽人生)某个脸书兴趣小组的管理员,有时会点击链接,为网站带来流量。但如果仔细看他的头像,专业人士会发现一些端倪——眼镜框并不左右对称,而且在右耳边有一处诡异的扭曲,而他背后的风景则更加模糊,似乎是建筑,但颜色与线条都难以辨认。社交媒体情报集团Graphika和大西洋理事会数字取证研究实验室为这个用户身份出具报告,他们认为,这个人的图像资料是伪造的。而与阿方索并肩作战的几十个假账户被用来运营几十个支持特朗普的脸书群组,名称包括“美国需要特朗普总统”和“我们与特朗普和彭斯站在一起”。 阿方索的照片里,眼镜框与背景泄露了他的AI身份。(图源:FT) 这个问题从2018年6月开始发酵,当时美联社在领英上发现了一个伪装成智库员工的账户。而2019年12月,Graphika和大西洋理事会的数字取证研究实验室发布了一份关于一个由900多个页面、小组和账户组成的网络的报告,这些页面、组和账户与某右翼新闻机构有关。“他们利用这些假面孔来增强影响力,并向更多的受众传递他们的信息,”实验室工作人员说。上述主页被发现后,都被脸书封禁,但由假面孔生成的假新闻不会只出现在脸书平台上。深度造假检测平台Sensity的首席执行官乔治·帕特里尼(Giorgio Patrini)表示,GAN生成的面孔也出现在企业界,截至目前,他们发现了一家软件公司使用假面孔假扮用户推荐产品,一家营销公司使用该技术生成其“团队”的照片。在今年7月,路透社报道了一位伪造得更为精致的AI记者。他叫奥利弗·泰勒(Oliver Taylor),称自己毕业于伯明翰大学,是个咖啡爱好者和政治迷,在一个传统的犹太家庭长大。他的六篇自由撰稿的社论和博客文章表明他对反犹太主义有着浓厚的兴趣,在《耶路撒冷邮报》和《以色列时报》上都有署名。但伯明翰大学并没有他的学籍记录,他只在问答网站Quora上有一个账户,3月时活跃过2天,除此以外没有任何网络痕迹;他留给编辑的英国电话是假的,也从不回复核查者们发给他的邮件。至于他提供给报社的照片,牙齿上有明显的重影,照片背景也有失真——这是多个图像重合时留下的痕迹。路透社无从得知这位假记者的真实身份,但假记者的言论却在产生真实的影响——他称一位巴勒斯坦权利运动家“同情恐怖分子”,这个指控令后者感到十分不安,随后他向两家报纸提出抗议,只有《以色列时报》删除了文章。而在得知这位作者的假身份时,《以色列时报》的编辑也对未来产生了担忧,不只因为它们可能会扭曲公共话语,更是因为这可能会使编辑们在不知名的作者身上抱有更大的疑虑,从而使新的作者、新的言论被发表的可能性降低,“我并不想,但或许不得不,阻止某些声音被人们听见。” 奥利弗·泰勒的头像里,两侧的牙齿和背景都有明显的模糊。(图源:路透社) 在过去的一年里,图像伪造技术已经拓展向视频,大西洋理事会数字取证研究实验室的研究者利兹图(Rizzuto)指出,去年三星公司进行的深度伪造研究将蒙娜丽莎变成了一个逼真的会说话的头。他说,这项技术有朝一日可以应用于创造更逼真的假档案,创造出各种角度和表情的照片。去年,当人工智能创造的假脸和假人开始在社交网络上遍地开花时,事实核查组织已经开始介入。事实核查组织Snopes和Lead Stories持续地报道类似的问题,Snopes还发布一篇报道,批评脸书的不作为。对抗的第一步是发现。在这些假脸里往往存在类似的问题,大西洋理事会数字取证研究实验室的研究者利兹图(Rizzuto)说,尽管GANs技术取得了显著的进展,但仍有一些蛛丝马迹——例如,受试者的头部可能是倾斜的,而鼻子和牙齿仍然是直的,该算法在纳入背景物体和其他人时也会很吃力,有时会无意中创造出扭曲或模糊的眼镜。还有专家指出,GANs生成的人脸里,眼睛都会出现在图像内的同一个地方——无论“人”面向哪个方向。而达特茅斯学院研究数字取证学的汉尼·法里德(Hany Farid)正在研究更好的方法来发现假视频,比如检测吸气和呼气引起的脸部颜色的轻微变化,而GANs很难精确模仿。但未来似乎并不乐观,利兹图说,AI潜在的欺骗能力已经超过了要识破它所需的工作量,而法里德的担忧则更为长远——GANs的技术本身,就包含着发现自己的弱点、进行提升的功能,这意味着人类的识别工作或许不过是在帮助GANs完成它自己的工作,“我们从根本上来说处于弱势地位,”法里德说。 赞 (0) 相关推荐 破局“眼见为假”: 谁在磨砺刺破Deepfakes之剑? 自从摄影术发明的那一刻起,人们便开始孜孜不倦地进行着技术改造.在今天,没有一家手机厂商不在追求更多的摄像头.更高的像素.更先进的成像算法,似乎只为追求一张更逼真的影像. 我们真的在追求"真& ... 从“深度伪造”到“深度合成”:AI为啥需要一次“正名”? 在世人对AI的"邪恶性"进行攻诘的浪潮中,AI造假,可能已经是现在排首位的理由了. 自从2017年Deepfake(深度伪造)横空出世以后,人们惊呼原来AI在造假方面简直天赋异禀. ... 除了制造“逼真假脸”,GANs还在看不见的角落里悄悄搞事情 自2014年诞生之日起,GANs(Generative Adversarial Nets,生成对抗网络)就一直是机器学习领域的"流量担当",过去的两年间更是迎来了成果井喷. 有人还 ... 【杂谈】人脸图像书看完了感觉不过瘾?这些拓展人脸资料值得你关注一下 相信许多朋友都看过我这本人脸图像处理的书籍了,内容涵盖了人脸检测,人脸关键点检测,人脸识别,人脸属性分析,人脸美颜,人脸编辑与风格化,三维人脸重建内容,基本上包括了人脸的所有领域,详情可以阅读: 言有 ... 1000多万说没就没了!你的脸正成为别人的提款机! 来源:电商报(ID:kandianshang) AI换脸技术就是可以这样为所欲为! 在一段视频里,一位成功的企业家正在当着很多人的面演讲:"人只要有钱,烦恼会减少90%以上,钱从哪来呢?&q ... 理解AI:任何设备都能制作“蚂蚁呀嘿”,照片动起来 跨平台越来越重要了. --题记 01 先看方法 iOS设备:本篇文章最近的一篇推文,一步步的教程. 安卓设备:下载LicoLico,官网或者酷安下载都可以,APP内教程很简单. PC设备:利用开源项目 ... 2K屏+3D人脸识别+麒麟980,上市两年多的Mate20Pro,还能再战吗? 去年9月15日后,受禁令限制的华为就举步维艰,新款旗舰Mate40系列从10月底上市以来,就一直处于限售的状态,渠道商加价千元已成常态.对于喜欢华为手机的消费者来说,倒不如退而其次,选择随便买的老款机 ... 这家初创公司的人脸识别技术,不仅击败了脸书苹果,还能让你不再错过“真爱” 苹果 iOS 10 的人脸识别功能,Facebook 以及接下来将会谈到的另外一家公司都在尝试实现虚拟人脸识别,毫无疑问目前人脸识别技术是个香饽饽. 尽管苹果和 Facebook 都有着数十亿的巨资支 ... 你的脸被谁用了,还安全吗?什么才是“打开”人脸识别的正确方式? 面部识别技术,已经发展了相当长一段时间.每个人或多或少,都曾经使用过这项技术:面部解锁手机.刷脸打卡上下班.进出某些超市商场自动感应-- 你只要在摄像头面前"出现",不管你想不想, ... 试驾长安欧尚X7 PLUS,支持人脸识别自动泊车,还好开不贵 一款车型想要经得起市场和用户的长期检验,一定是需要先"自我折磨",比如停在我身边的长安欧尚X7 PLUS,就开展了"超级测试员"活动.当然话不多说,今天就具体来 ... 谷歌确认Pixel 4人脸识别无需睁眼,外媒对安全性表示担忧 Pixel 4系列机型是谷歌旗下最新的智能手机产品,在设计上能够让人明显感知的变化有后置摄像头.顶部边框等.而在使用上,谷歌也带来了能够明显改变用户使用习惯的改变,人脸识别取代指纹识别成为唯一生物认证 ... 人脸识别的基本原理 编辑导语:人脸识别产品早已被应用到生活的各个场景之中.但是你了解它的应用原理吗?本篇文章里,作者便将人脸识别原理进行了拆解.感兴趣的话就一起看下去吧. 现在AI发展的如火如荼,我们已逐步进入智能时代. ... 以人脸识别技术为主的智慧校园安防解决方案 今天给大家带来的是以人脸识别技术为基础的智慧校园安防系统解决方案,针对学校的围墙周界.大门.档案室.校学生宿舍以及学校危险地带的危险活动检测,系统将告警信息推送给管理人员,采取应对措施,下面我们来看具 ... 人脸识别行业报告(2021,全文) 人脸识别是基于人的脸部特征信息进行身份识别的一种生物识别技术.随着深度学习.大数据和云计算等领域的不断突破,人脸识别也获得高速发展,市场潜力不断释放.全球人脸识别市场渗透率快速攀升,产业正进入增长快车 ... 2021年人脸识别行业白皮书 人脸识别是基于人的脸部特征信息进行身份识别的一种生物识别技术.随着深度学习.大数据和云计算等领域的不断突破,人脸识别也获得高速发展,市场潜力不断释放.主流的生物识别方式有:指纹识别.虹膜识别.语音识别 ...