找回密码
 注册
11月份电巢直播计划
查看: 10|回复: 0

还在为人脸识别担忧?是时候了解一下人脸伪造了

[复制链接]

该用户从未签到

发表于 2020-10-29 13:38 | 显示全部楼层 |阅读模式

EDA365欢迎您登录!

您需要 登录 才可以下载或查看,没有帐号?注册

x
本帖最后由 fish1352 于 2020-10-29 13:44 编辑
3 v8 g1 q4 M4 C
8 I! w- H. n) `% Q, c
0 C  y* _+ |% W- i$ \0 u1 R2 Z
; H9 P/ x( f7 z2 Z2 T4 r
$ D  h* l% B- W# M+ y, i

( Y7 s; r7 |; v! r4 [ 全世界有76亿人口,但是在“查无此人”的网站上,你能看到的人脸远不止这个数字。9 c1 r9 X3 m, C! g1 d4 r2 j7 q8 M

2 y/ k8 r2 \6 U0 N 网站全拼是ThisPersonDoesNotExist.com,网页里并无其它信息,只有一张人脸——每刷新一次,就会有一张新的脸出现,发色发型、肤色脸型、瞳孔的颜色和皱纹全是新的,每一张照片似乎都暗示背后存在一个真人。可如网址所言,“查无此人”。
- b' c% E( ^" a/ ?1 e9 r& F  V* d+ V5 ^/ f9 h! Y
网站是优步的软件工程师菲利普·王(Philip Wang)所搭建,背后是最近几年炙手可热的生成式对抗网络(GANs)。8 r, b( _9 I+ j- y

0 P) L# R2 l+ G4 l) d9 \/ K' s% O GANs的神奇之处,在于它同时拥有一对图片伪造者和甄别者,一个负责生成尽可能逼真的图像,另一个负责判别生成的图片与原始真实图像的区别,然后将结果反馈给图片生成者。在二者的竞争里,图片不断重新生成、判定、修改,直到真假难辨。
- d6 b/ _2 Q+ J. L+ \6 T
1 \8 Z- C( O4 T! Z' C- n& [! I$ x" U 脸书的首席AI科学家严·勒存(Yann LeCun)称,GANs是过去20年里深度学习领域最酷的想法,而百度前首席科学家安德鲁·吴(Andrew Ng)说,这是“重大而根本性的进步”。学者们说,当未来的技术历史学家回首往事,可能会认为GANs是通往类人工智能之路上的重要一步。
" J5 \5 E9 ^! q. F9 _8 f0 A6 ^" h; Z$ c$ r! x
  d: C/ L; j% g4 w' W) ^

3 [: G. z, M$ Y+ k4 L# I 在”查无此人“网站上,每刷新一次,就会有一张新的人脸生成。(图源:网站截图)
, ]- E" t! `7 W5 u2 O: g
: K% [# d! K: D) I7 T5 R 但在科技发展之前,这项技术已经走向了另一个令人担忧的方向。在过去的两年间,不停有媒体曝出,这些图片被附加一系列身份信息,伪装成媒体或者社交平台上的用户,发布信息、影响舆论。
9 ^/ g0 O* s( ^0 Y" |- q* o" W5 S# S0 L4 o- i1 y
在脸书上搜索阿方索·马西亚斯,能找到不少于500个搜索结果,这些同名的男性遍布西班牙、墨西哥、哥伦比亚、委内瑞拉等西语国家。2 Z, U5 t6 B' q1 V' `* Y
2 B/ D  O' R$ A
搜索者或许无法注意到其中那个中年的阿方索,他的面容并不显眼,嘴边一圈胡子,头顶是稀疏的黄褐色头发,微笑着露出几颗牙齿。他是亲特朗普的媒体The BL(美丽人生)某个脸书兴趣小组的管理员,有时会点击链接,为网站带来流量。
3 O' Y4 e0 z/ ]8 t
- H5 f( K; Z* t" _! s 但如果仔细看他的头像,专业人士会发现一些端倪——眼镜框并不左右对称,而且在右耳边有一处诡异的扭曲,而他背后的风景则更加模糊,似乎是建筑,但颜色与线条都难以辨认。社交媒体情报集团Graphika和大西洋理事会数字取证研究实验室为这个用户身份出具报告,他们认为,这个人的图像资料是伪造的。; _5 D9 x1 \7 J1 a9 m. m+ g. [

5 B+ [; G! t2 G4 H) a. O 而与阿方索并肩作战的几十个假账户被用来运营几十个支持特朗普的脸书群组,名称包括“美国需要特朗普总统”和“我们与特朗普和彭斯站在一起”。- s, w( s3 |0 p, T: s- n5 C% i

1 y' c, ?& Q7 l& @& A6 Z2 E* Q
" H& L6 b6 \5 K& F- r
: _! u4 H8 p1 F* y" \$ L
阿方索的照片里,眼镜框与背景泄露了他的AI身份。(图源:FT)
+ L& d, _; I( g* K# Y
+ o1 D! n# p/ z 这个问题从2018年6月开始发酵,当时美联社在领英上发现了一个伪装成智库员工的账户。而2019年12月,Graphika和大西洋理事会的数字取证研究实验室发布了一份关于一个由900多个页面、小组和账户组成的网络的报告,这些页面、组和账户与某右翼新闻机构有关。“他们利用这些假面孔来增强影响力,并向更多的受众传递他们的信息,”实验室工作人员说。5 Z' m# m1 j6 I) c. A! X
8 G! h0 j" h# p" E7 R( k  Z
上述主页被发现后,都被脸书封禁,但由假面孔生成的假新闻不会只出现在脸书平台上。深度造假检测平台Sensity的首席执行官乔治·帕特里尼(Giorgio Patrini)表示,GAN生成的面孔也出现在企业界,截至目前,他们发现了一家软件公司使用假面孔假扮用户推荐产品,一家营销公司使用该技术生成其“团队”的照片。
/ ?" ?1 ]. B" T0 O1 {2 P# D4 L/ [: Z* k6 }, o: M4 g
在今年7月,路透社报道了一位伪造得更为精致的AI记者。他叫奥利弗·泰勒(Oliver Taylor),称自己毕业于伯明翰大学,是个咖啡爱好者和政治迷,在一个传统的犹太家庭长大。他的六篇自由撰稿的社论和博客文章表明他对反犹太主义有着浓厚的兴趣,在《耶路撒冷邮报》和《以色列时报》上都有署名。
) A! _& `2 K5 {3 `; T3 l" v7 S8 r4 }! a. N- v+ o1 x' Q3 t
但伯明翰大学并没有他的学籍记录,他只在问答网站Quora上有一个账户,3月时活跃过2天,除此以外没有任何网络痕迹;他留给编辑的英国电话是假的,也从不回复核查者们发给他的邮件。至于他提供给报社的照片,牙齿上有明显的重影,照片背景也有失真——这是多个图像重合时留下的痕迹。9 [8 T; H6 Y: C2 X
  L+ y; W8 }2 ~4 w5 t
路透社无从得知这位假记者的真实身份,但假记者的言论却在产生真实的影响——他称一位巴勒斯坦权利运动家“同情恐怖分子”,这个指控令后者感到十分不安,随后他向两家报纸提出抗议,只有《以色列时报》删除了文章。, Q! ]4 `, M8 f5 w; o2 L* |, t

6 S! u0 ^; s8 C+ k8 |" @2 T# Y 而在得知这位作者的假身份时,《以色列时报》的编辑也对未来产生了担忧,不只因为它们可能会扭曲公共话语,更是因为这可能会使编辑们在不知名的作者身上抱有更大的疑虑,从而使新的作者、新的言论被发表的可能性降低,“我并不想,但或许不得不,阻止某些声音被人们听见。”' d2 {( u7 T5 \! d
5 m0 o, d; c" }
9 N+ G% s1 [/ U  \! \1 o1 I
; V" `2 t0 q/ N. [+ o
奥利弗·泰勒的头像里,两侧的牙齿和背景都有明显的模糊。(图源:路透社)% T& [. Z; R- Q8 ?6 q$ }/ X

0 I' h5 I6 s9 Z8 n; `4 G- M% g 在过去的一年里,图像伪造技术已经拓展向视频,大西洋理事会数字取证研究实验室的研究者利兹图(Rizzuto)指出,去年三星公司进行的深度伪造研究将蒙娜丽莎变成了一个逼真的会说话的头。他说,这项技术有朝一日可以应用于创造更逼真的假档案,创造出各种角度和表情的照片。
9 Y9 w  a5 B, r( Q# x& ~! J
& H) a* u$ }1 {$ @! v% t* H 去年,当人工智能创造的假脸和假人开始在社交网络上遍地开花时,事实核查组织已经开始介入。事实核查组织Snopes和Lead Stories持续地报道类似的问题,Snopes还发布一篇报道,批评脸书的不作为。1 H. d' N9 p7 {8 a

6 _8 v* |, i) G# x: i 对抗的第一步是发现。在这些假脸里往往存在类似的问题,大西洋理事会数字取证研究实验室的研究者利兹图(Rizzuto)说,尽管GANs技术取得了显著的进展,但仍有一些蛛丝马迹——例如,受试者的头部可能是倾斜的,而鼻子和牙齿仍然是直的,该算法在纳入背景物体和其他人时也会很吃力,有时会无意中创造出扭曲或模糊的眼镜。还有专家指出,GANs生成的人脸里,眼睛都会出现在图像内的同一个地方——无论“人”面向哪个方向。
. }7 C% B( B! Y( }: |0 |  b* O5 q
而达特茅斯学院研究数字取证学的汉尼·法里德(Hany Farid)正在研究更好的方法来发现假视频,比如检测吸气和呼气引起的脸部颜色的轻微变化,而GANs很难精确模仿。5 P% n( B$ X. h& W8 s# g
. Z# N1 R7 P4 z; s! l4 k* ]+ |
但未来似乎并不乐观,利兹图说,AI潜在的欺骗能力已经超过了要识破它所需的工作量,而法里德的担忧则更为长远——GANs的技术本身,就包含着发现自己的弱点、进行提升的功能,这意味着人类的识别工作或许不过是在帮助GANs完成它自己的工作,“我们从根本上来说处于弱势地位,”法里德说。
4 @. m( y: D9 p
2 e  R# S* i" m" m 5 u" ^3 [. P+ n6 S
『本文转载自网络,版权归原作者所有,如有侵权请联系删除』
您需要登录后才可以回帖 登录 | 注册

本版积分规则

关闭

推荐内容上一条 /1 下一条

EDA365公众号

关于我们|手机版|EDA365电子论坛网 ( 粤ICP备18020198号 )

GMT+8, 2020-12-2 04:30 , Processed in 0.062500 second(s), 21 queries , Gzip On.

深圳市墨知创新科技有限公司

地址:深圳市南山区科技生态园2栋A座805 电话:19925233282

快速回复 返回顶部 返回列表