本文作者胡翌霖为清华大学科学史系助理教授,著有《过时的智慧》。
一款叫做ZAO的换脸App一夜爆红,引起了广泛争论。很多人对于换脸技术的普遍化感到担忧。
利用AI技术给视频换脸,其实并不新奇。在2017年,一个名为deepfakes的网友开始分享把主演换脸成影视明星的色情影片,引起广泛关注。后来,相关的程序代码被开源共享,相关技术加速发展,一些衍生应用早已是普通人容易上手的了。
换脸技术当然也有一些正经的用途,例如在一些影视剧拍摄中使得在露正脸的情节中也可以完全使用替身。但是它的大部分用途,似乎都颇为恶劣或者说至少看起来很危险。
例如,传播伪造的色情视频来诋毁某人声誉,传播政治人物的虚假宣言,用伪造的借钱视频来骗取财货等等。
因此,我们当然有必要警惕这一新技术的传播。但我们应当做什么呢?
有人认为,这类技术就好比核武器那样,应当被严密封存,不允许在民间推广。
但是,首先我们注意到,封印这门技术已经不太可能了,它不像核武器那样需要宏大的工程和特定的原材料才能制作,甚至不像枪支那样需要精密的铸造工艺,它只需要一台电脑,最普通的能打游戏的家用电脑,用开源的程序,就可以做到换脸。难以封杀,也难以监控。
其次,这门技术与杀伤性武器毕竟不同,它并不总是能产生威胁,它的危险性并不是直接针对肉体的,而是首先在观念层面上起作用的,它带来的伤害与人们对它的认知有关。
我们回溯历史,很容易注意到,这种“危机”并非第一次出现。
在视频换脸技术之前,图片换脸技术早已成熟了,那就是我们熟悉的“pS”技术。它也可以把影视明星或你梦中情人的脸换到色情图片上面,也可以提供让任何人出现在任何地方的伪证。
那么我们是如何应对pS技术的呢?很简单,那就是不再轻信静态图片,人们看到一张数码照片的时候往往不会轻易下结论,至少要进行视频通话或者依据一段完整的监控视频,才能增加可信度。而现在,继照片之后,视频的真实性也要大打折扣了。
但照片也好视频也罢,它们本身也是科技的产物,并不是古已有之的或所谓“自然”的东西。人类并不是从一开始就理所当然地相信它们的。
摄影术在19世纪上半夜发明出来,最初传播过程中经常遭到误会,认为是一种巫术,会摄取人的灵魂,让人折寿。进入中国的洋人摄影家在上层社会的接受度还不错,但在底层却经常受到攻击。
另一方面,利用照相伪造真相的行为几乎从一开始就出现了。在1839年,达盖尔摄影法首次公开发表,第二年,另一位摄影术的研究者巴耶尔就拍摄了一张自拍照,宣称照片中的人比达盖尔更早发明摄影却未被承认,因而已经自杀身亡,希望博得公众关注。
在1860年代,美国摄影师威廉·穆勒(William H. Mumler)开始推销他的“灵魂摄影术”,宣称能够拍出已故亲人的影像。他找来林肯的遗孀,让她在拍照时默默怀想林肯,结果在拍出来的照片中浮现出貌似林肯的影像,让他名噪一时。当然,其实他是利用了二次曝光的技巧,虽然唬住了普通人,但遭到摄影师们拆穿,在业内声名狼藉。但是,灵魂摄影术在穆勒之后仍然被继续发展,甚至让柯南·道尔深信不疑,还远渡重洋来中国忽悠了一大群人。
那么,在这些骗术中,哪些人容易被骗,哪些人又能揭穿骗局呢?
显然,越是懂得摄影相关的知识与技术的人,越是不容易被骗。
在当时,有人控诉穆勒的灵魂摄影术欺诈,但他们无法拿出穆勒如何对照片作假的直接证据,于是他们提供的证据是:“我也能做到”。一位控告者雇了一个摄影师,也为自己拍摄了一张灵异照片,效果和穆勒的差不多,证明他也是这么干的。
平心而论,某种效果能够通过作假达成,并不能证明达成该效果就一定需要作假。因此,法官最终作出了无罪宣判。但是“能够作假”确实有助于识破作假,至少能够让人在面对所谓证据时多一些谨慎。
因此,随手就能拍出“灵魂照片”的摄影师,就很难被“灵魂照片”忽悠。
类似地,当你我随手就能对照片进行pS时,也就更难被pS的照片忽悠。
同理,当人们越来越容易进行视频换脸时,换脸视频的欺骗性或许也将减弱。
这些情形与那些“唯物主义”的武器完全不同,了解原子弹的制造知识,并不能帮助你抵抗原子弹;了解手枪的伤人原理,并不能帮助你躲子弹。但是在上述技术中,知识的普及有可能减轻它的危害。
如果100个人中只有1个人懂得双重曝光,那么其余99人都可能成为骗术的受害者。当知晓者从1人扩张到3人时,潜在的骗子与潜在的受骗者就变成3:97。
3个人骗97个人,产生犯罪的可能性就很可能比1个人骗99人多得多。但由此认定技术知识的扩散加剧犯罪,是不够准确的。因为当技术广泛传播到了一定地步,例如97个人都懂得相关知识,而只剩3个人容易被骗时,实际产生的犯罪率反而会大大缩减了。更何况,这97人之间还会互相监督、互相揭穿。
因此,与其说是新技术促进了欺骗,不如说是技术传播过程中的不平衡促进了欺骗。率先掌握新科技的人总是能够抢占先机。例如欧洲航海家可以拿着廉价的玻璃珠从非洲人那里换来黄金,而如果非洲人“也能做到”,那么玻璃珠的暴利就不复存在了。
我并不是说我们该无动于衷,放任新技术随意扩散,更没有为某款App背书的意思。我想说的关键在于,对于新技术带来的危险,不能一味只考虑禁止和控制,特别是在难以控制的情况下,反而要去考虑以何种方式引导和促进它的传播。
在新技术应接不暇的同时,社会大众的相关知识、文化、伦理和法律的滞后性成为严峻的社会问题,而随着我们迈进日新月异的技术时代,这种滞后性成为了常态。研究者和立法者们除了要对不断出现的新技术本身的原理与功能进行评估之外,更需要关注技术及其相关知识的传播与交流过程。
(注:本文仅代表作者个人观点。责编邮箱:zhoujing@jiemian.com)
网友:汤凌:同时一股吞吸力从殿门内传来直接包裹住了东伯雪鹰,嗖,便将东伯雪鹰给拽了进去。网友:周椰桔:无数的九舍身影瞬间消散,只剩下一个。
网友:王字:自然个个都来!就算掌握不到完整的绝学,能悟出一鳞半爪……在界神中也足以纵横一方了。
网友:白妯告:他为何第一次不施展?”东伯雪鹰暗道,“如此遮遮掩掩,十有八九,就是两大教派门下。
网友:陈滑:快,快,快!将快发挥到极致。
网友:吴民:像风云一叶、屋晓、东伯雪鹰等一些顶尖强者们更是心中火热,欲要借此获得‘跳出樊笼,成就浑源’的机会。
网友:郑理肉:就是黑暗深渊!
网友:李舌:吩咐身边的护卫:“我要闭关修炼,谁都别来打扰我。
网友:毛滋擅:能力压新晋宇宙神?”东伯雪鹰赞叹。
网友:黄乳:水火荡云袍:乃是一名掌握水火真意的半神大法师耗费十余年辛苦炼制而成,取水火真意的‘波动’奥妙构建法术模型炼制出这件衣袍,衣袍一经催发,有无形波动笼罩护体,隔绝一切攻击。
网友:侯尝忍:而后竟然逆天掌握了‘空间切割真意’,将来有望冲击天下第一人!所以这种由着本心修行的……历史上也的确诞生了好一些逆天人物,如历史上几乎最强半神‘炼狱骑士’解离,都是完全由着本心。
网友:陈瞰崔:元应该不屑做一些阴谋之事,不过不到最后一刻他终究不放心。
网友:黄动以:“至于太阳星核石,两颗都得交出来,这件事就算罢了!否则……这件事你们就别想了结!”
网友:张头:星辰塔散发浩瀚威压,弥漫八方。
网友:周次姑:而比拼速度,东伯雪鹰虽然不如对手,可在所有真神弟子中都足以排在前十了,也是极为速度。