观点 2019-08-20 08:08

为什么深度造假如此有效?这是因为我们经常希望它们是真实的

郭道平 摘自 新美国安全中心网站

2019年8月14日,新美国安全中心(CNAS)网站转发科学美国人网站题为“Why Are Deepfakes So Effective?It's because we often want them to be true.”的评论文章,作者是技术与国家安全项目高级研究员马丁·拉瑟。文章主要观点如下:

舆论转变、选举结果扭曲、群体混乱、种族暴力、战争,所有这些事件都可以很容易地通过伪造的逼真表现来触发,但伪造的音频和视频是用AI技术制作的。政府和工业界的领导者以及广大公众都有理由感到震惊。由于人工智能的进步和社交媒体的触角蔓延,深度造假可能被证明是几代人所面临的最不稳定的力量。

很快就不可能再用肉眼或耳朵来判断视频或音频片段是否真实了。宣传虽然并不是什么新鲜事,但声音和影像的内在即时性赋予了深度造假前所未有的深刻影响和权威;结果,政府和工业界都在争先恐后地开发可靠检测它们的方法。例如,硅谷初创公司Amber正在研究如何检测最复杂的伪造视频。您可以想象有一天我们可以通过数字水印来验证视频的真实性和出处。

开发深度造假检测技术很重要,但它只是解决方案的一部分。这是我们人类心理学中的人为因素弱点,而不是他们的技术尖端性使得深度造假如此有效。新的研究暗示了问题的根本所在。

在展示了3000多名成年人伪造的影像并附上捏造的文本后,一个研究团队得出了两个结论。首先,评估信息的人对数字摄影的在线体验和熟悉程度越高疑心就越重。其次,确证偏误(指选取新信息以支持我们先前存在的信念的倾向)是决定人们如何判断信息真伪的一个重要因素。

阅读 【收藏

相关专题: