深度伪造的这三大威胁,技术进步也解决不了

互联网
深度伪造的这三大威胁,技术进步也解决不了
麻省理工科技评论 2019-10-10

2019-10-10

不论 AI 伪造的视频看上去多么逼真,检测器都会实时在视频上标上醒目的红色字样“深度伪造”
深度伪造 技术
不论 AI 伪造的视频看上去多么逼真,检测器都会实时在视频上标上醒目的红色字样“深度伪造”

想象一下这个场景:我们现在有了完美的深度伪造检测器,不论 AI 伪造的视频看上去多么逼真,检测器都会实时在视频上标上醒目的红色字样“深度伪造”。

这听起来也许正是我们打击深度伪造需要做的事。人们会担心深伪技术会让真相和民主不复存在,这些“丝毫看不出破绽”的伪造视频可能会在短短半年内出现,到那时,美国 2020 年总统大选可能会变成一场视频伪造战:特朗普承认与俄罗斯有腐败交易,伊丽莎白·沃伦主张全面禁枪,卡玛拉·哈里斯贬低白人。

面对这样的担忧,技术专家开发了更多技术来对抗深度伪造:美国政府资助了一个“视频取证”的项目;Facebook 和微软最近发起了深伪检测挑战赛;谷歌公布了大型深伪视频数据集来对抗假视频。然而,罗格斯大学信息学者布里特·帕里斯在最近与人合著的一份关于深度伪造带来的社会影响的报告里表示,尽管深度伪造是一项新技术,但它造成的许多危害(虚假信息和骚扰)早已存在。无论技术如何进步,这样的负面影响都无法被弥合。

深伪检测器无法告诉我们哪些视频应该被删掉

此前,民主党人南希·佩洛西的讲话视频被放慢语速,这虽然不是深度伪造,但也是不实消息的传播,而 Facebook 拒绝将其删除,这是深度伪造检测器检测不出来的,圣约翰大学教授、平台管理专家凯特·克朗尼克表示:“对自动化的依赖程度越高,就越容易出错,如何定义讽刺、假新闻以及谣言都是很专业的哲学问题。”

应对方法:优化审核制度

这些社会问题必须要解决,在此之前,我们可以赋权给有能力做出判断的内容审核员。加州大学洛杉矶分校信息学者莎拉·T·罗伯茨表示,我们要给审核员更高的工资和更好的培训,并把他们看作维护互联网安全的中坚力量。专业的审核团队要能够对视频背景做出判断并进行事实核查,决定是否将其保留在平台上。在佩洛西视频的问题上,他们可能无法做出很好的回应,但他们还是应该能够分辨各种各样的深度伪造视频及其带来的社会影响。

还有谁可以成为深伪视频的审核员呢?就是那些受害者。波士顿大学网络法律专家丹妮尔•西特隆表示,平台公司应该鼓励举报深伪制作的骚扰视频,用户应该清楚自己的权利,举报流程应当友好而透明。

深度伪造对抗技术可能帮不到那些最需要保护的人

帕里斯表示,历史表明,新技术成为主流威胁之前常被用来攻击边缘化群体,如女性、有色人种、同性恋者等等。例如,在 20 世纪 90 年代,就有人把女性头像合成到成人电影的女演员上,当时并没有引起政策制定者的注意。迈阿密大学法律学者玛丽·安妮·弗兰克斯说:“如果这件事当时能激起更多水花,我们就能在社会、法律和文化层面上更好地处理深伪。”

研究人员表示,深度伪造最大的问题不在于影响大选,而在于对普通人的伤害。

应对方法:倾听受害者的声音

非营利组织 Witness 的萨姆·格雷戈里表示,我们要倾听受深度伪造影响最大的那些人的声音,深伪检测器的推出也会涉及大量社会问题。美国之外的人能不能用?它会不会被训练来识别政治造假、性别暴力和性暴力?格雷戈里表示:“深伪检测器的落地也会让一些人被边缘,它很难惠及所有人。”

深伪检测器对受害者来说是亡羊补牢

迈阿密大学学者弗兰克斯表示,“深伪技术制作的视频或音频发出之后,还没有一项真正的法律可以对其进行追究。”

已有的法律都不适用:非法泄露私人信息(如医疗记录)的法律不适用于假视频,虽然假的私人信息也会造成很大伤害。弗兰克斯表示,禁止冒充的法律“非常局限”,它们能惩治的是假冒医生或假冒的政府官员。有关诽谤的法律也只针对负面的虚假陈述,但弗兰克斯表示,那些通过正面虚假描述的假视频也同样需要引起重视。

应对方法:新的立法

德克萨斯州最近通过了一项禁止深度伪造的法案,加州一项关于深度伪造的法案已在两院通过,目前正等待州长加文·纽森签字。与此同时,来自纽约的美国国会女众议员伊维特·克拉克最近提出名为 DEEPFAKES Accountability Act 的联邦立法,该法案强令社交媒体公司在其平台上构建更好的检测工具,并惩罚或监禁发布的人。

弗兰克斯和西特伦正起草一份联邦法案,旨在立法禁止恶意深度伪造,他们将其称为“数字伪造罪”。他们认为,数字伪造指的是正常人会误以为真的东西,并且会对一些人或公共秩序造成伤害——比如视频里的一个穆斯林正在做违法的事,但那并不是真的。

这样的法律如果要在美国生效,最好是在联邦层面,而非州的层面。因为,根据美国《通信规范法案》(Section 230),平台公司对第三方发布的内容不承担法律责任,除非它违反了联邦刑法。如果发布有害视频是犯罪活动,这不仅会打消人们发布的念头,Facebook 等公司也会努力制止第三方发布。弗兰克斯表示:“这些公司不能再拿 Section 230 作为挡箭牌,它们可能会有别的办法,但 Section 230 这条路已经走不通了。”

麻省理工科技评论

From Tech to Deeptech