科幻小说丨“篡库”惊魂:当假新闻铺天盖地……

互联网
科幻小说丨“篡库”惊魂:当假新闻铺天盖地……
麻省理工科技评论 2018-09-04

2018-09-04

《麻省理工科技评论》都会刊发某些特定主题的科幻故事,而在最新一期的纸质杂志中,《麻省理工科技评论》刊登了来自科幻小说家 Karl Schroeder 的作品《 Noon in the antilibrary 》
互联网 数据
《麻省理工科技评论》都会刊发某些特定主题的科幻故事,而在最新一期的纸质杂志中,《麻省理工科技评论》刊登了来自科幻小说家 Karl Schroeder 的作品《 Noon in the antilibrary 》

每年,《麻省理工科技评论》都会刊发某些特定主题的科幻故事,而在最新一期的纸质杂志中,《麻省理工科技评论》刊登了来自科幻小说家 Karl Schroeder 的作品《 Noon in the antilibrary 》。

马瑞斯对着演播室紧锁的门破口大骂。“如果特警正在路上,我们没多少时间。”

“我不明白。”米切拉,几分钟前她还在主持访谈节目,现在正坐在灯光下的椅子上。“他们在说什么?”

电视录影棚的黑色墙壁上悬挂的显示器上刚才正照常播放新闻,然而,现在画面底部出现了一条插播的红底白字消息:“全映大厦出现枪手。” 5 分钟前 2 人进来的时候还没这东西。

米切拉突然指着屏幕说道:“这个人看上去真像你,但是……”

马瑞斯点头,“而且手中还拿着自动步枪。”

在工作室的厚重大门外传来人们恐慌的喊声之后,与两人同行的摄影师阿丹在 NewsFeed(Facebook 开发的类似朋友圈的应用)也读到了这条消息。但是奇怪的是,三人的真实情况跟新闻中的画面完全不同。马瑞斯身处二楼的无窗工作室,手无寸铁,但在墙上的显示器正在播放一段以空中无人机视角拍摄的画面:马瑞斯正在 10 楼的一个窗口,手持武器,不时探头射击,显得冷静而训练有素。

马瑞斯转向阿丹:“能给我拍段视频发出去么?这新闻太荒唐了。”

摄像师摆弄了几下电脑,“抱歉,但是除非我们能找出是谁篡改了我们发送的视频信号。”

马瑞斯:“不用找了,我肯定,这人就是派出特警队的人。不过我想我们最好先离开这里。”

为什么?

马瑞斯指着显示器,上面正同时显示着很多“现场目击者”用手机拍摄的不同视频。“看那里!”一个男子倒在走廊,无神的双眼盯着天花板,胸口有大片血迹。

阿丹惊得合不拢嘴:“这不是我吗?!”

“没错——尽管其中的场景还没发生。阿丹,我们必须离开这里。特警队根本不是来救我们出去的,他们是来制造新闻的。”

米切拉看着马瑞斯:“这么说‘篡库’真的存在?”

15360543191763ef4ca95fd.jpg

(来源: MIT Technology Review)

“没错,也许不久之后,‘篡网’也会成为现实。抱歉,米切拉,我本不该揭露这件事情。我知道有人可能会盯上我们,我本以为揭露真相能将他们公之于众,但是我从未想到他们会这么做。”马瑞斯看了一眼坚固的房门,走到阿当身边,“有什么办法能把这里的图像传出去吗?”

阿丹摇头。“我不知道他们在哪里篡改了我们的信号,可能是在路由器,也可能在别处。”

“这一切都是那个叫‘篡库’的系统实时伪造的?”

“是的,”马瑞斯哀伤地看着米切拉,“你得到了你做梦都没想到的东西。本来我只是想介绍 ‘同心’ ,但是你打开了我的话匣子,我……”

“是的。”米切拉看着显示器,话语中带着一丝后悔,“发掘真相是我习惯做也擅长做的事情……但是现在我们该怎么办?”

显示器上,一辆黑色装甲车停在了距离全映大厦几个街区的地方。

马瑞斯苦笑了一下:“我想我们快要死了。”

米切拉自从曝光上次选举中的舞弊事件后,被以诽谤罪起诉,个人信息遭到曝光,被胜选政党嘲讽,最终丢了工作。这之后,她花了 2 年时间试图重振自己的事业,本以为今天是苦尽甘来的一天。

她为本地电视台做了几个月的花展和服装展解说之后,终于通过一个朋友的朋友为自己的访谈节目请到了近期升起的IT界新星,马瑞斯·瑞沃斯,之前他已经在黑客界小有名气。现在,他仍然年轻,富有魅力,具有迷人的风度。尽管还算不上富豪,但是几年内拥有十亿计的身家当无悬念。不过,他是出了名的难找,更不用说接受采访。

米切拉也在使用马瑞斯的产品——‘同心’。当然,几乎每个她认识的人都在使用‘同心’。根据该公司的调查,美国 10% 的成年人都在使用‘同心’。人们将‘同心’与 iPhone 相提并论,认为它是这 10 年最伟大的发明之一。但是传统媒体还没来得及把他请到演播室,米切拉就捷足先登了。

“欢迎回到全映新闻直播间,我是米切拉·凯琳。今天的嘉宾是‘同心’公司的创始人和 CEO 马瑞斯·瑞沃斯。”米切拉微笑着说。“马瑞斯,你将‘同心’称为‘世界上第一个真正的政治应用’。问题是,区区一款智能手机应用,为何能成为人类合作史上的一次革命?

马瑞斯笑着耸耸肩,“原理其实很简单。当人们交流的时候,尽管他们用着相同的词语,但是在各自心中,同一个词语代表的真实意思可能大相径庭,比如,‘自由’、‘公平’、‘真实’,等等。这样,人们尽管用着同样的词语,但是他们很可能对这个词语的真实含义并未达成共识。”

‘同心’本身是一种翻译软件。它通过对个人社交媒体账号中的人际互动信息进行分析,能精确理解每个人表达自己的独特方式。然后,当你说话时,‘同心’将你的语言用其他人更容易理解的方式表达出来,这样,其他人就更容易明白你的真实想法,而不是自己的臆断。

“为何这款应用的用户增长如此之快?”

马瑞斯开始谈论普及率和结构化对话等术语,米切拉悄悄松了一口气。

接下来,米切拉问了一个问题——在后面的日子里,她无数次希望自己没问过这个问题:“能谈谈你的事业历程吗?”

“我年轻时知道海军有一个网络战机构。我尽了我最大的努力进入了这个机构,我想用我最擅长的技艺——写代码,来服务我的国家。我参与的第一个项目是对付假新闻——那些对敌人有利的宣传、片面信息和谎言。我深深迷上了这个项目。”

“起初,我们的思路是打击谣言传播,帮助真相传播。有很多炮制假新闻的组织,我黑进他们的服务器,然后将其瘫痪,并收集证据帮助警方将其关闭。我在技术上完全胜任这项工作,但是即使这样,该方案被证明效果甚微,假新闻仍然充斥各路媒体,原因在于:假新闻来源多如牛毛,有不计其数的人每天在网上炮制假新闻。造谣一张嘴,辟谣跑断腿,你不可能获胜。”

“失望之下,我开始从思考另一个问题:假新闻的产物是什么?答案很简单:怀疑。假新闻的目的就是用来在人们心中播种怀疑。我跟我的团队负责人,一个叫凯瑟尔的高级军官说,打击造谣来源不可能取胜。但是,假新闻是制造怀疑的技术,为了对抗假新闻,应该发展制造信任的技术。”

“不过,凯瑟尔有自己的想法。他认为,网络战机构的计算资源是假新闻制造者无法匹敌的,那么为什么不大量制造针对假新闻制造者的假新闻?”

“于是就这么定了。项目团队迅速扩大。但是有一天,我意识到……”

“什么?”米切拉问。

“我的同事都是一些缺乏幽默感,过分严肃的人。我并不满意。”

“这样。”

“但是更重要的问题是:所有人都对“制造真新闻”没有任何兴趣。不过,渐渐地,凯瑟尔和我的同事开始从‘用假新闻对抗假新闻’转向一个更好的策略……”

(来源: MIT Technology Review)

马瑞斯不停地说着越来越多的细节,越来越有激情。米切拉不由得担心这些话是否适合出现在直播访谈中。但是,马瑞斯显然没有注意到这一点。

“凯瑟尔重新将我们部门改组为‘篡库’项目。我们使用最先进的软件技术实时生成可以乱真的视频,然后黑进图片数据库,将假图片和真图片融合在一起。一开始,我们在俄罗斯和中国进行小规模测试,效果很不错。后来,我们干脆构建了一个假视频深度定制系统,可以将任何人的照片或视频跟地球上任何地点融合。此外,我们还能编造完美的假音频。”

“之前已经出现了自动写假科学论文的软件。我们改进了这种软件以生成博文、以著名播音员语音放送的新闻、技术文档等等任何你想得到的语音和文字材料。当然,政府从来没有承认这种系统的存在。我承认,这种行为不太道德。”

“最后,这个系统是如此的强大,能伪造视频、文字、表面严谨但内容虚假的书,书后还附有大量同样是伪造的引文。此外,该系统制造假新闻的速度连最敬业的自媒体人也赶不上。”

“所以你离开了海军?”

他点头。“我能预见到凯瑟尔的项目最后会产生什么后果。处于道德,我认为我应该做些什么来对抗这种造假怪兽。我很清楚假新闻的制造原理,因此我针对它的弱点打造了‘同心’应用。”

“关于这一点,你能多谈谈幺?为什么‘同心’可以对抗假新闻?看上去‘同心’的功能只限于帮助人们更好地进行沟通。”

“但是这就是问题的关键。假新闻的目的就是破坏人与人之间的信任。因此‘同心’帮助你认识到那个跟你说话的人的真实想法。‘同心’像个外交官,它跟属于别人的‘同心’进行谈判,寻找共识,建立联系,了解你的价值观,然后寻找符合双方真正意图的共赢之策。因此,‘同心’是第一个政治应用,它实现了政治本应实现的功能:达成共识。它不直接对假新闻进行辟谣,它构建人们之间的信任,从而使得假新闻失去效力。”

“看来你的愿望正在实现!‘同心’现在是所有平台上下载数最高的应用!”

马瑞斯叹了口气,轻轻摇了摇头。他看上去更象是失败者而不是成功者。“发布‘同心’之后,我每天晚上都被噩梦困扰。我觉得,这是我的潜意识在试图搞清凯瑟尔到底想用‘篡库’干什么。”

“干什么?”米切拉不安地看着阿丹,后者邹着眉头。

马瑞斯身体前倾,两手捏在了一起。“‘篡库’运行在一个超级计算机集群上。但是你可能也知道,随着时间的推移,计算机变得越来越廉价,越来越快。借助量子计算机和神经网络,造假的速度可以提高 1 倍甚至 2 倍。这样下去,最终‘篡库’将可以在瞬间以任意分辨率篡改任何一个人接收和发送的任何一条信息。我觉得这个层面的‘篡库’叫做‘篡网’更合适。”

“这么说,凯瑟尔已经造出了‘篡网’。”

这时,显示器的画面突然抖动了几下,然后变成了令所有人都吃惊的画面:马瑞斯一脚踹翻了椅子,手中挥舞着根本不存在的步枪耀武扬威。

然后,画面切换到楼外。警察和特警正在进入大楼。马库斯看着房门,“当然也可能我错了,不过我认为我们应该离开了。” 马库斯走向房门,却发现门已经打不开了。

“如果‘篡网’真的有你说的这么强大,我们出去有什么用?”阿丹倒在椅子上。“就算我们用手机发送自拍,‘篡网’也会把这些真视频扣上假视频的帽子。”

马瑞斯退了一步。“不错。但是你是否记得我曾经说过,直接对抗‘篡网’是不可能的?也许……我错了。”

米切拉眨了眨眼睛,“你说什么?”

“凯瑟尔和我构建‘篡网’的时候,我们聚焦于政治和社会领域。我们研究假新闻如何影响选举、民意和社会运动。如果我们运气好,凯瑟尔和他的手下正在向这个方向努力。”

“为什么?”

“我不知道你对群体心理学了解多少。当一个团体共享高度一致的世界观时,他们就看不到那些对于旁观者来说显而易见的东西。我的一些对政治和社会不感兴趣的朋友曾经向我指出一个事实……尽管当时我已经将‘同心’基本开发完成。也许‘篡库’和‘篡网’的致命弱点就在这里。我只是不知道解决方案是否能在我们被当做枪手打死之前生效。”

凯瑟尔看着马瑞斯:“你在说什么?”

马瑞斯耸耸肩。“你或许认为,你可以肆无忌惮地篡改任何人看到的新闻和社交媒体,不会留下任何痕迹。”

“但是现代经济的运行离不开数据。没有数据,生产不可能按定量进行,航班不可能按时间表起降,快递不可能按地址送达。对数据精度的要求如此之高,以至于如果你对 4 天后的纽约天气预测错误,将会在全世界引发连锁反应。”

马瑞斯掏出手机,做了个鬼脸:“你们谁的手机有信号?”

米切拉和阿丹掏出手机。屋子在建筑的深处。“没有信号。”阿丹说。

“我有一格信号。”米切拉说。

“能借我用用吗?”马瑞斯拿过米切拉的手机,打开浏览器,输入了一个地址。“我真觉得有点讽刺。一方面,‘篡库’篡改我们每个人收到的信息;另一方面,‘篡库’需要极其精确的数据才能确保达到这个目的——从出租车位置到埋在桥梁水泥中的应力测量数据。”

(来源: MIT Technology Review)

“警察随时可能冲进来。”米切拉说,“我们到底能不能出去?”

马瑞斯没有回答。米切拉看到,自己的手机屏幕上出现一个既没有图片也没有标题的奇怪网页。“有些开发者不久跟我谈过物联网区块链技术。每个传感器都在自己发送的数据中附加一个加密签名,所有的加密签名被集中到上一级的区块链中,而这个区块链再被汇入上上一级的区块链中。整个链的每一步都可公开审查,确保数据没有被篡改。”

他笑了。“我现在明白了,我们无需打造对付‘篡网’的手段,他就在我们身边!”

“我不明白,”米切拉绝望地说。“它如何能帮助我们?”

“如果你能基于物联网传感器数据构建一个无法伪造的区块链,那么你也可以根据新闻聚聚构建这样一个链。”

“什么?”她睁大了眼睛。“你说什么?”

这时传来了砸门声。“我们是警察!瑞沃斯先生,你有1分钟时间放下你的武器并打开房门。”

“为什么他们不先派谈判专家上来?”米切拉自语,“为什么?”

“快!”阿丹喘着气抓住米切拉的手臂。“我已经把灯光控制台下面的设备间门拉开了,也许里面的空间足够你藏在里面。”

“好主意。”马瑞斯自语。他现在面对着门。“嗨!”他大喊。“你们觉得屋子里有几个人?”

没有人回答。“你们从视频中看到阿丹·斯托克利已经被杀,是吗?”马瑞斯继续。“现在,阿丹,你能过来一下吗?”阿丹不情愿地过来。“跟他们说话。”马瑞斯说。

“呃,嗨。我是阿丹。我没死。”

“你是谁?”警察在外面喊道。“别跟我们耍花样!”

“我不是人质。”阿丹大喊。“我们很安全!”

“我的朋友告诉我,他们已经构建了一个系统。”马瑞斯用米切拉和阿丹勉强听得到的声音说道。他停止在手机上输入数据,然后按下了“OK”键。“这个系统允许任何人查询任何传感器数据是否受到篡改——当然隐私还是会受到保护。因此,这件屋子里的数百个分布在椅子、墙壁和灯中的传感器数据——这些数据用来警告制造商和业主房屋的磨损情况——可以被用来证明这间屋子里发生了什么事情,或者没发生什么事情。比如,振动传感器可以证明这屋子里有人在开枪。”

“你也快躲起来!”当阿丹帮助米切拉费力地躲进灯光控制台下面的空间时,米切拉对马瑞斯说。“你的朋友可以证明这里到底发生了什么事情!”

阿丹把盖子重新盖上。马瑞斯摇了摇头,凑近盖子,以便米切拉能听见:“只要这个认证系统启动,就不可能关闭,除非让整个世界经济崩盘。但是这个系统还没有完全建立起来,并不是任何人都能访问它。听着,我刚才跟我的朋友们发了一条信息,告诉他们调整系统以特别追踪一条输入:米切拉,也就是你。我的朋友可以找到你,并帮你藏起来。我之前尽我所能帮助了他们。现在就看你的了——你是一个知道如何追寻真相并告诉全世界真相的人。”

演播室的门被撞开了,灯光同时熄灭。最后的声音是混乱的脚步和枪声。

在闷热黑暗的设备间,米切拉几乎不能呼吸。她听到有人在喊:“还有其他人吗?”

“红外传感器没发现其他人,”另一个声音说。又是一阵脚步,接着就是一片寂静。

米切拉恐惧到几乎不能移动,她觉得自己一定会被抓住,或者直接被穿过设备间薄地板的子弹杀死。但是寂静持续了几秒钟,然后是1分钟。

当门关上的时候,室内的灯光重新亮起。

米切拉费力地打开了门。演播室空空如也,门半掩着。

椅子全部翻倒在地。她在悄悄走到门口,从门缝向外张望。外面的办公室通常总会有人,但是现在空无一人。灯也关着。她走出房间,脚步点亮了灯光。

她被突然亮起的灯光吓了一跳,然后回到演播室,在一张椅子旁边找到了自己的手机,然后从设备间拿出了自己的包。她默默站立了很久,然后打开手机查看本地新闻。毫无悬念地,全映大厦出现在直播的头条。

(来源: MIT Technology Review)

特警队已经离开了建筑,但警察在建筑门口建立了警戒线。三具担架被抬上救护车。

马瑞斯·瑞沃斯无神的眼睛从摄像机视野中一晃而过,手臂垂在担架外面。血浸透了他的T恤。紧随其后的是阿丹,眼睛闭着,手放在胸前。米切拉小声抽泣着。

然后,她看到了自己的脸。她相信其他人也看到了。当然,在米切拉看来,这个人的鼻子、头发和肩膀跟自己都有轻微的不同。但是在其他人看来,米切拉·凯琳已经毫无疑问地死了。

担架被运走,然后一个紧张兮兮的评论员出现了。米切拉没有再看下去。她的目光对准了楼梯。那里没有一点声音。她悄悄下楼,朝停车场的方向走去。

然而,她的直觉提醒她不要直接去开自己的车。特警应该没看新闻,因此不知道新闻上的担架数量跟他们真正击毙的人数不符,但是他们迟早会明白过来。因此,她来到一个紧急出口,出口外面是一条小巷。

人人都知道她已经死了。米切拉想起了自己充满挫折的人生,想起了自己那个只有做清洁的房东会来造访的公寓房间,想起了自己失败的事业。即使她能够跟凯瑟尔或者他的上司达成某种妥协协议,奇迹般地复活,试图重建职业声望又有什么意义?人人都会认为她是个冒牌货。

她又一次查看了自己的手机,这时她想起马瑞斯曾经用它做了些事情。她从包里拿出纸笔,记下了那个数字网址。接着,她砸烂了自己的手机,然后推开了紧急出口的门。

外面没有人,只有被风吹动的塑料袋和一个垃圾箱。右边有人在嘟囔着什么。米切拉转向左边,走向前方。

现在,她唯一的希望就是一个IP地址,但是她曾经是一个调查记者。她很确信,她会继续追踪事实,直到揭开‘篡库’的真相。

本文作者卡尔·施罗德尔是一位未来主义者,11 本科幻小说的作者。他的最新小说是《The Million》。将于 2019 年出版的下一本小说是《Stealing Worlds》描绘了不久的将来,“后现实”美国社会的工作(和盗窃)。

麻省理工科技评论

From Tech to Deeptech