IBM人机辩论第三场:AI利大于弊观点险胜,机器人为自己正名

科学
IBM人机辩论第三场:AI利大于弊观点险胜,机器人为自己正名
麻省理工科技评论 2019-12-02

2019-12-02

IBM的Project Debater AI为人类辩论队提供帮助。
人工智能 IBM
IBM的Project Debater AI为人类辩论队提供帮助。

近日,一个 IBM 机器人参与了一场质疑自身的辩论,论题是“AI 是否会带来更大的弊端”,最终认为“利大于弊”的观点险胜。

这场辩论在剑桥联合会(Cambridge Union)展开。剑桥联合会的辩论礼堂有 150 年的历史,迎接过撒切尔夫人、罗斯福总统、霍金、甚至色情演员等等,从总理到总统,从明星演员到学界泰斗各行各业的辩论人士。但怎么也想不到,今天会有 300 名观众观看这场人类与非人类的辩论。

IBM人机辩论第三场:AI利大于弊观点险胜,机器人为自己正名

图 | 人机辩论“AI 是否会带来更大的弊端”(来源:IBM)

这个机器人是 IBM 的“辩论家计划”(Project Debater)中的一个对话型 AI 机器人,它是一个两米高的黑箱子,发出的声音类似某个女明星。整场辩论以其发表的开场词正式开始。这个机器人设置有一个“群众演讲”(speech by crowd)的应用程序,可以用它分析人们在网上提交的意见来生成自己的论点。它的论据来自 1100 多份事先提交的人类陈述。

两个辩论队分别由一名教授和一名辩论专家组成,两队都有这个机器人的 AI 辅助。“我真的很好奇,也很兴奋能和一台机器一起工作。”其中一名参与者、反人工智能团队的辩论专家莎米拉·帕玛南(Sharmila Parmanand)在活动开始前说。

“人工智能无法在道德上做出正确的决定,因为道德是人类特有的。”场下一片寂静。通常观众的注意力会在礼堂中位置最高的联合会主席身上,但是现在所有人的目光都在这个闪着蓝光的辩手身上。

“人工智能的错误率低于人类……这将是一个巨大的优势,因为它可以节省更多时间来执行平凡和重复的任务。”它提出了两个立场相反的观点。

支持 AI 的一方认为人工智能将在某些领域创造新的就业机会,并“在工作场合提高效率”。

随后这个机器人又提出“人工智能可以照顾病人,或者机器人可以教学生——这些领域也不再需要人类。”

人工智能条理清晰地进行了辩论,但也出现了一些失误。有时它会重复自己的观点,有时它无法提供详细的素材来支撑自己的观点。

这是一场有意思的辩论,但这不仅仅是一场辩论。这次 IBM 展示的技术与之前展示的非常不同。

IBM人机辩论第三场:AI利大于弊观点险胜,机器人为自己正名

图 | 2012 年,IBM研究院建立了一个项目团队,正式启动“Project Debater”项目开发(来源:IBM Research)

“辩论家”项目的初始提案脱胎于 2011 年出现的单个 PPT 幻灯片。由于提交内容有限,而且挑战项目的难度比较大,IBM 管理层经过了大约一年的仔细考虑,才最终批准了该项目。2012 年,IBM 研究院建立了一个项目团队,正式启动“Project Debater”项目开发。而该项目的实质性工作直到 2014 年才展开。

去年 6 月,IBM 的辩论机器人首次与人进行辩论,最终得分 1:1,观众投票认为,Debater 的辩论技巧比人要差,但是信息量很大。当时这个系统有数以亿计的文章库,可从中提取内容,涉及约 100 个主题。当遇到辩论性问题时,需要花费几分钟的时间来搜索这些文章,构建论点并进行总体演讲。

今年 2 月,在 IBM 的 Think conference 上,AI 机器人再战冠军级辩论家 Harish Natarajan。双方围绕“政府是否应该资助学前教育”进行激烈交锋,最终 AI 落败。

以前这种和人辩论的方式主要是锻炼 AI 的听力理解能力和对一个论点做出有意义的回应的能力。这些技能或许是远远超过了智能家居或者移动设备中智能助理的能力,但是这些远远达不到 IBM 做这个辩论计划的初衷。

这一次采用 AI 自我辩论的形式,就好像“你把数千条正面和负面的餐厅评论集中在一起,然后用几段话总结出来”,IBM 计算机科学家丹•拉哈夫(Dan Lahav)说。

IBM人机辩论第三场:AI利大于弊观点险胜,机器人为自己正名

图 | Dan Lahav,IBM 计算机科学家,该项目研究员之一。他本人也是著名的辩论家,在 2018 年被冠以“全球最佳演说家”的称号(来源:IBM)

所以这场辩论的意义不在于机器能否说服人类,而是机器可以增强人类。

“人类可以基于我们的文化和传统更好地理解听众,但是机器可以通过大量数据来丰富我们的知识,去做一些更加具体的决定,使我们消除作为人类固有的偏见。”Lahav 说。

机器能找到事物之间各种有效的联系,而这些联系很有可能因为人的默认想法而被忽略。这会限制我们处理信息的能力。

“2016 年,Debater 还只是一个蹒跚学步的孩子,而到了 2019 年,我们已经达到了大学水平,”该项目首席研究员、IBM 杰出工程师诺姆•斯洛尼姆(Noam Slonim)表示,“Project Debater 可以在很多方面帮助人类,可以通过展示一个有争议话题的两面,减少人类固有的偏见。”

长期以来,辩论一直都是一个很具智力挑战性的任务。让人类去理解一个论点,并表示支持还是反对,对我们来说是很简单的,但对机器来说是难以置信的复杂。接下来机器人的挑战是判断论证的质量是否足以说服他人。最后,人工智能还必须以一种人类可以理解的叙述方式来阐述论点。

除了辩论,这项技术或许可以运用在任何一个需要收集数据并根据数据做出决定的工作中。“你可以把它看作是一个研究引擎,而不是一个搜索引擎,”Lahav 说,“想象一下,在一场政治演讲中,它能提高讨论的水平,因为你能了解听众在说什么,你会给他们一个参与的平台。立法者可以更好地看到对方,因为这台机器可以自我辩论。”

目前来看,这个“辩手”已经做得很不错了,它组织语言的方式,没有让观众在 11 月这个寒冷的季节听着机器的声音昏昏欲睡。相反,它的存在让辩论充满轻松和活跃。

IBM人机辩论第三场:AI利大于弊观点险胜,机器人为自己正名

图 | 在剑桥联合会,人们“用脚投票”(来源:Medium)

米格姆大学 (University of Birmigham) 法学和伦理学教授、反方的一名成员西尔维·德拉克洛瓦 (Sylvie Delacroix) 走上讲台,并开玩笑地称 Project Debater 为“黛比”。“人工智能是一种重要的工具,因为它正以绝对的速度改变着我们的工作方式和约会方式。”她说。

辩论结束后,人们没有立即投票,而是起立欢呼。之后,观众分别走向了代表“赞成”“反对”和“弃权”的三扇门,最终投票结果:48.17% 的人赞成,51.22% 的人反对,0.61% 的人弃权。

“我真的不知道人工智能的未来是什么,”Natarajan 说,“它肯定会产生巨大影响,但我们不知道会是什么。”

麻省理工科技评论

From Tech to Deeptech