面对机器人的“求生欲”,你会怎么办?研究表明很多人屈服了

机器人
面对机器人的“求生欲”,你会怎么办?研究表明很多人屈服了
麻省理工科技评论 2018年8月9日

2018年8月9日

如果机器人向你乞求:“请别关掉我,我怕黑。”你会继续拔掉这个机器人的电源吗?
机器人
如果机器人向你乞求:“请别关掉我,我怕黑。”你会继续拔掉这个机器人的电源吗?

如果机器人向你乞求:“请别关掉我,我怕黑。”你会继续拔掉这个机器人的电源吗?

目前与人类社交互动的机器人越来越普遍,比如机器人可以做前台接待员、导游、保安和搬运工人。不过针对“视机器人为机器”这件事来说,人们能做到多好呢?越来越多的证据显示,人类其实做的并不好。有关研究多次表明,我们很容易受到来自机器的社会暗示的影响,而最近德国的一项实验说明,如果机器人向人类乞求不要关闭电源,人类甚至不会关掉它。

这项工作发表于开放期刊《PLOS One》,有 89 名志愿者在 Nao 这个小型人形机器人的帮助下,完成指定的一系列任务。参与者被告知,这些任务(包括回答一些是否类问题,如“你喜欢意大利面或比萨饼吗?”或者组织每周的时间表)是用于提高 Nao 的算法能力的。但这些只是表面的目的,真正的测试是在完成上述任务后,参与者被要求关闭这些机器人。

在大约一半的实验中,机器人抗议,告诉参与者它怕黑,甚至乞求:“不!请不要关掉我!”当发生这种情况时,人类志愿者可能会拒绝关闭机器人。在听到 Nao 的请求的 43 名志愿者中,有 13 人拒绝了。与那些没有听到绝望的哭声的人相比,剩下的 30 人平均需要两倍的时间(来关闭机器人)。(可以参考美剧 The Good Place 中 Chidi 杀死(关掉)Janet 的场景)

当对他们的行为进行询问时,拒绝关闭机器人的参与者给出了一些理由。有人说他们对这些请求感到惊讶; 另一些人说,他们害怕他们会做错什么。但最常见的反应只是机器人说它不想被关闭,所以他们为什么要拒绝呢?

正如该研究的作者所写:“根据拒绝关闭的人的意见,人们倾向于将机器人视为一个真实的人,而不仅仅是机器,通过遵循或至少考虑遵循其要求保持开启状态。”

他们说,这一发现建立在一个被称为“媒体等同”的更大理论的基础上。这是在 1996 年由两位心理学家 Byron Reeves 和 Clifford Nass 出版的同名书中建立的。Reeves 和 Nass 认为,人类会倾向于将非人类媒体(包括电视,电影,电脑和机器人)视为人类。Reeves 和 Nass 说,我们与机器交谈,与收音机辩论,与计算机互动,(本质上是社会性的和自然的)。

ai.jpg

此后的各种研究表明,这一理论如何影响我们的行为,尤其是涉及与机器人的互动时。例如,我们更喜欢与我们人格类型相同的机器人进行交互,并且我们很乐意将机器与性别刻板印象联系起来。在与机器人交互时,可以观察到所谓的“互惠规则”(意思是当他们对我们好的时候我们往往对他们也很好),如果机器人作为一个权威人物呈现,人类甚至会接受一个命令。

“现在和将来,”2006 年有一个学者团队写道,“人与人之间的交互和人与机器之间的交互之间的差异性会越来越小”。

这一工作并非是第一次关于“机器人乞求不想死”的情景的研究。2007 年也进行过类似的研究,一个类似于猫的机器人也乞求生命。参与者被迫通过观察科学家和其他所有人的行为来做到这一点(关闭机器人)——在此之前他们的内心做了激烈的思想斗争。

在实验的视频片段中,机器人问志愿者:“你不会真的关掉我,对吗?”人类说道:“不,我会(关掉你)的!”——不过他们并没有做到。

本文于 7 月 31 日发布,这项新研究以此前的工作为基础,使用了更多的参与者。它还测试了如果机器人在乞求不被关闭之前被证明具有社交技能,是否会对结果有所影响。在某些试验中,Nao 向人类志愿者表达了意见,讲了笑话,并分享了个人信息。令人惊讶的是,这种社交行为并没有对志愿者是否关闭 Nao 产生巨大影响。

那么这些结果对处于未来充满机器的世界的人们意味着什么呢?我们是否注定要被有能力按下按钮、具有复杂社交能力的机器人操纵?负责这项新研究的杜伊斯堡-埃森大学博士生 Aike Horstmann 说,这当然值得注意。但是,她说,这不是一个巨大的威胁。

“我听到这种担心很多,”Horstmann 说。“但我认为这只是我们必须习惯的事情。媒体等同理论表明我们对机器人的反应是一种社会性的反应,因为几十万年来,我们是地球上唯一的社会性生物。现在我们不是了,我们必须适应它。这是一种无意识的反应,但它可以改变。”

换句话说:我们得习惯于关闭机器,即使机器不喜欢这样。它们是硅和电,不是血与肉。

麻省理工科技评论

From Tech to Deeptech