亚马逊智能音箱又出事:竟“擅自”将家庭私人对话发送给朋友

移动
亚马逊智能音箱又出事:竟“擅自”将家庭私人对话发送给朋友
麻省理工科技评论 2018-05-25

2018-05-25

从亚马逊的回应来看,公司试着把整件事描绘成好像我们不小心一屁股坐到沙发上的电话机上,让电话自己拨通出去那样的意外。
智能音箱
从亚马逊的回应来看,公司试着把整件事描绘成好像我们不小心一屁股坐到沙发上的电话机上,让电话自己拨通出去那样的意外。

继今年 3 月发出诡异笑声引发用户集体恐慌之后,亚马逊 Alexa 今天又曝出窃听并分享了用户的对话。试想一下,前一秒你还在家里舒舒服服躺着,和家人谈论着使用硬木地板的好处。没想到下一秒,你的熟人就立马给你打了个电话,告诉你他已经知晓你们刚刚的对话。

这不是耸人听闻,正是这一次真实发生在俄勒冈州波特兰一户家庭中的诡异事件,这户家庭拥有来自亚马逊的智能音箱 Echo,用它来控制暖气、灯光和房屋安全等,Echo 中则配置了这家公司开发的智能语音助手 Alexa 。在这起事件中,被泄露信息的用户发现,在他们毫不知情的情况下,Alexa 将夫妻之间私人谈话的内容偷偷记录下来,并发给了其中一名家庭成员的同事。这位同事接到了 Alexa 发送的语音留言,内容竟然是关于这户家庭几分钟前正讨论的硬木地板的事,他当即打电话说这对夫妇:“赶紧拔掉你的 Alexa 设备!你家被黑客攻击了。”

这户家庭向媒体抱怨说,Echo 的插头早就被他们拔下来了,这件事让他们感到匪夷所思。女主人 Danielle 更是发誓,为了保护个人隐私,她再也信不过这款设备,永不插上插头了。Danielle 事后也联系过亚马逊的工程部门想问个究竟,亚马逊工作人员通过查看后台工作记录日志,证实了 Danielle 家的 Alexa 确实在没有人的指令的情况下将私人谈话内容广播了出去。

据 Danielle 透露,那位工作人员半个小时里道歉了大概15次,他还说非常感谢 Danielle 一家帮助发现了Alexa的设计漏洞,他们会及时处理和修复。尽管 Danielle 向记者说,亚马逊工作人员当时并不清楚为什么会发生这种事。对于此事,亚马逊公司表示,在俄勒冈州一对夫妇的私人谈话中,已激活的Echo 智能音箱出现了一系列错误,导致对话被记录了下来,并在他们并不知情的情况下,发送到了一个熟人那里。

亚马逊在之后电子邮件声明中解释了引发这一事件的系列原因: 智能音箱 Echo在听到这对夫妇的谈话中有类似" Alexa "发音的词时,就会被唤醒,通常这样唤醒就会触发录制功能。如果稍后 Echo 在对话中听到“发送消息”这一句,此时就会询问“发给谁?”。 然后两人继续交谈,系统会分析聊天的部分内容,以确定在夫妻联系人名单中的具体姓名。 找到后,语音助手 Alexa 会大声问他们是否想向该联系人发送消息,如果机器在接下来的后台对话中听到“是的”,就会发送这一消息。该公司表示:“尽管类似事件不太可能发生,但我们正在评估各种方案,确保这种情况不再发生。”

毫无疑问,这起事件激发了人们对用户隐私问题的担忧,因为像亚马逊 Echo 智能音箱这样的联网设备已经无处不在。亚马逊在 2014 年推出这款智能音箱,它可以通过语音指令从亚马逊下载音乐或订购商品,此后,亚马逊便不断升级这款产品,并通过添加功能来增加销量,以抗衡谷歌和苹果公司的同类产品,稳站市场地位。像 Echo 和 Google Home 这样的智能音箱正在日渐成为主流。以美国为例,单单上个月就有超过六千万的消费者使用过至少一次智能语音助手,其中 2/3 的人使用的是亚马逊的设备,可见其市场份额之大。

从亚马逊的回应来看,公司试着把整件事描绘成好像我们不小心一屁股坐到沙发上的电话机上,让电话自己拨通出去那样的意外。但是,尽管Alexa是不是真的已成为个人隐私窃取者尚不明确,但如果这一切真的只是意外,亚马逊也应该好好努力一下让Alexa的语音识别更加准确,别再让这种恐怖的事情发生。华盛顿大学副教授 Ryan Calo 对此评论道::人们之前一直忽略 Echo 中的一些小问题,比如说它不小心被唤醒了,或者用户的唤醒词迟迟不起作用。但和此次事件相比较,上述问题就显得小巫见大巫了,毕竟是私人谈话被记录下来并被发送给第三方,这非常令人担忧。

"数以百万计的 Echo 用户如果知道了这个消息,恐怕会感到非常不安。" Calo 说。从技术的角度来看,美国公民自由联盟(American Civil Liberties Union)技术专家 Daniel Kahn Gillmor 表示,这一事件突显出,随着拥有传感器的设备变得越来越普及,无意中出现的软件漏洞或者有目的性的黑客攻击的风险正在加大。为此,一些企业转向生产传感器具有物理开关的设备,以消除消费者对隐私问题的担忧。

DT 君此前也报道过,加利福尼亚大学伯克利分校和乔治城大学的学生合作的研究成功用某种秘密指令操纵了智能语音助手。该团队将一种人类听不到的秘密指令嵌入到一段普通的音频文件中,例如说唱片或白噪音。在人们听音乐或听语音信息时,他们听不出其中有什么特别,但是Siri或Alexa等智能语音助手可能会听到秘密指令,往购物车里加东西。该团队研究还表示,这个秘密指令也可以启动其他应用,比如把设备调到飞行模式,或者打开某个网页。这个问题可能造成的后果是,由于指令混乱,智能家居设备乱开门乱开灯,搞得一片狼藉,甚至会给消费者带来危险。但要记住,AI 加持的 Siri 和 Alexa 并不是遭到“黑客入侵”,只是被骗了而已。

"这些智能设备进入大众的生活并不久,但我们已经开始意识到其带来的负面影响。"Gillmor说, "这次事件也向我们抛出了一个问题,那就是这类看似科幻的科技产品是否真的值得拥有?"

麻省理工科技评论

From Tech to Deeptech