令人担心!苹果承包商表示,他们经常会听到 Siri 用户录制的私密信息

互联网
令人担心!苹果承包商表示,他们经常会听到 Siri 用户录制的私密信息
麻省理工科技评论 2019-07-29

2019-07-29

语音助手越来越受欢迎,但该技术一直在关注隐私和准确性方面出现很多问题。在所谓 AI 技术的背后,总有一群人在监督或审查你的一举一动。
信息安全
语音助手越来越受欢迎,但该技术一直在关注隐私和准确性方面出现很多问题。在所谓 AI 技术的背后,总有一群人在监督或审查你的一举一动。

语音助手越来越受欢迎,但该技术一直在关注隐私和准确性方面出现很多问题。在所谓 AI 技术的背后,总有一群人在监督或审查你的一举一动。

根据英国《卫报》报道,苹果公司的 Siri 语音助手的质量控制或评级是该公司的一项日常工作,苹果承包商定期会听取并分析该公司 Siri 语音助手中收集的录音,其中会有关于医疗、毒品交易和性行为等机密信息。

(来源:CNET)

该报道指出,苹果公司没有在消费者的隐私条款中明确解释或披露这个信息,也就是说,该公司并没有明确让消费者知道这件事。但有举报人给卫报提供线索,称一小部分 Siri 录音信息将会被传递给在全球范围内为苹果公司工作的承包商。他们的任务是收听相关的录音,对各种因素进行评分,包括语音助手的激活是故意的还是偶然的,是否可以预期 Siri 可以提供帮助,以及 Siri 的反应是否合适等,提高苹果用户使用 Siri 的精准性和准确率。

举报人表示:“有无数的录音记录,包括医生和病人之间的私人讨论,商业交易,看似犯罪交易,性接触等等。这些录音附有显示位置,联系方式和应用数据的用户数据。”

虽然 Siri 包含在大多数苹果设备中,但举报人强调,Apple Watch 和 HomePod 是最常见的错误录音来源,由于用户意外激活可能会导致将最敏感的数据发送给苹果。

“手表意外触发的规律性非常高。” 这篇报道指出,“手表可以录制一些 30 秒的片段,不会那么长,但你可以很好地了解正在发生的事情。”

“有时你可以听到医生和病人,谈论病人的病史。或者你会听到一个人,可能有汽车引擎背景噪音,你不能肯定地说,但这是一个毒品交易......你绝对可以听到它的发生。甚至,你会听到那些被意外记录性行为的人(发出的声音)。”

苹果公司官方回复“卫报”关于这则信息的真实性时,承认了该报道是准确的。并解释称,只有不到 1% 的 Siri 激活录音被分析以改善相关服务。

图|苹果公司回复卫报的内容(来源:The Guardian)

“分析了一小部分 Siri 请求,以改善 Siri 和听写。请求与用户的 Apple ID 无关。Siri 响应在安全设施中进行分析,所有审核人员都有义务遵守苹果公司严格的保密要求。“该公司补充说,这是一个非常小的随机子集,不到每日 Siri 激活的 1%,用于评分,使用的那些(录音)通常只有几秒钟。

据了解,举报人称目前没有处理 Siri 录音的方式,审查的承包商只报告 Siri 服务的技术问题,而不是基于他们听到的内容进行分析。对于敏感录音信息,承包商并没有解决或者进行处理,苹果方面亦未有指示。即便如此,这些员工认为,他们对听到的私人信息感到不适,担心这些信息可能会被滥用。

与此同时,举报人称,“在那里工作的人没有经过太多的审查,可以自由查看和收听录音数据,类型相当广泛。识别用户私人信息并不困难,特别是在意外触发时会听到地址、姓名等敏感信息。”

除了苹果以外,其他国外的语音助手同样也有承包商来收听敏感信息的情况。就在本月早些时候,有比利时媒体报道称,谷歌承包商会听到 Google Assisitant 里的一些敏感数据,该报道发布之后,谷歌与苹果官方进行了同样的回应,承认了这个消息的真实性。并解释称,仅有 0.2% 的 Google Assisitant 录音数据会被人收听以改善语音助手的准确率。同样的,此前有报道指出,亚马逊使用人来审查 Alexa 的互动录音数据。

经过多年的发展,语音技术正在改变我们与数字世界互动的方式。近日,美国投资机构 Mangrove Capital Partners 发布了 2019 年“语音技术报告”。预计到 2025 年,语音技术市场规模将达到 1 万亿美元,超过移动应用市场。

但是隐私问题,将会让更多人对于语音助手愈加不信任。可以想象,如果在语音助手中说出短信内容,里面包含更多的私密信息,包括银行卡、电话号码、地址等,在你发生性行为的时候,旁边还有人会同步听到,官方也没有处理这种敏感数据的方式,是不是会让你更加恐惧呢?

值得注意的是,在苹果官网的隐私政策中,有这样一条规定:

我们可能会收集各种信息,包括你的姓名、邮寄地址、电话号码、电子邮件地址、联系方式偏好、设备识别码、IP 地址、位置信息、信用卡信息以及档案信息 (在通过社交媒体联系的情况下)。

而你,可能连看都没看,就点击了同意。

(来源:苹果官网的隐私政策页面)

诚然,互联互通已经成为了各家主打的功能,而苹果也需要不断通过和第三方机构或应用开发商共享一些数据,提高语音助手的 AI 识别率,形成所谓的 Siri 闭环生态圈。与面部识别背后的打点师一样,这些都是人工智能技术背后的人类。

但是数据是没有边界的,暂时苹果也没有办法对这些语音数据进行销毁或处理,这都让人害怕。如果有一天,因为一段录音泄漏了个人隐私,有陌生人威胁你怎么办?陌生人悄悄将你银行卡里面的余额提走怎么办?拿你亲属的生命安全要挟你怎么办?

这些,苹果都没有在隐私政策中提到,它也永远无法提到。


麻省理工科技评论

From Tech to Deeptech