人工智能、机器人的安全性:一个愈发难以忽视的问题

互联网
人工智能、机器人的安全性:一个愈发难以忽视的问题
麻省理工科技评论 2019-01-21

2019-01-21

戴尔易安信研究员 Radia Perlman、卡耐基梅隆大学机器人学院教授 Katia Sycara 就目前人工智能环境、区块链等议题,发表了自己的看法。
Emtech China 人工智能
戴尔易安信研究员 Radia Perlman、卡耐基梅隆大学机器人学院教授 Katia Sycara 就目前人工智能环境、区块链等议题,发表了自己的看法。

2019 年 1 月 19 日起,EmTech China 2019 全球新兴科技峰会于北京国贸大酒店正式举办,来自世界各地的约70位顶尖科学家和科技公司领袖,分享了他们对于科技趋势的独家见解。 曾被《时代》杂志评为 100 名最伟大的科学家之一的“万维网之父”,拥有超过 120 年历史的美国超级企业领导人,全球最“性感”数据科学社区创始人等等也莅临现场。

1 月 20 日上午的 “未来工作” 板块的圆桌讨论中,在现场主持人《麻省理工科技评论》人工智能领域(AI)资深主编 Will Knight 主持下,戴尔易安信研究员 Radia Perlman、卡耐基梅隆大学机器人学院教授 Katia Sycara 就目前人工智能环境、区块链等议题,发表了自己的看法。

人工智能、机器人的安全性:一个愈发难以忽视的问题

图丨《麻省理工科技评论》人工智能领域(AI)资深主编 Will Knight 、戴尔易安信研究员 Radia Perlman、卡耐基梅隆大学机器人学院教授 Katia Sycara(来源:DeepTech)

以下为会议现场嘉宾发言讨论内容(略有删减):

问:我们都知道,有个技术会改变各个产业,改变各种各样的工作,它就是区块链,你可不可以给我们说一下,什么是区块链?

Radia Perlman:我们都知道比特币背后的这项技术,很多人都在讨论区块链技术,但是,我们要在实际应用中将区块链演化成各种各样新的技术,区块链可以为我们带来非常强有力的加密算法,以及很好的储存技术,所以对区块链的定义会越来越模式化。

对于区块链业务,一直都有很多宣传,因为我们知道,通过比特币有很多人盈利了,通过区块链、比特币这样的技术赚到了很多钱,但是也有很多人被迫开始使用这样的技术,因为他们需要进行管理,而我们认为,这项技术就是未来。

人工智能、机器人的安全性:一个愈发难以忽视的问题

(图片来源:DeepTech)

问:我们想知道,机器人会如何改变我们的人类生活,包括人工智能?现实生活是什么样子呢?人机协同有很大的潜力,所以你觉得机器人是否会取代人类呢?

Katia Sycara:机器人肯定会取代人类,尤其是一些手动的重复性工作领域,比如说在工厂、供应链方向等。

但是另一方面,当我们说到机器人和人互动的时候,这个是很难的。首先机器人很难理解人们的行为,这是因为人的行为具有一定的社交性,其中会有很多复杂的情况。这个时候,如果机器人的行为会以人为导向,很难进行建模,只能建立一个专门的数据库,来应对各种各样不同的环境和场景。

问:其实我们现在会有一些像 Google Home这样 的智能设备,他们也被应用到了我们的社交生活当中,你认为,未来,这些产品与机器人相比会有优势吗?

答:智能设备只有单向互动,而机器人的行为需要学习人类,拥有双向互动。现在会有一些像 Google Home 这样的智能设备,被应用到我们的社交生活当中,而这些社交过程,是需要双向互动的,机器人是符合这一条件的。机器人拥有自主性,会自动的理解内容,并且参与决策,自主学习,最终有希望会形成自己的想法。

问:可能从无人驾驶领域来看,如果有 5G 的话,可能发展的会更好,而且很多公司也在争相进入这个市场。你们认为,未来整个无人驾驶的世界会是什么样的?

Radia Perlman:如果驾驶无人汽车出了事故,可能人们会放大它,有很多负面评价。但实际上,我们可能需要去考虑无人驾驶带来的未来关系与发展。

比如说,在高速公路上,行驶的无人驾驶汽车想要去并道,或者是其他的交通情况,它会自主的去做决策,背后的算法识别可能考虑的没有那么健全,这个时候就需要我们设计物体的识别。

Katia Sycara:如果人坐在一个无人驾驶的汽车上,只看书,不路况,这个时候警报响了,那么人类如何在了解当时发生的情况下,毫秒之间做出下一步反应与决策?这个可能是非常困难的。在无人驾驶过程中,人类把这个驾驶权交给了汽车,在危机的情况下,如何处理这种权利的交接?这可能是需要人们考虑与无人驾驶之间的关系与影响。

Radia Perlman:其实我觉得人和人之间是相通的,但是可能有些人胆大,有些人胆小,甚至可能还有酒驾的问题,或者是人们开车的时候喜欢发短信,所以,可能的确有很多不同的情况。我觉得如果真的无人驾驶和有人驾驶结合在一起,共同发展的话,情况会变的更加复杂。

问:我在想,你们二位对于机器学习还有安全性的问题,是如何看待的?比如说机器学习它的确带来了很多的复杂性,算法的能力也在不断的发展,可能会为我们带来很大的变化,对于网络安全性来说,你们怎么看?

Radia Perlman:其实我有一点担心,比如说对于这种入侵式的识别,可能这个机器人它不会觉得说周围的环境会有危险的,除非有一些以外发生,或者是奇怪的事情发生。人其实了解机器运作的模式,这种情况下,对于整个交通环境来说是好的,但如果突发意外,有紧急的情况发生,这个时候我们应该怎么响应,这可能是我们需要考虑的课题。

Katia Sycara:深度学习其实和单纯的图像理解是不一样的,比如说有的是持续性的,有的是次序性的,会有一些不同点。如果我们去训练这种深度学习,或者是深度强化学习,是需要过程的,需要让他逐渐的去了解更困难的挑战。而且我们需要去解决非常复杂的问题。

所以说,机器人的行为是很难预测的,因为不知道最后会获得什么样的反应与回答。对于次序性的模型,我们在实际生活中训练的时候,可能需要考虑它最后的后果。目前,我们可以把整个学习进行集成、强化,不断地优化过程,需要相互支持与合作。

麻省理工科技评论

From Tech to Deeptech