李飞飞对谈赫拉利:AI演变成全球科技竞争,会是一件比核竞赛还可怕的事?

计算
李飞飞对谈赫拉利:AI演变成全球科技竞争,会是一件比核竞赛还可怕的事?
麻省理工科技评论 2019-04-29

2019-04-29

近日, 斯坦福大学社会与伦理中心,斯坦福“以人为本”AI研究院和斯坦福人文中心共同主办了一场“未来AI”主题活动。畅销书《人类简史》、《未来简史》作家尤瓦尔·赫拉利( Yuval Noah Harari )和AI界“女神”李飞飞分别谈到对未来AI发展的一些看法。
人工智能
近日, 斯坦福大学社会与伦理中心,斯坦福“以人为本”AI研究院和斯坦福人文中心共同主办了一场“未来AI”主题活动。畅销书《人类简史》、《未来简史》作家尤瓦尔·赫拉利( Yuval Noah Harari )和AI界“女神”李飞飞分别谈到对未来AI发展的一些看法。

近日, 斯坦福大学社会与伦理中心,斯坦福“以人为本”AI研究院和斯坦福人文中心共同主办了一场“未来AI”主题活动。

畅销书《人类简史》、《未来简史》作家尤瓦尔·赫拉利( Yuval Noah Harari )和AI界“女神”李飞飞分别谈到对未来AI发展的一些看法。

赫拉利在讨论中重述了他在《未来简史》中的预言,他认为当AI与脑科学、生物科技、大数据联合起来时,将具备攻击人类大脑的能力。

而李飞飞坚信任何技术都有两面性,AI带来的机遇和潜在的危机应该被正确看待。未来AI发展所面临的挑战和问题需要各界专家学者共同探讨研究,重新构建下一代AI发展规划。

李飞飞对谈赫拉利:AI演变成全球科技竞争,会比核竞赛还要可怕?

AI会具有入侵人类大脑的能力?


17世纪和18世纪围绕着人的能动性和个体自由意志建立起来的现代哲学体系,面临的不是新的哲学思想挑战,而是AI可能带来的颠覆。

赫拉利认为哲学危机一半来自AI与计算机技术,另一半来自脑科学和生物科技。如果总结为一个公式,生物科技*计算能力*数据=攻击(hack)人类大脑的能力。

假若可以创建一个比自己还要了解自己的算法,现在所谓的“自由意志”,“独立思考”,“民主投票”都会崩溃。哲学家们几千年来讨论的诸多哲学概念都将在算法面前土崩瓦解。

赫拉利强调真正入侵人类大脑的能力不是指收集用户购买习惯,网页浏览记录,进行广告推荐这些,而是算法可以直窥人的大脑和心脏,收集数据。

李飞飞对谈赫拉利:AI演变成全球科技竞争,会比核竞赛还要可怕?

李飞飞 (图:YouTube)

而李飞飞认为,首先AI的诞生就是从神经科学、生物学中获取的灵感。尤其是机器学习,就是从模拟人脑的神经网络工作的。

其次,人类从火的发现开始所创造的任何技术都是一把双刃剑。它可以给生活、工作和社会带来改善,也可以带来危险,所以AI也会有危险。

从60年代后到今天,AI在医疗保健方面收集了大量生理学和病理学数据,并利用机器学习来辅助医生诊断和治疗,很大程度上改善了人们的医疗健康水平。

AI是一项革命性的技术。虽然与物理、化学、生物学相比,它仍然是一门新兴的科学,但有了数据、计算力,AI正在对人类的商业和生活产生各种各样的影响。

面对人类面临的各种问题和危机,斯坦福大学“以人为本”AI 研究中心提供的一个建议是,重构下一阶段AI的研究和发展。这需要人文学家、哲学家、历史学家、政治科学家、经济学家、伦理学家、法律学者、神经科学家、心理学家以及其他众多领域科学家共同研究。

关于人类的爱情,AI也能学习吗?


爱情是人类独有的情感,AI是否能进化,以至有能力进入人类爱的堡垒?

李飞飞对谈赫拉利:AI演变成全球科技竞争,会比核竞赛还要可怕?


尤瓦尔·赫拉利(图:YouTube)

赫拉利认为,关键如何来定义“爱情”。从生物学角度来看,爱情的产生无非是一串身体内部产生的生化反应,荷尔蒙会升高,心跳会变化,外部的情绪和动作也跟着变化,如果机器算法可以给这种生理过程编码,爱情的产生就和一场禽流感没什么区别。

李飞飞对此完全不同意,首先,AI算法还没有达到如此强大的地步,不仅可以预测和判断我们的金融消费行为,还可以将人类的意识和爱进行模型生成,这种AI在我们这个时代是不可能的。

另外,这个时代不是只有AI这一种技术,过去,现在和未来,都有很多种技术与AI 同时发展,有的技术甚至比AI更强大。人类在其历史上面临着如此多的技术,如果没有任何监管、规则、法律、道德准则,那么技术可能早已以巨大的方式摧毁人类或伤害人类。

但从历史的角度来看,我们的社会正在向一个更加文明可控的方向迈进。所有的技术都有可能落入坏人之手,AI误入坏人之手的可能性和负面影响不应该被单独放大。应对AI的发展和危机,应同其他科技领域的技术一起看待,一起来面对和解决。

AI 全球竞赛,比核竞赛还要危险?


赫拉利在访谈中讲到,AI的发展只有少数国家有竞争优势,尤其是中美两国,在技术,人才等上面有绝对的优势,而很多其他国家,如非洲国家,甚至一些欧洲国家已经远远落后于这场竞赛。更为可怕的是,AI的发展中,竞争的味道更浓,而不是合作大于竞争。如果AI演变成全球科技竞争,这对全人类都不是一件好事。

真正的可怕之处在于“数据殖民”。例如19世纪的全球殖民地统治,英国在印度或埃及种植棉花,然后将原料运到英国,用高新技术生产衬衫,再送回印度销售,与当地厂家竞争。某种程度上,现在的数据经济也是这样,创业公司在巴西和印度尼西亚等地收集数据,但他们不在那里处理数据,而是送往加利福尼亚或中国东部处理,生产出各种新奇的新设备和技术,作为成品卖到全球各地。

另外从政治角度来看,如果AI技术只服务于本国利益时,那么其他AI发展落后的国家怎么能信任AI强国提供的服务呢?

和核竞赛相比更可怕之处在于,虽然大家都在研发核武器,但是只是作为国防实力展示,并没有打算随便去用,而AI技术出现时,马上会被投入使用。

李飞飞认为这种情况出现的可能性很低,如今的科学在全球范围内都开展比较频繁的合作与交流,有很多跨国的合作研究和应用,仅在斯坦福大学,每年全球合作生产的论文就数不胜数,此外还有GitHub这样的开源服务社区向所有对技术感兴趣的人开放。

另外确实有很多AI 资源掌握在少数的大公司中,但不是全部。学术界很多独立研究机构在AI发展上都扮演着分享者的角色。目前AI发展落后的国家其实还是有机会和时间去思考,制定自己的AI发展战略的。

总结


哲学家们在和技术专家之间的对话总是难以分出谁对谁错。赫拉利的一些观点在他的畅销书中《未来简史》中也提到过,比如科学技术的发展将颠覆我们很多当下认为无需佐证的“常识”,比如人文主义所推崇的自由意志将面临严峻挑战,机器或将会代替人类做出更明智的选择。

赫拉利说他作为历史学家、哲学家、社会评论家的工作,就是指出技术发展中存在的危险,而硅谷的技术专家对技术非常熟悉,但他们不喜欢对危险想太多。

李飞飞开玩笑说:“科学家们真的很忙,我羡慕哲学家们,他们可以只提出问题来,用几千年反复讨论却没有答案,而我们科学家们却要马上回答”。

你对AI的发展是乐观还是悲观呢?


麻省理工科技评论

From Tech to Deeptech