谁是真正的深度学习?英特尔高管与AI大神再“论剑”

互联网
谁是真正的深度学习?英特尔高管与AI大神再“论剑”
麻省理工科技评论 2019-03-03

2019-03-03

作为开创人工智能产业的核心技术,也就是卷积神经网络的创造者,杨立昆 (Yann LeCun) 针对整个人工智能产业的评论,自然也是备受关注。 他在国际固态电路会的开幕演讲中,明确的表达了他不同意英特尔对于人工智能的观点,他认为,英特尔目前所积极发展的尖峰神经原技术目前还不实用,也缺乏可靠的算法来实现实际生活上的问题。
人工智能
作为开创人工智能产业的核心技术,也就是卷积神经网络的创造者,杨立昆 (Yann LeCun) 针对整个人工智能产业的评论,自然也是备受关注。 他在国际固态电路会的开幕演讲中,明确的表达了他不同意英特尔对于人工智能的观点,他认为,英特尔目前所积极发展的尖峰神经原技术目前还不实用,也缺乏可靠的算法来实现实际生活上的问题。

作为开创人工智能产业的核心技术,也就是卷积神经网络的创造者,杨立昆 (Yann LeCun) 针对整个人工智能产业的评论,自然也是备受关注。


他在国际固态电路会的开幕演讲中,明确的表达了他不同意英特尔对于人工智能的观点,他认为,英特尔目前所积极发展的尖峰神经原技术目前还不实用,也缺乏可靠的算法来实现实际生活上的问题。


(来源:麻省理工科技评论)


英特尔也因此炸了锅,其主导神经计算的主管 Mike Davis 更是站出来反驳杨立昆的看法,捍卫尖峰神经原计算的核心价值与发展潜力。


Facebook 人工智能研究院院长杨立昆在三十多年前在多伦多大学博士就学期间,创造了使用特定形式的机器学习,该技术称为卷积神经网络 (CNN),也因此,杨立昆也被称为卷积神经之父。


后来杨立昆先后曾在贝尔实验室开发新型态的机器学习方法,包括我们现在流行的图像识别技术,随后他加入 AT&T 实验室领导图像研究部门,并曾加入 NEC 美国研究室,后来他加入纽约大学,并在 2012 年创建了数据科学中心,随后他加入了 Facebook,建立人工智能研究院,并成为第一任主任。


作为开创人工智能产业的核心技术创造者,杨立昆对尖峰神经原 (spiking neurons) 的负面看法,也引了包含英特尔在内的业界的争议。


众所周知,英特尔正积极发展所谓的尖峰神经原技术,而该技术底层是一种更接近真正生物神经原的一种计算模型,换言之,英特尔认为这种技术所达成的计算才是人工智能。


英特尔神经计算主管 Mike Davis 对杨立昆的看法表示,目前各种以反向传播技术为基础的神经网络模型上进行的计算,根本不能称为真正的深度学习,充其量只能叫做基于算法的路经优化,只有以真正模拟大脑神经原运作,才有办法解决目前深度学习在所有人工智能应用领域所遇到的问题。


Mike Davis 在加州理工大学毕业后,曾短暂在 Fulcrum 这家 IC 设计公司待过,该公司成立于 1999 年,主打低功耗网络设备芯片,该公司后来在 2011 年底被英特尔收购,而 Mike Davis 也转而进入英特尔从事芯片开发工作,后来成为英特尔的神经计算研究室的主任。


反向传播与尖峰神经原之争


基于反向传播的卷积神经深度学习方法是过去几十年来做为人工智能的基础,然而反向传播技术并不存在于自然界的各种逻辑推演过程,实际上,它只是用来简化我们遇到的庞大数据,从中理出逻辑的一套方法。


而反向传播这一深度学习核心技术的提出者之一,Geoffrey Hinton 很早就意识到反向传播并不是自然界生物大脑中存在的机制,也因此,他最近也曾发出声明,强调要追求真正的人工智能,就必须抛弃反向传播,从自然规则,也就是我们的大脑中寻找真正的解法。


基于反向传播的神经网络技术在”学习”的过程中其实会有很多限制,比如说人脑可以在一张图片中的文字加入噪声后仍可轻易判读出来,但现有的神经网络却非如此,即便是同一张图片,加入噪声之后就必须重新学习,否则就无法判读。


换言之,反向传播无法理解事物的因与果,它虽然可以找出一套最优路径,但这不是逻辑的建立,而仅仅是死的规则。


而英特尔进来积极发展的尖峰神经原,也被称做脉冲神经网络,其实就是要仿照大脑神经原的运作方式,让计算机用大脑的运作方式来去理解事物的本质,而不仅仅是最优化工作。


目前的神经网络属于第二代神经网络技术,属于监督式的学习方法,基于自 1970 年代就已经发明的反向传播技术,而尖峰神经原则是属于第三代技术,它不止使用了类似生物的神经网络运作方式,甚至也能把时间信息的影响因素同步考虑进来,换言之,这是一个可以考虑前因后果的神经网络技术。


当然,作为推动近年来人工智能产业的重要核心技术,其实反向传播已经建立起非常庞大的生态价值链,即便它不完美,但它推动了整个人工智能计算产业,其地位已经非常稳固,不仅性能可靠,算法生态丰富,几乎所有的计算硬件都能支援相关算法,在未来很长的时间内都不可能被取代。


然而科学家看的往往是更长远的发展,反向传播技术的限制早就已经被诸多研究者提出,虽然可以利用很多额外的算法来弥补,但无法根除这些问题。


英特尔身为业界计算架构的领导者,他已经错失了在第二代神经网路计算中的先机,也因此,转而全力发展第三代神经网络技术,其 Loihi 技术就是该技术的结晶。


与其他传统神经网络技术不同的是,Loihi 不需要庞大的数据来帮助其完成整个学习过程,理论上它可以利用环境观察中取得的数据来自主完成整个学习过程。


当然,英特尔这边声称这个基于第三代神经网络技术的硬件环境已经非常完备,而且在合适的算法之下,可以达到远优于传统神经网络计算架构的效率与能耗表现。


不过 Mike Davis 也承认,杨立昆的某些观点也是事实,那就是其第三代神经网络,也就是尖峰神经原的硬件还缺乏许多关键算法的实现,临门还缺了一脚,使其还无法真正为业界所用。


但 Mike Davis 强调,算法的完备只是时间问题,由于尖峰神经原技术解决了基于传统反向传播神经网络架构的核心问题,如果要往真正的人工智能发展,那么这就是不得不走的路,业界普遍认知到反向传播的限制所在,尖峰神经原技术就会是答案。


世代问题


所以从整个事件看来,其实杨立昆与 Mike Davis 之间的争议就是个世代问题,第二代神经网络技术很好的解决了目前我们生活周遭的大数据计算需求,虽然不够智能,但够用,而英特尔则是认为真正的人工智能问题无法用第二代神经网络技术来解决,必须通过第三代技术才有办法达成。


要说二者之间的争议谁是谁非,其实是没有答案的。


这种认知上的落差其实在于现在与未来的认知不同,也就是不同时期在人工智能应用发展所需要的计算核心所需要的不同思维,就好比过去有很长一段时间觉得计算就应该是由 CPU 来完成,但后来 GPU,甚至神经网络芯片加入计算的战场,我们看到的计算生态也变得更多元化,但这并不是说 CPU 的贡献就不存在,或者失去价值。


这场由不同世代神经网络架构所造成的人工智能争议亦是如此。


麻省理工科技评论

From Tech to Deeptech