MIT初创公司发布全球首个光子AI芯片原型!独立光学计算硬件,庞大系统成功集成至常规板卡丨独家专访

计算
MIT初创公司发布全球首个光子AI芯片原型!独立光学计算硬件,庞大系统成功集成至常规板卡丨独家专访
麻省理工科技评论 2019-04-30

2019-04-30

近日,麻省理工学院团队背景的光子 AI 芯片公司 Lightelligence 对外宣布了一项重要进展——成功开发出世界第一款光子芯片原型板卡(Prototype)。
芯片
近日,麻省理工学院团队背景的光子 AI 芯片公司 Lightelligence 对外宣布了一项重要进展——成功开发出世界第一款光子芯片原型板卡(Prototype)。

近日,麻省理工学院团队背景的光子 AI 芯片公司 Lightelligence 对外宣布了一项重要进展——成功开发出世界第一款光子芯片原型板卡(Prototype)。

对于这家成立一年半的公司,这款芯片原型的诞生,验证了团队部分成员在 2017 年发表在Nature Photonics 期刊上的开创性想法——用光子代替电子来进行 AI 计算。但是在那个时候,他们在实验室开发的整个光子计算系统占据了半个实验室。

MIT初创公司发布全球首个光子AI芯片原型!丨独家专访

(来源:Lightelligence)

在视频演示中,团队在这个原型产品上成功用光子芯片运行了Google Tensorflow 自带的卷积神经网络模型来处理 MNIST 数据集。这是一个使用计算机视觉识别手写数字的基准机器学习模型,也是机器学习中最著名的基准数据集之一。测试中,整个模型超过 95% 的运算是在光子芯片上完成的处理,测试结果显示,光子芯片处理的准确率已经接近电子芯片(97%以上),另外光子芯片完成矩阵乘法所用的时间是最先进的电子芯片的 1/100 以内。

Lightelligence CEO 沈亦晨对 DeepTech 表示,公司计划将该光子芯片提供给一些合作方、潜在客户进行测试,目前国外已经有谷歌、FaceBook、AWS级别,国内 BAT 级别的客户与 Lightelligence 接洽。

他透露,尽管这款芯片还不是公司真正意义上的第一款商业化产品,在性能上也还有很大的提升空间,但却是对团队开发完整光子AI芯片系统可行性的一个重要验证。

MIT初创公司发布全球首个光子AI芯片原型!丨独家专访

图丨这款原型正在运行 MNIST(来源:Lightelligence)

沈亦晨表示,在接下来的几十年中,对于 AI 算法尤其是机器学习算法的计算需求仍将大幅增加,但与此同时,我们回过头看过去几年计算硬件的发展,其演进速度正变得越来越慢,“从光子学的角度来看,我意识到,对于一些最基本的算法以及机器学习任务来说,光子可能是最佳的计算平台。在我的博士生涯中,我用一个项目简单地证明了这个概念性质的设想,现在,Lightelligence 的成立正在将这个设想从学术研究带到真实世界”。

“我们从硬件到软件做出了一套可以运行的系统,原则上,它可以运行任何神经网络系统,它也是就我们所知世界上第一台完全独立的光学计算 AI 加速器(stand alone optical AI accelerator)。Lightelligence 现在发布这款芯片原型想传达的另一个信息是,光学计算不再是一个“Science Project”,而是一个已经接近于产品化的技术”,他说。

MIT初创公司发布全球首个光子AI芯片原型!丨独家专访

图丨 Lightelligence CEO 沈亦晨,MIT 物理学博士,因其从光学计算的独特角度切入 AI 芯片入选 2017 年《麻省理工科技评论》“35 岁以下科技创新 35 人”中国区榜单(来源:麻省理工科技评论)

越来越近的光学计算


光学计算并不是一个全新的概念。

作为一种完全不同于电子计算的技术,光学计算以光子为信息处理载体,依赖光硬件而非电子硬件,以光运算代替电运算,擅长快速并行处理高度复杂的计算任务,但它一直没找到合适的应用场景,且受限于传统分离式光学器件光场调控手段单一、光学设计体积庞大的缺点,光学计算一直都停留在实验室阶段。

近几年,电子计算愈发受制于摩尔定律,信息技术载体的存储密度与运算速度的提升愈发力不从心,让一部分人将目光从“电”转向了速度更快、能耗更低的“光”。

MIT初创公司发布全球首个光子AI芯片原型!丨独家专访

(来源:麻省理工科技评论)

尤其是基于人工神经网络算法的深度学习系统的流行。不同于通用芯片所运行的逻辑运算,深度学习系统的大部分时间都花在低精度的矩阵乘法运算上,而密集的矩阵乘法运算,正是人工智能算法中最耗时间和功率的。

目前 AI 加速芯片都是基于电子运算的,但在结合电子计算所有前沿技术的基础上,光子芯片可以来执行 AI 计算里最重要的两个步骤:内存到计算单元的数据传输以及矩阵运算本身。这两个方面光子芯片具有独特优势。

由此,光子 AI 芯片的概念应运而生,利用光子来做矩阵乘法运算,在功耗降低和速度提升上前景可期,很可能带来光学计算有史以来最大的机会。

Lightelligence 成立的目的,就是从光子芯片这个全新的角度来切入 AI 加速。

“对产业界来说,这可能开启了一个全新的方向,而且它的发展速度远远高于电子运算。”沈亦晨说。

MIT初创公司发布全球首个光子AI芯片原型!丨独家专访

(来源:Nature Photonics)

2016 年,沈亦晨还在 MIT 做博士后,他所在的研究团队打造了首个光学计算系统。该成果于 2017 年以封面文章的形式发表在顶级期刊 Nature Photonics 杂志上,其基于硬件和算法有着双重创新:在硬件上,光干涉仪作为基本的矩阵运算单元有效取代了传统电子晶体管;在算法上,团队开发了一系列在不牺牲性能条件下有效降低深度学习计算量、并适应于光子芯片的算法。

当时,国际著名光学科学家、斯坦福大学终身正教授 David Miller, 曾专门在 Nature 杂志上撰文评价沈亦晨团队的光学 AI 芯片的研究成果,称“这一系列的研究成果极大地推动了集成光学在未来取代传统电子计算芯片的发展。”

那篇论文可以说在全球范围内启发更多人投入到光子 AI 芯片的开发中,带来这一成果的 MIT 团队已经诞生出 Lightelligence 和 LightMatter 两家公司。

现在,Lightelligence 团队正在全力研发光子芯片的相关技术,包含芯片设计、核心算法、传输、周边等,欲打造一个完整的光学计算生态。全球包括 Lightelligence 在内也已经有 5~6 个团队正在进行相关的研发及商业化,其中还不乏中国团队。尽管各家公司的目标都不尽相同,从已经公布的产品进度来看,作为全球首个光子 AI 芯片的公司,Lightelligence 仍将是最值得关注的公司之一。

MIT初创公司发布全球首个光子AI芯片原型!丨独家专访

(来源:Lightelligence)

以 Lightelligence 此次发布的芯片原型为例,和 2017 年的首个光学计算系统相比,其最大的改进就体现在计算效率的提升、软件环境和集成程度的成熟上。

Lightelligence 团队本身拥有一系列独立自主知识产权,包括光学器件设计、光学系统集成和深度学习算法的核心技术,在设计这款芯片的过程中,团队在这几个方面的技术储备得到了验证。

在开发的过程中,提升运算速度和改善尺寸的工作是交叉进行的。据沈亦晨介绍,原来实验室版本的机器集成度比较低,它的控制单元没有集成在板卡上。现在这款芯片原型的集成度大大提高,随着集成程度的提高,运算速度也大大提升。

而且开发上的主要任务不只是集成度方面的工作,还包括高速信号的控制。对于光子计算机来说,其中比较重要也比较难的一点就是,当信号传输速度很快的时候,如何让信号达到比较精确的强度。

最终,团队用了近一年半的时间打造出了这款尺寸与指甲盖差不多、封装了光纤的芯片原型。这在光学计算领域也是前所未有的。

MIT初创公司发布全球首个光子AI芯片原型!丨独家专访

(来源:Lightelligence)

而除了前文提到的 MNIST 图像识别任务以外,这款芯片原型还可以运行其他的计算任务,团队同时也提供软件支持,与谷歌的 Tensorflow,Facebook 的 Caffe2 和 Pytorch 常用框架中的算法兼容。

沈亦晨表示:“团队希望任何通用的基于线性运算的算法都可以在光子 AI 芯片上运行,Lightelligence 生产的是一款通用的 AI 芯片,同时我们也会自研更适合在光子芯片上运算的算法,后期我们会发布相关的算法上的进展。”

未来,光子 AI 芯片的发展能否引领算法开发上加大矩阵计算比重的“硬件定义软件”风潮,亦值得观察。

3 年内推出第一款量产产品,面向服务器


目前,Lightelligence 成立已经一年半时间,团队的技术进展并不完全体现在这次发布的芯片原型里,沈亦晨说,其实团队早在半年以前就已经着手开发下一代芯片了,“我们的下一款芯片将会在性能上彻底颠覆现有的电子同类产品”。

基于光子 AI 芯片速度快、损耗少、算力高、成本低的这些特点,很多面临性能瓶颈的深度学习场景将是这款产品大展身手的方向。因此,在应用场景上,沈亦晨设想 Lightelligence 的第一款产品将面向服务器和自动驾驶。

“第一款光子 AI 芯片的产品定位不是低端市场,我们的竞争力不是价格和尺寸大小,而是同一块板卡的性能,针对这个优势我们的应用场景确定为以上两个市场。”沈亦晨说。他曾提到,电子芯片的生态链条非常完善,整个产业已经达到数以十亿、百亿计的规模。和电子芯片的完善的生态链条不同,光子芯片还在刚刚起步的阶段,这也决定了其产品可能没办法短期内进入到轻量级、个人级的应用中。

未来的汽车工业很可能是光子 AI 芯片的最重要市场之一,例如,以 Lidar 技术所需要的大量光源和光探测器来说,光子 AI 芯片有望提供一个低成本、低功耗的解决方案。不过,自动驾驶的市场仍比较小,Lightelligence 仍会先从服务器市场切入,然后过渡到自动驾驶中。

MIT初创公司发布全球首个光子AI芯片原型!丨独家专访

(来源:Lightelligence)

现在,在融资上,Lightelligence 已于 2017 年底获得包括百度风投和真格基金在内的超过 1000 万美元的风险投资,团队规模也从最初麻省理工学院出来的三人团队发展到了二十多人全职团队,成员背景包括麻省理工学院、哥伦比亚大学、佐治亚理工大学、北京大学和加州大学伯克利分校等。团队也吸引了很多业界专业人士加入,最引人注目的恐怕就是 Gilbert Hendry 和 Maurice Steinman 了。

Gilbert Hendry 博士毕业于哥伦比亚大学,曾在谷歌和微软工作过5年,并且主持开发过多款机器学习产品,现在是Lightelligence的软件部负责人及机器学习首席工程师。Maurice Steinman是Lightelligence的工程副总裁,加入Lightelligence之前曾任AMD 首席芯片架构师,并主持开发了AMD用于高通量信息传输的旗舰产品infinity fabric, 有超过30年的丰富的半导体行业经验。

MIT初创公司发布全球首个光子AI芯片原型!丨独家专访

图丨Gilbert Hendry (来源:Lightelligence)

MIT初创公司发布全球首个光子AI芯片原型!丨独家专访

图丨Maurice Steinman(来源:Lightelligence)

但必须承认,光子 AI 芯片整体依然仍处于非常早期的阶段,光子 AI 芯片公司面临的落地风险和技术挑战并不比其他 AI 芯片公司的小。但是,人类在追求更高程度的机器智能过程中,对芯片计算能力的需求只会不断增加,光子 AI 芯片有希望能够弥补电子芯片的不足,在一些特殊的计算领域超过电子芯片。

有意思的是,许多人了解到光子 AI 芯片和光学计算之后,更感兴趣的不是其与电子计算的比较,反而好奇光子计算和量子计算有什么区别,两者哪一个将更快改变产业现状。

和量子计算相比,光子计算发展的时间短,投入研发的人力也相对较少,听起来是一个更为小众的领域。但光子计算对算力的提升不一定亚于量子计算,而且在技术实现上,其制造流程可兼容目前的 CMOS 工艺,在量产难度上远低于量子计算,更容易与现有的计算周边生态进行配合,可说是目前发展的次世代计算架构中,最有机会实现普及量产目标的一个。


麻省理工科技评论

From Tech to Deeptech