又一中国AI芯片公司“诞生”:依图推首款云端AI芯片,顶尖算法公司向产业上游生长丨专访

计算
又一中国AI芯片公司“诞生”:依图推首款云端AI芯片,顶尖算法公司向产业上游生长丨专访
麻省理工科技评论 2019-05-09

2019-05-09

5 月 9 日,计算机视觉公司依图在上海召开发布会,宣布推出其首款 AI 芯片产品“questcore™”(求索),并基于此推出云端边缘端两款视频解析硬件,成为中国计算机视觉“4 小龙”(商汤、旷视、云从、依图)中第一家尝鲜自研 AI 芯片的公司。
芯片
5 月 9 日,计算机视觉公司依图在上海召开发布会,宣布推出其首款 AI 芯片产品“questcore™”(求索),并基于此推出云端边缘端两款视频解析硬件,成为中国计算机视觉“4 小龙”(商汤、旷视、云从、依图)中第一家尝鲜自研 AI 芯片的公司。

近几年,业内刮起一股 AI 算法公司自研芯片的风潮,其中最具代表性的队伍恐怕是国内一众语音技术公司。现在,这股风潮终于也降临计算机视觉领域。

5 月 9 日,计算机视觉公司依图在上海召开发布会,宣布推出其首款 AI 芯片产品“questcore™”(求索),并基于此推出云端边缘端两款视频解析硬件,成为中国计算机视觉“4 小龙”(商汤、旷视、云从、依图)中第一家尝鲜自研 AI 芯片的公司。公司创始人朱珑更是表示,依图要成为中国最成功的 AI 芯片公司之一。

又一中国AI芯片公司“诞生”:依图推首款云端AI芯片

图丨 questcore™(来源:DeepTech)

又一中国AI芯片公司“诞生”:依图推首款云端AI芯片

图丨两款产品(来源:DeepTech)

芯片以外,发布会透露的更重要信息是:“算法、数据、芯片”被认为是 AI 的三大支柱。此前,国内 AI 公司主要在拼前两者。但从去年开始,这两个领域的争夺趋于胶着状态,算法上彼此已经越来越难拉开距离,数据资源更是愈发集中在极个别头部公司手中。拼算力硬件,也就成了一个水到渠成的阶段。一个更重要的逻辑是,行业垂直整合正在卷土重来。

一家算法公司造芯,需要下多大决心?


2017 年就有传言说依图开始进军 AI 芯片领域,并在开发 AI 芯片,对标另一家 AI 芯片初创公司地平线。对于这一说法,依图首席创新官吕昊在采访中对 DeepTech 澄清,从未在公司内部听闻依图做芯片对标的是地平线。

他表示,与谷歌、微软、阿里等公司自研芯片一样,依图自己做芯片也是为了更好地发挥依图算法和软件的性能,为客户提供更好的软硬件一体化解决方案。

朱珑则在发布会上表示,依图开发这款芯片,不在于追求匹及英伟达上则几百 T 的算力,而在于高计算密度。

又一中国AI芯片公司“诞生”:依图推首款云端AI芯片

图丨 questcore™ 与英伟达产品的单位面积算力比较(来源:DeepTech)

又一中国AI芯片公司“诞生”:依图推首款云端AI芯片

图丨依图科技首席创新官吕昊在现场演示已经配备 questcore™ 的服务器机柜,并现场演示了4颗芯片如何支撑 200 路实时视屏解析,并具备人脸识别和比对的能力,目前产品已经商用(来源:DeepTech)

据依图提供的信息,questcore™ 是全球首款深度学习云端定制 SoC 芯片,定位服务器芯片/云端 AI 芯,可独立使用,将与依图的智能视觉分析软件结合,作为软硬件一体化的解决方案对外销售,适用于加速各类视觉推理任务,比如交通运输、公共安全、智慧医疗和智慧零售等行业,尤其是对云端智能视频实时分析等应用具有强需求的企业环境。搭载 questcore™ 的依图原子服务器,将为今年 11 月在上海举行的第二届世界进口博览会提供安保服务。

在能效上,questcore™ 峰值性能达到 11.2T(深度学习推理运算),功耗 20W,摄像头单路功耗仅为英伟达 GPU P4 的 30%,同等功耗下,深度学习推理运算性能是市面同类产品的 2~5 倍。这款产品也支持 TensorFlow、PyTorch 等各类深度学习框架,适用于加速各类视觉推理任务,最高 50 路 FHD 视频流硬件解码,另外还支持虚拟化、容器化,可将 AI 云的弹性计算和调度提升一个量级。依图也为 questcore™ 配备了基于其自研 ManyCore™架构的深度学习推理模块,ManyCore™ 架构同样适配各类深度学习算法。

又一中国AI芯片公司“诞生”:依图推首款云端AI芯片

图丨 questcore™ 支持的视觉推理场景(来源:DeepTech)

吕昊对 DeepTech 表示,questcore™由依图和 ThinkForce 团队共同打造,依图在 2017 年 2 月时有了自研芯片的想法,大约 2 年时间顺利完成一款量产 AI 芯片的研发,从设计到制造实现全面国产化,背后是依图和 ThinkForce 之间的深度合作。

后者成立于 2017 年,同样是近年来中国 AI 芯片初创公司中最值得关注的新星之一,曾提出过“算法即芯片”的论断(这一论断也在今天的发布会上由朱珑屡次提及,显然,这位算法出身的创始人非常认可这一论断)。

据了解,ThinkForce 团队核心成员来自 IBM、AMD、INTEL、LSI、Broadcom、Cadence、ZTE 等业界龙头芯片企业,负责过 IBM PowerPC、AMD APU 的北桥、SonyPS3 Cell 处理器、Microsoft XBOX 游戏机主芯片、以及全球最高速的 56G Serdes 等,团队成员手里曾量产过 40 款以上各类芯片,总销售额数十亿美元。2018 年,ThinkForce 完成 4.5 亿元 A 轮融资,依图正是投资方之一。

又一中国AI芯片公司“诞生”:依图推首款云端AI芯片

(来源:ThinkForce)

对于依图推出这款云端 AI 芯片的原因,吕昊概括为三点:对行业的理解、产品体量已经达到一定程度(未透露具体量级)、依图算法精度的提升。

第一款 AI 芯片之所以选择了用在云端推理上,也是因为依图各主要业务尤其在安防上的需求。questcore™主打视频推理,主要关注分析处理视频的数量,专用于加速视觉推理运算,比如人脸识别、视频结构化分析、行人再识别等等,其和一些终端视频推理芯片的区别在于,终端芯片只需要分析处理一路视频,云端芯片则关心的是可以处理多少路视频。吕昊表示,questcore™是目前更智能、性价比更高的视觉推理 AI 芯片。

“questcore™将整合在我们的产品中对外售卖。依图的体量相对较大,最深耕的行业就是安防,因此不需要担心由于市场体量较小而产生的成本问题……我们对于市场的需求、对于 AI 领域有自己的理解。2017 年,公司对于 AI 算力需求增长以及产品竞争性有了一定的预判,因此有了自研 AI 芯片的决定”,他说。

不难看出,在这几大动机中,现阶段的业务需求是依图第一次“造芯”的最直接原因。

又一中国AI芯片公司“诞生”:依图推首款云端AI芯片

图丨2017 年中国计算机视觉应用市场份额(来源:IDC)

依图创立于 2012 年 9 月,自成立以来,其 AI 算法在人脸识别领域屡有突破,且现已不再局限于视觉识别方向,在业内也被认为是一家很明确的 AI+垂直行业、应用层技术落地的 AI 算法公司,涉及安防、医疗、AI制药、金融领域等。其中,依图在安防和医疗领域布局较早,现已形成一定的先发优势,例如依图医疗智能辅助诊断系统已经在上海、浙江等近百家三甲医院临床应用,在安防上则搭建了全球首个十亿级人像比对系统,算法已突破亿级静态比对。

又一中国AI芯片公司“诞生”:依图推首款云端AI芯片

图丨依图已有的算法突破(来源:DeepTech)

但显然,现在,和业内很多公司一样,依图不单单只想追求极致的算法,也将目光投向了追求配合算法的极致算力上。“没有典型场景应用没有意义,没有超越英伟达的芯片没有意义,没有世界级的算法没有意义”,朱珑说。

发布会上,依图也第一次对外谈及其对智能算力发展的理解和使命:提升智能密度,即从单位智能走向群体智能,单位面积智能算力更高。这一使命显然已经从算法、数据跨越到了算力领域。

尽管采访中依图多次表示自身并非为了开发芯片而开发芯片、不为芯片商业化,但随着这款云端 AI 芯片的推出,其定位将不再是一家纯粹的 AI 算法公司。

又一中国AI芯片公司“诞生”:依图推首款云端AI芯片

图丨含有 4 颗 questcore™ 芯片的板卡(来源:DeepTech)

吕昊透露,公司既然决定自研 AI 芯片就不会只有一款产品,目前依图已经开始着手第二款产品的研发,新芯片的算力还在优化,希望能达到同等产品 2 到 5 倍的提升。依图表示,首先发挥自己最擅长和积累最多的机器视觉领域专业知识,今后将逐渐拓展到其他领域的芯片研发。

又一中国AI芯片公司“诞生”:依图推首款云端AI芯片

(来源:DeepTech)

算法红利时代已过,垂直整合重回“C 位”


依图此次推出的芯片产品,能帮助依图带来怎样的业务增长,仍有待时间和市场验证,但我们相信,视觉算法公司进军产业上游,开始自研芯片,现在还只是刚刚吹响前奏。去年就有业内人士对 DeepTech 表示,中国的计算机视觉产业一定会走出一家或者几家自研 CV 芯片的公司。

把时间倒回到大概两三年前,也就是在 2015 年~2017 年,无论是在视觉还是语音方向,算法公司都是产业圈和创投圈最热捧的对象。当时,在 AI 的三大支柱“算法、数据、芯片”中,AI 公司的核心竞争力主要体现在前两者。

但从去年开始,整体的情况又有了细微的变化:无论是语音识别、自然语言处理还是人脸识别算法,各家在几个最主要指标上的表现或许仍有先后之分,但算法上彼此已经越来越难拉开距离。算法红利逐渐吃紧,数据资源更是愈发掌握在极个别头部公司手中,拼算力硬件也就成了一个水到渠成的阶段。

这背后一个更重要的趋势是,行业垂直整合的卷土重来。例如,过去 1 年,DeepTech 接触过的众多涉及 AI 业务的公司,都在愈发频繁地使用这个词语——“全栈(full stack)”。它意味着完整一套、端到端产品或服务体系的能力,正在成为描述一家 AI 公司竞争力的关键词。

比如特斯拉,这家汽车公司最近推出了自己的芯片 FSD,本质上已经拼上了最后一块关键的版图。放在过去,谁能想象一家汽车厂居然会自研自动驾驶芯片?

又一中国AI芯片公司“诞生”:依图推首款云端AI芯片

图丨发布会上,依图同样对比了其与特斯拉 FSD 的性能功效,questcore™ 最大的不同在于兼顾云端和边缘端(来源:DeepTech)

之所以说垂直整合是卷土重来,也是因为分工外包合作是主流,绝大多数企业倾向于专注核心业务,非核心业务与产业链上的供应商进行合作,打包捆绑式的合作模式让出了舞台中心。现在,垂直整合正在回归,尤其是在电子信息密切相关的领域。

而特斯拉以外,苹果更早尝到了垂直整合的甜头:不但写软件开发算法,还自研芯片,自运营零售商店。两家公司分别在消费电子和汽车领域体现了高度垂直整合的价值,在用户体验、企业效率、建立壁垒上有显著优势。

又一中国AI芯片公司“诞生”:依图推首款云端AI芯片

图丨特斯拉自动驾驶芯片 FSD(来源:特斯拉)

“特斯拉就是非常明显的信号,这不是热度问题,这是行业落地的必然结果”,吕昊说,“今年是 AI 芯片产品出现比较多的一年,很多公司都会尝试垂直整合”。

目前,在云端 AI 芯片市场上,我们已经看英伟达(T4)、谷歌(TPUv3)、亚马逊(Inferentia)、华为(昇腾 910)、百度(昆仑)这样的中外科技巨头,也有寒武纪(MLU100)、Graphcore(IPU)、比特大陆(BM1680、BM1682)等明星 AI 初创公司,可谓“巨头盘踞、群雄争霸”,尤其是在推理市场上更是百家争鸣,但可以预见这片蓝海还会有更多的玩家入局。算法背景团队、芯片背景团队、互联网巨头、传统 AI 芯片大厂各有优势此起彼伏之间,云端 AI 芯片将迎来“物种大爆发”。

值得一提的是,在算法红利的阶段,国内的不少 AI 方案厂商更多只是针对场景开发和优化算法,所以很多时候都直接购买国外大厂的芯片,某种程度上来看,倒更像是为国外厂商创造更多产品的出海口,并不能直接推动中国芯片产业的发展,而现在,算法公司也在尝试自研芯片,如果有越来越多中国公司在其中“怒刷存在感”,芯片持续高速地试错、更新、升级,对中国芯片产业来说,也是在创造新的机会。


麻省理工科技评论

From Tech to Deeptech