独角兽寒武纪已生变数,中国AI芯片抢跑者前路未明

商业
独角兽寒武纪已生变数,中国AI芯片抢跑者前路未明
麻省理工科技评论 2018-10-11

2018-10-11

毫无疑问,寒武纪已经证明自己具有技术实力,但有技术恐怕还是不够,寒武纪的产业地位,以及寒武纪未来发展如何?从目前 AI 产业的状况来看,其实不容乐观。
芯片 寒武纪
毫无疑问,寒武纪已经证明自己具有技术实力,但有技术恐怕还是不够,寒武纪的产业地位,以及寒武纪未来发展如何?从目前 AI 产业的状况来看,其实不容乐观。

作为生命与物种大爆发的重要时代,"寒武纪"这个名字具备了独特含义。早已是中国 AI 独角兽的 AI 芯片方案供应商寒武纪,无疑也期望在中国 AI 产业中扮演的开创者角色:期望以架构设计者,以及生态主导者的双重身份,带动中国 AI 产业的发展。

诚然,过去数年中国 AI 产业猛爆成长,寒武纪也在其中扮演了相当重要的角色,然而寒武纪的市场耕耘表现并不如其估值般的亮眼。首先,其在终端的客户一直未能成功拓展开来,虽然寒武纪官方曾表示已经有不少客户正在考虑或已经引入其架构,但实际上,寒武纪截至目前为止,在市场上出货的唯一终端客户就是华为。

其次,寒武纪也推出了云端方案,而这个方案不只是 IP,寒武纪也要推出实体计算卡,这个作法就有如 Arm 推出自己的手机芯片,也等同是在告诉市场,要用寒武纪的 IP 来制造芯片,可能第一个遭遇的对手就是寒武纪。在此情况下,除了中科曙光的合作以外,也没有其他新增的客户信息,甚至原有的终端客户华为也要转用自家的昇腾方案,彻底摆脱寒武纪。

刚于 10 日举行的华为全联接大会,华为的 AI 发展战略终于显露真身,不仅彻底和寒武纪切割,甚至针对的市场也是直接对标寒武纪。

独角兽寒武纪已生变数,中国AI芯片抢跑者前路未明

(来源:DT君摄)

那么,寒武纪对产业而言,最终真正对 AI 产业具有革命性的意义?还是只会落为“无情送潮归”的结局?

毫无疑问,寒武纪已经证明自己具有技术实力,但有技术恐怕还是不够,寒武纪的产业地位,以及寒武纪未来发展如何?从目前 AI 产业的状况来看,其实不容乐观。



与华为的合作充满吊诡气氛


作为目前唯一已经上市的寒武纪相关架构,寒武纪在华为的麒麟芯片中已经出现了两代产品,其不论在麒麟 970 或最新的麒麟 980,都扮演着对推动 AI 生态相当重要的角色,然而,作为两代麒麟芯片的核心功能,华为与寒武纪的合作却显得相当不一样。

在 2017 年底,麒麟 970 发布会之初,其实市场就已经抓到不少华为正在布局 AI 功能的蛛丝马迹,而随后的发布会内容虽然提到新款麒麟芯片采用了 AI 核心,但华为不只拒绝透露其架构来源,而当中国科学院计算技术研究所送出恭贺采用寒武纪架构麒麟芯片正式量产的公开祝贺信,华为的态度并非欣然接受,而仅强调其 AI 能力主要来自于自家研发 10 年的积累。

而在 2018 年 9 月麒麟 980 面世之后,华为同样极力淡化其 AI 计算架构出处,仅仅强调是出自于华为技术。

而更值得注意的是,华为在其中端麒麟 700 系列方案就没有如同 900 系列一样采用来自于寒武纪的 AI 架构,反而使用来自于 Arm 的 Project Trillium。华为早在麒麟 960 时就已经与 Arm 合作建立基于 Arm 计算架构的 AI 算力与框架核心,麒麟 970 虽然改用寒武纪的架构,但与 Arm 的合作却从未中断。

独角兽寒武纪已生变数,中国AI芯片抢跑者前路未明

(来源:DT君摄)

另外,华为也积极在推动自己的 AI 计算布局,昇腾方案便是完全自制的 AI 计算架构,不只针对云计算,也要扩及所有终端 AI,这也代表对产业而言,寒武纪的地位并非不可替代。

也因此,寒武纪处于相当尴尬的地位,目前主流的框架都是他人发展的现成成果,而在 Google、微软甚至 Facebook 等公司的推动之下,支持多种框架的加速已经是所有可编程 AI 芯片/计算架构的必备功能,开放是 AI 芯片的卖点,而算法的发展也是各家 AI 芯片为了确保自家产品竞争优势的重要方向,但寒武纪专注于发展 AI 的通用计算硬件平台,在算法方面却没有太多着墨。这让寒武纪陷入了一个尴尬的局面就是:原本寒武纪是要推出来替代其他如 GPU、FPGA 等 AI 计算方案,但反而自己也变成可被替代的一份子。



中国终端芯片客户多已采用现成架构,改变生态难度高


除了华为以外,观察目前在中国 AI 产业中的各种方案,我们可以看到各种包含 DSP、GPU、FPGA,以及各种为视觉识别、语音识别等特化的 ASIC 计算架构,对这些业者而言,能够满足其商业上的目标才是重点,采用的架构来源并不重要。而考虑到既有架构已经相当上手,就没有必要为了换而换,否则徒增更多人力与技术研发支出,且效果也未必更好。

要如何拥挤的市场中凸显自己的定位是寒武纪目前遭遇的难题,毕竟 AI 计算架构相对其他架构来说是属于比较单纯、容易开发的架构,芯片架构已经不是主角,在芯片中运行的算法与框架,甚至是整套开发工具才是重点。如果没有办法说服既有市场玩家自己的开发体系更具优势,那么想要改变现有的 AI 计算生态更是谈何容易?

独角兽寒武纪已生变数,中国AI芯片抢跑者前路未明

(来源:NVIDIA 官网)

其实过去 AI 计算业界也有不少把 NVIDIA 当作假想敌的案例,但这些厂商却无一真正取代了 NVIDIA。毕竟 NVIDIA 作为开创 AI 产业的重要推手,靠的不是单纯的架构效率,而是包含软件生态、开发工具的完备,以及从底层到上层的完整教育传承,期间投入的时间超过 10 年以上,并且布局各种产业,最终才得到现在的市场地位,另外,NVIDIA 一开始就是以全球市场为目标,而不是仅仅守在特定市场,毕竟生态讲究的是规模,如果不能获得客户认可,要改变,甚至要建立自己的生态,只能说难上加难。



华为昇腾 AI 计算方案,或将让寒武纪面临最大挑战


在专业计算领域,寒武纪和中科曙光的合作相当紧密,二者利用寒武纪架构打造出针对推理应用优化的 Phaneron 服务器,与一般云端 AI 服务器着重学习不同,Phaneron 针对超低延迟的推理计算服务,在应用上面向包括相关产品应用在影片安防、网络、广播媒体娱乐、制造与自动化、金融、医疗、物流交通、零售和新兴领域等应用,提供服务商更低延迟的实时 AI 服务。

另外,Phaneron 在硬件神经元虚拟化、寒武纪深度学习指令集、Caffe、Mxnet、TensorFlow 等支持非常全面,可以满足更具弹性的各种 AI 计算环境的需求,而根据寒武纪的说法,其性能表现都属业界一流。

另一方面,寒武纪也协助中科曙光,打造出快速开发应用的智能平台—" SothisAI ”。SothisAI 主打异构融合、简单易用、弹性灵活、可快速部署等,通过 AI 统一异构编程模型、AI 计算力动态实时分配算法、AI 基础性能函数等,快速响应和释放 AI 所需的计算力。战略上,SothisAI 将作为平台服务,支撑其通用 AI 服务,以及行业 AI 服务。

乍看之下,寒武纪似乎有了可和 NVIDIA 相提并论的架构,又有了坚实的合作伙伴,看来稳了?然而真相往往很残酷。

华为近来被揭露的AI 计划,其目标市场针对了云端与终端 AI 计算而来,华为称之为全场景计算能力,达芬奇架构不仅将是真正完全自有的 AI 芯片架构,针对云端应用,也与之前寒武纪一样是把最大假想敌设定为 NVIDIA。

其实“自有”这两个字过去对华为而言定位相当模糊,比如说华为在新近两代的麒麟芯片都采用了来自寒武纪的 IP,但是在行销作为上,却都强调自有自研,不希望媒体把寒武纪与麒麟的 AI 计算单元挂勾,背后原因,就是华为正在布局自有的 AI 芯片计算体系,寒武纪只是过渡时期的救急方案。

于 10 月 10 日在上海举办的华为连接大会中,被业界盛传的AI芯片终于显露真身,不仅彻底和寒武纪切割,甚至针对的市场也和寒武纪高度重叠。

独角兽寒武纪已生变数,中国AI芯片抢跑者前路未明

图|华为昇腾 910芯片(来源:华为)

华为在会场上发布了两颗 AI 计算芯片,第一颗 AI 芯片是高端昇腾910,其算力可以达到 256TFOPS,是目前全球已发布的单芯片计算密度最大的 AI 芯片。根据华为轮值董事长徐直军介绍,即使是目前 计算力“最接近”910 的 NVIDIA V100,910 的计算力不但大胜,而且是远远高出一倍。而基于这颗芯片的方案预估将在 2019 年二季度正式上市。

同时,华为基于 910 技术的昇腾 plus,将成为迄今为止全球最大的分布式训练系统。徐直军介绍,通过把 1024 个 910 连接起来,构建一个 AI 计算机群,可提供高达 256 个 PFLOPS 的超高 AI 计算能力,从而实现以前所未有的速度来训练你的模型,不管多复杂的模型。

独角兽寒武纪已生变数,中国AI芯片抢跑者前路未明

图|华为昇腾 310芯片(来源:华为)

而华为发布的第二颗芯片,则是已经量产的昇腾 310。这个 SoC 属于昇腾的迷你系列,其在最大功耗仅 8 瓦的情况下,整数精度的算力达到 16TFLOPS,同时 310 还集成了 16 个通道的高全高清视频解码器,是目前面向边缘计算产品最强算力的 AI 芯片,也可以用于数据中心的训练和推理。

未来还有更多昇腾系列将会推出,涵盖范围可能包含手机在内的消费类终端,这也意味着,寒武纪将从华为的产品线中彻底消失。华为并不会对外零售昇腾芯片,而是以之打造自有方案,并对客户提供方案的销售和服务。

华为在服务器 AI 计算方案走的路线与寒武纪如出一辙,不仅推出芯片方案,也积极推动生态经营,也因此,未来寒武纪、或寒武纪的客户推出方案,其在中国市场的最大敌手,不是 NVIDIA,而是华为。



寒武纪的下一步?


作为核心架构的供应者,最希望的就是大幅增加授权的客户,并借此建立坚实的生态。然而寒武纪在这方面的成绩并不出色,消费端客户仅有华为,服务器端则尚未量产,但是在这个时间点,寒武纪同时迎来可能失去客户,并确定增加最大对手的双重打击。

寒武纪作为新创事业,仅仅短短数年的发展就要求要有极为庞大的客户基础其实是强人所难。但寒武纪的技术概念虽好,却没有足够稳定可靠的获利模式,并借以形成生态,且 AI 产业日新月异,早和当初构想设计 DianNao 相关架构时有很大的差别。

独角兽寒武纪已生变数,中国AI芯片抢跑者前路未明

(来源:麻省理工科技评论)

中国市场对寒武纪抱以殷切期盼,希望能为中国 AI 产业带来不同的空气,但如今不同的外来计算架构早就称霸一方,即便单单在中国市场,AI 方案的选择也是多如牛毛,加上过去的客户华为转身一变成为最大敌手,寒武纪想在这么险恶的市场杀出一条生路,前景不容乐观。

或许寒武纪应该重新考量其 IP 授权的模式是否适合中国市场特性,并重新调整商业策略,以相对成熟的开发生态,重新走封闭模式,并尽量争取想在中国做生意的国际大客户,不仅创造营收,也要创造可见度,否则现有的业务模式或将很快就会走到尽头。

麻省理工科技评论

From Tech to Deeptech