人工智能(AI)芯片首先是在云端服务器市场得到应用,随后向终端领域扩展,然而目前在5G商用大潮的推动下,边缘计算(edge computing)开始受到重视,越来越多边缘服务器被铺设,人工智能在边缘侧的应用也逐渐展开。未来一段时间,边缘计算将成为AI芯片发展最快的新领域。这也意味着,人工智能最终将在“云—边—端”的全产业链条上实现覆盖。

边缘计算重要性持续增加

4G改变生活,5G改变社会。5G的到来将使无线通信技术从服务人向着服务行业、赋能产业升级的层次演进发展,进而催生出大量新兴业态。中国信科副总经理、无线移动通信国家重点实验室主任陈山枝对记者介绍了5G网络定义的三大应用场景:eMBB(增强型移动宽带)、mMTC(海量机器类通信)、uRLLC(超可靠、低时延通信)。更加强调高带宽、低延时和海量设备连接是5G时代信息通信的主要特征。

而要想实现这样的网络性能不可能单纯依靠云端服务器对终端设备提供的算力支持,势必更多地依靠边缘设备。边缘计算的重要性在5G时代将不断凸显出来。Gartner的分析报告显示,目前,大约10%的企业生成数据是在传统的集中式数据中心或云之外创建和处理的。到2022年,Gartner预测这一数字将增长到50%。谷歌也称,如果移动网站在3秒内没有加载,53%的访问者会放弃它。可以说随着5G时代的到来,数据的处理向边缘侧转移已是大势所趋。

这种情况在人工智能领域也有所体现。此前,由于无线网络中的数据处理主要依赖云端服务器,因此人工智能的应用更多集中于云端服务器,但是随着5G时代的到来,边缘计算逐渐将智能化处理从云端转向边缘,比如自动驾驶、远程医疗以及智慧城市等。

对此,有专家预测,这些智能终端产品或解决方案,都不允许超过数毫秒的时延,并对于抖动或时延变化极其敏感。未来,如果没有边缘计算的支持,将有很多应用可能都无法实现。

边缘计算AI芯片开发受重视

“在发展过程中,AI芯片首先是受到了云端服务器市场的关注和应用,国际公司如Google的TPU、亚马逊的Inferentia、英特尔的SpringCrest,国内公司如寒武纪的MLU100、百度的昆仑、华为的升腾、比特大陆的算丰,都是面向云计算所开发。其次,AI芯片在终端SoC市场的发展也较快,由于移动智能终端的竞争趋于白热化,华为、高通等公司纷纷推出专属SoC搭载AI加速模组,以实现终端侧的人工智通计算,AI加速模组IP的提供商也有ARM、Cadence、CEVA、寒武纪等公司。”清华大学电子工程系教授汪玉指出。

不过,随着边缘计算的发展,面向边缘计算的AI芯片也开始受到越来越多的重视。去年,华为发布了Ascend系列芯片,其中Ascend 310芯片定位中高端,其8W/8TFlops的性能下可覆盖智能摄像头市场,可进击自动驾驶市场,华为已经与奥迪合作,发布了基于Ascend 310芯片的自动驾驶边缘服务器MDC600,算是针对边缘服务器市场的一次重要尝试。Nvidia的Xavier芯片,峰值算力30TOPS,功耗30W,主要面向自动驾驶,同样是边缘计算的产品之一。比特大陆发布的第二代AI芯片BM1682自带视频解码和后处理操作且集成了CPU,面向视频监控,同样可应用于边缘计算服务器。

“新的边缘启用、数据密集型应用和工作负载将由AI提供支持。AI将用于分析和解释来自这些应用程序的数据,以帮助人们在某些情况下,实时做出关键决策。”汪玉表示。

可以预计边缘计算会成为未来最重要的人工智能硬件市场之一。在未来无论是相关应用还是相关芯片都将有更多公司大手笔投入,从而推动人工智能的进一步发展。

中国AI芯片市场将进一步扩大

目前,中国5G商用已经启动。伴随5G商用幅射面的不断扩大,人工智能、云计算、大数据、物联网等新兴产业发展迅猛,中国AI芯片市场将进一步扩大。中国AI芯片厂商如何利用这个发展机遇加快抢占边缘侧市场阵地呢?

首先应当明确的是,边缘计算等AI芯片目前最大的应用市场其实是在中国。随着越来越多人工智能应用的落地,华为、商汤、旷视、比特大陆等企业纷纷推出优秀的产品并在市场上站住了脚跟。这一方面加速了基于人工智能的应用成熟,另一方面也给AI芯片带来了市场,从而为人工智能完整产业链的成熟带来了机会。

此外,汪玉提出建议,目前AI芯片设计面临着太多种的枢架,如TF、Pytorch、Caffe、Mxnet等。同时现存的芯片平台也有很多,如CPU、GPU、FPGA、ASIC等。这就给AI芯片的设计开发带来了极大的挑战。如果能有公司设计开发出一款中间层性质的平台产品,由它来向上支持不同类型的设计框架,向下支持各种芯片平台,并最终服务于各个人工智能公司,将大大降低AI芯片设计中的复杂度,提高工作效率。这其中蕴含着巨大的商机。

汪玉也呼吁应当加强产学研的结合,以技术为基本出发点,营造出有利于创新发展的环境。通过这一系列的努力,中国完全可以抓住新一轮由5G商用所趋动的边缘计算市场商机。