江南体育数据显示,2017年芯片市场总收入超过4000亿美元,预计2018年还将继续增长。
随着嵌入式AI芯片各种智能终端设备应用的增加,一般的处理器已经无法满足终端设备智能特性的需求,所以越来越多的芯片制造商开始侧重开发AI芯片,AI芯片初创公司也越来越多,大量风投正涌入AI芯片市场,整个AI芯片市场正蓬勃发展。
AI芯片也被称为AI加速器或计算卡,即专门用于处理人工智能应用中的大量计算任务的模块(其他非计算任务仍由CPU负责)。
要想了解AI芯片,必须先了解目前AI芯片的主要处理器类型和其应用领域的领先企业。
CPU(中央处理器)专为通用计算设计,主攻计算和逻辑控制功能,能高效处理单个复杂计算顺序任务,但在大量计算方面表现低能。
GPU(图形处理器)最初是用于图像处理,现已成功应用在AI芯片上。GPU包含数千个内核,能同时处理数千个线程,可并行运行大量计算。
FPGA(现场可编程门阵列)是可编程逻辑芯片,擅长处理短小而密集的数据访问。FPGA芯片允许用户通过微小的逻辑块对电路路数编程,可以处理任何类型的数字函数。
ASIC(专用集成电路)是客制化的特殊规格集成电路,由特定使用者要求和特定电子系统的需要而设计制造JN SPORTS,相比FPGA,客制化的ASIC一旦投产就无法更改。
其他芯片类型,如神经网络处理器(NPU),具有模拟人类大脑的体系结构,现在处于发展早期,未来有可能成为AI芯片主流。
当下,专用AI芯片能提供给机器学习技术需要的训练算法和高运行计算能力,其需求正快速增长。
数据训练是用算法分析数万亿个数据样本深度学习,并最终对现实世界做出智能回应。目前芯片制造商不仅需要提升处理器性能,还需要提供整个芯片系统—包括硬件,框架和其他支持工具—才能让开发人员缩短AI技术开发流程。目前来说,NVIDIA和谷歌等公司是AI芯片数据训练应用的领先企业。
NVIDIA是数据训练的先行者,其开发人员研发了GPU的并行计算架构可以加速深度学习训练过程。NVIDIA借此契机转攻AI,并开发了一种专注于深度学习加速的新GPU架构Volta,这种GPU现已广泛用于机器学习算法训练,NVIDIA由此而在硬件数据训练市场中占有一席之地。
谷歌已开发出TPU(Tensor Processing Units)和NVIDIA相竞争,TPU是专为深度学习和Google的TensorFlow框架而设计的一种ASIC。谷歌表示,其TPU可提供180万亿次浮点运算性能,是NVIDIA最新数据中心GPU Tesla V100的六倍。基于AlphaGo和数百万用户的云服务,谷歌未来将在数据训练市场上拥有巨大潜力。
一个成熟的机器学习模型,要想应用在AI领域(如图像识别或机器翻译),其设计过程极其复杂,而一般的推理计算密集度过高而无法应用在边缘设备上,所以在AI应用领域采用云计算是必须的。
数千人同时使用一个应用程序时,云服务器的功能需要足够强大才能支撑复杂的运算。FPGA擅长处理低延迟和计算密集型任务,允许云服务公司修改芯片,所以FPGA芯片可以成为云服务器功能需求的首选。现在很多传统芯片制造商,云服务供应商和初创公司已经在寻找开发FPGA解决方案。
英特尔是开发异构计算技术的公司之一。2015年英特尔收购了芯片制造商Altera升级其FPGA技术,现已开发出用于深入学习云计算的CPU + FPGA混合芯片JN SPORTS,这种混合芯片具备两种处理器的优势,不仅可提供计算能力,而且还有高内存带宽和低延迟的特性。微软已采用这种技术加速其Azure云服务JN SPORTS。
国内科技巨头腾讯也是云服务提供商,目前正在开发FPGA解决方案支撑云计算,已经为其云服务云虚拟机开发了中国首个“FPGA云计算”服务。同基于CPU的云服务器相比,FPGA集成CVM能为HPC应用程序和深度学习开发提供更好的计算能力。使用了云端访问的FPGA便不再需要购买硬件,降低了AI应用程序的开发成本。此外,腾讯也正在开发商业用途的第三方AI应用程序。
随着智能手机、传感器、可穿戴设备以及智能家电等设备走向物联网化,会产生海量数据,而现有云计算带宽和计算资源还无法高效处理庞大的数据。所以,在网络边缘端处理源数据,筛选出有效信息并传输到云端将成为一种新的计算模型,这种方式能有效降低云中心的网络带宽和计算负载。
此外,近几年来芯片体积逐渐缩小到几乎可以嵌入任何设备,边缘计算也就变得更加可行。像无人机、机器人、VR和AR沉浸式体验设备,自动驾驶汽车等未来都需要特定的AI硬件支持,为了满足不同设备的需求,许多初创公司正在推出自家ASIC芯片,而且大芯片制造商也在处理器中增加了AI功能。
比如国内手机和处理器生产商华为,就在尝试集成AI芯片来提升其系统芯片性能。华为采用了寒武纪的NPU,并推出了其旗舰智能手机Mate 10的SoC Kirin 970,这种AI芯片集成让手机相机的图像处理功能更强大。
AI的发展必然会带动芯片市场的变化。算法开发框架随时都在更新变化,即使是像英伟达和谷歌这样目前引领着训练层市场的公司也随时可能会面临新的竞争。此外,越来越多的AI应用程序正在开发中,整个云计算市场不断增长,云服务提供商之间的竞争也将会加剧。当然边缘计算市场也是现在和将来大公司们和创业公司竞争激烈的区域。(编译:Sharon)