大数据时代,国产FPGA弯道超车的机会来了?
2019-12-27

自面世起,FPGA因灵活性和高运算能力等特点崭露锋芒,市场规模不断扩大。不过长期以来,FPGA市场被国外寡头垄断。如今,大数据时代的到来,在一定程度上,为国产FPGA追赶国外企业带来了新的机遇。

数据处理能力迎新挑战

提起大数据,人们往往把以它们为代表的全新技术革命,称作继蒸汽机、电力、信息互联网之后的第四次技术革命。大数据时代的到来,绝不仅仅意味着智能机器人的批量生产与应用,而是作为核心驱动力驱动产业结构、城市形态、生活方式和科技格局的颠覆式变革。

最早提出“大数据时代”的是全球著名咨询公司麦肯锡,麦肯锡认为:“数据,已经渗透到当今每一个行业和业务职能领域,成为重要的生产因素。人们对于海量数据的挖掘和运用,预示着新一波生产率增长和消费者盈余浪潮的到来。”

2014年,马云就曾在公开演讲中表示:世界正从IT(Information Technology)进入DT(Data Technology)时代。大数据时代具有数据量大、数据类型繁多、价值密度低、处理速度快的四大显著特征。

1.png

大数据时代万物互联

图片来源:摄图网

首先,大数据的起始计量单位至少是P(1000个T)、E(100万个T)或Z(10亿个T);其次,其数据类型包括网络日志、音频、视频、图片、地理位置信息等,对数据处理能力提出了更高要求;再次,随着物联网的广泛应用,信息海量但价值密度较低,如何通过强大的机器算法更迅速地完成数据价值“提纯”,是大数据时代亟待解决的难题;最后,数据处理速度快,时效性要求高,是大数据区分于传统数据挖掘最显著的特征。

如今,云端智能化加速,云计算为大数据、物联网等领域带来算力的支撑。集成电路作为关键核心器件,是算力之本。与此同时,大数据与AI时代的到来与发展,也在逐步打破芯片传统格局,在一定程度上,使得赛道上的部分新玩家有机会尝试弯道超车。

FPGA——大数据时代,大有可为

据IDC预测,从2018年至2025年,全球每年被创建、采集或复制的数据将增长5倍以上,预计将从2018年的32ZB增至2025年的175ZB。其中,中国将在2025年以48.6ZB的数据量及27.8%的市场占比,成为全球最大的数据汇集地。

那么,人们对数据进行处理的能力是否有了明显提升呢?英特尔“以数据为中心(Data-Centric)”创新峰会上曾指出,随着摩尔定律延续,从2012年至2017年,处理数据所需的计算和存储成本分别下降了56%和77%;同时,处理数据的性能相较2006年则提升41倍。但即便如此,如今只有不到1%的数据被有效的进行了处理、分析和利用。

面对无止境的数据增长,大幅提升利用率和性能,降低运营成本和总成本势在必行。目前在数据中心领域,采用FPGA的加速卡解决方案已经在FaaS云平台、无人驾驶、视频渲染加速、证券分析加速等多个应用场景落地应用。

面对数据处理任务指数级增长,在数据中心融合发展的趋势下,通过硬件重构+软件定义的融合架构,实现敏捷、可重构、高性能功耗比的可定制计算将是未来数据中心创新的重要解决之道。

目前,在海量数据处理方面,主流方法是通过易编程多核“CPU+GPU”来进行数据处理、应用开发。设计开发人员一方面希望GPU易于编程, 另一方面又希望硬件具有低功耗、高吞吐量和最低时延功能。但由于依靠半导体制程升级带来的单位功耗性能在边际递减,“CPU+GPU”架构设计遇到了瓶颈。

此时,异构处理器的概念被提了出来。换言之,就是将CPU不擅长的工作卸载到其它更适合的器件中处理,不同架构的数据处理器件协同工作,以提升效率。那么,到底谁更适合与CPU搭档工作呢?以吞吐率、延迟、功耗和灵活性等为基本评估标准,FPGA闪亮登场!

2.png

“CPU+FPGA”协同工作的优势

数据来源:财富证券

“CPU+FPGA”可提供更好的单位功耗性能,且易于修改和编程。瑞士苏黎世联邦理工学院(ETH Zurich)研究发现,基于FPGA的应用加速比CPU+GPU方案,单位功耗性能可提升25倍,时延则缩短了50到75倍,还能实现出色的I/O集成(PCIe、DDR4、SDRAM 接口、高速以太网等)。

其实,FPGA以其高能效和可重编程的优势,在大型互联网企业内部早有应用并逐渐成为常态。AWS(亚马逊网络服务)曾借助云传输模型采用高端 FPGA 器件,以开发者的角度而不是扩展高层次工具,从未帮助潜在的用户学习和体验 FPGA 的加速效果。

 

公共云服务开始采用 FPGA,平台厂商与FPGA硬件厂商合作,在云端提供统一硬件平台与中间件,可大大降低加速器的开发与部署成本。各种不同的应用都将受益于FPGA加速特性。

如今,数据中心加速市场正在迅速成长。据Research And Markets数据显示,从2018年到2023年,数据中心加速器市场将从28.4亿美元增长到211.9亿美元,年复合增长率为49.47%。其中,FPGA预计将会是年复合增长率最高的细分市场。

3.png

全球 FPGA 市场规模现状及预测

数据来源:Gartner  

兴业证券经济与金融研究院制图

随着大数据和AI技术的不断发展,FPGA行业需求量的增长将成为一种必然。根据Gartner预测,全球FPGA市场规模2019年达到69亿美元,2025年将达125亿美元,未来市场增长稳中有升。

FPGA——AI加速落地的关键引擎

在今年全国“两会”上,人工智能(AI)连续第三年被写入政府工作报告,并首次将人工智能衍生为“智能+”的概念。作为国家战略的人工智能将加速与产业融合,为经济结构优化升级发挥重要作用。

AI发展的基础是算力,而算力的基础是芯片。不过,受限于摩尔定律,传统芯片算力的进步远跟不上爆炸性增长的数据对算力的需求,加之传统芯片开发周期通常在18-24个月左右,而AI项目经常要在几个月内提出方案抢占市场。

有业内人士曾谈到:“现在,每三个月AI模型就要变一次,工程师想建立一个ASIC或GPU需花要一年半时间设计硅芯片,半导体的设计周期远远大于AI模型更替周期。”

此时,具备可编程特性且灵活多变的FPGA成为不二之选。随着云计算、高性能计算和人工智能等发展,拥有不可替代优势的FPGA有望提升在AI领域的地位。同时,也有更多创新者将把目光聚焦在通过FPGA实现AI功能,把人工智能创新理念落地变成现实。

4.png

FPGA加速数据处理

图片来源:网络

以往以“CPU+GPU”架构进行数据处理时,是以大量已知数据集,不断迭代和调整神经网络的参数,一般需要几个小时甚至数天。而在使用FPGA进行数据处理时,是利用已经训练好的神经网络,对新输入的数据进行判断和归类,这样一来,基本可以实现实时处理。

近两年来,越来越多以FPGA切入AI市场的玩家出现。据市场调查公司Semico Research 2019年5月数据显示,2018年用于AI的FPGA市值约10亿美元,预计2019年为18亿美元左右。到2023年,AI用FPGA将增长约3倍,达到52亿美元。

5.png

FPGA在AI应用方面的增长预测

图片来源:Semico Research Corp

对此,紫光同创市场总监吕喆认为,“在助力人工智能落地方面,FPGA发挥着不可替代的作用。我们认为ASIC专用芯片在AI终端更具功耗和成本优势,FPGA在终端侧存在短期的原型机和算法迭代的应用机会,但在边缘侧和云端的AI,FPGA的应用价值更大,甚至不可或缺。”

市场增量下,

国产FPGA能否弯道超车?

大数据时代的到来、人工智能的不断发展,为全球FPGA带来了一定的市场增量。不过,FPGA市场长期以来被处于寡头垄断的局面。前两大厂商Xilinx、Intel(收购Altera)占有近90%的市场份额,专利超6000余项。

目前,虽然中国是全球FPGA需求最大的市场,占全球约30%以上,但几乎100%被美国厂商垄断,国产率极低。

那么,对于国产FPGA企业来说,究竟能否有机会抓住大数据与AI时代的机遇,实现弯道超车呢?对此,芯师爷专访了紫光同创市场总监吕喆,吕喆先生认为:“国产FPGA厂商要在数据中心和AI两个新兴市场实现弯道超车,有三个关键因素,一是器件性能和规模层面的支撑,二是工具链和软件栈的生态,三是针对细分市场的定制或架构创新。”

首先,器件性能和规模层面的支撑指的是FPGA性能和规模指标能够达到数据中心和AI应用场景的要求,这是硬指标。比如当前主流的数据中心FPGA加速卡所采用的均为16nm或7nm工艺的高端FPGA,逻辑规模基本在100万个LUT或以上,用于AI推断的FPGA算力至少需要达到INT8精度下100TOPS才能够具备竞争力。

紫光同创市场总监吕喆说:“当前中国FPGA厂商的发展水平相对落后,对许多应用需求望尘莫及,未来谁能在工艺、逻辑规模、器件性能方面率先突破,谁就能具备弯道超车的基础。”

其次,在工具链和软件生态方面,不管是Xilinx的Vitis还是Intel的OneAPI,实质就是整套工具链和库的大集合,他们在构建和扩展属于FPGA的生态链。通过软件栈的方式,从底层硬件驱动和连接层,往上到Runtime库和硬件映射优化层,再往上对接业界标准应用框架,比如针对AI的TensorFlow框架,针对机器视觉的OpenCV框架,针对金融加速的Fintech库等,最后是面向应用开发层的API接口,这样就打通了不同细分市场对FPGA加速的使用需求,把软件开发者也纳入到FPGA的价值链当中。

这也是FPGA两个巨头与CPU和GPU在生态层面的较量。紫光同创市场总监吕喆认为,对于国产厂商来说,相比于硬件平台方面的挑战,此方面需攻克的难关可以说是有过之而无不及。因为工具链的构建和生态的开发,已经超越了传统FPGA硬件和软件的范畴,是一个系统工程。

再次,针对细分市场的深度定制或架构创新,是指针对特定的应用场景做专用的加速方案,而不再追求跨场景的通用解决方案。在这方面吕喆建议,国产FPGA厂商可以多与垂直行业的专业合作伙伴深入探讨,结合他们端到端的解决方案能力,在FPGA架构和功能层面,对细分场景进行定制,在一定程度上弥补芯片性能和规模的缺失。

总之,吕喆认为,国产FPGA厂商想要在大数据和AI的时代实现弯道超车,需要在以上三个方面均有所布局,任重而道远。紫光同创目前在努力建设自身的能力,沉下心来打磨技术平台,优先解决通信和工业市场需求,并开始长远布局数据中心和AI,致力于尽快跨越替代阶段,开启国产FPGA的创新时代!

写在最后

这把大数据与AI之“火”,最终会点燃国产FPGA吗?对国内企业来说,究竟是否有能力积极反应、紧抓机遇,在这场市场热潮中脱颖而出,实现弯道超车,还有待时间与市场的最终检验。

本文转载自芯师爷。