人工智能芯片發(fā)展現(xiàn)狀、行業(yè)趨勢及應用場景發(fā)展分析[圖]

    在算力、算法和大數(shù)據(jù)三駕馬車的支撐下，全球人工智能進入第三次爆發(fā)期。然而，作為引爆點的深度學習算法，對現(xiàn)有的算力尤其是芯片提出了更為苛刻的要求。在AI場景中，傳統(tǒng)通用CPU由于計算效率低難以適應AI計算要求，GPU、FPGA以及ASIC等AI芯片憑借著自身特點，要么在云端，要么在邊緣端，有著優(yōu)異表現(xiàn)，應用更廣。從技術(shù)趨勢看，短期內(nèi)GPU仍將是AI芯片的主導，長期看GPU、FPGA以及ASIC三大技術(shù)路線將呈現(xiàn)并行態(tài)勢。從市場趨勢看，全球AI芯片需求將保持較快增長勢頭，云端、邊緣芯片均具備較大增長潛力，預計未來5年市場增速將接近50%；國內(nèi)雖然芯片技術(shù)差距較大，但隨著AI應用的快速落地，AI芯片需求增長可能更為迅速。

    只要涉及到AI訓練和推理的環(huán)節(jié)，都需要應用AI芯片，目前場景主要包括數(shù)據(jù)中心、自動駕駛、安防、智能家居以及機器人等。數(shù)據(jù)中心是AI訓練芯片最主要的客戶之一，其中GPU、ASIC在該領(lǐng)域均有著大量應用；自動駕駛對算力、時延和可靠性要求近乎苛刻，目前多使用GPU+FPGA的解決方案，后續(xù)隨著算法的穩(wěn)定，ASIC有望獲得市場空間；安防是視覺芯片最主要的落地場景，未來隨著5G的部署，云邊結(jié)合將進一步加快，國內(nèi)企業(yè)在邊緣端推理市場機會將增多；智能家居是語音交互芯片重點突破的市場，目前參與企業(yè)主要是算法廠商，這些企業(yè)將業(yè)務延伸到芯片設(shè)計，借此提升產(chǎn)品的附加值并降低成本；機器人市場增長較快，其控制系統(tǒng)對AI芯片的需求也會增多。

    一、人工智能芯片

    云端芯片部署位置包括公有云、私有云或者混合云等基礎(chǔ)設(shè)施，主要用于處理海量數(shù)據(jù)和大規(guī)模計算，而且還要能夠支持語音、圖片、視頻等非結(jié)構(gòu)化應用的計算和傳輸，一般情況下都是用多個處理器并行完成相關(guān)任務；邊緣端AI芯片主要應用于嵌入式、移動終端等領(lǐng)域，如攝像頭、智能手機、邊緣服務器、工控設(shè)備等，此類芯片一般體積小、耗電低，性能要求略低，一般只需具備一兩種AI能力。

    AI芯片可以劃分為訓練芯片和推理芯片。訓練是指通過大量標記過的數(shù)據(jù)在平臺上進行“學習”，并形成具備特定功能的神經(jīng)網(wǎng)絡模型；推理則是利用已經(jīng)訓練好的模型輸入新數(shù)據(jù)通過計算得到各種結(jié)論。訓練芯片對算力、精度要求非常之高，而且還需要具備一定的通用性，以適應多種算法的訓練；推理芯片更加注重綜合能力，包括算力能耗、時延、成本等因素。

    AI訓練芯片市場集中度高，英偉達和谷歌領(lǐng)先，英特爾和AMD正在積極切入。推理在云端和終端都可進行，市場門檻相對較低，市場參與者較多。

GPU、FPGA、ASIC性能特點對比

數(shù)據(jù)來源：公開資料整理

    1、GPU

    是一種由大量核心組成的大規(guī)模并行計算架構(gòu)，專為同時處理多重任務而設(shè)計的芯片。正是由于其具備良好的矩陣計算能力和并行計算優(yōu)勢，最早被用于AI計算，并在云端獲得大量應用。GPU中超過80%部分為運算單元（ALU），而CPU僅有20%，因此GPU更擅長于大規(guī)模并行運算。以英偉達的GPUTITANX為例，該產(chǎn)品在深度學習中所需訓練時間只有CPU的1/10不到。但GPU用于云端訓練也有短板，GPU需要同CPU進行異構(gòu)，通過CPU調(diào)用才能工作，而且本身功耗非常高。同時，GPU在推理方面需要對單項輸入進行處理時，并行計算的優(yōu)勢未必能夠得到很好的發(fā)揮，會出現(xiàn)較多的資源浪費。
GPU短期將延續(xù)AI芯片的領(lǐng)導地位。GPU作為市場上AI計算最成熟、應用最廣泛的通用型芯片，應用潛力較大。憑借其強大的計算能力、較高的通用性，GPU將繼續(xù)占領(lǐng)AI芯片的主要市場份額。

    2、FPGA

    即現(xiàn)場可編程門陣列，該芯片集成了大量的基本門電路以及存儲器，其靈活性介于CPU、GPU等通用處理器和專用集成電路ASIC之間，在硬件固定之前，允許使用者靈活使用軟件進行編程。FPGA在出廠時是“萬能芯片”，用戶可根據(jù)自身需求，用硬件描述語言對FPGA的硬件電路進行設(shè)計；每完成一次燒錄，F(xiàn)PGA內(nèi)部的硬件電路就有了確定的連接方式，具有了一定的功能；輸入的數(shù)據(jù)只需要依次經(jīng)過各個門電路，就可以得到輸出結(jié)果。

    FPGA未來在垂直行業(yè)有著較大的空間。由于在靈活性方面的優(yōu)勢，F(xiàn)PGA對于部分市場變化迅速的行業(yè)最為實用。同時，F(xiàn)PGA的高端器件中也可以逐漸增加DSP、ARM核等高級模塊，以實現(xiàn)較為復雜的算法。隨著FPGA應用生態(tài)的逐步成熟，F(xiàn)PGA的優(yōu)勢也會逐漸為更多用戶所認可，并得以廣泛應用。

    FPGA是短期內(nèi)AI芯片市場上的重要增長點，F(xiàn)PGA的最大優(yōu)勢在于可編程帶來的配置靈活性，在當前技術(shù)與運用都在快速更迭的時期，F(xiàn)PGA具有明顯的實用性。企業(yè)通過FPGA可以有效降低研發(fā)調(diào)試成本，提高市場響應能力，推出差異化產(chǎn)品。在專業(yè)芯片發(fā)展得足夠完善之前，F(xiàn)PGA是最好的過渡產(chǎn)品，正因為如此，科技巨頭紛紛布局云計算+FPGA的平臺。隨著FPGA的開發(fā)者生態(tài)逐漸豐富，適用的編程語言增加，F(xiàn)PGA運用會更加廣泛。因此短期內(nèi)，F(xiàn)PGA作為兼顧效率和靈活性的硬件選擇仍將是熱點所在。

    FPGA應用于AI有以下優(yōu)勢：

    （1）算力強勁

    由于FPGA可以同時進行數(shù)據(jù)并行和任務并行計算，在處理特定應用時效果更加明顯，對于某一個特定的運算，F(xiàn)PGA可以通過編輯重組電路，生成專用電路，大幅壓縮計算周期。從賽靈思推出的FPGA產(chǎn)品看，其吞吐量和時延指標都好于CPU和GPU產(chǎn)品。

    （2）功耗優(yōu)勢明顯

    FPGA能耗比是CPU的10倍以上、GPU的3倍。由于在FPGA中沒有取指令與指令譯碼操作，沒有這部分功耗；而在復雜指令集（X86）的CPU中僅僅譯碼就占整個芯片能耗的約50%，在GPU里取指與譯碼也會消耗10%至20%的能耗。

    （3）靈活性好

    使用通用處理器或ASIC難以實現(xiàn)的下層硬件控制操作技術(shù)，利用FPGA可以很方便的實現(xiàn)，從而為算法的功能實現(xiàn)和優(yōu)化留出了更大空間。

    （4）成本相對

    ASIC具備一定優(yōu)勢。FPGA一次性成本（光刻掩模制作成本）遠低于ASIC，在芯片需求還未成規(guī)模、深度學習算法暫未穩(wěn)定需要不斷迭代改進的情況下，利用具備可重構(gòu)特性的FPGA芯片來實現(xiàn)半定制的人工智能芯片是最佳選擇。

    從市場格局上看，全球FPGA長期被Xilinx（賽靈思）、Intel（英特爾）、Lattice（萊迪思）、Microsemi（美高森美）四大巨頭壟斷。其中，賽靈思和英特爾合計占到市場的90%左右，賽靈思的市場份額超過50%，國內(nèi)廠商剛剛起步，差距較大。

    3、ASIC

    即專用芯片，是一種為特定目的、面向特定用戶需求設(shè)計的定制芯片，具備性能更強、體積小、功耗低、可靠性更高等優(yōu)點。在大規(guī)模量的情況下，還具備成本低的特點。

    ASIC與GPU、FPGA不同，GPU、FPGA除了是一種技術(shù)路線之外，還是實實在在的確定產(chǎn)品，而ASIC只是一種技術(shù)路線或者方案，其呈現(xiàn)出的最終形態(tài)與功能也是多種多樣的。近年來，越來越多的公司開始采用ASIC芯片進行深度學習算法加速，其中表現(xiàn)最為突出的ASIC就是Google的TPU。

    ASIC長遠來看非常適用于人工智能，尤其是應對未來爆發(fā)的面向應用場景的定制化芯片需求。ASIC的潛力體現(xiàn)在，AI算法廠商有望通過算法嵌入切入該領(lǐng)域，以進入如安防、智能駕駛等場景。由于其具備高性能低消耗的特點，可以基于多個人工智能算法進行定制，以應對不同的場景，未來在訓練和推理市場上都有較大空間。

    伴隨著全球AI產(chǎn)業(yè)的快速增長，AI芯片需求大幅上升。按照調(diào)查數(shù)據(jù)顯示，2018年全球AI芯片市場規(guī)模達到42.7億美元。未來幾年，全球各大芯片企業(yè)、互聯(lián)網(wǎng)巨頭、初創(chuàng)企業(yè)都將在該市場上進行角逐，預計到2023年全球市場規(guī)模將達到323億美元。未來五年（2019-2023年）平均增速約為50%，其中數(shù)據(jù)中心、個人終端、物聯(lián)網(wǎng)芯片均是增長的重點。

2018-2023年全球AI芯片市場規(guī)模及預測

數(shù)據(jù)來源：公開資料整理

    長期以來，我國在CPU、GPU和DSP設(shè)計上一直處于追趕狀態(tài)，絕大多數(shù)芯片依靠國外的IP核進行設(shè)計，自主創(chuàng)新能力不足。但我們也看到，國內(nèi)人工智能產(chǎn)業(yè)的快速發(fā)展，也為國內(nèi)芯片產(chǎn)業(yè)實現(xiàn)換道超車創(chuàng)造了機會。由于國內(nèi)外在芯片生態(tài)上并未形成壟斷，國內(nèi)芯片設(shè)計廠商尤其是專用芯片設(shè)計廠商，同國外競爭對手還處在同一起跑線上。

    目前國內(nèi)人工智能芯片市場呈現(xiàn)出百花齊放的態(tài)勢。AI芯片的應用領(lǐng)域廣泛分布在金融證券、商品推薦、安防、消費機器人、智能駕駛、智能家居等眾多領(lǐng)域，催生了大量的人工智能創(chuàng)業(yè)企業(yè)，如地平線、深鑒科技、寒武紀、云知聲、云天勵飛等。我們認為，未來隨著國內(nèi)人工智能市場的快速發(fā)展，生態(tài)建設(shè)的完善，國內(nèi)AI芯片企業(yè)將有著更大的發(fā)展空間，未來5年的市場規(guī)模增速將超過全球平均水平。

    二、AI芯片應用場景

    1、 數(shù)據(jù)中心（云端）

    數(shù)據(jù)中心是AI訓練芯片應用的最主要場景，主要涉及芯片是GPU和專用芯片（ASIC）。如前所述，GPU在云端訓練過程中得到廣泛應用。目前，全球主流的硬件平臺都在使用英偉達的GPU進行加速，AMD也在積極參與。亞馬遜網(wǎng)絡服務AWSEC2、GoogleCloudEngine（GCE）、IBMSoftlayer、Hetzner、Paperspace、LeaderGPU、阿里云、平安云等計算平臺都使用了英偉達的GPU產(chǎn)品提供深度學習算法訓練服務。

    由于芯片更加貼近應用，市場更多關(guān)注的是響應時間，需求也更加的細分。除了主流的CPU+GPU異構(gòu)之外，還可通過CPU+FPGA/ASIC進行異構(gòu)。目前，英偉達在該市場依然保持著領(lǐng)軍位置，但是FPGA的低延遲、低功耗、可編程性優(yōu)勢（適用于傳感器數(shù)據(jù)預處理工作以及小型開發(fā)試錯升級迭代階段）和ASIC的特定優(yōu)化和效能優(yōu)勢（適用于在確定性執(zhí)行模型）也正在凸顯，賽靈思、谷歌、WaveComputing、Groq、寒武紀、比特大陸等企業(yè)市場空間也在擴大。

    2、 自動駕駛

    自動駕駛汽車裝備了大量的傳感器、攝像頭、雷達、激光雷達等車輛自主運行需要的部件，每秒都會產(chǎn)生大量的數(shù)據(jù)，對芯片算力有很高的要求，但受限于時延及可靠性，有關(guān)車輛控制的計算不能再依托云端進行，高算力、快速響應的車輛端人工智能推理芯片必不可少。

    自動駕駛所使用的芯片主要基于GPU、FPGA和ASIC三條技術(shù)路線。但由于自動駕駛算法仍在快速更迭和進化，因此大多自動駕駛芯片使用GPU+FPGA的解決方案。未來算法穩(wěn)定后，ASIC將成為主流。按照SAEInternational的自動駕駛等級標準，目前已商用的自動駕駛芯片基本處于高級駕駛輔助系統(tǒng)（ADAS）階段，可實現(xiàn)L1-L2等級的輔助駕駛和半自動駕駛(部分宣稱可實現(xiàn)L3的功能)；而面向L4-L5超高度自動駕駛及全自動駕駛的AI芯片離規(guī)模化商用仍有距離。

    AI芯片用于自動駕駛之后，對傳統(tǒng)的汽車電子市場沖擊較大，傳統(tǒng)的汽車電子巨頭（恩智浦、英飛凌、意法半導體、瑞薩）雖然在自動駕駛芯片市場有所斬獲，但風頭遠不及英特爾、英偉達、高通甚至是特斯拉。國內(nèi)初創(chuàng)企業(yè)如地平線、眼擎科技、寒武紀也都在積極參與。在自動駕駛芯片領(lǐng)域進展最快以及競爭力最強的是英特爾和英偉達，英特爾強在能耗，英偉達則在算力和算法平臺方面優(yōu)勢明顯。

    3、 安防

    安防市場是全球及國內(nèi)AI最為確定以及最大的市場，尤其是AI中的圖像識別和視頻處理技術(shù)正在全面影響安防產(chǎn)業(yè)。其中，在安防產(chǎn)品中，攝像頭、交換機、IPC（網(wǎng)絡攝像機）、硬盤刻錄機、各類服務器等設(shè)備都需要芯片，這些芯片也決定了整個安防系統(tǒng)的整體功能、技術(shù)指標、能耗以及成本。在安防芯片中，最為關(guān)注的還是四類與監(jiān)控相關(guān)的芯片（ISP芯片、DVRSoC芯片、IPCSoC芯片、NVRSoC芯片）。

    ISP芯片(ImageSignalProcessing，圖像信號處理)主要負責對前端攝像頭所采集的原始圖像信號進行處理；DVR（DigitalVideoRecorder，數(shù)字硬盤錄像機）SoC芯片主要用于模擬音視頻的數(shù)字化、編碼壓縮與存儲；IPC（IPCamera，IP攝像機）SoC芯片通常集成了嵌入式處理器（CPU）、圖像信號處理（ISP）模塊、視音頻編碼模塊、網(wǎng)絡接口模塊等，具備入侵探測、人數(shù)統(tǒng)計、車輛逆行、丟包檢測等一些簡單的視頻分析功能；

    NVR(NetworkVideoRecorder，網(wǎng)絡硬盤錄像機)SoC芯片主要用于視頻數(shù)據(jù)的分析與存儲，功能相對單一，但由于多與IPC聯(lián)合使用，市場增長也較快。

    通常情況下，安防視頻監(jiān)控模擬攝像機的核心部件包括一顆圖像傳感器和一顆ISP芯片，安防視頻監(jiān)控網(wǎng)絡攝像機的核心部件包括一顆圖像傳感器和一顆IPCSoC芯片。單從國內(nèi)來看，未來國內(nèi)視頻監(jiān)控行業(yè)增速仍將保持12%-15%左右的水平增長，其中網(wǎng)絡監(jiān)控設(shè)備增長更為迅速，相關(guān)芯片產(chǎn)品需求十分旺盛。

    從安防行業(yè)發(fā)展的趨勢來看，隨著5G和物聯(lián)網(wǎng)的快速落地，“云邊結(jié)合”將是行業(yè)最大的趨勢，云端芯片國內(nèi)企業(yè)預計很難有所突破，但是邊緣側(cè)尤其是視頻處理相關(guān)AI芯片還是有較大潛力，國產(chǎn)化替代將加速。但也看到，AI芯片離在安防領(lǐng)域?qū)崿F(xiàn)大規(guī)?？焖俾涞厝杂芯嚯x。除了功耗和算力約束外，工程化難度大也是困擾行業(yè)的重要因素，尤其是在安防這種產(chǎn)業(yè)鏈長而高度碎片化的產(chǎn)業(yè)，新技術(shù)落地需要長時間的積累與打磨，以及人力資源的不斷投入。

國內(nèi)面向安防AI芯片的企業(yè)及主要產(chǎn)品

數(shù)據(jù)來源：公開資料整理

    4、 智能家居

    智能家居近年來也成為人工智能重要的落地場景。從技術(shù)應用上講，人類90%的信息輸出是通過語音，80%的是通過視覺，智能家居領(lǐng)域應用最多的就是智能語音交互技術(shù)。近年來，正是看到語音交互技術(shù)與智能家居深度融合的潛力，谷歌、蘋果、微軟均將其作為進入智能家居領(lǐng)域的重要切入口，發(fā)布了多款軟硬件平臺，如亞馬遜推出的智能音箱設(shè)備。國內(nèi)智能語音龍頭企業(yè)科大訊飛較早就切入了該領(lǐng)域，聯(lián)合地產(chǎn)商推出了硬件平臺魔飛（MORFEI）

    平臺，電視、咖啡機、電燈、空調(diào)、熱水器等產(chǎn)品都能通過融入相關(guān)平臺實現(xiàn)智能化。

    無論是智能音箱還是其他智能家居設(shè)備，智能功能都是在云端來實現(xiàn)，但云端存在著語音交互時延的問題，對網(wǎng)絡的需求限制了設(shè)備的使用空間，而且由此還帶來了數(shù)據(jù)與隱私危機。為了讓設(shè)備使用場景不受局限，用戶體驗更好，端側(cè)智能已成為一種趨勢，語音AI芯片也隨之切入端側(cè)市場。國內(nèi)主要語音技術(shù)公司憑借自身在語音識別、自然語言處理、語音交互設(shè)計等技術(shù)上的積累，開始轉(zhuǎn)型做AI語音芯片集成及提供語音交互解決方案，包括云知聲、出門問問、思必馳以及Rokid。

    出門問問也在2018年推出了AI語音芯片模組“問芯”MobvoiA1；Rokid也發(fā)在2018年發(fā)布了AI語音芯片KAMINO18；思必馳利用其聲紋識別等技術(shù)優(yōu)勢，2019年初推出基于雙DSP架構(gòu)的語音處理專用芯片TH1520，具有完整語音交互功能，能實現(xiàn)語音處理、語音識別、語音播報等功能。

    由于語音芯片市場過于細碎，需要企業(yè)根據(jù)場景和商業(yè)模式需要設(shè)計出芯片產(chǎn)品，這對傳統(tǒng)的通用芯片企業(yè)的商業(yè)模式是一種顛覆，以致于在2018年以前都很少有芯片巨頭進入該領(lǐng)域，這也給了國內(nèi)語音芯片企業(yè)較大的施展空間。而對算法公司來說，通過進入芯片市場，進而通過解決方案直接面向客戶和應用場景，通過實戰(zhàn)數(shù)據(jù)來訓練和優(yōu)化算法。

國內(nèi)主要語音芯片廠商及產(chǎn)品情況

數(shù)據(jù)來源：公開資料整理

    5、 機器人

    機器人是人工智能行業(yè)最早的落地形態(tài)，也是現(xiàn)在和將來重要的應用方向。機器人主要包括兩類——制造環(huán)境下的工業(yè)機器人和非制造環(huán)境下的服務機器人。工業(yè)機器人主要是面向工業(yè)領(lǐng)域的多關(guān)節(jié)機械手或多自由度機器人。服務機器人則是除工業(yè)機器人之外的、用于非制造業(yè)并服務于人類的各種先進機器人。

    隨著云物移大智等信息及智能化技術(shù)的發(fā)展，機器人在某些領(lǐng)域的工作效率高于人類，并在工業(yè)和服務場景中得到了大量應用。據(jù)調(diào)查數(shù)據(jù)統(tǒng)計，2017年，全球工業(yè)機器人產(chǎn)量達到38.1萬臺，同比增長30%，預計2018-2021年全球工業(yè)機器人產(chǎn)量將保持10%以上增速增長，2021年產(chǎn)量預計將達到63.0萬臺。中國是全球最大的工業(yè)機器人生產(chǎn)國，2017年產(chǎn)量達到13.79萬臺，同比大幅增長60%。服務機器人主要用于物流、防務、公共服務、醫(yī)療等領(lǐng)域，雖然規(guī)模不大，但是增長迅速。2017年全球產(chǎn)量為10.95萬臺，同比大幅增長85%。預計2018年全球?qū)I(yè)服務機器人產(chǎn)量將達到16.53萬臺，同比增長32%，2019-2021年平均增速將保持在21%左右。

    機器人尤其是國內(nèi)產(chǎn)業(yè)規(guī)模的快速擴大，將大幅帶動國內(nèi)機器人相關(guān)智能芯片產(chǎn)業(yè)的發(fā)展。機器人由控制、傳感、驅(qū)動和電源四大裝置構(gòu)成，其中控制裝置是機器人的“大腦”，核心是AI芯片。

    2014-2021年全球工業(yè)機器人產(chǎn)量及增速

數(shù)據(jù)來源：公開資料整理

    相關(guān)報告：智研咨詢發(fā)布的《2019-2025年中國AI芯片行業(yè)市場全景調(diào)查及投資方向研究報告》