前幾年的“人工智能熱”讓大小廠商陸續(xù)跳入AI芯片的研發(fā)大軍中，而當(dāng)這股潮水褪去，當(dāng)初的50多家公司大多數(shù)都黯然退出歷史舞臺，如今只剩10家左右。AI芯片的風(fēng)口已然過去。據(jù)艾瑞咨詢發(fā)布的2019年《AI芯片行業(yè)研究報(bào)告》指出，目前AI芯片行業(yè)接近Gartner技術(shù)曲線泡沫頂端，只有通過市場檢驗(yàn)和篩選的優(yōu)質(zhì)團(tuán)隊(duì)才能夠繼續(xù)獲得產(chǎn)業(yè)、政策和資本的青睞與支持。
隨著AI芯片進(jìn)入深水區(qū)，人們更關(guān)注的不再是單純的算力，還有對應(yīng)用落地和商業(yè)化的支持：進(jìn)入了哪些場景？合作了哪些客戶？有沒有軟硬一體化方案？是否已經(jīng)有實(shí)際案例？……“AI落地難”已成行業(yè)共識，浮華過后，AI芯片接下來將進(jìn)入市場檢驗(yàn)真理的階段。
AI芯片為何落地難？
首先，我們來看下當(dāng)前AI芯片的格局。目前市面上AI芯片主要分為云端AI芯片與終端AI 芯片，云端AI芯片主要部署在大型服務(wù)器中，可支持圖像、語音等不同類別的AI 應(yīng)用；終端芯片則被放在音箱、攝像頭等硬件設(shè)備中。由于云端芯片起步較早，且所需要協(xié)同的CPU/GPU等硬件成本投入規(guī)模高，該領(lǐng)域已被英偉達(dá)、Intel等巨頭瓜分殆盡；國內(nèi)一眾AI從業(yè)者大多選擇發(fā)力在終端芯片領(lǐng)域，如自動(dòng)駕駛、安防、零售、智能硬件等。但AI芯片終端市場細(xì)分化、碎片化、應(yīng)用場景不明確也是一大難題。
至于AI芯片落地難的原因可能有無數(shù)個(gè)。例如，芯片研發(fā)比AI語言的更迭速度慢，當(dāng)芯片面市時(shí)，其采用的AI語言可能已經(jīng)過時(shí)了。這種問題首先體現(xiàn)在量產(chǎn)，但歸根結(jié)底，缺乏殺手級應(yīng)用場景才是最致命的。AI芯片廠商高投入研發(fā)過后，卻不知道自己的產(chǎn)品要賣給哪些客戶或者說應(yīng)用到哪些產(chǎn)品上，無法找到可持續(xù)性的落地場景。
地平線的聯(lián)合創(chuàng)始人兼副總裁黃暢表示，缺乏殺手級應(yīng)用使得現(xiàn)有的AI芯片大多沒有清晰的定位，無法高度優(yōu)化PPA。做半導(dǎo)體的都知道PPA有多么重要，尤其是Performance。AI芯片需要針對應(yīng)用場景進(jìn)行設(shè)計(jì)，以此來指導(dǎo)研發(fā)調(diào)整優(yōu)化方向，引導(dǎo)客戶進(jìn)行正確選擇，同時(shí)能夠促進(jìn)行業(yè)有序協(xié)同向前發(fā)展。
再者，用戶接受度也不高，AI應(yīng)用所需要的數(shù)據(jù)閉環(huán)難以形成。需要明確的是，AI應(yīng)用開發(fā)模式與傳統(tǒng)軟件開發(fā)流程不同，傳統(tǒng)軟件開發(fā)可清晰定義功能，通過編程就能實(shí)現(xiàn)；而AI應(yīng)用則要通過示例（數(shù)據(jù)）來定義功能再進(jìn)行開發(fā)，需要形成數(shù)據(jù)閉環(huán)，且自動(dòng)迭代。
“AI是一個(gè)全新領(lǐng)域，AI芯片需要支撐的不僅是AI計(jì)算，更要面向場景，實(shí)現(xiàn)完整的功能。芯片公司多年的積累不是主要矛盾，其主要矛盾是如何將軟硬件結(jié)合起來，開發(fā)出一個(gè)高效能、低功耗、低成本，同時(shí)能夠又快又準(zhǔn)的完成自主機(jī)器人的任務(wù)。AI芯片的成功不止于將ISP調(diào)的好，能夠看清楚；也不是將傳統(tǒng)的語音算法做的更精進(jìn)，更不是說一個(gè)傳統(tǒng)的車規(guī)芯片公司把CPU和DSP升級成一個(gè)NPU，AI芯片沒有那么簡單?！秉S暢如是說。
在紛繁復(fù)雜的碎片化終端市場中，最需要什么樣的AI芯片？黃暢認(rèn)為：“需要的是能極致優(yōu)化PPA的AI芯片，這個(gè)PPA的提升需是數(shù)量級的，要能適應(yīng)未來數(shù)年的算法演進(jìn)，同時(shí)充分考慮算法發(fā)展，從而能真正替代GPU?！?/p>
但黃暢也告訴半導(dǎo)體行業(yè)觀察記者，目前AI芯片也有其可取之處，例如，大多數(shù)AI芯片的工具鏈都能對場景深度學(xué)習(xí)框架有比較好的支持，也培養(yǎng)了一些開發(fā)者，在開發(fā)成本上有一定的降低，減少了對于Cuda之類的編程生態(tài)的依賴。
誰來定義AI芯片的“好壞”？
都說AI芯片難落地，客戶難評判，那么一款A(yù)I芯片的“好壞”究竟如何來評估呢？是TFLOPS？是TOPS？還是MLPerf？AI芯片界好像依然沒能找到完美體現(xiàn)真實(shí)性能的衡量標(biāo)準(zhǔn)。
為何這么說？目前業(yè)界慣常使用的芯片評測標(biāo)準(zhǔn)有兩種，一是峰值算力，但這只反映AI芯片理論上的最大計(jì)算能力，而非在實(shí)際AI應(yīng)用場景中的處理能力，具有很大的局限性；二是目前行業(yè)較為知名的基準(zhǔn)測試組織MLPerf，但其采用的模型少且更新速度滯后于算法演進(jìn)的速度，無法及時(shí)反映算法效率的提升以及各種精度下芯片能夠達(dá)到的計(jì)算速度，因而無法描述芯片AI性能的全貌。
針對當(dāng)前AI芯片評測中存在的問題，地平線提出MAPS（Mean Accuracy-guaranteed Processing Speed）評測方法，針對應(yīng)用場景的特點(diǎn)，在精度有保障的前提下，包容所有與算法相關(guān)的選擇，評估芯片對數(shù)據(jù)的平均處理速度。為行業(yè)提供一個(gè)評估芯片AI性能的全新視角。
“評估芯片AI性能，本質(zhì)上應(yīng)該關(guān)注做AI任務(wù)的速度和精度，即‘多快’和‘多準(zhǔn)’。”
黃暢介紹說：“MAPS評測方法，能關(guān)注真實(shí)的用戶價(jià)值，將每顆芯片在‘快’和‘準(zhǔn)’這兩個(gè)關(guān)鍵維度上的取舍變化直觀地展現(xiàn)出來，并在合理的精度范圍內(nèi)，評估芯片的平均處理速度。這個(gè)方法具有可視化和可量化的特點(diǎn)?！?/p>
MAPS 聚焦“快”和“準(zhǔn)”兩個(gè)關(guān)鍵評測維度，用最優(yōu)幀率精度所圍面積直接體現(xiàn) AI 芯片的最強(qiáng)能力
按照黃暢的說法，這個(gè)全新的MAPS評估方式對行業(yè)來說有六大創(chuàng)新之處：
第一，它將芯片的Benchmark通過圖形變得可視化，表達(dá)更精準(zhǔn)；
第二，該方式關(guān)注真實(shí)、面向結(jié)果的需求，只在乎精度和速度，不在乎中間任何關(guān)于算法的取舍和選擇；
第三，可以統(tǒng)一表示精度與速度，關(guān)注主流精度區(qū)間；
第四，隱藏與最終結(jié)果無關(guān)的中間變量，包括模型、輸入大小、批處理的量是多大；
第五，通過MAPS評估方法可以在算力之外幫助用戶理解這個(gè)芯片到底能跑多快以及多好；
第六，留有最大的空間引導(dǎo)客戶使用最優(yōu)的方式使用某一顆芯片，這一點(diǎn)非常重要，是去真正指導(dǎo)客戶使用這個(gè)芯片的最佳實(shí)踐。
芯片是個(gè)生態(tài)系統(tǒng)，單獨(dú)依靠一家之力是玩不轉(zhuǎn)的。地平線的MAPS評估標(biāo)準(zhǔn)最重要的意義是讓行業(yè)能夠形成一種合力，讓大家更好的協(xié)同，不管你是買方還是賣方，大家都有一個(gè)相對清晰的目標(biāo)，容易形成共識、形成協(xié)力，這樣才好健康地去推動(dòng)整個(gè)行業(yè)往前發(fā)展。黃暢表示。
AI芯片花開兩朵：“旭日”東升，“征程”萬里
有了好的評估標(biāo)準(zhǔn)之后，AI產(chǎn)業(yè)向好，經(jīng)歷過大風(fēng)大浪的AI芯片，最終將落在哪些場景中呢？作為一家以“為客戶提供的智能化價(jià)值”的人工智能公司，地平線將其AI芯片的種子灑向了AIoT和自動(dòng)駕駛航道，花開兩朵，同心向陽。
“做AI芯片需要企業(yè)有很強(qiáng)的洞察力，要在三五年前找到落腳點(diǎn)，以創(chuàng)造真實(shí)的價(jià)值為導(dǎo)向，本著長期主義的精神堅(jiān)持不懈的走下去?！秉S暢談到。
自動(dòng)駕駛被看作是AI芯片的殺手級應(yīng)用的潛力市場，近年來伴隨智能駕駛滲透率的提升，全球芯片巨頭也在紛紛向汽車這個(gè)產(chǎn)業(yè)靠攏。汽車AI芯片市場未來仍是各大巨頭競爭角逐之地。目前在AI自動(dòng)駕駛方面，國外的英偉達(dá)、英特爾、特斯拉，國內(nèi)的華為、地平線、寒武紀(jì)以及芯馳科技等一眾廠商都在深耕這個(gè)領(lǐng)域。
地平線是中國最早進(jìn)入AI芯片領(lǐng)域的人工智能企業(yè)。2015年，在國內(nèi)AI芯片仍未進(jìn)入大眾視野時(shí)，地平線公司成立，率先提出軟硬結(jié)合的BPU芯片架構(gòu)；2017年，發(fā)布中國第一款邊緣AI芯片：旭日一代和征程一代；2018年，征程芯片助力國際頂尖Robotaxi車隊(duì)；2019年，宣布正式量產(chǎn)中國首款車規(guī)級AI芯片征程2。
這幾年，地平線在商業(yè)化的道路上越走越穩(wěn)。就拿征程2 來說，該產(chǎn)品可全方位實(shí)現(xiàn)車內(nèi)場景化感知，并基于感知結(jié)果為用戶提供更精準(zhǔn)的智能推薦以及智能車控等服務(wù)。
今年3月份，地平線征程2登陸長安UNI-T前裝量產(chǎn)，使長安UNI-T成為首款搭載國產(chǎn)人工智能芯片的智能汽車，而且也讓它走在了世界前列，成為全球首款智能人機(jī)交互SUV。
眾所周知，車載AI芯片是人工智能行業(yè)的珠穆朗瑪，也是自動(dòng)駕駛實(shí)現(xiàn)大規(guī)模落地的前提。車規(guī)級芯片產(chǎn)品的開發(fā)周期長、難度大，是硬科技、長跑道的創(chuàng)新。在汽車芯片如此高標(biāo)準(zhǔn)以及長供貨周期、與主機(jī)廠長久的合作關(guān)系下，汽車芯片一旦能夠量產(chǎn)，其供應(yīng)格局相對來說就較為穩(wěn)定。
雖然，相比市場前景更大、場景更為復(fù)雜的自動(dòng)駕駛，地平線在AIoT領(lǐng)域的聲量較小，但其重視程度絲毫不差。據(jù)了解，其旭日系列芯片所服務(wù)的客戶已過百家。去年發(fā)布的旭日2的表現(xiàn)也相當(dāng)亮眼，在旭日2上的實(shí)際測試結(jié)果表明，分類模型 MobileNet V2 的運(yùn)行速度超每秒 700 張圖片，實(shí)際性能能夠達(dá)到甚至超過業(yè)內(nèi)標(biāo)稱 4TOPS 算力的 AI 芯片。
在AIoT領(lǐng)域，地平線堅(jiān)持底層技術(shù)能力研發(fā)與解決方案的打造，加速普惠 AI 時(shí)代到來；在開發(fā)者生態(tài)方面，地平線則通過工具鏈服務(wù)降低開發(fā)者門檻，助力上層應(yīng)用產(chǎn)生，以此豐富整個(gè) AIoT 應(yīng)用生態(tài)，用行業(yè)的力量推動(dòng)行業(yè)。目前，地平線已攜手上百家 AIoT合作伙伴為產(chǎn)業(yè)提供賦能服務(wù)，實(shí)現(xiàn)線下場景服務(wù)數(shù)千萬人口。
結(jié)語
自去年旭日2的發(fā)布，又經(jīng)過近一年的商業(yè)化落地和技術(shù)錘煉，面向AIoT市場的旭日3正呼之欲出。在此，想劇透下，此前，地平線有在ImagetNet模型上進(jìn)行了一項(xiàng)MAPS測試，下圖中有一顆地平線即將推出的芯片，在與表現(xiàn)最優(yōu)的標(biāo)稱11.4TOPS峰值算力的AI芯片對比中，新的芯片雖然在高精度上稍有劣勢，但在追求速度和低延遲等場景中會有不俗的表現(xiàn)。9月9日上午，“地平線”盡頭將再次升起一輪“旭日”！
ImageNet圖像分類 75~80.5%精度范圍內(nèi)， MAPS 評估方式下的主流芯片測試結(jié)果（右一折線為地平線最新一代芯片測試結(jié)果）