AI的熱潮已經(jīng)過(guò)去？許多關(guān)注AI的人或許會(huì)給出的判斷。這種判斷也有一些依據(jù)，AI發(fā)展三大要素之一的AI芯片，在2016年左右出現(xiàn)大量的初創(chuàng)公司，之后火熱了兩年左右時(shí)間后，又逐漸涼了下來(lái)。

　　但2020年下半年開始，AI芯片初創(chuàng)公司的融資消息又多了起來(lái)，在本月的WAIC 2021期間，多家云端AI芯片和邊緣AI芯片初創(chuàng)公司都發(fā)布了新產(chǎn)品，AI芯片似乎又熱了起來(lái)。

　　AI芯片為什么“涼”了幾年又“熱”了起來(lái)？AI普及的關(guān)鍵到底是什么？RISC-V芯片會(huì)成為AIoT市場(chǎng)的主角嗎？

　　體驗(yàn)不好的AI產(chǎn)品傷害了消費(fèi)者

　　—

　　2017年左右掀起的新一輪AI熱潮，有兩個(gè)關(guān)鍵性事件。一個(gè)是2012年AlexNet在ImageNet大規(guī)模視覺(jué)識(shí)別挑戰(zhàn)賽中用卷積神經(jīng)網(wǎng)絡(luò)（CNN）贏得了圖像識(shí)別競(jìng)賽，再次掀起了學(xué)界研究AI的熱潮。到了2017年，AlphaGo戰(zhàn)勝人類頂級(jí)棋手柯潔，并橫掃整個(gè)圍棋界。AI的熱潮從學(xué)界蔓延至產(chǎn)業(yè)界，并引發(fā)全民關(guān)注。

　　“我覺(jué)得AI能再一次熱起來(lái)是因?yàn)樯窠?jīng)網(wǎng)絡(luò)在技術(shù)有了突破后，能夠解決一些問(wèn)題，而這恰好能滿足消費(fèi)者對(duì)智能美好生活的向往?！奔伍萍紕?chuàng)始人、董事長(zhǎng)兼首席執(zhí)行官?gòu)堥s對(duì)雷鋒網(wǎng)表示。

　　很快地，AI音箱、AI機(jī)器人、AI家電、AI故事機(jī)等眾多AI產(chǎn)品迅速推向市場(chǎng)，其中出貨量最大的AI音箱迅速普及，但很快被消費(fèi)者拋棄。

　　“通過(guò)縮減材料降低成本，推出體驗(yàn)不好的產(chǎn)品對(duì)市場(chǎng)傷害非常大，因?yàn)闆](méi)有好的體驗(yàn)，整個(gè)市場(chǎng)的規(guī)模很難變大。降低成本應(yīng)該靠更好的技術(shù)?！睆堥s說(shuō)，“AI產(chǎn)品還是沒(méi)有達(dá)到消費(fèi)者的預(yù)期，消費(fèi)者需要的是一個(gè)完整的產(chǎn)品，這是我認(rèn)為AI又涼下來(lái)的原因?！?/p>

　　英特爾研究院副總裁、英特爾中國(guó)研究院院長(zhǎng)宋繼強(qiáng)也告訴雷鋒網(wǎng)：“現(xiàn)在很多AI系統(tǒng)，只有一個(gè)原型，但到商業(yè)化的時(shí)候，原型是不行的。AI創(chuàng)新要真正的規(guī)?；l(fā)展起來(lái)，一定要很認(rèn)真嚴(yán)肅地做垂直整合。”

　　也就是說(shuō)，AI產(chǎn)品的實(shí)際體驗(yàn)與消費(fèi)者期待的產(chǎn)品之間仍有鴻溝。從AI智能硬件公司的角度，在AI芯片和AI算法的支持下，他們推出了比以往更加智能的產(chǎn)品，產(chǎn)品性能有了顯著的提升。但從消費(fèi)者的角度，AI產(chǎn)品依舊不夠智能，甚至有些傻，很難持續(xù)使用或購(gòu)買新的AI產(chǎn)品。

　　“還有一個(gè)問(wèn)題是價(jià)格，對(duì)于智能硬件和白色家電，消費(fèi)者的要求是性能是世界級(jí)，但價(jià)格預(yù)期是‘地獄級(jí)’，這是矛盾所在。”張楠賡說(shuō)?！安贿^(guò)，只要有明確的需求和目標(biāo)，實(shí)現(xiàn)世界級(jí)的性能，同時(shí)兼顧可接受的價(jià)格并非不能達(dá)成的目標(biāo)，嘉楠希望在未來(lái)1-3年內(nèi)達(dá)成這個(gè)目標(biāo)。”

　　還要看到，邊緣推理是AI應(yīng)用大規(guī)模落地的關(guān)鍵。這是因?yàn)椋七厖f(xié)同已經(jīng)成為主流的計(jì)算范式。在云邊協(xié)同的架構(gòu)中，邊緣AI在數(shù)據(jù)脫敏、數(shù)據(jù)感知和實(shí)時(shí)決策上有效彌補(bǔ)了時(shí)延和數(shù)據(jù)隱私上的短板，也能降低高昂的IT基礎(chǔ)設(shè)施成本。

　　此時(shí)，更高性能的AI芯片非常關(guān)鍵。

　　需求釋放，邊緣AI芯片市場(chǎng)

　　規(guī)模絕對(duì)值快速增加

　　—

　　嘉楠在AI邊緣芯片市場(chǎng)占有先發(fā)優(yōu)勢(shì)，2018年推出了首款A(yù)I推理芯片勘智K210，這款A(yù)I SoC投片的時(shí)候還沒(méi)有MobileNetV2和YOLOv3算法，所以只有1TOPS的AI算力?！坝捎诳敝荎210研發(fā)時(shí)間較早，在算力規(guī)劃上沒(méi)有考慮到后來(lái)才出現(xiàn)的算法模型，導(dǎo)致這款芯片在應(yīng)用場(chǎng)景的拓展上受到限制?！睆堥s如此評(píng)價(jià)這款芯片。

　　在整個(gè)業(yè)界探索AI芯片和AI應(yīng)用的背景下，嘉楠的首款A(yù)I芯片獲得了多個(gè)頭部教育機(jī)器人客戶的訂單。在2020年全球疫情和缺芯的環(huán)境下也實(shí)現(xiàn)了可觀的營(yíng)收。

　　“今年很多應(yīng)用市場(chǎng)需求快速增加，僅上半年我們就實(shí)現(xiàn)了1300多萬(wàn)的AI芯片營(yíng)收，如果下半年產(chǎn)能問(wèn)題不能解決，我預(yù)計(jì)營(yíng)收和上半年相當(dāng)?！睆堥s說(shuō)，“我看到的是今年市場(chǎng)需求特別旺盛，增長(zhǎng)比較快?！?/p>

　　當(dāng)然，AI邊緣芯片市場(chǎng)仍舊處于絕對(duì)值增長(zhǎng)很快，但總體規(guī)模依舊不大的狀態(tài)。在快速增長(zhǎng)的市場(chǎng)里，除了AI教育以及增加AI功能網(wǎng)絡(luò)攝像機(jī)（IPC），用邊緣AI芯片做人群聚集檢測(cè)、超聲波定位、機(jī)器狗、跟拍云臺(tái)等創(chuàng)新的產(chǎn)品越來(lái)越多。

　　“勘智主打的還是AI性能，基于勘智K210的能力，有些創(chuàng)新應(yīng)用是我們沒(méi)有想到的。更加智能的產(chǎn)品也需要更高性能的AI芯片，其實(shí)像家庭場(chǎng)景里的掃地機(jī)器人，面對(duì)的環(huán)境也非常復(fù)雜，需要比較高的算力，還要控制成本?！睆堥s表示。

　　為此，嘉楠推出了勘智K510邊緣推理芯片，CPU依舊采用RISC-V（雙核64位），全新的KPU將AI性能提升至3TOPS，支持TensorFlow、PyTorch和ONNX 模型導(dǎo)入，配合KPU為AI加速還增加了DSP。

　　另外，勘智K510支持三路傳感器輸入1080P視頻，擁有眾多高速和低速接口，其中高速接口DDR PHY和MIPI RX/TX DPHY均是嘉楠完全自主知識(shí)產(chǎn)權(quán)的IP。

　　從推出的時(shí)間看，勘智K510比嘉楠的產(chǎn)品路線圖晚了半年多時(shí)間。據(jù)雷鋒網(wǎng)了解，其中的原因包括這是嘉楠第一個(gè)比較大規(guī)模的AI芯片，幾乎重新設(shè)計(jì)了AI加速單元KPU，高速接口也是完全自研，再加上產(chǎn)能緊缺等多重因素，導(dǎo)致勘智K510推出的時(shí)間比預(yù)期晚一些。

　　“產(chǎn)品更早推出肯定會(huì)更好一些，但稍微晚一點(diǎn)也有好處。我們推出第一款A(yù)I芯片的時(shí)候，絕大部分中小客戶只能用原廠的芯片做一些嵌入式的開發(fā)。今年有能力開發(fā)AI芯片的客戶多了很多，許多客戶還有自己的AI算法。市場(chǎng)在成熟，應(yīng)用場(chǎng)景也在不斷增加，這對(duì)我們產(chǎn)品的推廣是好事。”張楠賡如此解釋。

　　與傳統(tǒng)的功能芯片不同，AI芯片的開發(fā)者并不知道自己明確的需求，這對(duì)要預(yù)測(cè)未來(lái)三到五年市場(chǎng)需求的AI芯片公司來(lái)說(shuō)，定義產(chǎn)品難度更大。但比較明確的是，隨著AI應(yīng)用復(fù)雜程度的增加，對(duì)AI的算力需求也隨之增加，提升AI性能成為關(guān)鍵。

　　“勘智K510的KPU相比上一代基本是重新設(shè)計(jì)。原來(lái)的KPU比較簡(jiǎn)單，如果用第一代架構(gòu)進(jìn)行等比放大提升性能會(huì)有很多問(wèn)題。新設(shè)計(jì)的第二代架構(gòu)更加通用，可伸縮性更好，很容易實(shí)現(xiàn)零點(diǎn)幾TOPS到幾TOPS的算力，同時(shí)兼容性也更好?！睆堥s表示。

　　提升AI性能的同時(shí)，勘智K510的視覺(jué)性能也有了顯著提高，集成了最新一代圖像處理單元和3D ISP模塊，支持深度攝像頭TOF傳感器，可以在無(wú)需軟件參與的情況下自動(dòng)解析和提取深度圖像，加速3D圖像處理。

　　張楠賡指出，勘智K510是一款中高端算力芯片，視覺(jué)硬件配置也是這款芯片的重頭戲，同時(shí)支持最多3個(gè)攝像頭的輸入，其中一路支持3D功能，也是迎合市場(chǎng)需求，能夠滿足比如活體檢測(cè)等需求?？敝荎510也能夠應(yīng)用于高清航拍器、視頻會(huì)議、機(jī)器人、STEAM教育、工業(yè)相機(jī)和輔助駕駛等場(chǎng)景。

　　雷鋒網(wǎng)（公眾號(hào)：雷鋒網(wǎng)）注意到，勘智K510在降低功耗方面從多角度入手，比如通過(guò)NoC總線架構(gòu)解決龐大時(shí)鐘樹帶來(lái)的芯片大功耗和大面積問(wèn)題；KPU根據(jù)不同層級(jí)的帶寬、計(jì)算和存儲(chǔ)需求的調(diào)整，提高數(shù)據(jù)的復(fù)用率降低芯片功耗；還通過(guò)支持語(yǔ)音VAD功能，滿足低功耗設(shè)計(jì)需求等。

　　不過(guò)，能夠?qū)⒓伍腁I芯片推向更廣闊市場(chǎng)的關(guān)鍵是RISC-V。

　　沖向萬(wàn)億美元的AIoT市場(chǎng)

　　—

　　“易用性非常重要，開發(fā)者如果使用CPU或者DSP就能實(shí)現(xiàn)功能，能夠降低開發(fā)成本和加速產(chǎn)品上市時(shí)間。”張楠賡說(shuō)，“這也是我們?cè)陔p核64位RISC-V CPU基礎(chǔ)上增加DSP的重要原因?！?/p>

　　更強(qiáng)的CPU性能對(duì)于一款SoC的重要性也越來(lái)越高?！坝幸粋€(gè)很有意思的現(xiàn)象，5年前，業(yè)界很多人認(rèn)為SoC中的CPU的作用會(huì)被弱化，大部分的任務(wù)都會(huì)用硬件加速器處理，包括AI應(yīng)用。但這兩年，無(wú)論是手機(jī)還是PC，CPU的競(jìng)爭(zhēng)越來(lái)越激烈，絕大部分的任務(wù)還是在CPU上完成，CPU又變得很重要，所以對(duì)CPU的性能需求也大幅度增加?！睆堥s表示。

　　“我認(rèn)為，未來(lái)幾年桌面級(jí)和移動(dòng)端先進(jìn)的技術(shù)和架構(gòu)會(huì)迅速下放到原來(lái)的MCU中，這個(gè)變化可能要到將來(lái)3-5年才能看到?！彼鞒鲱A(yù)測(cè)。

　　CPU在SoC中的重要性又變得重要，意味著CPU的性能和易用性成為競(jìng)爭(zhēng)的關(guān)鍵。在AIoT市場(chǎng)，雖然統(tǒng)治移動(dòng)市場(chǎng)的Arm占據(jù)優(yōu)勢(shì)地位，但最近兩年RISC-V指令集芯片在這一市場(chǎng)進(jìn)展迅猛，在對(duì)軟件支持要求不高的應(yīng)用中，RISC-V已經(jīng)被大量應(yīng)用，但需要更高性能和更多軟件支持的應(yīng)用就面臨挑戰(zhàn)。

　　實(shí)際上，勘智K510的CPU是嘉楠自研?！暗谝淮a(chǎn)品我們用的是RISC-V開源內(nèi)核，明顯的優(yōu)勢(shì)是不需要買版權(quán)節(jié)省成本，但漏洞也比較多。新一代的勘智AI芯片之所以選擇自研，主要還是因?yàn)槲覀兊男枨蟪^(guò)了開源內(nèi)核的需求?！睆堥s解釋為何開始自研RISC-V CPU。

　　硬件的自研對(duì)于有實(shí)力的芯片公司而言相對(duì)容易，但軟件生態(tài)的建設(shè)就需要整個(gè)行業(yè)的共同努力?！盁o(wú)論是阿里在RISC-V方面的工作，或者如果英特爾收購(gòu)SiFive，這對(duì)整個(gè)RISC-V生態(tài)的建設(shè)都有非常積極的作用。”張楠賡說(shuō)：“我們是RISC-V堅(jiān)定的擁護(hù)者，所以我們無(wú)論是硬件還是軟件，都受益于RISC-V社區(qū)，當(dāng)然我們也將自己的設(shè)計(jì)和文檔都上傳到RISC-V社區(qū)，希望能夠以身作則推動(dòng)RISC-V生態(tài)的發(fā)展?！?/p>

　　“更多系統(tǒng)的支持對(duì)于我們產(chǎn)品的規(guī)模推廣有非常明顯的效果。剛推出勘智K210的時(shí)候，沒(méi)有系統(tǒng)的支持，開發(fā)者想要開發(fā)難度很大。后來(lái)有了RTOS和Linux的支持，這對(duì)我們勘智K510的應(yīng)用非常有用?！睆堥s表示。

　　“目前看來(lái)，RISC-V芯片用到游戲領(lǐng)域可能會(huì)差一些，但除此之外的應(yīng)用，使用RISC-V芯片都問(wèn)題不大。”張楠賡認(rèn)為“但我也不認(rèn)為RISC-V會(huì)完全淘汰Arm，Arm在很多領(lǐng)域依舊會(huì)占有一席之地?！?/p>

　　不可否認(rèn)的是，RISC-V的生態(tài)建設(shè)依舊是在追趕Arm的生態(tài)，遠(yuǎn)談不上趕超。就嘉楠而言，他們?cè)O(shè)計(jì)出更高性能的AI芯片之后，但很多功能的實(shí)現(xiàn)因?yàn)檐浖藛T的缺乏，進(jìn)度受阻。

　　張楠賡說(shuō)他早已意識(shí)到缺乏軟件人員的問(wèn)題，但他并不打算采用大量招聘軟件人才的方式解決這一問(wèn)題，而是保持嘉楠硬件的基因，通過(guò)與更專業(yè)的合作伙伴共同解決軟件方面的挑戰(zhàn)。

　　張楠賡透露，嘉楠最早會(huì)在今年下半年公布在軟件方面的合作進(jìn)展。

　　還有一個(gè)更深層次的問(wèn)題，嘉楠為什么要選擇不成熟的RISC-V CPU推出AI芯片？張楠賡的回答是：“在行業(yè)的選擇上，我們選擇了AI這個(gè)有巨大需求量的市場(chǎng)，在技術(shù)上，選擇RISC-V有成本優(yōu)勢(shì)，在未來(lái)的AI市場(chǎng)會(huì)大有所為，開源開放也是我們一直擁護(hù)的?！?/p>

　　麥肯錫預(yù)測(cè)，全球AIoT市場(chǎng)規(guī)模2025年或?qū)⑦_(dá)到11.2萬(wàn)億美元。張楠賡對(duì)嘉楠未來(lái)3-5年實(shí)現(xiàn)億元級(jí)別的AI營(yíng)收繼續(xù)保持樂(lè)觀，并且預(yù)測(cè)，當(dāng)嘉楠的AI業(yè)務(wù)營(yíng)收達(dá)到500萬(wàn)到1.5億美元的某個(gè)時(shí)點(diǎn)，會(huì)迎來(lái)爆發(fā)點(diǎn)。

　　小結(jié)

　　—

　　AI和AI芯片為什么會(huì)在幾年的火熱之后就涼了？可以說(shuō)是落地進(jìn)展緩慢，更進(jìn)一步來(lái)說(shuō)缺少完整的AI產(chǎn)品，給消費(fèi)者提供良好的體驗(yàn)。作為提升產(chǎn)品體驗(yàn)的關(guān)鍵，芯片算力的提升至關(guān)重要。嘉楠作為率先推出AI芯片，也是最早選擇RISC-V的公司，其產(chǎn)品和技術(shù)的演進(jìn)給我們了解AIoT市場(chǎng)的發(fā)展提供了非常多可參考的信息。

　　從使用公版CPU到選擇自研，從KPU架構(gòu)的升級(jí)，到自研高速接口，可以看到這個(gè)市場(chǎng)在高速增長(zhǎng)，也能看到嘉楠對(duì)于AI市場(chǎng)，以及做一件更大事情的信心。

　　張楠賡說(shuō)：“一個(gè)公司的成功，最核心的是戰(zhàn)略的正確，對(duì)于嘉楠來(lái)說(shuō)堅(jiān)持自主研發(fā)就是戰(zhàn)略，解決別人沒(méi)有解決的事情?！?/p>

　　芯片出貨量已過(guò)億級(jí)，已經(jīng)有300人芯片團(tuán)隊(duì)的嘉楠，保持每?jī)赡甑豢預(yù)I芯片，按照算力高低分為2系、5系、8系滿足終端和邊緣市場(chǎng)需求，針對(duì)場(chǎng)景優(yōu)化的勘智芯片，會(huì)帶給我們什么驚喜？