人工智能芯片的應(yīng)用場景細(xì)分市場越來越多,隨著人臉識別等應(yīng)用的普及與發(fā)展,專門為AI應(yīng)用定制的芯片開始逐漸替代傳統(tǒng)的通用芯片。這樣的形勢,給一些人工智能芯片的初創(chuàng)公司帶來了機會。這也使得各大AI算法公司紛紛推出自己的專用定制芯片。
從技術(shù)架構(gòu)來看,目前人工智能芯片主要可分為通用性芯片(比如常用的GPU)、半定制化芯片(FPGA)、全定制化芯片(ASIC)、類腦芯片四大類。
在全球范圍內(nèi),AI芯片早已成為各行業(yè)巨頭最為重視的戰(zhàn)略高地。Google很早就推出了自研的TPU;Nvidia在AI領(lǐng)域也是深耕多年,并且在云端AI芯片、汽車自動駕駛領(lǐng)域占據(jù)了很大的市場;2017年,Intel以150多億美金收購了ADAS/自動駕駛AI芯片及解決方案廠商Mobileye,此外還收購了AI芯片公司Movidius;Facebook也有在芯片方向布局;不久前,Tesla也推出了自己的自動駕駛AI芯片。
而在國內(nèi),如百度在2018年就發(fā)布了云端AI芯片“昆侖”;阿里去年也收購了中天微,并且還成立了平頭哥半導(dǎo)體公司;同時,在去年,眾多的語音AI算法廠商(如云知聲、Rokid、思必馳等)及視覺AI算法廠商(如地平線、云天勵飛等)也都紛紛推出了自己的AI芯片。
顯然,AI算法廠商推出自有的AI芯片,加速自身AI技術(shù)能夠更好更快的落地,已經(jīng)成為了一大趨勢。
摩爾定律終結(jié),算法即芯片開啟新時代
2019年5月9日,依圖科技在上海舉行“極智·求索——依圖科技產(chǎn)品發(fā)布會”,并在會上發(fā)布了自研云端視覺推理AI芯片questcore?,以及基于該芯片構(gòu)建的軟硬件一體化系列產(chǎn)品和行業(yè)解決方案。
官方宣稱,questcore?是目前全球最智能、性價比最高的視覺推理芯片。這款A(yù)I芯片是由依圖科技和AI芯片初創(chuàng)團隊ThinkForce聯(lián)合開發(fā)的。
而需要指出的是,ThinkForce則是依圖科技投資的一家AI芯片公司。2017年ThinkForce曾獲得依圖科技、云鋒基金、紅杉資本、高瓴資本的4.5億元A輪融資。
依圖科技聯(lián)合創(chuàng)始人、CEO 朱瓏博士現(xiàn)場分享了他對 AI 芯片的看法。在演講中,朱瓏博士表示,依圖預(yù)見,摩爾定律的終結(jié)和人工智能技術(shù)的發(fā)展將開啟一個新的時代——算法即芯片時代?!八惴葱酒@句話非常本質(zhì),只有能找對問題,找對場景,用對算法,并為此定制芯片,才有可能做到極致性價比。”
早在2017年,ThinkForce就宣布要發(fā)布AI芯片,不過從研發(fā)設(shè)計到流片及最終量產(chǎn)需要花費大量的時間進(jìn)行產(chǎn)品驗證。
盡管早在2018年就有數(shù)據(jù)AI算法公司發(fā)布了芯片,但是呂昊認(rèn)為,2018年發(fā)布的產(chǎn)品大部分以PPT為主,并沒有實現(xiàn)量產(chǎn)商用,也沒有經(jīng)過市場驗證。相對2018年,2019年才是AI芯片的交卷的一年?!拔覀?月的發(fā)布是直接商用,畢竟我們不是一個傳統(tǒng)做芯片廠商,不是為了賣這顆芯片為目的來做這件事情?!眳侮槐硎荆瑥臅r間點來看,此次發(fā)布的AI芯片并不晚于任何一家同行公司。
依圖科技還在現(xiàn)場向業(yè)界展示了其技術(shù)前瞻性和垂直整合的能力,成為眾多明星初創(chuàng)企業(yè)中,率先將基礎(chǔ)算力和高端算法等核心實力同時握于手中的人工智能公司。
依圖questcore:性能強大、高能效、高性價比
據(jù)介紹,依圖questcore?采用16nm工藝,基于Arm內(nèi)核 ThinkForce自主研發(fā)的微內(nèi)核ManyCore架構(gòu),同時還針對依圖領(lǐng)先的AI算法做了專門優(yōu)化,能夠充分發(fā)揮依圖在機器視覺領(lǐng)域的專業(yè)積累和行業(yè)知識,適用于人臉識別、視頻結(jié)構(gòu)化分析、行人再識別等多種圖像和視頻實時智能分析任務(wù)。
在實際的云端應(yīng)用場景,依圖 questcore? 最高能提供每秒15 TOPS的視覺推理性能,可以支持64路全高清實時解碼。最大功耗僅20W,比一個普通的電燈泡還小。在同等功耗下,依圖questcore?產(chǎn)品的視覺推理性能是市面現(xiàn)有主流同類產(chǎn)品的2~5倍。
不過,目前這款A(yù)I芯片并不對外,主要是依圖自用,將主要用在依圖的云端和邊緣服務(wù)器上,結(jié)合產(chǎn)品和行業(yè)解決方案一起售賣。雖然是自用,但由于依圖的應(yīng)用場景很廣泛,因此足以支撐起其產(chǎn)品升級。另據(jù)透露,依圖下一代的AI芯片目前也已經(jīng)在研發(fā)當(dāng)中。
此外,依圖還推出了基于questcore? 打造的原子服務(wù)器。根據(jù)官方的數(shù)據(jù)顯示,一臺依圖原子服務(wù)器提供的算力與 8 張英偉達(dá)P4卡服務(wù)器相當(dāng),而體積僅為后者的一半,但功耗卻不到20%。
在進(jìn)行視頻解析時,1臺依圖原子服務(wù)器(搭載4核 questcore?芯片,除此之外無需其他配置),與8卡英偉達(dá)T4服務(wù)器(含雙核英特爾 x86 CPU)對比,單路視頻解析功耗僅為后者的 20%,與8卡英偉達(dá)P4 服務(wù)器(同樣含雙核英特爾 x86 CPU)相比,功耗約為后者的10%。
在發(fā)布會現(xiàn)場的插電演示中,依圖科技首席創(chuàng)新官呂昊博士手持一臺體積與15 英寸蘋果 MacBook Pro筆記本相當(dāng)?shù)囊缊D原子服務(wù)器,成功帶動200路攝像頭同時完成實時智能視頻分析任務(wù),引發(fā)在場嘉賓強烈反響。
在智慧城市、安防、無人零售等領(lǐng)域,需要解決大量的視頻分析。呂昊表示,這顆AI芯片定位為一顆云端芯片,主要應(yīng)用于視頻解析等任務(wù)。現(xiàn)場演示表明,單條主干道或者一整個小型園區(qū)所需的智能終端設(shè)備,只需要這樣小小一臺單手可持的服務(wù)器便能驅(qū)動,為智慧城市、智慧交通、智能安防、智能零售等大規(guī)模AI行業(yè)應(yīng)用的落地和普及奠定了堅實的基礎(chǔ)。
當(dāng)然,對于客戶來說,數(shù)據(jù)中心的成本也是至關(guān)重要的需要考量的因素。依圖表示,數(shù)據(jù)中心應(yīng)該讓客戶“建得起、用得省、算得準(zhǔn)”,使用依圖 questcore?構(gòu)建的視頻解析系統(tǒng),可將原本需要 16 臺機柜的方案壓縮到 1 臺,使整體建設(shè)費用投入減少 50%,運維成本降低 80%。
不僅如此,依圖原子服務(wù)器能夠直接在云端升級系統(tǒng),不需要大規(guī)模購買或者更新已有的攝像頭、傳感器等終端設(shè)備,大幅提高了現(xiàn)有基礎(chǔ)設(shè)施的利用率。
替代英偉達(dá)P4,未來將挑戰(zhàn)50萬路應(yīng)用
以“城市大腦”應(yīng)用為例,如果采用傳統(tǒng)的英偉達(dá)的P4方案,成本高昂(2000美金),不是所有企業(yè)都可以負(fù)擔(dān)。采用AI芯片后,一萬路的解決方案不再需要超大的數(shù)據(jù)中心來進(jìn)行處理,同時可以挑戰(zhàn)更大型的50萬路方案。采用這款A(yù)I芯片,將為依圖的服務(wù)器節(jié)省1/3的體積和能耗,同時讓依圖的產(chǎn)品解決方案發(fā)生巨大變化。
依圖強調(diào),由于這款A(yù)I芯片是自用,所以目前并沒有對標(biāo)的同類的產(chǎn)品。不過將取代之前自己采用的英偉達(dá)P4、T4方案。
呂昊表示,如果說硬要比較的話,前段時間特斯拉推出的AI芯片F(xiàn)SD在設(shè)計上有很多相似之處,雖然具體應(yīng)用不同,但都專注于視頻解析能力的提升。 因此依圖的這顆AI芯片同樣也適用于智能駕駛應(yīng)用。
中國獨角獸公司有何底氣挑戰(zhàn)Nvidia等AI芯片巨頭?
作為一家AI芯片公司,其競爭對手往往是半導(dǎo)體行業(yè)的傳統(tǒng)巨頭,比如英特爾、英偉達(dá)這樣的公司。在芯片的制造工藝、設(shè)計等各方面人才儲備是有絕對優(yōu)勢的。不過這并不表示初創(chuàng)公司就沒有機會了,因為初創(chuàng)公司針對的應(yīng)用市場往往比較單一,不需要提供復(fù)雜的芯片設(shè)計來適應(yīng)通用市場。
呂昊認(rèn)為,AI時代來臨的一個機會是摩爾定律難以繼續(xù)下去了。單位面積晶體管數(shù)量的提升終將觸及物理極限。與此同時,智能算法的性能仍在萬倍增長,以依圖自主研發(fā)的人臉識別算法為例,過去4年算法精度提升了100萬倍。
人工智能的提升不能再依靠晶體管密度的提升,而需要對芯片設(shè)計、整個體系結(jié)構(gòu)做調(diào)整。同時算法的調(diào)整、上層應(yīng)用、軟件的設(shè)計業(yè)至關(guān)重要。因此,在此次5月9日的發(fā)布會上,依圖提出了“算法即芯片”的戰(zhàn)略。
“我們非常相信垂直整合之后能夠給我們帶來突破,這個是我們和傳統(tǒng)芯片廠商最大的區(qū)別?!?呂昊認(rèn)為,AI時代算法和芯片需要強耦合才能夠在這樣一個比較復(fù)雜的設(shè)計空間里面找到一個更有競爭力的設(shè)計。
對于依圖這樣一直深耕算法的公司來說,“算法級芯片”代表算法公司有很大的優(yōu)勢。在同類算法公司中,依圖的人臉識別算法的精度是其他廠商的100倍以上。除了視頻算法以外也有做語音算法,語義理解算法也登上了最近的《Nature Medicine》雜志。此外,依圖對行業(yè)具體應(yīng)用場景的應(yīng)用如安防、醫(yī)療也投入巨大,這也讓依圖選擇自己研發(fā)芯片有了底氣。
依圖的另一個優(yōu)勢是對未來算法發(fā)展趨勢的預(yù)判,呂昊表示依圖與ThinkForce在一起研究迭代了非常長的時間、做了非常多的實驗。對很多算法是有一個比較深的判斷,尤其是視覺推理。通過實踐,“我們很早在自己的模型上知道了低精度的INT8的設(shè)計是云端推理芯片一個必然的趨勢。這不是所有廠商都能判斷對的?!?/p>
由于對算法的精準(zhǔn)預(yù)判,依圖得以通過ASIC提前固化一些算法,以應(yīng)對AI算法的不斷提升以及變化。最后,通過AI芯片能夠在更小的設(shè)備和更好的功耗上完成更高的智能密度,有機會與傳統(tǒng)芯片廠商在同一起跑線競爭,甚至實現(xiàn)彎道超車。
隨著云端AI芯片及一系列產(chǎn)品的發(fā)布,從技術(shù)維度,依圖已具備視覺、語音、自然語言理解和智能決策等多個技術(shù)領(lǐng)域達(dá)到甚至領(lǐng)跑世界領(lǐng)先水平,全面解決機器看、聽、理解的根本問題,同時致力于提升算法精度、拓寬算法廣度。
從業(yè)務(wù)應(yīng)用維度,芯片及系列硬件產(chǎn)品的發(fā)布將強化依圖行業(yè)垂直整合的布局,通過世界級的算法、芯片、服務(wù)器和管理軟件,構(gòu)建更高性能、更低成本的芯片和硬件產(chǎn)品,讓算法對芯片的全面賦能,更將驅(qū)動人工智能在更多場景下的應(yīng)用和落地。
AI算法的未來,精度繼續(xù)提升的意義在哪里?
依圖科技首席創(chuàng)新官呂昊也在會后第一時間接受了芯智訊記者采訪,并詳細(xì)介紹了依圖科技的“算法即芯片”戰(zhàn)略。
提到未來趨勢,呂昊表示AI算法精度一定會繼續(xù)不斷的提升。那么算法識別率從99%提升到99.9%的意義是什么呢?呂昊認(rèn)為,以人臉解鎖為例,人臉的算法精度不斷提升就能不斷解鎖應(yīng)用場景。
比如簡單的1:1人證核驗,對精度要求不高,因此很多廠商都免費了。往上一步,門禁、閘機、園區(qū)方案可能對算法要求更高。比如說去年整個華為園區(qū)都是用依圖的門禁閘機系統(tǒng)。
再往上的應(yīng)用包括地鐵刷臉、刷臉支付,現(xiàn)在很多刷臉支付場景都需要你輸入手機號碼,這個體驗上就比較差,站在你后面的人就能看到前面的人的手機號,就不那么的智能。要想突破這些場景下的應(yīng)用就必須要有精度非常高的人臉識別。
這些應(yīng)用再提升到城市級別的大規(guī)模應(yīng)用,比如公安視頻監(jiān)控、反恐等,對于算法的精度要求就更高了。所以算法精度不斷地提升是有非常大意義的。就是低于某個線的性能的算法幾乎就不值錢,只有到你這個是市場上有你的稀缺性的時候才能體現(xiàn)出你的價值?!斑@個是為什么依圖這么專注地不斷提高自己算法精度的一個根本原因,并不是為了炫酷、秀肌肉?!眳侮槐硎尽?/p>
依圖大事記
上海依圖網(wǎng)絡(luò)科技有限公司成立于2012年9月,由朱瓏、林晨曦共同創(chuàng)立。
依圖科技人工智能技術(shù)的應(yīng)用領(lǐng)域包括:智能安防、依圖醫(yī)療、智慧金融、智慧城市、智能硬件等。
2017年7月,依圖科技在由美國國家標(biāo)準(zhǔn)技術(shù)局(NIST)主辦的全球人臉識別測試(FRVT)中奪得第一,成績在千萬分之一誤報下達(dá)到識別準(zhǔn)確率95.5%,是當(dāng)時全球工業(yè)界在此項指標(biāo)下的最好水平。根據(jù)2018年6月的官方報告,依圖已將這一指標(biāo)提升到了接近極限的水平,即在千萬分之一誤報下的識別準(zhǔn)確率已經(jīng)接近 99%。
2018年6月依圖科技完成由高成資本、工銀國際、浦銀國際的2億美元C 輪融資。
2018年7月16日,依圖科技完成興業(yè)國信資管1億美元融資。
2019年5月9日,依圖科技在上海舉行“極智·求索——依圖科技產(chǎn)品發(fā)布會”,并在會上發(fā)布了自研云端視覺推理AI芯片questcore?,以及基于該芯片構(gòu)建的軟硬件一體化系列產(chǎn)品和行業(yè)解決方案。