邊緣運算帶動新的市場商機,大量裝置如何管理、人工智能如何導入、安全防護如何實現(xiàn)等,讓市場對硬體有新的需求,但隨著開發(fā)難度上升,許多廠商著手升級開發(fā)工具的完整和便利性,讓開發(fā)者可以專注在自身業(yè)務(wù)的投入,造就了新一波開發(fā)風潮。
邊緣運算的觸角已涵蓋各領(lǐng)域并得到落實,但架構(gòu)從集中式轉(zhuǎn)為多節(jié)點的分散式、邊緣端(如終端和閘道器等)的自主性提升,使得底層的裝置管理更復雜、網(wǎng)路技術(shù)的融合也更重要,而且安全防護的機制需要更加謹慎,因此開發(fā)過程需要考量的內(nèi)容越來越多元,增加開發(fā)的難度。
也因此,越來越多上游廠商積極改善開發(fā)工具的實用和便利性,協(xié)助開發(fā)者專注于自身創(chuàng)新業(yè)務(wù)開發(fā),而非工具的學習。以下分析上游IP廠商ARM、芯片廠商英特爾與云端廠商微軟等在開發(fā)工具和平臺的布局與進展。
ARM從多方切入積極布局邊緣運算,于2017~2018年推出各式相關(guān)IP,并協(xié)助開發(fā)者降低開發(fā)難度。除了三大芯片IP系列產(chǎn)品外,ARM先前已推出ARM Mbed平臺,包括Mbed Cloud和Mbed OS兩大部分,Mbed主要是基于ARM架構(gòu),針對IoT服務(wù)發(fā)展的基礎(chǔ)建設(shè)框架,并搭配自家Cortex-M芯片建立生態(tài)系。Mbed Edge則透過物聯(lián)網(wǎng)閘道器讓使用者能將Mbed Cloud裝置管理功能進一步拓展,如對裝置進行導入、控制與管理等。
Mbed Edge有三大特點:一、通訊協(xié)定轉(zhuǎn)譯:可將非IP協(xié)定的聯(lián)網(wǎng)裝置(如LoRa和Modbus)轉(zhuǎn)譯成IP based,共同在Mbed Cloud進行管理。二、閘道器管理:提高IoT閘道器的復原能力和降低停機時間,并新增如發(fā)送警報、程式、資源、診斷與介面管理。三、進行邊緣運算:使用者可依需求將復雜程度不同的運算資源或演算法置于閘道器中,就算與云端斷線仍能獨立運作。
ARM進行全方面IP擴增
讓物聯(lián)網(wǎng)閘道器具備運算資源有兩大好處,一是閘道器不必從云端接收指令就能做簡單的應(yīng)用與判斷,例如監(jiān)控生產(chǎn)線的壓力值,一旦系統(tǒng)自動判定預設(shè)門檻便會自動關(guān)閉生產(chǎn)線,過程不再需要經(jīng)過云端,二是可節(jié)省網(wǎng)路流量,藉由閘道器或終端自行決定是否要傳送資料或舍棄。
2018年后ARM翻新Mbed Cloud,廠商可利用新版Mbed Cloud部署更有彈性的物聯(lián)網(wǎng)。雖然云端已為多數(shù)廠商採用,仍有廠商受限于安全和法律議題無法跟進,新版Mbed Cloud便是針對此而增加內(nèi)部部署裝置管理,讓Mbed Cloud可支援多個公有、私有、混合云與內(nèi)部部署等環(huán)境,并讓受限裝置得以連網(wǎng)。由于廠商得以使用、管理并整合新設(shè)備和既有設(shè)備,新版Mbed Cloud亦有助邊緣運算的推動。
在邊緣運算的布局上,ARM在2018年推出Project Trillium機器學習運算平臺,以因應(yīng)大量人工智能應(yīng)用導入終端裝置的趨勢。終端裝置在符合大量運算需求時,也要能維持同樣能源效率,該平臺除了提供使用者彈性和擴充性,也將更多人工智能應(yīng)用帶進各類終端裝置。
在安全防護方面,ARM則推出PSA框架,與首款針對物理安全防竄改的處理器ARM Cortex-M35P,搭配如TrustZone、CryptoCell與CryptoIsland等技術(shù)和IP,讓終端裝置在面對網(wǎng)路、軟體與物理等多方面攻擊時,有更強防護能力。
從上述新產(chǎn)品和服務(wù)可以看出,ARM從邊緣端的安全、運算與擴充彈性等各方面升級,積極朝向2035年前達到全球1兆連網(wǎng)設(shè)備的目標前進。2018年5月中ARM與南韓電力廠商KEPCO合作儀表系統(tǒng)升級,利用Mbed Edge讓KEPCO部署各類智能閘道器,連結(jié)電網(wǎng)和公共事業(yè)服務(wù),以及對各種家用電器進行資料即時分析,協(xié)助優(yōu)化能源的使用。
身為全球最重要芯片廠商之一,英特爾積極布局物聯(lián)網(wǎng)、人工智能與邊緣運算相關(guān)策略和產(chǎn)品線。在2018年初CES展,英特爾便推出許多邊緣運算相關(guān)展示,例如與多家廠商合作智能家庭產(chǎn)品,包括京東新一代語音助理京東叮咚PLAY,內(nèi)含英特爾Atom處理器,除了支援語音辨識外,亦可直接從裝置執(zhí)行臉部辨識。
英特爾重視視覺應(yīng)用
此外,英特爾也與宏碁、華碩、惠普與聯(lián)想等PC品牌廠商合作,推出搭載亞馬遜Alexa語音助理的電腦。英特爾參與協(xié)助改善Alexa使用體驗,使其支援語音控制,并透過智能音效強化音訊品質(zhì)和語音喚醒,讓使用者可利用語音指令喚醒電腦。
CES展后,英特爾接著以2017年推出的英特爾Xeon可擴充平臺為基礎(chǔ),推出新型Xeon D-2100系列處理器,將更多運算與智能能力結(jié)合在消費者和商用裝置上(如手機、物聯(lián)網(wǎng)感測器與自駕車等),直接在網(wǎng)路邊緣端搜集資料,并于當下做出回饋。
該處理器將智能功能內(nèi)嵌于功耗更低的系統(tǒng)單芯片,支援各種過往因空間和功耗限制而無法導入智能應(yīng)用的邊緣環(huán)境,如此一來有機會將芯片尺寸縮小,并優(yōu)化邊緣端瞵體裝置的安全、網(wǎng)路、加速與功耗等,未來可因應(yīng)5G、網(wǎng)路虛擬化與串聯(lián)云端資源等應(yīng)用。
在邊緣運算相關(guān)范疇中,英特爾特別著重視覺應(yīng)用技術(shù),近期併購了Nervana、Movidius、MobilEye與Altera。在Computex 2018前,英特爾更針對機器視覺應(yīng)用,開放視覺推論和類神經(jīng)網(wǎng)路工具套件OpenVINO,協(xié)助開發(fā)者快速將邊緣裝置和物聯(lián)網(wǎng)裝置收集到的影像資料,轉(zhuǎn)換成有價值的資訊。
OpenVINO可讓開發(fā)者結(jié)合搭配CPU、GPU、FPGA與VPU等硬體,并搭配套件中三組主要API,分別是Deep Learning Deployment Toolkit(深度學習部署工具)、OpenCV(開源電腦視覺及影像處理工具)與OpenVX(電腦視覺API標準),再利用英特爾旗下深度學習編譯器nGraph做開發(fā)。該開發(fā)套件亦與市場間主流框架如TensorFlow、MXNet與Caffe等相容,讓開發(fā)者得以更多元工具進行開發(fā)。
目前該開發(fā)套件已與工業(yè)電腦廠商凌華合作辨識條碼,來追蹤產(chǎn)品,亦與神基ALPR系統(tǒng)合作開發(fā)自動擷取車牌影像,并與威聯(lián)通和威強電合作進行醫(yī)療影像收集,利用影像強化AI推論能力,協(xié)助診治老年性黃斑部病變。
微軟提升研發(fā)便利性
微軟近年積極發(fā)展邊緣運算,微軟執(zhí)行長于2018年開發(fā)者大會上表示英特爾ligent Cloud和英特爾ligent Edge時代已來臨,將大力投入AI技術(shù)、產(chǎn)品與服務(wù)開發(fā),并以社會公益角度出發(fā),除了之前啟動的AI for Earth,另一個針對殘疾人士AI for Accessibility的5年計畫也跟著開啟,預計將投入2,500萬美元。
微軟最初以物聯(lián)網(wǎng)相關(guān)業(yè)務(wù)切入,推出Azure IoT套件,協(xié)助廠商做IoT業(yè)務(wù)轉(zhuǎn)型,其中,與邊緣運算較有關(guān)系的為Azure IoT Hub和2017年推出的Azure IoT Edge。Azure IoT Hub主要處理云端和裝置間的溝通,包括通訊模式和協(xié)定支援、裝置安全性與裝置狀態(tài)監(jiān)控,Azure IoT Edge則是導入在Azure IoT Hub之前,主要是將云端分析結(jié)果或自定義邏輯演算置入裝置中,讓裝置不再只是收集資料或資料管理的管道,而是可確實將AI應(yīng)用落地的解決方案。
微軟對英特爾ligent Edge的認知在于,未來智能裝置并不需時刻處于連網(wǎng)狀態(tài),就能讓使用者觀看、傾聽、理解與進行預測,亦即智能裝置需擁有更多運算和自行處理的能力。
微軟也于2018年升級Azure IoT Edge,若從開發(fā)端來看,首先是將Azure IoT Edge進行開源,讓客戶可自行修改Edge端應(yīng)用,提高掌控度,第二為既有Azure認知服務(wù)中的Custom Vision服務(wù),已得以部署至Azure IoT Edge中,讓無人機和工業(yè)設(shè)備等邊緣端裝置不需連網(wǎng)就能進行關(guān)鍵決策。預計未來微軟將會在Azure IoT Edge上開放更多認知服務(wù)。
第三便是容器化解決方案的簡化,微軟的Azure Kubernetes Service(AKS)大幅整合開發(fā)工具、工作空間、DevOps功能、網(wǎng)路與監(jiān)控工具等功能,讓開發(fā)者可專注于開發(fā)而非工具的學習和轉(zhuǎn)換,也讓開發(fā)者能迅速上手Kubernetes,微軟預計也會讓Azure IoT Edge設(shè)備支援Kubernetes服務(wù),從微軟對AKS的重視,也可看出Kubernetes對開發(fā)者社群的重要性日增。
由上述微軟各項發(fā)展可知,從Azure IoT Edge進行業(yè)務(wù)擴展和生態(tài)圈布建已是未來策略主軸,除了簡化與強化Edge端的開發(fā)過程和功能外,也會將既有的認知服務(wù)逐步與Azure IoT Edge結(jié)合,讓人工智能得以在邊緣端落實,達到英特爾ligent Edge目標。
隨著運算能力提升加上人工智能導入,邊緣端將能實現(xiàn)更多智能化和自動化的應(yīng)用,其中視覺應(yīng)用將會成為邊緣運算主流之一,例如物件辨識、人臉辨識、行為辨識、即時偵錯與即時警示等,都會開始應(yīng)用于各場域中,涵蓋制造業(yè)、智能城市、自駕車、智能家庭與智能零售等,成為邊緣運算興起的第一波亮點。
邊緣運算不同于過往連上云端時,需時時保持連網(wǎng)狀態(tài),加上邊緣端的運算和執(zhí)行能力提升,可以加入更多安全防護措施,但邊緣運算將云端架構(gòu)分層處理,在數(shù)據(jù)的篩選、傳遞、儲存與應(yīng)用上差異極大,整體架構(gòu)將更復雜,便利性高的開發(fā)工具將日漸增加。(本文作者為拓墣產(chǎn)業(yè)研究院研究員劉耕睿)。