邊緣計(jì)算在當(dāng)下是最受關(guān)注的技術(shù)趨勢之一。隨著這一趨勢的熱度高漲,也許您認(rèn)為是時(shí)候投資智能邊緣技術(shù),并發(fā)展物聯(lián)網(wǎng)網(wǎng)絡(luò)了。但是,在您決定采購新興邊緣設(shè)備之前,讓我們先討論一下到底何為邊緣計(jì)算、邊緣計(jì)算的作用以及您的應(yīng)用是否能夠受益于邊緣技術(shù)。邊緣計(jì)算可以大幅提升物聯(lián)網(wǎng)網(wǎng)絡(luò)的靈活度、速度和智能化程度,然而邊緣AI設(shè)備并不是應(yīng)對智能網(wǎng)絡(luò)應(yīng)用所有挑戰(zhàn)的靈丹妙藥。在幫助您確定邊緣技術(shù)是否適合您的應(yīng)用之后,本文將探討購買邊緣AI設(shè)備時(shí)應(yīng)注意的主要功能和注意事項(xiàng)。
何為邊緣計(jì)算?
邊緣計(jì)算將物聯(lián)網(wǎng)帶入了另一個(gè)階段。在邊緣處,原始數(shù)據(jù)能夠?qū)崟r(shí)轉(zhuǎn)化為價(jià)值。通過在整個(gè)網(wǎng)絡(luò)中重新分配數(shù)據(jù)處理工作,邊緣計(jì)算使網(wǎng)絡(luò)節(jié)點(diǎn)、端點(diǎn)和其他智能設(shè)備的重要性得以提升、管理得以完善。
邊緣計(jì)算可以說是云計(jì)算的反面。云計(jì)算時(shí),數(shù)據(jù)中心將集中處理從分布式網(wǎng)絡(luò)流入的數(shù)據(jù),并將運(yùn)算結(jié)果傳輸回分布式網(wǎng)絡(luò),以觸發(fā)操作或?qū)崿F(xiàn)更改。然而,遠(yuǎn)距離傳輸大量數(shù)據(jù)需要考慮金錢和時(shí)間成本,以及功率消耗。
這正是邊緣計(jì)算的用武之地:當(dāng)功率、帶寬和網(wǎng)絡(luò)延遲問題至關(guān)重要時(shí),邊緣計(jì)算或是解決之道。應(yīng)用集中式云計(jì)算時(shí),數(shù)據(jù)在得到處理前可能需要傳輸數(shù)百公里,而邊緣計(jì)算可以在抓取、創(chuàng)建或保存數(shù)據(jù)的同一網(wǎng)絡(luò)邊緣位置處理數(shù)據(jù)。這意味著邊緣計(jì)算的處理延遲幾乎可以忽略不計(jì),對功耗和帶寬的要求通常也會(huì)大幅降低。
當(dāng)今邊緣計(jì)算發(fā)展的主要推動(dòng)力之一是半導(dǎo)體制造商,因?yàn)榘雽?dǎo)體的進(jìn)步能夠讓芯片在不大幅增加功耗的情況下提高處理能力。位于邊緣的處理器可以在不消耗更多功率的情況下,對所獲取的數(shù)據(jù)進(jìn)行更多處理。這樣一來,更多的數(shù)據(jù)就可以留在邊緣,而無需傳輸?shù)胶诵?。因此,邊緣?jì)算不僅可以降低系統(tǒng)總功耗,還能縮短響應(yīng)時(shí)間并更好地保護(hù)數(shù)據(jù)隱私。
人工智能(AI)和機(jī)器學(xué)習(xí)(ML)等技術(shù)也受益于邊緣計(jì)算:它們也需要在提高數(shù)據(jù)隱私安全性的同時(shí)降低數(shù)據(jù)獲取成本,而這些都可以通過邊緣處理來解決。傳統(tǒng)上,AI和機(jī)器學(xué)習(xí)等技術(shù)需要海量資源才能運(yùn)行,遠(yuǎn)非端點(diǎn)或智能設(shè)備通??商峁┑牧考?。然而如今,硬件和軟件的進(jìn)步有可能把這些賦能技術(shù)嵌入到網(wǎng)絡(luò)邊緣更小型、資源更受限的設(shè)備中。
評估邊緣AI
在選擇能夠執(zhí)行邊緣處理并運(yùn)行AI算法或機(jī)器學(xué)習(xí)推理引擎的平臺(tái)前,必須進(jìn)行仔細(xì)評估。簡單的傳感器和執(zhí)行器,甚至需要在物聯(lián)網(wǎng)中應(yīng)用的傳感器和執(zhí)行器,都可以通過較小的集成設(shè)備來實(shí)現(xiàn)。提高邊緣執(zhí)行處理量需要一個(gè)更強(qiáng)大的平臺(tái),并應(yīng)用高度并行化的架構(gòu)。這通常意味著需要使用圖形處理器(GPU),但是如果平臺(tái)過于強(qiáng)大,也會(huì)給網(wǎng)絡(luò)邊緣有限的資源帶來負(fù)擔(dān)。
此外,邊緣設(shè)備從根本上來說是現(xiàn)實(shí)世界的一個(gè)接口,因此需要兼容一些如以太網(wǎng)、GPIO、CAN、串行和/或USB等常見接口技術(shù),并支持如攝像頭、鍵盤和顯示器等外圍設(shè)備。
與環(huán)境因素可控的數(shù)據(jù)中心相比,邊緣環(huán)境可能截然不同:邊緣設(shè)備可能會(huì)暴露在極端的溫度、濕度、振動(dòng),甚至高原環(huán)境中。這些因素將影響設(shè)備選擇及其包裝或安裝的方式。
還需考慮的另一重要方面是法規(guī)要求。任何使用射頻(RF)進(jìn)行通信的設(shè)備都會(huì)受到法規(guī)的管制,并且可能需要獲得許可才能使用。某些平臺(tái)能夠“開箱即用”,但其他平臺(tái)可能需要投入更多精力。平臺(tái)一旦投入使用,就不太可能進(jìn)行硬件升級,因此在設(shè)計(jì)平臺(tái)時(shí)就應(yīng)謹(jǐn)慎確定其處理能力、內(nèi)存和存儲(chǔ),為將來的性能提升留出空間。
這其中就包括軟件升級。與硬件不同,軟件更新部署在設(shè)備不在現(xiàn)場的情況下也可實(shí)現(xiàn)。如今,這種無線更新(OTA)方式非常普遍,未來大多邊緣設(shè)備都可能支持OTA更新。
要想選對解決方案,需要仔細(xì)評估以上所有要點(diǎn),并符合應(yīng)用的特定需求。設(shè)備是否需要處理視頻數(shù)據(jù)或音頻?它僅需要監(jiān)測溫度,還是也需要監(jiān)測其他環(huán)境指標(biāo)?它是否需要始終處于開啟狀態(tài),還是會(huì)長時(shí)間休眠?它會(huì)被外部事件觸發(fā)嗎?上述大部分要求適用于部署在邊緣的所有技術(shù),但是隨著客戶對處理水平和產(chǎn)出的期望提高,需求清單也有必要隨之?dāng)U展。
邊緣計(jì)算的優(yōu)勢
從技術(shù)上講,現(xiàn)在AI和機(jī)器學(xué)習(xí)可以被應(yīng)用于邊緣設(shè)備和智能節(jié)點(diǎn)中,這將帶來重大的機(jī)遇。這意味著處理引擎不僅離數(shù)據(jù)源更近,而且可以利用所收集的數(shù)據(jù),開展更多的工作。
邊緣計(jì)算的優(yōu)點(diǎn)著實(shí)不少。首先,它能夠提高其使用數(shù)據(jù)的生產(chǎn)率或效率。其次,由于需要移動(dòng)的數(shù)據(jù)較少,邊緣計(jì)算能夠簡化網(wǎng)絡(luò)架構(gòu)。第三,它使設(shè)備與數(shù)據(jù)中心的鄰近性變得不那么重要。如果數(shù)據(jù)中心位于城市中心并離執(zhí)行任務(wù)的地點(diǎn)很近,那么最后一點(diǎn)似乎無足輕重,但是如果網(wǎng)絡(luò)邊緣位于如農(nóng)場或水處理工廠等遙遠(yuǎn)的地點(diǎn),邊緣計(jì)算就會(huì)帶來很大的不同。
數(shù)據(jù)在互聯(lián)網(wǎng)上飛速移動(dòng)。當(dāng)?shù)弥约旱乃阉鹘Y(jié)果可能繞了地球兩圈才顯示在屏幕上,多數(shù)人可能會(huì)感到驚訝,因?yàn)榭偤臅r(shí)可能只有幾分之一秒,這對我們來說只是彈指瞬間。但是,對組成互聯(lián)、智能且通常是自主的傳感器和執(zhí)行器和其他智能設(shè)備而言,每秒鐘都像一小時(shí)。
這種往返延遲是實(shí)時(shí)系統(tǒng)的制造商和開發(fā)者需要重視的問題。數(shù)據(jù)往返于數(shù)據(jù)中心的耗時(shí)并非無關(guān)緊要,也肯定不是瞬時(shí)的,而縮短延遲就是邊緣計(jì)算的關(guān)鍵目標(biāo)。邊緣計(jì)算能夠與5G等速度更快的網(wǎng)絡(luò)整合。但需要注意的是,隨著越來越多的設(shè)備上線,網(wǎng)絡(luò)提速也將無法解決累積的網(wǎng)絡(luò)延遲問題。
據(jù)預(yù)測,到2030年,可能有多達(dá)500億互聯(lián)設(shè)備在線。如果每一臺(tái)設(shè)備都需要通往數(shù)據(jù)中心的寬帶,網(wǎng)絡(luò)將一直堵塞。如果每臺(tái)設(shè)備的操作都需要等待數(shù)據(jù)從上一階段到達(dá)才能進(jìn)行,總延遲很快就會(huì)變得非常明顯。因此,邊緣計(jì)算是緩解網(wǎng)絡(luò)堵塞的唯一實(shí)用解決方案。
然而,盡管大多數(shù)應(yīng)用都需要邊緣計(jì)算支持,但其優(yōu)勢仍很大程度上取決于應(yīng)用本身。邊緣計(jì)算定律將幫助工程團(tuán)隊(duì)確定邊緣計(jì)算是否適合某些特定應(yīng)用。
邊緣計(jì)算的四大定律
毋庸置疑,第一定律是物理定律。射頻能量的優(yōu)點(diǎn)是它能以光速傳播,就像光纖網(wǎng)絡(luò)中的光子一樣。但缺點(diǎn)是它們無法更快速地傳輸。因此,如果射頻能量的往返時(shí)間仍然較長,邊緣計(jì)算可能更好的選擇。
Ping測試提供了一種簡單的方法來測量數(shù)據(jù)包在兩個(gè)網(wǎng)絡(luò)端點(diǎn)之間傳輸所需的時(shí)間。在線游戲通常托管在多臺(tái)服務(wù)器上,游戲玩家需要對服務(wù)器進(jìn)行ping操作,直至找到延遲最小的服務(wù)器,以實(shí)現(xiàn)最快速的數(shù)據(jù)傳輸。由此可見,即使十分之一秒對于時(shí)間敏感型的數(shù)據(jù)也十分關(guān)鍵。
網(wǎng)絡(luò)延遲不只取決于傳輸機(jī)制。數(shù)據(jù)傳輸?shù)膬啥硕加芯幋a器和解碼器,物理層需要將電子轉(zhuǎn)換為正在使用的某一能量形式,然后再將其轉(zhuǎn)換回去。即使處理器以GHz級的速度運(yùn)行,這一過程也需要時(shí)間,且移動(dòng)的數(shù)據(jù)量越大,所需時(shí)間越長。
第二定律是經(jīng)濟(jì)學(xué)定律。該定律相對更為靈活,但是隨著對處理和存儲(chǔ)資源的需求猛增,其可預(yù)測性也越來越差。利潤本就微薄,如果在云中處理數(shù)據(jù)的成本突然上升,就可能造成虧損。
云服務(wù)的成本包括購買或租用服務(wù)器、機(jī)架或刀片。成本高低可能取決于CPU內(nèi)核數(shù)、所需的RAM或永久存儲(chǔ)量、以及服務(wù)級別。相較于缺乏保障的服務(wù),可以保障正常運(yùn)營時(shí)間所需的服務(wù)成本會(huì)更高。網(wǎng)絡(luò)帶寬基本上是免費(fèi)的,但是如果需要帶寬始終保持某一標(biāo)準(zhǔn),則將需要為此服務(wù)付費(fèi),在評估成本時(shí)需要考慮這一點(diǎn)。
話雖如此,邊緣數(shù)據(jù)處理的成本不會(huì)大幅波動(dòng)。一旦支付了設(shè)備的初始成本,在邊緣處理任何數(shù)量數(shù)據(jù)的額外成本幾乎為零。
數(shù)據(jù)有價(jià)值是由于其攜帶的信息。這就與第三定律有關(guān),即土地定律。現(xiàn)在,任何捕獲信息的人可能都需要遵守捕獲數(shù)據(jù)所在區(qū)域的數(shù)據(jù)隱私法。這意味著即使您是數(shù)據(jù)設(shè)備的合法所有者,可能也不被允許跨地理邊界傳輸該數(shù)據(jù)。
相關(guān)規(guī)定包括歐盟數(shù)據(jù)保護(hù)指令、通用數(shù)據(jù)保護(hù)條例(GDPR)和亞太經(jīng)濟(jì)合作組織隱私框架。加拿大的《個(gè)人信息保護(hù)和電子文件法》符合歐盟的數(shù)據(jù)保護(hù)法,而美國的《安全港安排》也顯示了類似的合規(guī)性。
然而,邊緣處理可以解決這一問題。通過在邊緣處理數(shù)據(jù),數(shù)據(jù)就無需離開設(shè)備。便攜式消費(fèi)設(shè)備的數(shù)據(jù)隱私變得越來越重要。手機(jī)上的面部識(shí)別使用本地AI來處理相機(jī)圖像,因此數(shù)據(jù)永遠(yuǎn)不會(huì)離開設(shè)備。同樣,閉路電視(CCTV)和其他安全監(jiān)視系統(tǒng)使用攝像頭來監(jiān)控公共空間,圖像通常需要經(jīng)過基于云的數(shù)據(jù)服務(wù)器進(jìn)行傳輸與處理,這就帶來了數(shù)據(jù)隱私問題。通過邊緣計(jì)算,數(shù)據(jù)就可在攝像頭端直接處理,更快速安全,并有可能消除或簡化對數(shù)據(jù)隱私措施的需求。
最后,我們要考慮墨菲定律,即如果某些地方可能出錯(cuò),那么它終將出錯(cuò)。當(dāng)然,即使最精心設(shè)計(jì)的系統(tǒng)也總有可能出錯(cuò)。通過網(wǎng)絡(luò)傳輸數(shù)據(jù)、在云端存儲(chǔ)數(shù)據(jù)并在數(shù)據(jù)中心處理數(shù)據(jù)的整個(gè)過程中可能會(huì)出現(xiàn)許多故障,而邊緣處理可以避免冗長過程中可能出現(xiàn)的故障。
提出有關(guān)邊緣計(jì)算的正確問題
即使您的應(yīng)用能夠受益于邊緣處理技術(shù),仍然有一些問題需要加以考量。以下是一些最為相關(guān)的問題:
1.您的應(yīng)用在哪種處理器架構(gòu)上運(yùn)行?將軟件移植到不同的指令集上可能代價(jià)高昂并造成延遲,因此升級并不意味著要使用另一架構(gòu)。
2.您需要哪種I/O?這可以是任何數(shù)量的有線和/或無線接口。日后添加會(huì)導(dǎo)致效率低下,因此需要盡早確定。
3.設(shè)備的運(yùn)行環(huán)境如何?是極熱、極冷還是兩者兼而有之?火星任務(wù)是很好的“邊緣處理”示例,其運(yùn)行環(huán)境十分多變!
4.您的硬件是否需要遵守法規(guī)或經(jīng)過認(rèn)證?答案幾乎是肯定的,因此選擇經(jīng)過預(yù)認(rèn)證的平臺(tái)能夠節(jié)省時(shí)間和成本。
5.設(shè)備需要多大的功率?就單位成本和安裝而言,系統(tǒng)功能非常昂貴,因此了解到底多少算“足夠”非常重要。
6.邊緣設(shè)備是否受制于外形尺寸?與其他許多部署相比,這在邊緣處理中更為重要,因此在設(shè)計(jì)周期的早期就應(yīng)予以考慮。
7.服務(wù)時(shí)長有多久? 設(shè)備將用于可能需要運(yùn)行多年的工業(yè)應(yīng)用,還是以月為單位衡量生命周期?
8.就處理能力而言,系統(tǒng)性能要求是怎樣的? 比如每秒的幀數(shù)?有哪些內(nèi)存要求?應(yīng)用使用什么語言?
9.有成本方面的考量嗎?這是一個(gè)棘手的問題,因?yàn)榇鸢甘强隙ǖ模橇私獬杀鞠拗茣?huì)有助于您做出選擇。
結(jié)論
邊緣處理體現(xiàn)自物聯(lián)網(wǎng),但還不止于此。其驅(qū)動(dòng)力來自于比實(shí)現(xiàn)上述互聯(lián)設(shè)備更高的期望。在基本層面上,設(shè)備可能需要低功耗低成本,但是現(xiàn)在還需要提供更高級別的智能操作,并且不影響功耗和成本。
選對技術(shù)合作伙伴,就能輕松選擇合適的平臺(tái)。凌華科技擁有廣泛的邊緣處理解決方案組合,并與眾多提供互補(bǔ)技術(shù)的公司合作。歡迎加入邊緣計(jì)算開發(fā)生態(tài)系統(tǒng),我們將更好地助力您為AI應(yīng)用選擇合適的邊緣計(jì)算平臺(tái)。