一文讀懂邊緣計算(Edge ML)!

一文讀懂邊緣計算(Edge ML)!隨著物聯(lián)網(wǎng)(IoT)的發(fā)展,云網(wǎng)絡(luò)負擔過重,企業(yè)忽視了安全等關(guān)鍵的云計算問題。所有這些問題的解決方案是在本地設(shè)備“Edge ML”上運行機器學(xué)習(xí)模型。邊緣計算是一種允許智能設(shè)備利用機器和深度學(xué)習(xí)算法在本地分析數(shù)據(jù)的技術(shù),從而減少對云網(wǎng)絡(luò)的依賴。本文將重點了解邊緣計算的工作原理和功能。

首先,先來了解物聯(lián)網(wǎng)(IoT) 的概念及其對邊緣計算的影響。

一、什么是物聯(lián)網(wǎng)?物聯(lián)網(wǎng)(IoT)是一種物理項目網(wǎng)絡(luò),其使用預(yù)定義的協(xié)議和信息傳感設(shè)備將一切連接到互聯(lián)網(wǎng)。該設(shè)備通過信息共享和通信,實現(xiàn)智能識別、定位、跟蹤、監(jiān)控和管理?;ヂ?lián)網(wǎng)不再只是計算機網(wǎng)絡(luò);其已經(jīng)演變成一個由各種形狀和大小的設(shè)備組成的網(wǎng)絡(luò),包括車輛、智能手機、家用電器、玩具、相機、醫(yī)療儀器和工業(yè)系統(tǒng)、動物、人和建筑物,所有的設(shè)備都相互連接,所有的通信和共享信息都基于預(yù)定義的協(xié)議,以實現(xiàn)智能重組、定位、追蹤、安全可控,甚至個人實時在線監(jiān)控、在線升級和推進。物聯(lián)網(wǎng)(IoT)是一個概念和范式,其考慮了環(huán)境中普遍存在的各種對象,這些對象可以通過無線和有線連接和獨特的解決方案,相互交互并與其他對象協(xié)作,以創(chuàng)建新服務(wù)并實現(xiàn)共同目標。二、什么是邊緣計算?邊緣計算作為一種云計算擴展出現(xiàn),使云服務(wù)更接近最終用戶。邊緣計算提供虛擬計算平臺,這些平臺提供通常位于網(wǎng)絡(luò)邊緣的處理、存儲和網(wǎng)絡(luò)功能。邊緣服務(wù)器是向終端設(shè)備提供服務(wù)的設(shè)備,可以是IoT網(wǎng)關(guān)、路由器和移動網(wǎng)絡(luò)基站、汽車或其他位置的小型數(shù)據(jù)中心。邊緣設(shè)備是向邊緣服務(wù)器請求服務(wù)的終端設(shè)備,如手機、物聯(lián)網(wǎng)設(shè)備和嵌入式設(shè)備。邊緣計算與人工智能的結(jié)合為基于人工智能的應(yīng)用程序的主要問題提供了可能的答案。這種新的智能模式被稱為邊緣智能。邊緣智能是指在靠近數(shù)據(jù)收集地點的地方,由數(shù)據(jù)收集、緩存、處理和分析的系統(tǒng)和設(shè)備組成的網(wǎng)絡(luò),目的是提高數(shù)據(jù)質(zhì)量和速度,同時保護數(shù)據(jù)隱私和安全。傳統(tǒng)的云端智能需要終端設(shè)備將創(chuàng)建或收集的數(shù)據(jù)上傳到遠程云端上,而邊緣智能則在本地處理和分析數(shù)據(jù),有效保護用戶隱私,減少反應(yīng)時間,節(jié)約帶寬資源。何時使用邊緣計算因此,有效地處理、存儲和處理數(shù)據(jù)變得更加重要??焖儆行У靥幚頂?shù)據(jù)尤其重要,以最大限度地減少安全隱患,加快企業(yè)流程。邊緣計算試圖優(yōu)化web應(yīng)用程序和互聯(lián)網(wǎng)設(shè)備,同時減少帶寬利用率和通信延遲。例如,石油和天然氣裝置通常位于偏遠地區(qū)。邊緣計算通過使處理更接近資產(chǎn)來實現(xiàn)實時分析,從而減少對集中云的高質(zhì)量連接的依賴。三、邊緣計算是如何工作的?邊緣計算背后的目標是讓模型存在于網(wǎng)絡(luò)邊緣的設(shè)備上。然后,ML算法在設(shè)備上本地執(zhí)行,無需互聯(lián)網(wǎng)連接來分析數(shù)據(jù)并產(chǎn)生可用結(jié)果。整個過程可以分為四個主要部分。

?邊緣緩存

邊緣緩存是一種分布式數(shù)據(jù)系統(tǒng),將邊緣設(shè)備及其周圍環(huán)境產(chǎn)生的數(shù)據(jù)以及從互聯(lián)網(wǎng)接收到的數(shù)據(jù),進行收集和存儲,以支持邊緣用戶的智能應(yīng)用。在邊緣,數(shù)據(jù)是分散的。邊緣設(shè)備,如監(jiān)控設(shè)備和傳感器,收集環(huán)境數(shù)據(jù)。這些數(shù)據(jù)被保存在適當?shù)奈恢茫⑼ㄟ^智能算法進行處理和分析,為最終用戶提供服務(wù)。緩存基于請求冗余。在邊緣緩存中,獲取的數(shù)據(jù)被輸入到智能應(yīng)用程序中,結(jié)果被傳輸回數(shù)據(jù)存儲的位置。冗余分為類型冗余、數(shù)據(jù)冗余和計算冗余。數(shù)據(jù)冗余是指智能應(yīng)用程序的輸入可能是相同的,也可能是部分相同的??紤]到連續(xù)的移動視覺分析,連續(xù)幀之間有很多可比較的像素。一些資源有限的邊緣設(shè)備可能需要將捕獲的視頻傳輸?shù)竭吘壏?wù)器進行額外的處理。在使用緩存時,邊緣設(shè)備只需要上傳各種像素或幀。邊緣設(shè)備可能會重復(fù)使用重復(fù)段的結(jié)果,以盡量減少過度處理。計算冗余是指智能應(yīng)用所需要的計算任務(wù)可能是相同的。例如,邊緣服務(wù)器向邊緣設(shè)備提供圖像識別服務(wù)。來自同一環(huán)境的識別任務(wù)可能是相同的,例如,來自同一位置的不同用戶的物體識別任務(wù)。邊緣服務(wù)器可以立即將之前獲得的識別結(jié)果反饋給用戶。緩存可以存儲在三個位置:宏觀和微觀基站,以及邊緣設(shè)備。有兩種類型的材料被稱為流行文件和智能模型。宏基站通常用作邊緣智能中的邊緣服務(wù)器,提供存儲數(shù)據(jù)的智能服務(wù)。緩存的交付有兩種方式,一種是從單個基站交付,另一種是基于多個基站之間的協(xié)作從多個基站交付。此外,還仔細研究了緩存的理想內(nèi)容,即基于數(shù)據(jù)冗余的內(nèi)容和基于計算冗余的內(nèi)容。與宏觀和微觀基站相比,邊緣設(shè)備往往擁有更少的資源和更大的移動性。由于宏BSs、微BSs和邊緣設(shè)備的存儲容量有限,必須解決內(nèi)容替換問題。

?邊緣訓(xùn)練邊緣訓(xùn)練是一個分布式學(xué)習(xí)過程,使用存儲在邊緣的訓(xùn)練集學(xué)習(xí)所有權(quán)重和偏差的最佳值,以及隱藏的模式。邊緣訓(xùn)練,與傳統(tǒng)的在強大的服務(wù)器或計算集群上進行集中訓(xùn)練的方法不同,通常發(fā)生在邊緣服務(wù)器或邊緣設(shè)備上,其通常沒有集中式服務(wù)器或計算集群那么強大。該設(shè)備可以通過兩種方式進行訓(xùn)練:單獨訓(xùn)練和協(xié)作訓(xùn)練。單獨訓(xùn)練是在一個設(shè)備上完成的,沒有其他人的幫助,而協(xié)作訓(xùn)練是指許多設(shè)備一起工作,訓(xùn)練一個共享的算法。由于單獨訓(xùn)練需要更多的硬件,而這些硬件有時是不可獲得的,現(xiàn)有的大多數(shù)材料都集中在協(xié)同訓(xùn)練設(shè)計上。邊緣訓(xùn)練比集中式訓(xùn)練模式慢得多,在集中式訓(xùn)練模式中,強大的CPU和GPU可以確保以最短的訓(xùn)練周期獲得良好的結(jié)果。一些研究人員對加速邊緣訓(xùn)練感興趣。根據(jù)訓(xùn)練體系結(jié)構(gòu),將訓(xùn)練加速工作分為單獨訓(xùn)練加速和協(xié)作訓(xùn)練加速兩類。單機訓(xùn)練是一個封閉系統(tǒng),在單個設(shè)備上通過迭代計算獲得最優(yōu)參數(shù)或模式。另一方面,協(xié)作訓(xùn)練是基于多個設(shè)備的協(xié)作,這些設(shè)備需要定期聯(lián)系以更新。更新的頻率和更新的成本是影響溝通效率和培訓(xùn)成功的兩個因素。該領(lǐng)域的研究主要關(guān)注如何在降低更新頻率和成本的情況下保持模型/算法性能。此外,協(xié)作訓(xùn)練的開放性使其容易受到惡意用戶的攻擊。還有一些關(guān)于隱私和安全問題的文獻。

?邊緣推理邊緣推理是在前向傳遞中使用學(xué)習(xí)算法,來計算邊緣設(shè)備和服務(wù)器上的輸出的階段。目前,大多數(shù)AI模型都打算部署在具有強大CPU和GPU的設(shè)備上,然而,這在邊緣設(shè)置中是不可行的。通過發(fā)明新的算法來減少硬件需求并自然適合邊緣設(shè)置,或者通過壓縮現(xiàn)有的模型來消除推斷過程中的多余操作,使模型適合于邊緣環(huán)境。在構(gòu)建新方法的情況下,有兩種方法:允許計算機構(gòu)建最優(yōu)模型,即架構(gòu)搜索,以及使用深度可分離卷積和組卷積的人類發(fā)明的架構(gòu)。目前的模型被壓縮以進行模型壓縮,以創(chuàng)建更薄和更小的模型,這些模型具有更高的計算和能源效率,并且精度損失很低或沒有損失。模型壓縮技術(shù)包括低秩逼近、知識蒸餾、壓縮層設(shè)計、網(wǎng)絡(luò)剪枝和參數(shù)量化。

?邊緣卸載邊緣卸載是一種分布式計算范式,可在邊緣提供緩存、訓(xùn)練和推理等計算功能。如果單個邊緣設(shè)備缺乏支持某個邊緣智能應(yīng)用程序的能力,則應(yīng)用程序職責可能會被轉(zhuǎn)移到邊緣服務(wù)器或其他邊緣設(shè)備。邊緣卸載層透明地向其他三個邊緣智能組件提供計算服務(wù)。卸載策略在邊緣卸載中至關(guān)重要,因為其要最大限度地利用邊緣環(huán)境中的可用資源。云服務(wù)器、邊緣服務(wù)器和邊緣設(shè)備包含可用的計算機資源。設(shè)備到云(D2C)卸載、設(shè)備到邊緣服務(wù)器(D2E)卸載、設(shè)備到設(shè)備(D2D)卸載和混合卸載是最常用的技術(shù)。D2C卸載技術(shù)選擇將預(yù)處理操作留在邊緣設(shè)備上,并將剩余的作業(yè)卸載到云服務(wù)器,這可能會大大減少上傳數(shù)據(jù)的數(shù)量和延遲。D2E卸載方法采用了類似的程序,可以進一步減少延遲和對蜂窩網(wǎng)絡(luò)的依賴。專注于D2D卸載方法中的智能家居場景,其中物聯(lián)網(wǎng)小工具、可穿戴設(shè)備和智能手機,協(xié)作執(zhí)行訓(xùn)練/推理任務(wù)。混合卸載解決方案提供了最大的適應(yīng)性,充分利用所有可用資源。

邊緣計算的應(yīng)用邊緣計算正被用于各個領(lǐng)域,其在本地或網(wǎng)絡(luò)邊緣收集、處理、過濾和分析數(shù)據(jù)。邊緣計算用于以下領(lǐng)域:

(1)醫(yī)療保健邊緣計算可以通過利用機器學(xué)習(xí)和自動化來幫助數(shù)據(jù)訪問。其有助于識別需要醫(yī)生快速關(guān)注的有問題的數(shù)據(jù),以改善患者護理并消除健康事件。病人的慢性疾病可以通過健康監(jiān)測器和其他可穿戴醫(yī)療設(shè)備進行監(jiān)測。其有可能在需要援助時立即通知護理人員,從而挽救生命。此外,手術(shù)機器人必須能夠立即解釋數(shù)據(jù),以便安全、及時、準確地提供幫助。如果這些設(shè)備依賴于在做出判斷之前,將數(shù)據(jù)發(fā)送到云端,后果可能是災(zāi)難性的。

(2)建設(shè)邊緣計算主要用于建筑行業(yè)的工人安全,從安全設(shè)備、攝像頭、傳感器等收集和分析數(shù)據(jù)。其為組織提供了工作場所安全條件的概述,并保證人員遵守安全法規(guī)。

(3)廣告零售企業(yè)的有針對性的營銷和信息,取決于現(xiàn)場設(shè)備中指定的關(guān)鍵因素,如人口統(tǒng)計信息。在這種情況下,邊緣計算可以幫助保護用戶隱私。其可能會對數(shù)據(jù)進行加密并維護數(shù)據(jù)源,而不是將未受保護的數(shù)據(jù)傳輸?shù)皆贫恕?/p>

(4)制造業(yè)在制造業(yè)中,邊緣計算被用于監(jiān)控工業(yè)過程,并使用機器學(xué)習(xí)和實時分析來提高產(chǎn)品質(zhì)量和檢測生產(chǎn)錯誤。其還鼓勵將環(huán)境傳感器納入制造業(yè)務(wù)。邊緣計算還提供有關(guān)庫存組件及其使用壽命的信息,使生產(chǎn)商能夠?qū)\營和設(shè)施做出更準確和及時的業(yè)務(wù)選擇。

(5)農(nóng)業(yè)邊緣計算用于農(nóng)業(yè)傳感器,以測量養(yǎng)分密度和耗水量,并改善收成。傳感器會收集環(huán)境、溫度和土壤變量的數(shù)據(jù),審查它們的影響,以提高農(nóng)業(yè)生產(chǎn)力和保證在最有利的氣候條件下進行收獲。

(6)天然氣和石油邊緣計算可用于監(jiān)測天然氣和石油設(shè)施的安全性。傳感器持續(xù)測量濕度和壓力。為了快速響應(yīng),需要有足夠的網(wǎng)絡(luò)連接。問題是,這些設(shè)施中的大多數(shù)都位于距離較遠、聯(lián)系有限的地方。因此,將邊緣計算置于此類系統(tǒng)處或附近,可提供增強的連接和持續(xù)監(jiān)控能力。邊緣計算還可以實時檢測設(shè)備問題。這些傳感器可以監(jiān)控所有設(shè)備產(chǎn)生的能量,包括電動汽車、風電場系統(tǒng)等,并使用電網(wǎng)管理來幫助降低成本和高效地創(chuàng)造能源。

自動駕駛汽車自動駕駛汽車在人行橫道前必須立即停車。依靠遠程服務(wù)器來做出這種判斷是不公平的。此外,采用邊緣技術(shù)的汽車可以更有效地進行交互,因為其可以先相互交談,而不是先將有關(guān)事故、天氣狀況、交通或轉(zhuǎn)移的數(shù)據(jù)發(fā)送到遠程服務(wù)器。邊緣計算是有益的。

●智能音響系統(tǒng)智能音響系統(tǒng)可以學(xué)習(xí)在本地理解語音命令,以執(zhí)行簡單的命令。即使互聯(lián)網(wǎng)訪問中斷,打開和關(guān)閉燈、或更改恒溫器設(shè)置也是可行的。

邊緣計算的優(yōu)點和缺點(一)優(yōu)點1. 更快的響應(yīng)時間如前所述,在邊緣設(shè)備處或附近部署計算進程有助于最大限度地減少延遲。考慮在同一建筑物內(nèi)移動文件。其需要更長的時間來交換文件,因為與位于全球任何地方的遠程服務(wù)器進行對話,然后作為接收到的文件返回。該路由器使用邊緣計算負責整個工作場所的數(shù)據(jù)傳輸,極大地減少了延遲。同時,還節(jié)省了大量的帶寬。2. 成本效益邊緣計算節(jié)省了服務(wù)器資源和帶寬,從而節(jié)省了成本。當部署云服務(wù)來支持企業(yè)或家庭中的大量智能設(shè)備時,成本會增加。另一方面,邊緣計算有可能通過將所有這些設(shè)備的計算部分重新定位到邊緣來降低成本。3. 數(shù)據(jù)保護和隱私在海外服務(wù)器上移動數(shù)據(jù)會引起隱私、安全和法律方面的問題。如果被劫持并落入壞人之手,可能會造成嚴重的問題。邊緣計算使數(shù)據(jù)更接近其來源,同時保持在數(shù)據(jù)規(guī)則的參數(shù)范圍內(nèi)。其允許敏感數(shù)據(jù)在本地處理,而不是轉(zhuǎn)移到云或數(shù)據(jù)中心。因此,數(shù)據(jù)在本地的場所內(nèi)是安全的。(二)缺點1. 存儲和成本即使云存儲的成本降低了,本地端也有額外的成本。這在很大程度上源于邊緣設(shè)備存儲容量的發(fā)展。邊緣計算還有一個成本因素,因為必須替換或改進現(xiàn)有的IT網(wǎng)絡(luò)基礎(chǔ)設(shè)施,以支持邊緣設(shè)備和存儲。一些業(yè)務(wù)可能會發(fā)現(xiàn),過渡到邊緣網(wǎng)絡(luò)的成本與構(gòu)建和維護傳統(tǒng)IT基礎(chǔ)設(shè)施的成本相當。2. 數(shù)據(jù)丟失邊緣計算的好處也伴隨著危險。為了盡量減少數(shù)據(jù)損失,在部署系統(tǒng)之前,必須對系統(tǒng)進行良好的規(guī)劃和編程。許多邊緣計算設(shè)備應(yīng)該在收集數(shù)據(jù)后丟棄無用的數(shù)據(jù);然而,如果移除的數(shù)據(jù)是重要的,則數(shù)據(jù)就會丟失,并且在云端的分析是不準確的。3. 安全風險在云計算和企業(yè)級別有安全優(yōu)勢,但在本地級別也有安全危險。如果企業(yè)的本地網(wǎng)絡(luò)容易受到攻擊,那么讓一個基于云計算的供應(yīng)商提供一流的安全保障是毫無意義的??偨Y(jié)設(shè)備上的機器學(xué)習(xí)允許在接近數(shù)據(jù)源的地方進行計算,同時在上傳數(shù)據(jù)時保持隱私,從而最大限度地減少了網(wǎng)絡(luò)擁塞。通過本文,可了解到邊緣計算的概念、工作原理、優(yōu)缺點及其應(yīng)用。

極客網(wǎng)企業(yè)會員

免責聲明:本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性,但不保證有關(guān)資料的準確性及可靠性,讀者在使用前請進一步核實,并對任何自主決定的行為負責。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏,概不負任何法律責任。任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時,應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明,并提供身份證明、權(quán)屬證明及詳細侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后,將會依法盡快聯(lián)系相關(guān)文章源頭核實,溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。

2022-06-02
一文讀懂邊緣計算(Edge ML)!
邊緣計算是一種允許智能設(shè)備利用機器和深度學(xué)習(xí)算法在本地分析數(shù)據(jù)的技術(shù),從而減少對云網(wǎng)絡(luò)的依賴。

長按掃碼 閱讀全文