使用邊緣計(jì)算在本地設(shè)備上啟用人工智能

隨著物聯(lián)網(wǎng)(IoT)的發(fā)展，云網(wǎng)絡(luò)負(fù)擔(dān)過重，企業(yè)忽視了安全等關(guān)鍵的云計(jì)算問題。所有這些問題的解決方案是在本地設(shè)備“Edge ML”上運(yùn)行機(jī)器學(xué)習(xí)模型。

編輯搜圖

邊緣計(jì)算是一種允許智能設(shè)備利用機(jī)器和深度學(xué)習(xí)算法在本地分析數(shù)據(jù)的技術(shù)，從而減少對云網(wǎng)絡(luò)的依賴。本文將重點(diǎn)了解邊緣計(jì)算的工作原理和功能。

首先，先來了解物聯(lián)網(wǎng)(IoT)  的概念及其對邊緣計(jì)算的影響。

一、什么是物聯(lián)網(wǎng)？

物聯(lián)網(wǎng)(IoT)是一種物理項(xiàng)目網(wǎng)絡(luò)，其使用預(yù)定義的協(xié)議和信息傳感設(shè)備將一切連接到互聯(lián)網(wǎng)。該設(shè)備通過信息共享和通信，實(shí)現(xiàn)智能識別、定位、跟蹤、監(jiān)控和管理。

互聯(lián)網(wǎng)不再只是計(jì)算機(jī)網(wǎng)絡(luò)；其已經(jīng)演變成一個(gè)由各種形狀和大小的設(shè)備組成的網(wǎng)絡(luò)，包括車輛、智能手機(jī)、家用電器、玩具、相機(jī)、醫(yī)療儀器和工業(yè)系統(tǒng)、動(dòng)物、人和建筑物，所有的設(shè)備都相互連接，所有的通信和共享信息都基于預(yù)定義的協(xié)議，以實(shí)現(xiàn)智能重組、定位、追蹤、安全可控，甚至個(gè)人實(shí)時(shí)在線監(jiān)控、在線升級和推進(jìn)。

物聯(lián)網(wǎng)(IoT)是一個(gè)概念和范式，其考慮了環(huán)境中普遍存在的各種對象，這些對象可以通過無線和有線連接和獨(dú)特的解決方案，相互交互并與其他對象協(xié)作，以創(chuàng)建新服務(wù)并實(shí)現(xiàn)共同目標(biāo)。

二、什么是邊緣計(jì)算？

邊緣計(jì)算作為一種云計(jì)算擴(kuò)展出現(xiàn)，使云服務(wù)更接近最終用戶。邊緣計(jì)算提供虛擬計(jì)算平臺，這些平臺提供通常位于網(wǎng)絡(luò)邊緣的處理、存儲和網(wǎng)絡(luò)功能。

邊緣服務(wù)器是向終端設(shè)備提供服務(wù)的設(shè)備，可以是IoT網(wǎng)關(guān)、路由器和移動(dòng)網(wǎng)絡(luò)基站、汽車或其他位置的小型數(shù)據(jù)中心。邊緣設(shè)備是向邊緣服務(wù)器請求服務(wù)的終端設(shè)備，如手機(jī)、物聯(lián)網(wǎng)設(shè)備和嵌入式設(shè)備。

邊緣計(jì)算與人工智能的結(jié)合為基于人工智能的應(yīng)用程序的主要問題提供了可能的答案。這種新的智能模式被稱為邊緣智能。邊緣智能是指在靠近數(shù)據(jù)收集地點(diǎn)的地方，由數(shù)據(jù)收集、緩存、處理和分析的系統(tǒng)和設(shè)備組成的網(wǎng)絡(luò)，目的是提高數(shù)據(jù)質(zhì)量和速度，同時(shí)保護(hù)數(shù)據(jù)隱私和安全。

傳統(tǒng)的云端智能需要終端設(shè)備將創(chuàng)建或收集的數(shù)據(jù)上傳到遠(yuǎn)程云端上，而邊緣智能則在本地處理和分析數(shù)據(jù)，有效保護(hù)用戶隱私，減少反應(yīng)時(shí)間，節(jié)約帶寬資源。

何時(shí)使用邊緣計(jì)算

因此，有效地處理、存儲和處理數(shù)據(jù)變得更加重要?？焖儆行У靥幚頂?shù)據(jù)尤其重要，以最大限度地減少安全隱患，加快企業(yè)流程。邊緣計(jì)算試圖優(yōu)化web應(yīng)用程序和互聯(lián)網(wǎng)設(shè)備，同時(shí)減少帶寬利用率和通信延遲。

例如，石油和天然氣裝置通常位于偏遠(yuǎn)地區(qū)。邊緣計(jì)算通過使處理更接近資產(chǎn)來實(shí)現(xiàn)實(shí)時(shí)分析，從而減少對集中云的高質(zhì)量連接的依賴。

三、邊緣計(jì)算是如何工作的？

邊緣計(jì)算背后的目標(biāo)是讓模型存在于網(wǎng)絡(luò)邊緣的設(shè)備上。然后，ML算法在設(shè)備上本地執(zhí)行，無需互聯(lián)網(wǎng)連接來分析數(shù)據(jù)并產(chǎn)生可用結(jié)果。整個(gè)過程可以分為四個(gè)主要部分。

1.邊緣緩存

邊緣緩存是一種分布式數(shù)據(jù)系統(tǒng)，將邊緣設(shè)備及其周圍環(huán)境產(chǎn)生的數(shù)據(jù)以及從互聯(lián)網(wǎng)接收到的數(shù)據(jù)，進(jìn)行收集和存儲，以支持邊緣用戶的智能應(yīng)用。在邊緣，數(shù)據(jù)是分散的。

邊緣設(shè)備，如監(jiān)控設(shè)備和傳感器，收集環(huán)境數(shù)據(jù)。這些數(shù)據(jù)被保存在適當(dāng)?shù)奈恢?，并通過智能算法進(jìn)行處理和分析，為最終用戶提供服務(wù)。

緩存基于請求冗余。在邊緣緩存中，獲取的數(shù)據(jù)被輸入到智能應(yīng)用程序中，結(jié)果被傳輸回?cái)?shù)據(jù)存儲的位置。冗余分為類型冗余、數(shù)據(jù)冗余和計(jì)算冗余。

數(shù)據(jù)冗余是指智能應(yīng)用程序的輸入可能是相同的，也可能是部分相同的?？紤]到連續(xù)的移動(dòng)視覺分析，連續(xù)幀之間有很多可比較的像素。一些資源有限的邊緣設(shè)備可能需要將捕獲的視頻傳輸?shù)竭吘壏?wù)器進(jìn)行額外的處理。在使用緩存時(shí)，邊緣設(shè)備只需要上傳各種像素或幀。邊緣設(shè)備可能會重復(fù)使用重復(fù)段的結(jié)果，以盡量減少過度處理。

計(jì)算冗余是指智能應(yīng)用所需要的計(jì)算任務(wù)可能是相同的。例如，邊緣服務(wù)器向邊緣設(shè)備提供圖像識別服務(wù)。來自同一環(huán)境的識別任務(wù)可能是相同的，例如，來自同一位置的不同用戶的物體識別任務(wù)。邊緣服務(wù)器可以立即將之前獲得的識別結(jié)果反饋給用戶。

緩存可以存儲在三個(gè)位置:宏觀和微觀基站，以及邊緣設(shè)備。有兩種類型的材料被稱為流行文件和智能模型。宏基站通常用作邊緣智能中的邊緣服務(wù)器，提供存儲數(shù)據(jù)的智能服務(wù)。

緩存的交付有兩種方式，一種是從單個(gè)基站交付，另一種是基于多個(gè)基站之間的協(xié)作從多個(gè)基站交付。此外，還仔細(xì)研究了緩存的理想內(nèi)容，即基于數(shù)據(jù)冗余的內(nèi)容和基于計(jì)算冗余的內(nèi)容。與宏觀和微觀基站相比，邊緣設(shè)備往往擁有更少的資源和更大的移動(dòng)性。由于宏BSs、微BSs和邊緣設(shè)備的存儲容量有限，必須解決內(nèi)容替換問題。

2.邊緣訓(xùn)練

邊緣訓(xùn)練是一個(gè)分布式學(xué)習(xí)過程，使用存儲在邊緣的訓(xùn)練集學(xué)習(xí)所有權(quán)重和偏差的最佳值，以及隱藏的模式。邊緣訓(xùn)練，與傳統(tǒng)的在強(qiáng)大的服務(wù)器或計(jì)算集群上進(jìn)行集中訓(xùn)練的方法不同，通常發(fā)生在邊緣服務(wù)器或邊緣設(shè)備上，其通常沒有集中式服務(wù)器或計(jì)算集群那么強(qiáng)大。

該設(shè)備可以通過兩種方式進(jìn)行訓(xùn)練:單獨(dú)訓(xùn)練和協(xié)作訓(xùn)練。單獨(dú)訓(xùn)練是在一個(gè)設(shè)備上完成的，沒有其他人的幫助，而協(xié)作訓(xùn)練是指許多設(shè)備一起工作，訓(xùn)練一個(gè)共享的算法。由于單獨(dú)訓(xùn)練需要更多的硬件，而這些硬件有時(shí)是不可獲得的，現(xiàn)有的大多數(shù)材料都集中在協(xié)同訓(xùn)練設(shè)計(jì)上。

邊緣訓(xùn)練比集中式訓(xùn)練模式慢得多，在集中式訓(xùn)練模式中，強(qiáng)大的CPU和GPU可以確保以最短的訓(xùn)練周期獲得良好的結(jié)果。一些研究人員對加速邊緣訓(xùn)練感興趣。根據(jù)訓(xùn)練體系結(jié)構(gòu)，將訓(xùn)練加速工作分為單獨(dú)訓(xùn)練加速和協(xié)作訓(xùn)練加速兩類。

單機(jī)訓(xùn)練是一個(gè)封閉系統(tǒng)，在單個(gè)設(shè)備上通過迭代計(jì)算獲得最優(yōu)參數(shù)或模式。另一方面，協(xié)作訓(xùn)練是基于多個(gè)設(shè)備的協(xié)作，這些設(shè)備需要定期聯(lián)系以更新。更新的頻率和更新的成本是影響溝通效率和培訓(xùn)成功的兩個(gè)因素。

該領(lǐng)域的研究主要關(guān)注如何在降低更新頻率和成本的情況下保持模型/算法性能。此外，協(xié)作訓(xùn)練的開放性使其容易受到惡意用戶的攻擊。還有一些關(guān)于隱私和安全問題的文獻(xiàn)。

3.邊緣推理

邊緣推理是在前向傳遞中使用學(xué)習(xí)算法，來計(jì)算邊緣設(shè)備和服務(wù)器上的輸出的階段。目前，大多數(shù)AI模型都打算部署在具有強(qiáng)大CPU和GPU的設(shè)備上，然而，這在邊緣設(shè)置中是不可行的。

通過發(fā)明新的算法來減少硬件需求并自然適合邊緣設(shè)置，或者通過壓縮現(xiàn)有的模型來消除推斷過程中的多余操作，使模型適合于邊緣環(huán)境。

在構(gòu)建新方法的情況下，有兩種方法：允許計(jì)算機(jī)構(gòu)建最優(yōu)模型，即架構(gòu)搜索，以及使用深度可分離卷積和組卷積的人類發(fā)明的架構(gòu)。

目前的模型被壓縮以進(jìn)行模型壓縮，以創(chuàng)建更薄和更小的模型，這些模型具有更高的計(jì)算和能源效率，并且精度損失很低或沒有損失。模型壓縮技術(shù)包括低秩逼近、知識蒸餾、壓縮層設(shè)計(jì)、網(wǎng)絡(luò)剪枝和參數(shù)量化。

4.邊緣卸載

邊緣卸載是一種分布式計(jì)算范式，可在邊緣提供緩存、訓(xùn)練和推理等計(jì)算功能。如果單個(gè)邊緣設(shè)備缺乏支持某個(gè)邊緣智能應(yīng)用程序的能力，則應(yīng)用程序職責(zé)可能會被轉(zhuǎn)移到邊緣服務(wù)器或其他邊緣設(shè)備。邊緣卸載層透明地向其他三個(gè)邊緣智能組件提供計(jì)算服務(wù)。卸載策略在邊緣卸載中至關(guān)重要，因?yàn)槠湟畲笙薅鹊乩眠吘壄h(huán)境中的可用資源。

云服務(wù)器、邊緣服務(wù)器和邊緣設(shè)備包含可用的計(jì)算機(jī)資源。設(shè)備到云(D2C)卸載、設(shè)備到邊緣服務(wù)器(D2E)卸載、設(shè)備到設(shè)備(D2D)卸載和混合卸載是最常用的技術(shù)。

D2C卸載技術(shù)選擇將預(yù)處理操作留在邊緣設(shè)備上，并將剩余的作業(yè)卸載到云服務(wù)器，這可能會大大減少上傳數(shù)據(jù)的數(shù)量和延遲。

D2E卸載方法采用了類似的程序，可以進(jìn)一步減少延遲和對蜂窩網(wǎng)絡(luò)的依賴。

專注于D2D卸載方法中的智能家居場景，其中物聯(lián)網(wǎng)小工具、可穿戴設(shè)備和智能手機(jī)，協(xié)作執(zhí)行訓(xùn)練/推理任務(wù)。

混合卸載解決方案提供了最大的適應(yīng)性，充分利用所有可用資源。

邊緣計(jì)算的應(yīng)用

邊緣計(jì)算正被用于各個(gè)領(lǐng)域，其在本地或網(wǎng)絡(luò)邊緣收集、處理、過濾和分析數(shù)據(jù)。邊緣計(jì)算用于以下領(lǐng)域：

（1） 醫(yī)療保健

邊緣計(jì)算可以通過利用機(jī)器學(xué)習(xí)和自動(dòng)化來幫助數(shù)據(jù)訪問。其有助于識別需要醫(yī)生快速關(guān)注的有問題的數(shù)據(jù)，以改善患者護(hù)理并消除健康事件。

病人的慢性疾病可以通過健康監(jiān)測器和其他可穿戴醫(yī)療設(shè)備進(jìn)行監(jiān)測。其有可能在需要援助時(shí)立即通知護(hù)理人員，從而挽救生命。此外，手術(shù)機(jī)器人必須能夠立即解釋數(shù)據(jù)，以便安全、及時(shí)、準(zhǔn)確地提供幫助。如果這些設(shè)備依賴于在做出判斷之前，將數(shù)據(jù)發(fā)送到云端，后果可能是災(zāi)難性的。

（2） 建設(shè)

邊緣計(jì)算主要用于建筑行業(yè)的工人安全，從安全設(shè)備、攝像頭、傳感器等收集和分析數(shù)據(jù)。其為組織提供了工作場所安全條件的概述，并保證人員遵守安全法規(guī)。

（3）廣告

零售企業(yè)的有針對性的營銷和信息，取決于現(xiàn)場設(shè)備中指定的關(guān)鍵因素，如人口統(tǒng)計(jì)信息。在這種情況下，邊緣計(jì)算可以幫助保護(hù)用戶隱私。其可能會對數(shù)據(jù)進(jìn)行加密并維護(hù)數(shù)據(jù)源，而不是將未受保護(hù)的數(shù)據(jù)傳輸?shù)皆贫恕?

（4）制造業(yè)

在制造業(yè)中，邊緣計(jì)算被用于監(jiān)控工業(yè)過程，并使用機(jī)器學(xué)習(xí)和實(shí)時(shí)分析來提高產(chǎn)品質(zhì)量和檢測生產(chǎn)錯(cuò)誤。其還鼓勵(lì)將環(huán)境傳感器納入制造業(yè)務(wù)。

邊緣計(jì)算還提供有關(guān)庫存組件及其使用壽命的信息，使生產(chǎn)商能夠?qū)\(yùn)營和設(shè)施做出更準(zhǔn)確和及時(shí)的業(yè)務(wù)選擇。

（5）農(nóng)業(yè)

邊緣計(jì)算用于農(nóng)業(yè)傳感器，以測量養(yǎng)分密度和耗水量，并改善收成。傳感器會收集環(huán)境、溫度和土壤變量的數(shù)據(jù)，審查它們的影響，以提高農(nóng)業(yè)生產(chǎn)力和保證在最有利的氣候條件下進(jìn)行收獲。

（6）天然氣和石油

邊緣計(jì)算可用于監(jiān)測天然氣和石油設(shè)施的安全性。傳感器持續(xù)測量濕度和壓力。為了快速響應(yīng)，需要有足夠的網(wǎng)絡(luò)連接。問題是，這些設(shè)施中的大多數(shù)都位于距離較遠(yuǎn)、聯(lián)系有限的地方。

因此，將邊緣計(jì)算置于此類系統(tǒng)處或附近，可提供增強(qiáng)的連接和持續(xù)監(jiān)控能力。邊緣計(jì)算還可以實(shí)時(shí)檢測設(shè)備問題。這些傳感器可以監(jiān)控所有設(shè)備產(chǎn)生的能量，包括電動(dòng)汽車、風(fēng)電場系統(tǒng)等，并使用電網(wǎng)管理來幫助降低成本和高效地創(chuàng)造能源。

• 自動(dòng)駕駛汽車

自動(dòng)駕駛汽車在人行橫道前必須立即停車。依靠遠(yuǎn)程服務(wù)器來做出這種判斷是不公平的。此外，采用邊緣技術(shù)的汽車可以更有效地進(jìn)行交互，因?yàn)槠淇梢韵认嗷ソ徽?，而不是先將有關(guān)事故、天氣狀況、交通或轉(zhuǎn)移的數(shù)據(jù)發(fā)送到遠(yuǎn)程服務(wù)器。邊緣計(jì)算是有益的。

• 智能音響系統(tǒng)

智能音響系統(tǒng)可以學(xué)習(xí)在本地理解語音命令，以執(zhí)行簡單的命令。即使互聯(lián)網(wǎng)訪問中斷，打開和關(guān)閉燈、或更改恒溫器設(shè)置也是可行的。

邊緣計(jì)算的優(yōu)點(diǎn)和缺點(diǎn)

（一）優(yōu)點(diǎn)

1. 更快的響應(yīng)時(shí)間

如前所述，在邊緣設(shè)備處或附近部署計(jì)算進(jìn)程有助于最大限度地減少延遲。

考慮在同一建筑物內(nèi)移動(dòng)文件。其需要更長的時(shí)間來交換文件，因?yàn)榕c位于全球任何地方的遠(yuǎn)程服務(wù)器進(jìn)行對話，然后作為接收到的文件返回。該路由器使用邊緣計(jì)算負(fù)責(zé)整個(gè)工作場所的數(shù)據(jù)傳輸，極大地減少了延遲。同時(shí)，還節(jié)省了大量的帶寬。

2. 成本效益

邊緣計(jì)算節(jié)省了服務(wù)器資源和帶寬，從而節(jié)省了成本。當(dāng)部署云服務(wù)來支持企業(yè)或家庭中的大量智能設(shè)備時(shí)，成本會增加。另一方面，邊緣計(jì)算有可能通過將所有這些設(shè)備的計(jì)算部分重新定位到邊緣來降低成本。

3. 數(shù)據(jù)保護(hù)和隱私

在海外服務(wù)器上移動(dòng)數(shù)據(jù)會引起隱私、安全和法律方面的問題。如果被劫持并落入壞人之手，可能會造成嚴(yán)重的問題。

邊緣計(jì)算使數(shù)據(jù)更接近其來源，同時(shí)保持在數(shù)據(jù)規(guī)則的參數(shù)范圍內(nèi)。其允許敏感數(shù)據(jù)在本地處理，而不是轉(zhuǎn)移到云或數(shù)據(jù)中心。因此，數(shù)據(jù)在本地的場所內(nèi)是安全的。

（二）缺點(diǎn)

1. 存儲和成本

即使云存儲的成本降低了，本地端也有額外的成本。這在很大程度上源于邊緣設(shè)備存儲容量的發(fā)展。邊緣計(jì)算還有一個(gè)成本因素，因?yàn)楸仨毺鎿Q或改進(jìn)現(xiàn)有的IT網(wǎng)絡(luò)基礎(chǔ)設(shè)施，以支持邊緣設(shè)備和存儲。一些業(yè)務(wù)可能會發(fā)現(xiàn)，過渡到邊緣網(wǎng)絡(luò)的成本與構(gòu)建和維護(hù)傳統(tǒng)IT基礎(chǔ)設(shè)施的成本相當(dāng)。

2. 數(shù)據(jù)丟失

邊緣計(jì)算的好處也伴隨著危險(xiǎn)。為了盡量減少數(shù)據(jù)損失，在部署系統(tǒng)之前，必須對系統(tǒng)進(jìn)行良好的規(guī)劃和編程。許多邊緣計(jì)算設(shè)備應(yīng)該在收集數(shù)據(jù)后丟棄無用的數(shù)據(jù);然而，如果移除的數(shù)據(jù)是重要的，則數(shù)據(jù)就會丟失，并且在云端的分析是不準(zhǔn)確的。

3. 安全風(fēng)險(xiǎn)

在云計(jì)算和企業(yè)級別有安全優(yōu)勢，但在本地級別也有安全危險(xiǎn)。如果企業(yè)的本地網(wǎng)絡(luò)容易受到攻擊，那么讓一個(gè)基于云計(jì)算的供應(yīng)商提供一流的安全保障是毫無意義的。

總結(jié)

設(shè)備上的機(jī)器學(xué)習(xí)允許在接近數(shù)據(jù)源的地方進(jìn)行計(jì)算，同時(shí)在上傳數(shù)據(jù)時(shí)保持隱私，從而最大限度地減少了網(wǎng)絡(luò)擁塞。通過本文，可了解到邊緣計(jì)算的概念、工作原理、優(yōu)缺點(diǎn)及其應(yīng)用。