如何利用邊緣AI發(fā)現(xiàn)新機(jī)遇?

在當(dāng)前的經(jīng)濟(jì)環(huán)境下,研發(fā)資金必須比以往任何時候都更加充分。企業(yè)對未來技術(shù)和基礎(chǔ)設(shè)施的投資往往不以為然,而失敗的風(fēng)險卻給項目利益相關(guān)者帶來了巨大壓力。

然而,這并不意味著創(chuàng)新應(yīng)該停止甚至放緩。對于初創(chuàng)企業(yè)和大型企業(yè)而言,致力于新技術(shù)和變革性技術(shù)對于確保當(dāng)前和未來的競爭力至關(guān)重要。人工智能(AI) 為越來越廣泛的行業(yè)提供多方面的解決方案。

在過去十年中,人工智能在釋放全新的收入機(jī)會方面發(fā)揮了重要作用。從理解和預(yù)測用戶行為到協(xié)助生成代碼和內(nèi)容,人工智能和機(jī)器學(xué)習(xí) (ML) 革命已經(jīng)使消費者從他們的應(yīng)用、網(wǎng)站和在線服務(wù)中獲得的價值成倍增加。

然而,這場革命在很大程度上僅限于云,其中幾乎無限的存儲和計算,以及主要公共云服務(wù)提供商提供的方便的虛擬硬件,使得為每個AI/ML應(yīng)用建立最佳實踐模式變得相對容易可以想象。

AI:移動到邊緣

由于AI處理主要發(fā)生在云端,因此AI/ML革命對于邊緣設(shè)備來說仍然遙不可及。這些是在工廠車間、建筑工地、研究實驗室、自然保護(hù)區(qū)、我們佩戴的配飾和衣服上、我們運送的包裹內(nèi)以及任何其他需要連接的環(huán)境中發(fā)現(xiàn)的更小、低功耗的處理器、存儲、計算和能源是有限的或不能被視為理所當(dāng)然。在他們的環(huán)境中,計算周期和硬件架構(gòu)很重要,預(yù)算不是以端點或套接字連接的數(shù)量來衡量的,而是以瓦特和納秒來衡量的。

希望打破人工智能/機(jī)器學(xué)習(xí)領(lǐng)域下一個技術(shù)障礙的首席技術(shù)官、工程、數(shù)據(jù)和機(jī)器學(xué)習(xí)領(lǐng)導(dǎo)者以及產(chǎn)品團(tuán)隊必須將目光投向邊緣。邊緣AI和邊緣ML提出了獨特而復(fù)雜的挑戰(zhàn),需要許多利益相關(guān)者的精心協(xié)調(diào)和參與,這些利益相關(guān)者具有從系統(tǒng)集成、設(shè)計、運營和物流到嵌入式、數(shù)據(jù)、IT 和 ML工程的廣泛專業(yè)知識。

邊緣AI意味著算法必須在某種特定用途的硬件中運行,從高端的網(wǎng)關(guān)或本地服務(wù)器到低端的能量收集傳感器和MCU。確保此類產(chǎn)品和應(yīng)用的成功需要數(shù)據(jù)和ML團(tuán)隊與產(chǎn)品和硬件團(tuán)隊密切合作,以了解和考慮彼此的需求、約束和要求。

雖然構(gòu)建定制邊緣AI解決方案的挑戰(zhàn)并非無法克服,但存在用于邊緣AI算法開發(fā)的平臺可以幫助彌合必要團(tuán)隊之間的差距,確保在更短的時間內(nèi)取得更高水平的成功,并驗證進(jìn)一步投資的方向應(yīng)該制作。以下是其他需要注意的事項。

在開發(fā)算法的同時測試硬件

由數(shù)據(jù)科學(xué)和 ML團(tuán)隊開發(fā)算法,然后將其傳遞給固件工程師以將其安裝在設(shè)備上,這既不高效也不總是可能的。硬件在環(huán)測試和部署應(yīng)該是任何邊緣 AI 開發(fā)管道的基本組成部分。如果沒有同時在硬件上運行和測試算法的方法,則很難預(yù)見在開發(fā)邊緣AI算法時可能出現(xiàn)的內(nèi)存、性能和延遲限制。

一些基于云的模型架構(gòu)也不意味著在任何類型的受限或邊緣設(shè)備上運行,提前預(yù)測可以為固件和ML團(tuán)隊節(jié)省數(shù)月的痛苦。

物聯(lián)網(wǎng)數(shù)據(jù)不等于大數(shù)據(jù)

大數(shù)據(jù)是指可以分析以揭示模式或趨勢的大型數(shù)據(jù)集。然而,物聯(lián)網(wǎng)(IoT) 數(shù)據(jù)并不一定與數(shù)量有關(guān),而是與數(shù)據(jù)的質(zhì)量有關(guān)。此外,此數(shù)據(jù)可以是時間序列傳感器或音頻數(shù)據(jù),或圖像,并且可能需要進(jìn)行預(yù)處理。

將數(shù)字信號處理 (DSP) 等傳統(tǒng)傳感器數(shù)據(jù)處理技術(shù)與AI/ML相結(jié)合,可以產(chǎn)生新的邊緣AI算法,提供以前技術(shù)無法實現(xiàn)的準(zhǔn)確洞察力。但物聯(lián)網(wǎng)數(shù)據(jù)不是大數(shù)據(jù),因此用于邊緣人工智能開發(fā)的這些數(shù)據(jù)集的數(shù)量和分析會有所不同。根據(jù)生成的模型準(zhǔn)確性和性能快速試驗數(shù)據(jù)集大小和質(zhì)量是通往生產(chǎn)可部署算法道路上的重要一步。

開發(fā)硬件已經(jīng)夠難了

如果不知道所選硬件是否可以運行邊緣AI軟件工作負(fù)載,則構(gòu)建硬件很困難。在選擇材料清單之前就開始對硬件進(jìn)行基準(zhǔn)測試至關(guān)重要。對于現(xiàn)有硬件,設(shè)備上可用內(nèi)存的限制可能更為關(guān)鍵。

即使使用早期的小型數(shù)據(jù)集,邊緣AI開發(fā)平臺也可以開始提供運行AI工作負(fù)載所需的硬件類型的性能和內(nèi)存估計。

有一個過程來權(quán)衡設(shè)備選擇和基準(zhǔn)測試與早期版本的邊緣AI模型可以確保硬件支持到位,以支持將在設(shè)備上運行的所需固件和AI模型。

構(gòu)建、驗證新的邊緣AI軟件并將其推向生產(chǎn)

選擇開發(fā)平臺時,還值得考慮不同廠商提供的工程支持。Edge AI包含數(shù)據(jù)科學(xué)、ML、固件和硬件,供應(yīng)商在內(nèi)部開發(fā)團(tuán)隊可能需要一些額外支持的領(lǐng)域提供指導(dǎo)非常重要。

在某些情況下,它不是關(guān)于將要開發(fā)的實際模型,而是更多關(guān)于系統(tǒng)級設(shè)計流程的規(guī)劃,包括數(shù)據(jù)基礎(chǔ)設(shè)施、ML開發(fā)工具、測試、部署環(huán)境和持續(xù)集成、持續(xù)部署 (CI /CD) 管道。

最后,對于邊緣AI開發(fā)工具而言,重要的是要適應(yīng)團(tuán)隊中的不同用戶——從ML工程師到固件開發(fā)人員。低代碼/無代碼用戶界面是快速構(gòu)建新應(yīng)用原型和構(gòu)建新應(yīng)用的好方法,而API和SDK對更有經(jīng)驗的ML開發(fā)人員很有用,他們可以從Jupyter notebooks使用Python更好更快地工作。

平臺提供了訪問靈活性的優(yōu)勢,迎合了構(gòu)建邊緣AI應(yīng)用的跨職能團(tuán)隊中可能存在的多個利益相關(guān)者或開發(fā)人員的需求。

本文作者:Sheena Patel是Edge Impulse的高級企業(yè)客戶經(jīng)理,Jorge Silva是Edge Impulse的高級解決方案工程師。

極客網(wǎng)企業(yè)會員

免責(zé)聲明:本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性,但不保證有關(guān)資料的準(zhǔn)確性及可靠性,讀者在使用前請進(jìn)一步核實,并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏,概不負(fù)任何法律責(zé)任。任何單位或個人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時,應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明,并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后,將會依法盡快聯(lián)系相關(guān)文章源頭核實,溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。

2023-03-27
如何利用邊緣AI發(fā)現(xiàn)新機(jī)遇?
對于初創(chuàng)企業(yè)和大型企業(yè)而言,致力于新技術(shù)和變革性技術(shù)對于確保當(dāng)前和未來的競爭力至關(guān)重要。人工智能(AI) 為越來越廣泛的行業(yè)提供多方面的解決方案。

長按掃碼 閱讀全文