面對(duì)4450億美元的邊緣計(jì)算市場 英特爾正在做些什么？

7月28日消息（艾斯）“到2030年，全球邊緣計(jì)算市場將達(dá)到4450億美元。邊緣的發(fā)展將會(huì)成為下個(gè)十年的一個(gè)巨大機(jī)遇，也是我們可利用的重要機(jī)遇?！庇⑻貭柟靖呒?jí)副總裁兼網(wǎng)絡(luò)與邊緣事業(yè)部總經(jīng)理Sachin Katti在本周于南京舉行的2023英特爾網(wǎng)絡(luò)與邊緣產(chǎn)業(yè)高層峰會(huì)上發(fā)表演講時(shí)說到。

來自中移智庫的最新研究報(bào)告顯示，行業(yè)多樣化需求正在牽引新形態(tài)云快速成長，其中，邊緣云正成為新的增長極。車聯(lián)網(wǎng)、工業(yè)互聯(lián)網(wǎng)等產(chǎn)生大量低時(shí)延存算需求，引發(fā)邊緣云需求快速增長。據(jù)德勤報(bào)告預(yù)計(jì)，我國邊緣云市場規(guī)模將從2022年的622億元增長到2025年的1988億元，復(fù)合增長率達(dá)47.5%。與此同時(shí)，智能云快速普及推廣。國內(nèi)外領(lǐng)先云服務(wù)企業(yè)正積極推動(dòng)云智融合發(fā)展，普遍基于云提供AI平臺(tái)、模型、應(yīng)用等端到端產(chǎn)品服務(wù)。

Sachin Katti在接受C114等媒體采訪時(shí)指出，“AI正在快速遷移到云端，在這當(dāng)中，邊緣會(huì)發(fā)揮更加重要的作用來推動(dòng)AI部署。邊緣已經(jīng)是現(xiàn)在AI最大的部署所在?！泵鎸?duì)邊緣AI市場的巨大機(jī)會(huì)，英特爾采取了硬件結(jié)合的整體策略，一方面該公司提供大量具備一流性能的硬件選擇，包括CPU、GPU、加速器等，另一方面，英特爾希望通過其軟件解決方案幫助客戶的運(yùn)營降低復(fù)雜性、更加精簡。更重要的是，英特爾正在攜手廣泛的合作伙伴一起為行業(yè)提供創(chuàng)新的定制化整體解決方案。

邊緣已不再邊緣

毫無疑問，如今所有行業(yè)活動(dòng)都繞不開的一個(gè)話題就是AI大模型。現(xiàn)在大模型基本上都是在云端進(jìn)行訓(xùn)練（中心化的訓(xùn)練），與此同時(shí)，這些在云端的訓(xùn)練有很多處于探索過程當(dāng)中，不少行業(yè)正在對(duì)模型的成熟進(jìn)行等待與觀望。在Sachin Katti看來，隨著大模型在云端訓(xùn)練的成熟，計(jì)算需求會(huì)快速向邊緣進(jìn)行轉(zhuǎn)移。他分析稱，當(dāng)行業(yè)真正要去使用比較穩(wěn)定的大模型時(shí)，就會(huì)考慮到數(shù)據(jù)的安全性，也就是隱私的問題，這對(duì)其來說是非常重要的。對(duì)很多企業(yè)來說，他們并不希望數(shù)據(jù)在云端進(jìn)行完全開放，因此，將私有數(shù)據(jù)放在邊緣進(jìn)行計(jì)算和應(yīng)用無疑簡成為一種必然選擇。

據(jù)調(diào)研機(jī)構(gòu)預(yù)測，到2025年，75%由企業(yè)生成的數(shù)據(jù)將在傳統(tǒng)數(shù)據(jù)中心或云之外進(jìn)行創(chuàng)建和處理；到2026年，50%的邊緣部署將涉及機(jī)器學(xué)習(xí)；86%的邊緣開發(fā)人員將瞄準(zhǔn)基于AI的應(yīng)用程序；邊緣的AI推理將是數(shù)據(jù)中心的3倍。正如英特爾公司副總裁兼網(wǎng)絡(luò)與邊緣事業(yè)部中國區(qū)總經(jīng)理陳偉博士所言，“邊緣不在邊緣，邊緣將成為主場。”Sachin Katti亦表示，“現(xiàn)在邊緣的時(shí)代還處在早期階段，英特爾及整個(gè)生態(tài)系統(tǒng)的合作伙伴都在攜手努力去進(jìn)行相應(yīng)探索，在邊緣計(jì)算方面會(huì)有巨大的增長。這個(gè)十年可以說是邊緣的時(shí)代?！?/p>

不過，目前大多數(shù)的邊緣AI項(xiàng)目無法成功落地。一是因?yàn)榛A(chǔ)設(shè)施問題，大部分工廠環(huán)境中的設(shè)備比較陳舊，如何把AI大模型部署到這些陳舊設(shè)備上，將需要非常大的計(jì)算足跡；二是因?yàn)閿?shù)據(jù)問題，因?yàn)槊總€(gè)行業(yè)（企業(yè)）的數(shù)據(jù)都是獨(dú)特的，如何打破數(shù)據(jù)孤島并非易事。英特爾中國區(qū)網(wǎng)絡(luò)與邊緣事業(yè)部首席技術(shù)官、英特爾高級(jí)首席AI工程師張宇博士就談到，邊緣AI的發(fā)展可以分為三個(gè)階段：第一個(gè)階段是邊緣推理，第二個(gè)階段是邊緣訓(xùn)練，第三個(gè)階段是邊緣自主機(jī)器學(xué)習(xí)，而邊緣AI目前絕大部分的應(yīng)用還處于邊緣推理階段。

張宇認(rèn)為，邊緣重要性還體現(xiàn)在可持續(xù)發(fā)展上。由于超過75%的數(shù)據(jù)將放在邊緣進(jìn)行處理，而處理這些數(shù)據(jù)必將需要能耗，如何實(shí)現(xiàn)節(jié)能減排，尤其是在邊緣實(shí)現(xiàn)節(jié)能減排有特殊的意義。英特爾在這方面做了大量的工作，包括對(duì)處理器架構(gòu)進(jìn)行更新以及增加各種專用加速引擎，如其第四代至強(qiáng)可擴(kuò)展處理器當(dāng)中所包含的vRAN Boost，就能夠提升在無線接入側(cè)系統(tǒng)的效率。據(jù)悉，集成vRAN Boost的第四代英特爾至強(qiáng)可擴(kuò)展處理器，與上一代相比，能夠在不增加功耗的情況下提供兩倍容量，并額外節(jié)省高達(dá)20%的能耗，從而滿足關(guān)鍵的性能、擴(kuò)展和能效要求。

軟硬結(jié)合實(shí)力拿捏

在采訪中Sachin Katti強(qiáng)調(diào)，英特爾的價(jià)值定位是要把軟件和硬件綜合起來作為一個(gè)整體解決方案組合來提供給客戶。“因?yàn)閷?duì)于邊緣來說，客戶僅僅靠自己通過硬件去獲得邊緣價(jià)值是非常困難的。所以我們在給客戶提供硬件的同時(shí)，相應(yīng)也會(huì)交付客戶所需要的軟件。目的是希望通過可以讓客戶更加容易地部署和管理好硬件。在AI方面，我們希望通過軟件可以讓客戶更加容易并且能夠最好地去獲得所訓(xùn)練的模型當(dāng)中可得到的AI性能。”此外，他表示，英特爾也在專注于開放的網(wǎng)絡(luò)連接技術(shù)，將大量的GPU和加速器連接起來，從而讓大模型的訓(xùn)練更加方便。

本月上旬，英特爾在中國市場正式發(fā)布了第二代Gaudi深度學(xué)習(xí)加速器——Habana Gaudi 2。Gaudi2深度學(xué)習(xí)加速器的架構(gòu)旨在高效擴(kuò)展，以滿足大規(guī)模語言模型及生成式AI模型的需求。其每張芯片集成了21個(gè)專用于內(nèi)部互聯(lián)的100Gbps(RoCEv2 RDMA)以太網(wǎng)接口，從而實(shí)現(xiàn)低延遲服務(wù)器內(nèi)擴(kuò)展。Gaudi2加速器的出色性能在6月公布的MLCommons MLPerf 基準(zhǔn)測試中得到了充分認(rèn)證，其在GPT-3模型、計(jì)算機(jī)視覺模型ResNet-50(使用8個(gè)加速器)、Unet3D(使用8個(gè)加速器)，以及自然語言處理模型BERT(使用8個(gè)和64個(gè)加速器)上均取得了優(yōu)異的訓(xùn)練結(jié)果。

另外，在此次峰會(huì)上，英特爾還發(fā)布了第二代英特爾 NetSec加速器參考設(shè)計(jì)。這款全新加速卡基于英特爾至強(qiáng)D系列處理器而打造，創(chuàng)新性地將一臺(tái)x86服務(wù)器設(shè)計(jì)成智能網(wǎng)卡形態(tài)，可大幅減少系統(tǒng)的空間占用和功耗。基于英特爾 NetSec 加速卡參考設(shè)計(jì)實(shí)現(xiàn)的首款產(chǎn)品將由合作伙伴量產(chǎn)上市，在最大程度滿足軟件定義、自動(dòng)化和彈性擴(kuò)展的同時(shí)，讓客戶享受到更安全、更可靠、更靈活及更高效的智能計(jì)算體驗(yàn)。

在軟件層面，英特爾近期發(fā)布了 OpenVINO 2023.0版本，可以從更大程度上幫助AI開發(fā)者簡化工作流程，在企業(yè)中更高效地部署高質(zhì)量的計(jì)算機(jī)視覺AI解決方案，以推動(dòng)創(chuàng)新和自動(dòng)化發(fā)展。據(jù)介紹，OpenVINO可以把在云端進(jìn)行的大模型訓(xùn)練成果在邊緣進(jìn)行壓縮和優(yōu)化，從而可以使大模型得到更加廣泛的使用。同時(shí)，通過用于數(shù)據(jù)上傳、標(biāo)注、模型訓(xùn)練和再訓(xùn)練的單一接口，英特爾Geti商用軟件平臺(tái)能夠幫助開發(fā)團(tuán)隊(duì)減少模型開發(fā)所需時(shí)間，并降低AI開發(fā)技術(shù)門檻及開發(fā)成本。

張宇指出，算力和網(wǎng)絡(luò)能力是整個(gè)大模型平臺(tái)整體性能的兩個(gè)關(guān)鍵要素。他介紹到，作為英特爾剛成立不久的一個(gè)新事業(yè)部門，英特爾網(wǎng)絡(luò)與邊緣事業(yè)部所提供的的產(chǎn)品之一為IPU（Infrastructure Processing Unit），該產(chǎn)品能夠?yàn)橛脩籼峁┮粋€(gè)可靠的數(shù)據(jù)的傳輸，來滿足大模型訓(xùn)練里頭對(duì)網(wǎng)絡(luò)可靠性、丟包率的嚴(yán)格要求，同時(shí)它能夠達(dá)到100G、200G甚至更高的線速，可以滿足大模型訓(xùn)練對(duì)網(wǎng)絡(luò)速度的要求?！霸诖竽Ｐ头矫?，英特爾的產(chǎn)品實(shí)際上涵蓋了計(jì)算、通訊等各個(gè)領(lǐng)域，我們可以給客戶提供一個(gè)相對(duì)來說比較全面的方案?！彼硎?。

生成海報(bào)

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。