英特爾張宇:提供面向邊緣人工智能解決方案 助力企業(yè)數(shù)字化轉(zhuǎn)型

9月5日消息(趙婷婷)9月3日,在2023中國國際服務(wù)貿(mào)易交易會(簡稱“服貿(mào)會”)期間舉辦的“中國智能產(chǎn)業(yè)論壇”上,英特爾中國區(qū)網(wǎng)絡(luò)與邊緣事業(yè)部首席技術(shù)官、英特爾高級首席 AI 工程師張宇圍繞邊緣人工智能發(fā)展趨勢,及英特爾硬件軟件的產(chǎn)品如何賦能合作伙伴,快速構(gòu)建面向智能邊緣的應(yīng)用服務(wù),發(fā)表主題演講。

張宇指出,近期,人工智能新技術(shù)、新產(chǎn)品、新應(yīng)用和新生態(tài)層出不窮,通用人工智能、大模型等等讓人工智能芯片的技術(shù)升級再次成為業(yè)內(nèi)熱點。人工智能技術(shù)在各個行業(yè)得到迅速普及和應(yīng)用,例如交通、醫(yī)療、零售、工業(yè)等等。隨著行業(yè)以及連接、智能應(yīng)用、數(shù)據(jù)隱私保護等方面訴求增加,推動了邊緣計算尤其是邊緣智能事業(yè)的發(fā)展。

邊緣AutoML階段:邊緣人工智能發(fā)展的一個最終的形態(tài)

張宇指出,人工智能尤其是邊緣人工智能的發(fā)展應(yīng)該分為三個階段:邊緣推理階段、邊緣訓練階段和邊緣的自主機器學習階段。

當下人工智能在邊緣的應(yīng)用大多數(shù)還是停留在邊緣的推理階段,行業(yè)還是需要利用數(shù)據(jù)中心極大的算力或者大量數(shù)據(jù)訓練一個模型,把訓練的結(jié)果推送到前端進行推理操作,這是目前絕大多數(shù)邊緣人工智能使用的模式。這種模式是現(xiàn)實,但是同時也有局限性,最大的局限性是對模型的更新頻率有限。

以自動駕駛為例,它所代表的是邊緣人工智能發(fā)展的下一個趨勢——邊緣訓練。邊緣訓練實現(xiàn)人工智能的訓練要面臨一系列的特定挑戰(zhàn)。如資源有限、缺乏專業(yè)知識、邊緣訓練碎片化、難以在運行時保護數(shù)據(jù)和模型并在多樣化硬件平臺上部署等。

在當下的人工智能里頭,不管在邊緣應(yīng)用還是在數(shù)據(jù)中心的應(yīng)用,人在人工智能里仍然扮演一個非常重要的角色。

張宇認為,今后人工智能發(fā)展應(yīng)該進入邊緣AutoML階段,它是邊緣人工智能發(fā)展的一個最終的形態(tài)。這個階段網(wǎng)絡(luò)模型應(yīng)該感知人的意圖,選取適宜的樣本集訓練這個模型,將訓練結(jié)果推送到訓練階段進行相應(yīng)操作。甚至根據(jù)訓練的結(jié)果不斷更新、不斷重新訓練網(wǎng)絡(luò)模型,進行不斷迭代,達到最佳的理想結(jié)果。

同時,他也指出,現(xiàn)在的大模型和AIGC,也只是說在往AutoML方向上前進的一小步。在大模型里頭也有很大的局限性,目前像ChatGPT等等這樣的一些應(yīng)用,它都工作在開放的狀態(tài),而不是閉環(huán)的狀態(tài)。而真正到AutoML的狀態(tài)應(yīng)該有一個人工智能的閉環(huán)。

“如果把攀登高峰比喻人工智能不同階段,實現(xiàn)邊緣推理只是意味著我們站到山腳,到我們能實現(xiàn)邊緣訓練只是站到半山腰,真正站到山頂是真正實現(xiàn)AutoML的時刻,這個還有很長的路要走。”張宇指出。

提供面向邊緣人工智能完整硬件和軟件解決方案 賦能合作伙伴

張宇指出,解決在邊緣人工智能快速發(fā)展過程中面臨的多種挑戰(zhàn),還需要產(chǎn)業(yè)界的通力合作。英特爾作為一家數(shù)據(jù)公司,給業(yè)界所提供的是面向邊緣人工智能、網(wǎng)絡(luò)、數(shù)據(jù)中心的完整硬件和軟件解決方案。尤其在人工智能方面,英特爾提供了從計算、通訊到存儲等一系列的產(chǎn)品,供開發(fā)人員進行選擇。

計算方面,英特爾提供包括CPU、GPU及各種人工智能芯片等多種產(chǎn)品的組合,滿足用戶對人工智能算力不同的要求。針對人工智能大模型的訓練和推理,英特爾在今年推出第二代Gaudi處理器,它不僅能提供大量的算力,還能提供通訊、存儲能力。張宇指出,英特爾的Gaudi2是全球唯二能提供針對大模型訓練極佳性能的產(chǎn)品,而且在今年英特爾公司把Gaudi的產(chǎn)品已經(jīng)引入到國內(nèi),已經(jīng)在國內(nèi)上市。

構(gòu)建端到端的人工智能系統(tǒng),離不開跟通訊相關(guān)的產(chǎn)品。英特爾提供像可編程的以太網(wǎng)交換芯片等等數(shù)據(jù)中心的產(chǎn)品以及網(wǎng)絡(luò)產(chǎn)品,幫助構(gòu)建軟件定義的網(wǎng)絡(luò)。

硬件方面,英特爾通過增強通用處理器的同時,還提供專用的人工智能加速芯片,滿足用戶對邊緣人工智能算力的要求。2023年發(fā)布的第四代至強可擴展處理器,包含了一系列面向人工智能的技術(shù)創(chuàng)新,如高級矩陣擴展技術(shù)AMX技術(shù)、AMX技術(shù)、SGX技術(shù)。

其中,SGX技術(shù)能在運行時態(tài)為關(guān)鍵的數(shù)據(jù)和程序提供一個有別于其他應(yīng)用的安全可執(zhí)行的區(qū)域,能提供一個更小的安全邊界、安全顆粒,使得人工智能應(yīng)用可以部署在比如像金融、醫(yī)療等等這些對于安全有比較強訴求的應(yīng)用行業(yè)里。

專用方面,英特爾提供獨立顯卡產(chǎn)品,包含了面向矩陣加速、矢量加速等等一些加速專業(yè)引擎,使得在面向科技計算和人工智能推理計算的時候能有更好的性能。

除了硬件以外英特爾還提供了很多軟的工具,例如Geti平臺,能提供自動化的標注手段以及采取主動學習的技術(shù),幫助開發(fā)人員選取最有效的訓練樣本,從而縮小訓練周期,減少訓練時間,提高訓練效果。

軟件方面,英特爾還提供OpenVINO套件,能幫助開發(fā)人員快速進行部署。OpenVINO包含兩個關(guān)鍵組件,一個是模型開發(fā)器,一個是推理引擎。幫助開發(fā)人員把開發(fā)好的網(wǎng)絡(luò)模型部署在不同的平臺去進行訓練,極大地降低軟件開發(fā)成本。

張宇介紹,在新的OpenVINO版本即2023.0的版本里,增加了對AIGC新的技術(shù)的加持,OpenVINO可以把文生圖這樣一些比較常用的大模型通過網(wǎng)絡(luò)壓縮以后,部署在通用CPU以及一些獨立顯卡,或者英特爾所帶的顯卡之上,進行邊緣推理操作,在一些平臺上已經(jīng)得到非常好的驗證。

除了提供這樣一些硬件和軟件的底層技術(shù)支撐,英特爾在行業(yè)方面也做了大量的工作,比如在智能制造領(lǐng)域和合作伙伴利用機器視覺合作,例如激光焊接等等一些技術(shù),利用低時延的技術(shù),把實時性和智能化結(jié)合起來,提供給合作伙伴全面的解決方案。

極客網(wǎng)企業(yè)會員

免責聲明:本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性,但不保證有關(guān)資料的準確性及可靠性,讀者在使用前請進一步核實,并對任何自主決定的行為負責。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏,概不負任何法律責任。任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時,應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明,并提供身份證明、權(quán)屬證明及詳細侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后,將會依法盡快聯(lián)系相關(guān)文章源頭核實,溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。

2023-09-05
英特爾張宇:提供面向邊緣人工智能解決方案 助力企業(yè)數(shù)字化轉(zhuǎn)型
英特爾張宇:提供面向邊緣人工智能解決方案 助力企業(yè)數(shù)字化轉(zhuǎn)型,C114訊 9月5日消息(趙婷婷)9月3日,在2023中國國際服務(wù)貿(mào)易交易會(簡稱服貿(mào)會)期間舉辦的

長按掃碼 閱讀全文