Arm控股有限公司(納斯達(dá)克股票代碼：ARM，以下簡稱“Arm”)今日發(fā)布Arm®v9邊緣人工智能(AI)計算平臺，該平臺以全新的Arm Cortex®-A320 CPU和領(lǐng)先的邊緣AI加速器Arm Ethos™-U85 NPU為核心，可支持運(yùn)行超10億參數(shù)的端側(cè)AI模型。
Arm高級副總裁兼物聯(lián)網(wǎng)事業(yè)部總經(jīng)理Paul Williamson表示：“AI的革新已不再局限于云端。隨著世界的互聯(lián)和智能化水平的日益提升，從智慧城市到工業(yè)自動化，在邊緣側(cè)處理AI工作負(fù)載不僅帶來顯著的優(yōu)勢，其必要性更是不可或缺。專為物聯(lián)網(wǎng)打造的Armv9邊緣AI計算平臺的推出，標(biāo)志著這一發(fā)展趨勢邁入了重要的里程碑。”
Armv9邊緣AI計算平臺——在邊緣集成效率、安全和智能
OEM廠商正面臨著前所未有的壓力，迫切需要快速推出解決方案，以應(yīng)對物聯(lián)網(wǎng)應(yīng)用不斷攀升的計算需求，這些需求包括自動駕駛車輛在工廠環(huán)境中的精準(zhǔn)導(dǎo)航、智能攝像頭通過軟件升級靈活調(diào)整功能，以及構(gòu)建能夠提供更自然AI交互體驗的人機(jī)界面。
為了快速創(chuàng)新和擴(kuò)展，OEM廠商需要在合適的位置靈活執(zhí)行AI工作負(fù)載，以實現(xiàn)更強(qiáng)大的安全性和更高的軟件靈活性，Armv9技術(shù)正是能在大規(guī)模應(yīng)用中滿足這些需求的理想之選。Arm此次發(fā)布的計算平臺集成了全新的超高能效Armv9 CPU——Cortex-A320和支持Transformer算子網(wǎng)絡(luò)的Ethos-U85 NPU，打造出全球首個專為物聯(lián)網(wǎng)優(yōu)化的Armv9邊緣AI計算平臺。相較于去年推出的基于Cortex-M85的平臺，新的邊緣AI計算平臺的機(jī)器學(xué)習(xí)(ML)性能提高了八倍。
Arm技術(shù)的廣泛應(yīng)用，使得合作伙伴現(xiàn)在能夠在從云端到邊緣側(cè)的各種計算場景中部署強(qiáng)大的Armv9技術(shù)。從授權(quán)該技術(shù)以構(gòu)建SoC芯片的合作伙伴，到構(gòu)建下一代設(shè)備的ODM和OEM廠商，該平臺受到了包括亞馬遜云科技(AWS)、西門子、瑞薩電子、研華科技和Eurotech在內(nèi)的多家業(yè)界領(lǐng)先合作伙伴的支持。
全新Cortex-A320為下一代智能物聯(lián)網(wǎng)設(shè)備奠定安全基礎(chǔ)
新型邊緣AI計算平臺的推出標(biāo)志著邊緣計算發(fā)展的重要里程碑。Cortex-A320為物聯(lián)網(wǎng)帶來了先進(jìn)的AI功能和開發(fā)者優(yōu)勢，將Armv9架構(gòu)的功能擴(kuò)展到高能效設(shè)備，并提供全面的軟件支持。
Cortex-A320充分發(fā)揮了Armv9架構(gòu)的優(yōu)勢，如針對ML性能的SVE2。相較于前代產(chǎn)品Cortex-A35，Cortex-A320的ML性能提升了十倍，標(biāo)量性能提升了30%。
該平臺所采用的Armv9.2架構(gòu)還為最小的Cortex-A設(shè)備帶來了高級的安全功能，例如指針驗證(PAC)、分支目標(biāo)識別(BTI)和內(nèi)存標(biāo)記擴(kuò)展(MTE)。這些功能至關(guān)重要，因為邊緣設(shè)備通常在暴露的環(huán)境中運(yùn)行并處理敏感數(shù)據(jù)。
隨著邊緣AI在Arm平臺上持續(xù)集成，這一全新產(chǎn)品的加入使Arm現(xiàn)已能為物聯(lián)網(wǎng)提供最為先進(jìn)的Armv9 Cortex處理器系列，覆蓋從極致性能到成本和能效受限的設(shè)備。
將Arm Kleidi擴(kuò)展到物聯(lián)網(wǎng)
邊緣AI普及面臨的最主要障礙之一是軟件開發(fā)和部署的復(fù)雜性，這正是Armv9邊緣AI計算平臺軟件生態(tài)系統(tǒng)發(fā)揮優(yōu)勢的關(guān)鍵所在。Arm將Arm Kleidi擴(kuò)展到物聯(lián)網(wǎng)，這是一套面向AI框架開發(fā)者的計算庫，旨在優(yōu)化基于Arm CPU的AI和ML工作負(fù)載，無需開發(fā)者額外操作。KleidiAI已集成到常見的物聯(lián)網(wǎng)AI框架中，如Llama.cpp和ExecuTorch或LiteRT(通過XNNPACK)，加速了Meta Llama 3和Phi-3等關(guān)鍵模型的性能。例如，在Llama.cpp上運(yùn)行微軟的Tiny Stories數(shù)據(jù)集時，KleidiAI為新的Cortex-A320帶來了高達(dá)70%的性能提升。
這些提升至關(guān)重要，因為在當(dāng)今快節(jié)奏的技術(shù)環(huán)境中，產(chǎn)品的上市速度往往決定其成敗。新的邊緣AI計算平臺確保了與更高性能Cortex-A處理器在軟件層面的無縫兼容。這種可擴(kuò)展性使開發(fā)者能夠打造可隨需求變化而靈活調(diào)整的解決方案。借助龐大的Armv9生態(tài)系統(tǒng)，以及與Linux等功能豐富的操作系統(tǒng)和Zephyr等實時操作系統(tǒng)的兼容性，開發(fā)者擁有了前所未有的靈活性。他們可以充分利用現(xiàn)有的工具和知識，以及軟件復(fù)用的優(yōu)勢，從而加快產(chǎn)品上市時間，并降低總體擁有成本。全球范圍內(nèi)有2,000多萬活躍的Arm開發(fā)者，這為未來的技術(shù)創(chuàng)新提供了巨大潛力。
展望未來
展望未來，顯然AI的未來趨勢將轉(zhuǎn)向邊緣，而全新Arm邊緣AI計算平臺將成為新一輪物聯(lián)網(wǎng)創(chuàng)新的催化劑。Armv9架構(gòu)的特性、先進(jìn)的AI功能和全面軟件支持的結(jié)合，為OEM廠商和開發(fā)者創(chuàng)造了新的可能性。
該平臺能夠支持基于智能體的AI應(yīng)用上運(yùn)行經(jīng)過調(diào)優(yōu)的大語言模型(LLM)和小語言模型(SLM)，從而開辟全新類別的邊緣應(yīng)用場景。在未來的場景中，智能決策將更接近數(shù)據(jù)采集源頭，這不僅能顯著減少延遲，還能有效提升隱私保護(hù)水平。
這不僅僅是一次漸進(jìn)式的進(jìn)步，它代表著行業(yè)對邊緣計算和AI處理方式的根本性變革。這是行業(yè)首次迎來專為物聯(lián)網(wǎng)應(yīng)用優(yōu)化的Armv9 CPU，將超高能效與先進(jìn)AI能力結(jié)合，實現(xiàn)了前所未有的突破。
邊緣AI的發(fā)展速度之快，遠(yuǎn)遠(yuǎn)超出了人們的預(yù)期。隨著需求的不斷增長，端點(diǎn)設(shè)備需要更高性能、能效、安全性和靈活性，可以說，當(dāng)前的設(shè)備已經(jīng)或即將“掉隊”。從長遠(yuǎn)來看，AI設(shè)備的升級成為一個必選項。在這方面，Arm早已準(zhǔn)備好了理想的技術(shù)方案，Armv9邊緣AI計算平臺的發(fā)布給IoT產(chǎn)業(yè)帶來了不小的驚喜，后續(xù)將會給行業(yè)帶來如何的創(chuàng)新和改變，讓我們拭目以待。
（免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請進(jìn)一步核實，并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負(fù)任何法律責(zé)任。
任何單位或個人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時，應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 ）
