Arm 全面設計助力 Arm 架構生態(tài)發(fā)展,構建可持續(xù) AI 數(shù)據(jù)中心

新聞重點:

·Arm全面設計(Arm Total Design)生態(tài)項目推出一年來,成員規(guī)模翻倍,推動了全球芯片創(chuàng)新

·Arm、三星晶圓代工廠(Samsung Foundry)、ADTechnology和Rebellions合作開發(fā)基于Neoverse CSS V3的AI CPU芯粒(chiplet)平臺,應用于云、高性能計算(HPC)以及人工智能/機器學習(AI/ML)訓練和推理

·安國國際科技(Alcor Micro)和Alphawave推出基于臺積公司工藝的全新芯粒,用于打造可持續(xù)AI數(shù)據(jù)中心

近日,Arm控股有限公司 (納斯達克股票代碼:ARM,以下簡稱Arm) 分享了Arm全面設計生態(tài)項目推出一周年后的最新動態(tài):參與企業(yè)已迅速擴展到近30家,涵蓋了從IC設計到晶圓代工服務等各項專業(yè)能力,最新加入的企業(yè)包括安國國際科技、神盾公司(Egis)、熵碼科技(PUFsecurity) 和SEMIFIVE。此外,通過該生態(tài)項目,Arm、三星晶圓代工廠、ADTechnology和Rebellions正在聯(lián)手向市場推出AI CPU芯粒平臺,面向云、HPC以及AI/ML訓練和推理工作負載。

Arm基礎設施事業(yè)部營銷副總裁Eddie Ramirez表示:“隨著AI算力需求的增長,確保開發(fā)者以高性能、低功耗且易用的方式,在全球應用最普及的計算平臺上輕松運行創(chuàng)新成果至關重要。Arm計算子系統(tǒng)(CSS)和Arm全面設計正助力軟硬件的快速進步,推動AI開發(fā)。我們已邁入工程創(chuàng)意發(fā)展的時代,Arm正提供必要的工具和技術,以推動AI和芯片領域的創(chuàng)新。”

全新Arm架構解決方案推動AI數(shù)據(jù)中心的可持續(xù)發(fā)展

Arm全面設計帶動了全球合作,促成了多個以CSS為核心的生成式AI計算解決方案誕生。其中一個絕佳的例子是由Arm、三星晶圓代工廠、ADTechnology和Rebellions聯(lián)合推出的AI CPU芯粒平臺。該平臺專門針對云、HPC以及AI/ML訓練和推理工作負載,結合了Rebellions的REBEL AI加速器和搭載Neoverse CSS V3的ADTechnology計算芯粒,并采用三星晶圓代工廠2nm全環(huán)繞柵極(GAA)先進工藝技術,帶來出色的性能和能效,預計可為生成式AI工作負載(Llama3.1 405B參數(shù)LLM)帶來2-3倍的能效優(yōu)勢。

三星電子副總裁兼代工業(yè)務開發(fā)負責人Taejoong Song表示:“AI和HPC設計需要采用具有最高性能、高晶體管密度和高能效的技術解決方案。三星晶圓代工廠的2nm GAA工藝專為滿足嚴格的HPC和AI設計要求而設計,我們很高興能夠利用Arm CSS的靈活性和Arm全面設計的優(yōu)勢來打造AI CPU芯粒平臺,進一步推動超大規(guī)模企業(yè)和云服務提供商采用我們的尖端技術和設計解決方案。”

這個合作范例充分體現(xiàn)了Arm全面設計和基于標準計算子系統(tǒng)在加速AI芯片開發(fā)方面的獨特價值。通過集成Arm優(yōu)化的EDA工具、全球設計專業(yè)知識和晶圓代工服務合作關系,Arm為AI加速器設計人員簡化了集成流程。隨著AI工作負載的快速演進,緊密耦合CPU計算對于支持完整的AI堆棧至關重要。數(shù)據(jù)預處理、編排、數(shù)據(jù)庫增強技術(例如檢索增強生成(RAG))等都能受益于Arm Neoverse CPU的性能效率。Arm已經(jīng)在CSS中融入了對這些要求的支持, 并通過Arm全面設計生態(tài)項目從中受益。

專為AI基礎設施打造的新標準

CSS和Arm全面設計正在幫助打造可持續(xù)AI數(shù)據(jù)中心的硬件基礎。Arm全面設計已經(jīng)在加速開發(fā)基于Arm架構的測試芯片以及由Neoverse N系列或V系列CSS驅動的芯粒產(chǎn)品。通過提供優(yōu)先獲取最新CSS的廣泛途徑,我們降低了行業(yè)準入門檻,打造了從云端到邊緣的多樣化芯粒解決方案,并加速了開發(fā)速度。

近日,Alcor Micro宣布他們正在構建由CSS驅動的芯粒,針對AI/ML訓練和推理用例。Alphawave近期也宣布推出基于CSS的先進計算芯粒,面向AI/ML、HPC、數(shù)據(jù)中心和5G/6G應用。這些基于Arm架構的芯粒充分展現(xiàn)了Arm生態(tài)系統(tǒng)獨有的多樣性、靈活性和全球化。

此外,Arm全面設計合作伙伴(包括Alphawave、Cadence和proteanTecs等)正通過CSS在先進節(jié)點上驗證第三方IP產(chǎn)品,以確保其符合Arm規(guī)范和標準。這意味著合作伙伴可以在先進節(jié)點上構建基于CSS的定制芯片,并獲得無縫的開箱即用的軟件體驗。

這種軟件就緒程度始終是釋放AI潛力的關鍵。30多年來,Arm不斷進行資源投入,以確保在Arm平臺上運行的軟件“開機即用”。如今,所有主流框架和操作系統(tǒng)均在Arm架構上運行。對于Arm全面設計生態(tài)項目而言,這意味著Arm合作伙伴推向市場的多樣化芯片解決方案,都能充分利用同樣充滿活力且高度整合的軟件生態(tài)系統(tǒng)。這項持續(xù)投入的最新成果之一是Arm Kleidi技術的推出,該項技術被集成到PyTorch和Llama.cpp等開源項目,優(yōu)化了Arm平臺上的CPU推理。這對于Arm全面設計合作伙伴來說尤為重要,他們無需依賴專用的加速器,即可通過CSS為邊緣AI計算打造芯粒。

(免責聲明:本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性,但不保證有關資料的準確性及可靠性,讀者在使用前請進一步核實,并對任何自主決定的行為負責。本網(wǎng)站對有關資料所引致的錯誤、不確或遺漏,概不負任何法律責任。
任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權或存在不實內(nèi)容時,應及時向本網(wǎng)站提出書面權利通知或不實情況說明,并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網(wǎng)站在收到上述法律文件后,將會依法盡快聯(lián)系相關文章源頭核實,溝通刪除相關內(nèi)容或斷開相關鏈接。 )