當(dāng)前，一個(gè)令人振奮的趨勢是，人工智能(AI)應(yīng)用和功能正在各種邊緣側(cè)設(shè)備上快速擴(kuò)展和普及。隨著AI的不斷發(fā)展和進(jìn)步，對(duì)于AI研究員、數(shù)據(jù)科學(xué)家、開發(fā)者和學(xué)生而言，獲取高性能算力以開發(fā)或運(yùn)行新的模型(如語言模型、視覺模型或多模態(tài)模型)變得至關(guān)重要。鑒于AI創(chuàng)新的步伐空前加快，行業(yè)需要確保開發(fā)者在云端及邊緣側(cè)均能獲得高性能算力，從而直接獲得更多的新功能。
為開發(fā)者實(shí)現(xiàn)唾手可得的突破性AI性能
在今年的國際消費(fèi)類電子產(chǎn)品展覽會(huì)(CES)上，NVIDIA創(chuàng)始人兼首席執(zhí)行官黃仁勛在主題演講中發(fā)布了個(gè)人AI超級(jí)計(jì)算機(jī)NVIDIA Project DIGITS，朝著“隨處可開發(fā)和部署AI” 的愿景又邁近了重要一步?；贚inux系統(tǒng)的Project DIGITS搭載了Arm CPU核心，使每位AI開發(fā)者都能擁有一套高性能的AI桌面系統(tǒng)。
圖：由Arm驅(qū)動(dòng)的NVIDIA Project DIGITS為數(shù)百萬開發(fā)者帶來高性能AI算力
Project DIGITS采用了全新NVIDIA GB10 Grace Blackwell超級(jí)芯片，搭載NVIDIA Grace CPU、NVIDIA Blackwell GPU、新一代CUDA®core和第五代TensorCores，通過NVIDIA NVLink®-C2C片間互連技術(shù)實(shí)現(xiàn)連接，并配有128GB的統(tǒng)一的高一致性內(nèi)存。NVIDIA Grace CPU搭載了先進(jìn)的高性能Arm Cortex-X和Cortex-A技術(shù)，配置10個(gè)Cortex-X925和10個(gè)Cortex-A725CPU核心。NVIDIA GB10超級(jí)芯片能以FP4計(jì)算精度提供高達(dá)1 PFLOPS(1,000 TFLOPs)的AI性能，使開發(fā)者能對(duì)AI大模型進(jìn)行原型設(shè)計(jì)、微調(diào)和推理，同時(shí)還能與云端或數(shù)據(jù)中心環(huán)境無縫對(duì)接，實(shí)現(xiàn)協(xié)同工作。
Arm計(jì)算平臺(tái)的價(jià)值
借助無處不在的Arm計(jì)算平臺(tái)，新的AI模型和應(yīng)用能更高效、更快速地在邊緣側(cè)運(yùn)行。在消費(fèi)級(jí)技術(shù)市場，不論是用于ProjectDIGITS的最新Arm CPU，或是集成在Arm終端計(jì)算子系統(tǒng)(CSS)的一部分，ArmCPU技術(shù)已成為市場中高性能邊緣側(cè)設(shè)備的核心驅(qū)動(dòng)力。這些CPU技術(shù)經(jīng)過精心優(yōu)化，可在各種實(shí)際用例和工作負(fù)載中實(shí)現(xiàn)最大性能和最高效率。
Arm計(jì)算平臺(tái)還兼具靈活性，可針對(duì)不同的AI應(yīng)用場景使用不同的計(jì)算引擎。在NVIDIAProjectDIGITS中，基于Arm架構(gòu)的NVIDIA Grace CPU和NVIDIA Blackwell GPU互相協(xié)作，使開發(fā)者能夠?qū)⑦@些組件用于各種工作負(fù)載。這種異構(gòu)計(jì)算策略對(duì)于最大化AI性能，同時(shí)管理內(nèi)存利用率和功耗至關(guān)重要。
NVIDIA SoC產(chǎn)品副總裁Ashish Karandikar表示：“我們與Arm在GB10超級(jí)芯片的合作上，巧妙地結(jié)合了NVIDIA的AI專業(yè)知識(shí)與Arm可擴(kuò)展的計(jì)算平臺(tái)，實(shí)現(xiàn)了出眾的性能和能效，將推動(dòng)下一代AI創(chuàng)新。隨著Project DIGITS的推出，每位AI開發(fā)者和研究員都將能擁有一臺(tái)功能強(qiáng)大的超級(jí)計(jì)算機(jī)。”
釋放軟件創(chuàng)新的潛能
對(duì)于開發(fā)者而言，擁有一個(gè)完全集成的軟硬件AI平臺(tái)至關(guān)重要。ProjectDIGITS使用開源Linux操作系統(tǒng)，用戶可以訪問資源豐富的NVIDIA AI軟件庫，包括NVIDIA NGC目錄和NVIDIA開發(fā)者門戶網(wǎng)站中提供的軟件開發(fā)套件、編排工具、框架和AI模型，以加快生成式AI的工作流程。
Arm和NVIDIA Grace Hopper和Grace Blackwell在數(shù)據(jù)中心的合作，為數(shù)據(jù)中心和邊緣側(cè)設(shè)備環(huán)境提供一致的平臺(tái)架構(gòu)，使開發(fā)者能夠無縫地使用同一套工具進(jìn)行AI應(yīng)用開發(fā)。此外，Arm不斷積極推動(dòng)開源開發(fā)者社區(qū)的重要工作，旨在開發(fā)出適配的軟件，加速AI的全面部署。目前，全球已有超過2,000萬軟件開發(fā)者在Arm計(jì)算平臺(tái)上構(gòu)建自己的應(yīng)用程序，共同推動(dòng)著一個(gè)快速創(chuàng)新、日益壯大的開源社區(qū)。
賦予高性能AI算力的理想平臺(tái)
Arm作為當(dāng)前和未來AI領(lǐng)域應(yīng)用最廣泛的計(jì)算平臺(tái)，自然而然地成為了Project DIGITS中GB10超級(jí)芯片的理想平臺(tái)。ProjectDIGITS是一個(gè)功能強(qiáng)大的個(gè)人計(jì)算機(jī)桌面平臺(tái)，能夠運(yùn)行高達(dá)200B參數(shù)的AI大模型，讓原本的不可能變?yōu)榭赡?。這種對(duì)AI生態(tài)系統(tǒng)的廣泛影響力，為全球數(shù)百萬開發(fā)者帶來了靈活、高性能且高能效的AI功能。通過與NVIDIA及Arm強(qiáng)大的軟件生態(tài)系統(tǒng)緊密的合作，我們翹首以待下一代極具創(chuàng)新的AI應(yīng)用的問世。
（免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。
任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 ）
