英偉達推出新一代GH200 Grace Hopper平臺

8月9日消息,英偉達 9 日凌晨在SIGGRAPH2023上發(fā)布下一代 Grace Hopper 超級芯片平臺,該平臺采用了 HBM3e 內(nèi)存技術(shù),專為人工智能和高性能計算而設(shè)計。

據(jù)IT之家援引外媒報道,據(jù)悉,新款 GH200 Grace Hopper 超級芯片平臺由 72 核的 Grace CPU 和 GH100 Hopper 計算 GPU 組成,但與初代不同的是,其使用了 HBM3e 內(nèi)存,內(nèi)存容量和帶寬都有顯著提高。

英偉達 2022 年 3 月推出了 Grace Hopper 超級芯片,首次將 CPU、GPU 融合在一塊主板上。而 HBM3e 內(nèi)存是一種新型的高帶寬內(nèi)存技術(shù),可以在更小的空間內(nèi)提供更高的數(shù)據(jù)傳輸速率。

新款 GH200 Grace Hopper 超級芯片平臺基于 72 核 Grace CPU,配備 480 GB ECC LPDDR5X 內(nèi)存以及 GH100 計算 GPU,搭配 141 GB 的 HBM3e 內(nèi)存,分為六個 24 GB 的堆棧,并使用了 6,144 位的內(nèi)存接口。雖然英偉達實際安裝了 144 GB 的內(nèi)存,但只有 141 GB 是可用的。

英偉達目前的 GH200 Grace Hopper 超級芯片平臺配備 96 GB HBM3 內(nèi)存,帶寬低于 4 TB / s。相比之下,升級版的內(nèi)存容量增加了約 50%,帶寬增加了 25% 以上。如此巨大的改進使新平臺能夠運行比初代版本更大的人工智能模型,并提供明顯的性能改進(這對于訓(xùn)練尤其重要)。

據(jù)英偉達稱,目前配備 HBM3 內(nèi)存的 GH200 Grace Hopper 超級芯片平臺已經(jīng)在生產(chǎn)中,并將于下個月開始商業(yè)銷售。 而配備 HBM3e 內(nèi)存的 GH200 Grace Hopper 超級芯片平臺現(xiàn)在正在樣品測試中,預(yù)計將于 2024 年第二季度上市。

英偉達強調(diào),新款 GH200 Grace Hopper 使用了與原版相同的 Grace CPU 和 GH100 GPU 芯片,因此公司無需推出任何新的版本或步進。英偉達表示,原版 GH200 和升級版 GH200 將在市場上共存,這意味著后者將以更高的價格出售,畢竟其更先進的內(nèi)存技術(shù)帶來的更高性能。

英偉達表示,配備 HBM3e 內(nèi)存的下一代 Grace Hopper 超級芯片平臺完全兼容英偉達的 MGX 服務(wù)器規(guī)范,并且可以與現(xiàn)有的服務(wù)器設(shè)計直接兼容。

極客網(wǎng)企業(yè)會員

免責(zé)聲明:本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性,但不保證有關(guān)資料的準確性及可靠性,讀者在使用前請進一步核實,并對任何自主決定的行為負責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏,概不負任何法律責(zé)任。任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時,應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明,并提供身份證明、權(quán)屬證明及詳細侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后,將會依法盡快聯(lián)系相關(guān)文章源頭核實,溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。

2023-08-09
英偉達推出新一代GH200 Grace Hopper平臺
專為人工智能和高性能計算而設(shè)計。

長按掃碼 閱讀全文