英偉達(dá)推出新一代GH200 Grace Hopper平臺(tái)

8月9日消息,英偉達(dá) 9 日凌晨在SIGGRAPH2023上發(fā)布下一代 Grace Hopper 超級(jí)芯片平臺(tái),該平臺(tái)采用了 HBM3e 內(nèi)存技術(shù),專(zhuān)為人工智能和高性能計(jì)算而設(shè)計(jì)。

據(jù)IT之家援引外媒報(bào)道,據(jù)悉,新款 GH200 Grace Hopper 超級(jí)芯片平臺(tái)由 72 核的 Grace CPU 和 GH100 Hopper 計(jì)算 GPU 組成,但與初代不同的是,其使用了 HBM3e 內(nèi)存,內(nèi)存容量和帶寬都有顯著提高。

英偉達(dá) 2022 年 3 月推出了 Grace Hopper 超級(jí)芯片,首次將 CPU、GPU 融合在一塊主板上。而 HBM3e 內(nèi)存是一種新型的高帶寬內(nèi)存技術(shù),可以在更小的空間內(nèi)提供更高的數(shù)據(jù)傳輸速率。

新款 GH200 Grace Hopper 超級(jí)芯片平臺(tái)基于 72 核 Grace CPU,配備 480 GB ECC LPDDR5X 內(nèi)存以及 GH100 計(jì)算 GPU,搭配 141 GB 的 HBM3e 內(nèi)存,分為六個(gè) 24 GB 的堆棧,并使用了 6,144 位的內(nèi)存接口。雖然英偉達(dá)實(shí)際安裝了 144 GB 的內(nèi)存,但只有 141 GB 是可用的。

英偉達(dá)目前的 GH200 Grace Hopper 超級(jí)芯片平臺(tái)配備 96 GB HBM3 內(nèi)存,帶寬低于 4 TB / s。相比之下,升級(jí)版的內(nèi)存容量增加了約 50%,帶寬增加了 25% 以上。如此巨大的改進(jìn)使新平臺(tái)能夠運(yùn)行比初代版本更大的人工智能模型,并提供明顯的性能改進(jìn)(這對(duì)于訓(xùn)練尤其重要)。

據(jù)英偉達(dá)稱(chēng),目前配備 HBM3 內(nèi)存的 GH200 Grace Hopper 超級(jí)芯片平臺(tái)已經(jīng)在生產(chǎn)中,并將于下個(gè)月開(kāi)始商業(yè)銷(xiāo)售。 而配備 HBM3e 內(nèi)存的 GH200 Grace Hopper 超級(jí)芯片平臺(tái)現(xiàn)在正在樣品測(cè)試中,預(yù)計(jì)將于 2024 年第二季度上市。

英偉達(dá)強(qiáng)調(diào),新款 GH200 Grace Hopper 使用了與原版相同的 Grace CPU 和 GH100 GPU 芯片,因此公司無(wú)需推出任何新的版本或步進(jìn)。英偉達(dá)表示,原版 GH200 和升級(jí)版 GH200 將在市場(chǎng)上共存,這意味著后者將以更高的價(jià)格出售,畢竟其更先進(jìn)的內(nèi)存技術(shù)帶來(lái)的更高性能。

英偉達(dá)表示,配備 HBM3e 內(nèi)存的下一代 Grace Hopper 超級(jí)芯片平臺(tái)完全兼容英偉達(dá)的 MGX 服務(wù)器規(guī)范,并且可以與現(xiàn)有的服務(wù)器設(shè)計(jì)直接兼容。

極客網(wǎng)企業(yè)會(huì)員

免責(zé)聲明:本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性,但不保證有關(guān)資料的準(zhǔn)確性及可靠性,讀者在使用前請(qǐng)進(jìn)一步核實(shí),并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏,概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí),應(yīng)及時(shí)向本網(wǎng)站提出書(shū)面權(quán)利通知或不實(shí)情況說(shuō)明,并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后,將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí),溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。

2023-08-09
英偉達(dá)推出新一代GH200 Grace Hopper平臺(tái)
專(zhuān)為人工智能和高性能計(jì)算而設(shè)計(jì)。

長(zhǎng)按掃碼 閱讀全文