英偉達(dá)黃仁勛:我們已到達(dá)生成式AI的引爆點(diǎn)

5月29日消息,在臺(tái)北電腦展COMPUTEX 2023上,黃仁勛做了展前主題演講,并發(fā)布了包括超級(jí)GPU GH200在內(nèi)的一系列與AI相關(guān)產(chǎn)品。

包括大內(nèi)存生成式AI超級(jí)計(jì)算機(jī)DGX GH200;Grace Hopper超級(jí)芯片GH200;加速以太網(wǎng)平臺(tái)Spectrum-X;為游戲提供定制化AI模型代工服務(wù);與全球最大的營(yíng)銷(xiāo)服務(wù)機(jī)構(gòu)WPP合作打造生成式AI內(nèi)容引擎等。

英偉達(dá)還發(fā)布了MGX服務(wù)器規(guī)范,為系統(tǒng)制造商提供快速高效構(gòu)建100多種服務(wù)器配置的模塊化參考架構(gòu)。黃仁勛說(shuō),有超過(guò)1600家生成式AI公司采用了英偉達(dá)技術(shù)。

在演講中,黃仁勛宣布,人類(lèi)已經(jīng)到達(dá)了生成式AI的引爆點(diǎn)。從此,全世界的每個(gè)角落,都會(huì)有計(jì)算需求。

黃仁勛透露,英偉達(dá)最新GPU GH200 Grace Hopper超級(jí)芯片已全面投產(chǎn),將為運(yùn)行復(fù)雜的AI和高性能計(jì)算工作負(fù)載提供動(dòng)力。

GH200 Grace Hopper超級(jí)芯片采用NVIDIA NVLink-C2C互連技術(shù),將基于Arm的英偉達(dá)Grace CPU和Hopper GPU架構(gòu)組合在同一封裝中,提供了高達(dá)900GB/s的總帶寬——比傳統(tǒng)加速系統(tǒng)中的標(biāo)準(zhǔn)PCIe Gen5通道帶寬高7倍,互連功耗降低到原來(lái)的1/5,能夠滿足苛刻的生成式AI和高性能計(jì)算(HPC)應(yīng)用。

黃仁勛稱(chēng),DGX GH200是首款將Grace Hopper超級(jí)芯片與英偉達(dá)NVLink Switch系統(tǒng)搭配的超級(jí)計(jì)算機(jī),通過(guò)采用新互連方式,將256個(gè)Grace Hopper超級(jí)芯片連接在一起,使它們能像單個(gè)巨型GPU一樣協(xié)同運(yùn)行,從而提供了1EFLOPS的性能和144TB的共享內(nèi)存,比2020年推出的上一代DGX A100 320GB系統(tǒng)的內(nèi)存多出近500倍。

谷歌云、Meta、微軟等是首批獲得DGX GH200訪問(wèn)權(quán)限、用于生成式AI工作負(fù)載的公司。英偉達(dá)也打算將DGX GH200設(shè)計(jì)藍(lán)圖提供給云服務(wù)商及其他超大規(guī)模計(jì)算廠商,以便他們可以進(jìn)一步為其基礎(chǔ)設(shè)施定制DGX GH200。

此外,英偉達(dá)正在打造自己的基于DGX GH200的大型AI超級(jí)計(jì)算機(jī)NVIDIA Helios,以支持其研究和開(kāi)發(fā)團(tuán)隊(duì)的工作。

它采用4個(gè)DGX GH200系統(tǒng),每個(gè)都將與英偉達(dá)Quantum-2 InfiniBand網(wǎng)絡(luò)連接,帶寬高達(dá)400Gb/s,以提高訓(xùn)練大型AI模型的數(shù)據(jù)吞吐量。Helios將包括1024顆Grace Hopper超級(jí)芯片,將于年底上線。

極客網(wǎng)企業(yè)會(huì)員

免責(zé)聲明:本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性,但不保證有關(guān)資料的準(zhǔn)確性及可靠性,讀者在使用前請(qǐng)進(jìn)一步核實(shí),并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏,概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí),應(yīng)及時(shí)向本網(wǎng)站提出書(shū)面權(quán)利通知或不實(shí)情況說(shuō)明,并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后,將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí),溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。

2023-05-29
英偉達(dá)黃仁勛:我們已到達(dá)生成式AI的引爆點(diǎn)
全世界的每個(gè)角落,都會(huì)有計(jì)算需求。

長(zhǎng)按掃碼 閱讀全文