3月20日消息,亞馬遜云科技和英偉達宣布,英偉達在2024年GTC大會上推出的新一代NVIDIA Blackwell GPU平臺即將登陸亞馬遜云科技。亞馬遜云科技將提供NVIDIA GB200 Grace Blackwell Superchip和 B100 Tensor Core GPU。
英偉達Blackwell在亞馬遜云科技上的應用,使得該平臺在應對資源密集型和數(shù)萬億參數(shù)語言模型等推理工作負載加速方面實現(xiàn)了巨大飛躍。
NVIDIA GB200 Grace Blackwell Superchip和 B100 Tensor Core GPU是英偉達剛剛在2024年GTC大會推出的最新GPU產(chǎn)品。
新的NVIDIA B200 GPU 由 2080 億個晶體管組成,而NVIDIA GB200 包含了兩個 B200 GPU 和一個 Grace CPU。
Blackwell 在單芯片訓練方面的 FP8 性能是其上一代架構(gòu)的 2.5 倍,在推理方面的 FP4 性能是其上一代架構(gòu)的 5 倍。在具有 1750 億個參數(shù)的 GPT-3 大語言模型基準測試中,GB200 性能是 H100 的 7 倍,訓練速度是 H100 的 4 倍,成本和能耗上GB200 比 H100 降低了 25 倍。
據(jù)介紹,亞馬遜云科技將提供配置GB200 NVL72的英偉達Blackwell平臺,它配備72顆Blackwell GPU和36顆Grace CPU,通過第五代NVIDIA NVLink互連。當與亞馬遜云科技的EFA網(wǎng)絡、Amazon Nitro高級虛擬化系統(tǒng)和Amazon EC2 UltraClusters超大規(guī)模集群等技術(shù)結(jié)合時,客戶能夠輕松擴展至數(shù)千個GB200 Superchips。
NVIDIA GB200 NVL72 是一種多節(jié)點、液冷、機架級系統(tǒng),利用 Blackwell 為萬億參數(shù)模型提供強力計算,在單個機架中可實現(xiàn) 720 petaflops 的 AI 訓練性能和1.4 exaflops 的AI推理性能。
在安全性方面,亞馬遜云科技的Nitro 系統(tǒng)、Amazon KMS、EFA加密 和 Blackwell 加密的集成將為客戶提供對其訓練數(shù)據(jù)和模型權(quán)重的端到端控制,從而為客戶在亞馬遜云科技上的生成式AI應用程序提供更強的安全性。
Blackwell也加入了雙方合作的Project Ceiba項目,該項目專為NVIDIA自身的AI研發(fā)工作設計,是一臺亞馬遜云科技上托管的采用DGX Cloud的AI超級計算機,它搭載了20,736顆GB200 Superchips芯片,并通過第四代EFA網(wǎng)絡擴展,為每個Superchip提供高達800 Gbps的低延遲、高帶寬網(wǎng)絡吞吐量,能夠提供414 exaflops的計算能力,與之前計劃在Hopper架構(gòu)上構(gòu)建Ceiba相比,性能提升了6倍。
同時,亞馬遜云科技與英偉達聯(lián)手,通過Amazon SageMaker與NVIDIA NIM推理微服務的整合,提供了高性能、低成本的生成式AI推理解決方案,該服務作為NVIDIA AI企業(yè)版的一部分提供??蛻艨梢岳眠@一組合在Amazon SageMaker中快速部署和運行已預編譯且對NVIDIA GPU進行優(yōu)化的基礎模型,縮短生成式AI應用的推出時間。
亞馬遜云科技與英偉達還在利用計算機輔助的藥物發(fā)現(xiàn)領域進行合作拓展,推出了新的NVIDIA BioNeMo基礎模型,用于生成化學、蛋白質(zhì)結(jié)構(gòu)預測,以及理解藥物分子與目標的相互作用。這些新模型將很快在Amazon HealthOmics上提供,這是一個專為幫助醫(yī)療保健和生命科學組織存儲、查詢和分析基因組、轉(zhuǎn)錄組及其他組學數(shù)據(jù)而設計的專用服務。
Amazon HealthOmics和英偉達醫(yī)療保健團隊還合作推出生成式AI微服務,以推進藥物發(fā)現(xiàn)、醫(yī)療技術(shù)和數(shù)字健康領域的發(fā)展,該服務提供一個新的GPU加速的云端服務目錄,涵蓋生物學、化學、成像和醫(yī)療保健數(shù)據(jù),以便醫(yī)療企業(yè)能夠在亞馬遜云科技上利用生成式AI的最新成果。
亞馬遜云科技首席執(zhí)行官Adam Selipsky表示:“我們雙方的深入合作可以追溯到13年前,當時我們共同推出了世界上第一個亞馬遜云科技上的GPU云實例,而今天我們?yōu)榭蛻籼峁┝俗顝V泛的英偉達GPU解決方案。英偉達的下一代Grace Blackwell處理器是生成式AI和GPU計算領域的標志性事件。當結(jié)合亞馬遜云科技強大的EFA網(wǎng)絡、Amazon EC2 UltraClusters的超大規(guī)模集群功能,以及我們獨有的Amazon Nitro高級虛擬化系統(tǒng)及其安全功能時,我們就能夠使客戶更快、更大規(guī)模且更安全地構(gòu)建和運行具有數(shù)萬億參數(shù)的大型語言模型。”(果青)
- 蜜度索驥:以跨模態(tài)檢索技術(shù)助力“企宣”向上生長
- 國慶出游帶火旅行拍攝 轉(zhuǎn)轉(zhuǎn)平臺二手運動相機訂單量環(huán)比增長 89%
- TechWeb微晚報:“純血鴻蒙”今日開啟公測 蘋果或放棄一年一更新產(chǎn)品模式
- NVIDIA新一代顯卡即將來臨,RTX 40系列步入停產(chǎn)倒計時
- 零跑汽車朱江明內(nèi)部講話曝光:10月訂單有望再創(chuàng)新高,月銷30萬臺是未來目標
- 網(wǎng)傳奇瑞汽車香港上市在即,估值達71億美元,全球擴張步伐不斷加快
- 文旅部:國慶節(jié)假期國內(nèi)出游7.65億人次 總花費超7000億元
- 滴滴:國慶出行訂單量同比上漲15% 休娛文旅多場景消費潛力釋放
- 小米Civi產(chǎn)品經(jīng)理胡馨心輪崗到Redmi團隊 盧偉冰發(fā)文官宣
- 宋紫薇確認從理想離職 下一步計劃進軍AI智能硬件賽道
- 騰訊前三季度已回購883億港元 回購股份全部注銷
免責聲明:本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性,但不保證有關資料的準確性及可靠性,讀者在使用前請進一步核實,并對任何自主決定的行為負責。本網(wǎng)站對有關資料所引致的錯誤、不確或遺漏,概不負任何法律責任。任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時,應及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明,并提供身份證明、權(quán)屬證明及詳細侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后,將會依法盡快聯(lián)系相關文章源頭核實,溝通刪除相關內(nèi)容或斷開相關鏈接。