英特爾推出Gaudi 3加速器:部分性能超越H100 將于Q2面向OEM 廠商出貨

4月10日消息 在企業(yè)級(jí)AI基礎(chǔ)設(shè)施市場(chǎng)上,英偉達(dá)毫無(wú)疑問(wèn)占據(jù)了先發(fā)優(yōu)勢(shì),但英特爾在奮起直追。

北京時(shí)間4月9日晚間,英特爾Vision大會(huì)召開(kāi)。英特爾重磅發(fā)布了英特爾至強(qiáng)6處理器的全新品牌,推出英特爾Gaudi 3加速器,以高性能、開(kāi)放性和靈活性助力企業(yè)推進(jìn)生成式AI創(chuàng)新,并發(fā)布了涵蓋全新開(kāi)放、可擴(kuò)展系統(tǒng),下一代產(chǎn)品和一系列戰(zhàn)略合作的全棧解決方案,以加速生成式AI落地。

其中,英特爾Gaudi 3加速器將會(huì)是英特爾對(duì)抗英偉達(dá)的利器。英特爾CEO基辛格也對(duì)此寄予厚望。企業(yè)希望將生成式AI從試驗(yàn)階段擴(kuò)展到應(yīng)用階段。因此,他們需要基于諸如英特爾Gaudi 3 AI加速器這樣的高性能、經(jīng)濟(jì)實(shí)用、節(jié)能的處理器所打造的可快速部署的解決方案。并且,Gaudi 3還能滿足復(fù)雜性、成本效益、碎片化、數(shù)據(jù)可靠性和合規(guī)性等需求。

英特爾表示,英特爾Gaudi 3 AI加速器將為AI系統(tǒng)提供動(dòng)力,該AI系統(tǒng)可通過(guò)以太網(wǎng)的通用標(biāo)準(zhǔn)連接多達(dá)數(shù)萬(wàn)個(gè)加速器。與上一代產(chǎn)品相比,英特爾Gaudi 3將帶來(lái)4倍的BF16 AI計(jì)算能力提升,以及1.5倍的內(nèi)存帶寬提升。該加速器將為尋求大規(guī)模部署生成式AI的企業(yè)帶來(lái)AI訓(xùn)練和推理方面的重大飛躍。

英特爾Gaudi 3預(yù)計(jì)可大幅縮短70億和130億參數(shù)Llama2模型,以及1750億參數(shù)GPT-3模型的訓(xùn)練時(shí)間。此外,在Llama 7B、70B和Falcon 180B大型語(yǔ)言模型(LLM)的推理吞吐量和能效方面也展現(xiàn)了出色性能。英特爾Gaudi 3加速器提供開(kāi)放的、基于社區(qū)的軟件和行業(yè)標(biāo)準(zhǔn)以太網(wǎng)網(wǎng)絡(luò),允許企業(yè)靈活地從單個(gè)節(jié)點(diǎn)擴(kuò)展到擁有數(shù)千個(gè)節(jié)點(diǎn)的集群、超級(jí)集群和超大集群,支持大規(guī)模的推理、微調(diào)和訓(xùn)練。

對(duì)于Gaudi 3 芯片,英特爾在此前的新聞通氣會(huì)上稱(chēng)該產(chǎn)品的能效是英偉達(dá)芯片的兩倍多,運(yùn)行 AI 模型的速度是英偉達(dá) H100 GPU芯片的1.5倍。

Gaudi系列是英特爾在2022年5月面向人工智能應(yīng)用場(chǎng)景專(zhuān)門(mén)推出的芯片品牌,用以對(duì)標(biāo)英偉達(dá)的人工智能計(jì)算芯片。英特爾Gaudi 3將于2024年第二季度面向OEM廠商出貨,包括戴爾、惠普和超微電腦在內(nèi)的公司將使用該芯片。

極客網(wǎng)企業(yè)會(huì)員

免責(zé)聲明:本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性,但不保證有關(guān)資料的準(zhǔn)確性及可靠性,讀者在使用前請(qǐng)進(jìn)一步核實(shí),并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏,概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí),應(yīng)及時(shí)向本網(wǎng)站提出書(shū)面權(quán)利通知或不實(shí)情況說(shuō)明,并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后,將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí),溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。

2024-04-10
英特爾推出Gaudi 3加速器:部分性能超越H100 將于Q2面向OEM 廠商出貨
英特爾推出Gaudi 3加速器:部分性能超越H100 將于Q2面向OEM 廠商出貨,C114訊 4月10日消息 在企業(yè)級(jí)AI基礎(chǔ)設(shè)施市場(chǎng)上,英偉達(dá)毫無(wú)疑問(wèn)占據(jù)了先發(fā)優(yōu)勢(shì),但英特爾在奮起

長(zhǎng)按掃碼 閱讀全文