Intel Vision 2024大會(huì): 正式發(fā)布Gaudi 3 AI加速器和至強(qiáng)6處理器

4月10日消息,美國當(dāng)?shù)貢r(shí)間4月9日,英特爾舉辦了面向客戶和合作伙伴的英特爾on產(chǎn)業(yè)創(chuàng)新大會(huì),宣布了英特爾?至強(qiáng)?6處理器的全新品牌,推出英特爾Gaudi 3加速器,以高性能、開放性和靈活性助力企業(yè)推進(jìn)生成式AI創(chuàng)新,并發(fā)布了涵蓋全新開放、可擴(kuò)展系統(tǒng),下一代產(chǎn)品和一系列戰(zhàn)略合作的全棧解決方案,以加速生成式AI落地。根據(jù)cnvrg.io的調(diào)研結(jié)果,2023年只有10%的企業(yè)成功將其生成式AI項(xiàng)目產(chǎn)品化。英特爾的最新解決方案有望幫助企業(yè)應(yīng)對推廣AI項(xiàng)目時(shí)所面臨的挑戰(zhàn)。

“創(chuàng)新技術(shù)正在以前所未有的速度發(fā)展,每家公司都在加速成為AI公司,這一切都需要半導(dǎo)體技術(shù)提供支持。從PC到數(shù)據(jù)中心再到邊緣,英特爾正在讓AI走進(jìn)千行百業(yè)。英特爾最新的Gaudi、至強(qiáng)和酷睿平臺(tái)將提供靈活的、可定制化的解決方案,滿足客戶和合作伙伴不斷變化的需求,把握住未來的巨大機(jī)遇。”

——帕特·基辛格

英特爾公司首席執(zhí)行官

企業(yè)希望將生成式AI從試驗(yàn)階段擴(kuò)展到應(yīng)用階段。因此,他們需要基于諸如英特爾Gaudi 3 AI加速器這樣的高性能、經(jīng)濟(jì)實(shí)用、節(jié)能的處理器所打造的可快速部署的解決方案。并且,Gaudi 3還能滿足復(fù)雜性、成本效益、碎片化、數(shù)據(jù)可靠性和合規(guī)性等需求。

推出用于AI訓(xùn)練和推理的Gaudi 3

英特爾Gaudi 3 AI加速器將為AI系統(tǒng)提供動(dòng)力,該AI系統(tǒng)可通過以太網(wǎng)的通用標(biāo)準(zhǔn)連接多達(dá)數(shù)萬個(gè)加速器。與上一代產(chǎn)品相比,英特爾Gaudi 3將帶來4倍的BF16 AI計(jì)算能力提升,以及1.5倍的內(nèi)存帶寬提升。該加速器將為尋求大規(guī)模部署生成式AI的企業(yè)帶來AI訓(xùn)練和推理方面的重大飛躍。

英特爾Gaudi 3預(yù)計(jì)可大幅縮短70億和130億參數(shù)Llama2模型,以及1750億參數(shù)GPT-3模型的訓(xùn)練時(shí)間。此外,在Llama 7B、70B和Falcon 180B大型語言模型(LLM)的推理吞吐量和能效方面也展現(xiàn)了出色性能。

英特爾Gaudi 3提供開放的、基于社區(qū)的軟件和行業(yè)標(biāo)準(zhǔn)以太網(wǎng)網(wǎng)絡(luò),允許企業(yè)靈活地從單個(gè)節(jié)點(diǎn)擴(kuò)展到擁有數(shù)千個(gè)節(jié)點(diǎn)的集群、超級(jí)集群和超大集群,支持大規(guī)模的推理、微調(diào)和訓(xùn)練。英特爾Gaudi 3將于2024年第二季度面向OEM廠商出貨。

英特爾AI解決方案為客戶創(chuàng)造價(jià)值

英特爾概述了面向開放的、可擴(kuò)展的AI系統(tǒng)的戰(zhàn)略,其中包括硬件、軟件、框架和工具。英特爾讓廣泛的AI開放生態(tài)系統(tǒng)參與者,如設(shè)備制造商、數(shù)據(jù)庫提供商、系統(tǒng)集成商、軟件和服務(wù)提供商等,能夠提供滿足企業(yè)特定生成式AI需求的解決方案。與此同時(shí),亦讓企業(yè)與他們已知、信任的生態(tài)系統(tǒng)合作伙伴展開合作并采取相應(yīng)解決方案。

生態(tài)系統(tǒng)聯(lián)合創(chuàng)建開放平臺(tái),助力企業(yè)AI創(chuàng)新發(fā)展

英特爾聯(lián)合Anyscale、Articul8、DataStax、Domino、Hugging Face、KX Systems、MariaDB、MinIO、Qdrant、RedHat、Redis、SAP、VMware、Yellowbrick和Zilliz共同宣布,將創(chuàng)建一個(gè)開放平臺(tái)助力企業(yè)推動(dòng)AI創(chuàng)新。這一凝結(jié)全行業(yè)力量的計(jì)劃旨在開發(fā)開放的、多供應(yīng)商的生成式AI系統(tǒng),通過RAG(檢索增強(qiáng)生成)技術(shù),提供一流的部署便利性、性能和價(jià)值。RAG可使企業(yè)在標(biāo)準(zhǔn)云基礎(chǔ)設(shè)施上運(yùn)行的大量現(xiàn)存專有數(shù)據(jù)源得到開放大語言模型(LLM)功能的增強(qiáng),加速生成式AI在企業(yè)中的應(yīng)用。

在該計(jì)劃的初始階段,基于安全的至強(qiáng)處理器和Gaudi解決方案,英特爾將面向生成式AI進(jìn)程(pipelines)推出參考實(shí)現(xiàn),發(fā)布技術(shù)概念框架,并繼續(xù)增進(jìn)英特爾Tiber開發(fā)者云平臺(tái)基礎(chǔ)設(shè)施的功能,以便為RAG及未來進(jìn)程的生態(tài)系統(tǒng)開發(fā)和確認(rèn)打下基礎(chǔ)。英特爾鼓勵(lì)生態(tài)系統(tǒng)進(jìn)一步參與到這一開放平臺(tái)的創(chuàng)建中來,以促進(jìn)企業(yè)采用該平臺(tái),擴(kuò)大解決方案的應(yīng)用范圍,并取得業(yè)務(wù)成果。

英特爾擴(kuò)展AI路線圖和開放生態(tài)系統(tǒng)方法

英特爾還分享了企業(yè)AI各細(xì)分領(lǐng)域的下一代產(chǎn)品和服務(wù)的最新信息。

全新英特爾?至強(qiáng)?6處理器:英特爾至強(qiáng)處理器為運(yùn)行當(dāng)前的生成式AI解決方案提供了性能高效的解決方案,包括使用專有數(shù)據(jù)生成特定業(yè)務(wù)結(jié)果的RAG。同時(shí),英特爾還為面向數(shù)據(jù)中心、云和邊緣的下一代處理器進(jìn)行了品牌煥新,即英特爾至強(qiáng)6。配備能效核(E-cores)的英特爾至強(qiáng)6處理器將于2024年第二季度推出,提供卓越的效率,配備性能核(P-cores)的英特爾至強(qiáng)6處理器將緊隨其后推出,帶來更高的AI性能。

配備能效核的英特爾至強(qiáng)6處理器(代號(hào)為Sierra Forest):

● 與第二代英特爾?至強(qiáng)?處理器相比,每瓦性能提高2.4倍,機(jī)架密度提高2.7倍。

● 客戶能以近3:1的比例替換舊系統(tǒng),大幅降低能耗,幫助其實(shí)現(xiàn)可持續(xù)發(fā)展目標(biāo)。

配備性能核的英特爾至強(qiáng)6處理器(代號(hào)為Granite Rapids):

● 包含了對MXFP4數(shù)據(jù)格式的軟件支持,與使用FP16的第四代英特爾?至強(qiáng)?處理器相比,可將下一個(gè)令牌(token)的延遲時(shí)間最多縮短6.5倍,能夠運(yùn)行700億參數(shù)的Llama-2模型。

客戶端、邊緣和連接:英特爾分享了客戶端產(chǎn)品的發(fā)展勢頭以及諸多邊緣和網(wǎng)絡(luò)互聯(lián)產(chǎn)品的路線圖更新,包括:

英特爾?酷睿?Ultra處理器為生產(chǎn)力、安全性和內(nèi)容創(chuàng)作提供了全新能力,并為企業(yè)煥新其PC設(shè)備提供了巨大動(dòng)力。英特爾預(yù)計(jì)將于2024年出貨4000萬臺(tái)AI PC,以及超過230種的設(shè)計(jì),覆蓋輕薄PC和游戲掌機(jī)設(shè)備。

將于2024年推出的下一代英特爾酷睿Ultra客戶端處理器家族(代號(hào)Lunar Lake),將具備超過100 TOPS平臺(tái)算力,以及在神經(jīng)網(wǎng)絡(luò)處理單元(NPU)上帶來超過46 TOPS的算力,從而為下一代AI PC提供強(qiáng)大支持。

英特爾發(fā)布了涵蓋英特爾酷睿Ultra、英特爾?酷睿?、英特爾凌動(dòng)?處理器和英特爾銳炫?顯卡系列產(chǎn)品在內(nèi)的全新邊緣芯片,主要面向零售、工業(yè)制造和醫(yī)療等關(guān)鍵領(lǐng)域。英特爾邊緣AI產(chǎn)品組合內(nèi)的所有新品將于本季度上市,并將在今年年內(nèi)獲得英特爾Tiber邊緣平臺(tái)的支持。

通過超以太網(wǎng)聯(lián)盟(UEC),英特爾正在驅(qū)動(dòng)面向AI高速互聯(lián)技術(shù)(AI Fabrics)的開放式以太網(wǎng)網(wǎng)絡(luò)創(chuàng)新,并推出一系列針對AI優(yōu)化的以太網(wǎng)解決方案。這些創(chuàng)新旨在革新可大規(guī)??v向(scale-up)和橫向(scale-out)擴(kuò)展的AI高速互聯(lián)技術(shù),以支持AI模型的訓(xùn)練和推理,這些模型的規(guī)模日益龐大,每一代都會(huì)增長一個(gè)數(shù)量級(jí)。英特爾的產(chǎn)品組合包括英特爾AI網(wǎng)絡(luò)連接卡(AI NIC)、集成到XPU的AI連接芯粒、基于Gaudi加速器的系統(tǒng),以及一系列面向英特爾代工的AI互聯(lián)軟硬件參考設(shè)計(jì)。

英特爾Tiber業(yè)務(wù)解決方案組合

英特爾發(fā)布了英特爾Tiber業(yè)務(wù)解決方案組合,以簡化企業(yè)軟件和服務(wù)的部署,包括生成式AI。

這一統(tǒng)一的體驗(yàn)將使企業(yè)客戶和開發(fā)人員能夠更輕松地找到適合其需求的解決方案,加快創(chuàng)新并釋放價(jià)值,同時(shí)不犧牲安全性、合規(guī)性或性能??蛻艏慈掌鸨憧砷_始探索英特爾Tiber產(chǎn)品組合,今年第三季度這一解決方案將會(huì)全面推出。

英特爾始終致力于讓AI更易于使用、更開放、更安全,從而滿足全球企業(yè)的不同需求。通過Intel Vision 2024大會(huì)上公布的全新合作和解決方案,英特爾將在AI浪潮中全力引領(lǐng)創(chuàng)新,讓AI為各行各業(yè)帶來前所未有的價(jià)值。

(免責(zé)聲明:本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性,但不保證有關(guān)資料的準(zhǔn)確性及可靠性,讀者在使用前請進(jìn)一步核實(shí),并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯(cuò)誤、不確或遺漏,概不負(fù)任何法律責(zé)任。
任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí),應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明,并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后,將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí),溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 )

贊助商
2024-04-10
Intel Vision 2024大會(huì): 正式發(fā)布Gaudi 3 AI加速器和至強(qiáng)6處理器
4月10日消息,美國當(dāng)?shù)貢r(shí)間4月9日,英特爾舉辦了面向客戶和合作伙伴的英特爾on產(chǎn)業(yè)創(chuàng)新大會(huì),宣布了英特爾?至強(qiáng)?6處理器的全新品牌,推出英特

長按掃碼 閱讀全文