谷歌聲稱其第四代TPU優(yōu)于英偉達(dá)GPU,但業(yè)界認(rèn)為后者領(lǐng)導(dǎo)地位難撼動(dòng)

極客網(wǎng)·人工智能4與13日 谷歌日前聲稱,公司在AI超級(jí)計(jì)算能力方面可以勝過(guò)英偉達(dá)。但業(yè)界認(rèn)為,這一消息并不可能對(duì)英偉達(dá)這家市場(chǎng)領(lǐng)導(dǎo)者帶來(lái)太大困擾。

谷歌近日發(fā)布一份研究報(bào)告稱,采用其TPU驅(qū)動(dòng)的AI超級(jí)計(jì)算機(jī)與運(yùn)行Nvidia A100 GPU的同等機(jī)器比具有更好的性能和能效。

谷歌已將4000個(gè)第四代TPU串聯(lián)在一起,構(gòu)建了一臺(tái)超級(jí)計(jì)算機(jī),并稱這臺(tái)超級(jí)計(jì)算機(jī)的運(yùn)行速度要比采用Nvidia A100 GPU的同等機(jī)器快1.7倍,效率高出1.9倍。

谷歌在俄克拉荷馬州運(yùn)行的TPU v4驅(qū)動(dòng)的超級(jí)計(jì)算機(jī)

英偉達(dá)從生成式AI的繁榮發(fā)展中受益,用戶對(duì)Nvidia A100 GPU的需求激增。A100主要用于訓(xùn)練大型語(yǔ)言AI模型,例如OpenAI的GPT-4。

業(yè)界認(rèn)為,隨著英偉達(dá)新的GPU H100即將上市,該公司不太可能對(duì)谷歌的這一成就感到擔(dān)憂。

谷歌自從2020年以來(lái)一直在內(nèi)部使用TPU v4,并于去年向其谷歌云平臺(tái)的客戶提供了這些芯片。該公司最大的大型語(yǔ)言模型 PaLM就是使用兩臺(tái)4000 TPU超級(jí)計(jì)算機(jī)進(jìn)行訓(xùn)練的。

谷歌研究人員Norm Jouppi和杰出工程師David Patterson在發(fā)表的一篇關(guān)于該系統(tǒng)的博客文章中解釋說(shuō):“采用光電路交換機(jī)可以很容易地繞過(guò)故障組件。這種靈活性甚至允許我們改變超級(jí)計(jì)算機(jī)互連的拓?fù)浣Y(jié)構(gòu),以加速機(jī)器學(xué)習(xí)模型的性能?!?/p>

GlobalData負(fù)責(zé)半導(dǎo)體市場(chǎng)開(kāi)發(fā)的Mike Orme表示,采用光電路交換機(jī)是谷歌提升超級(jí)計(jì)算機(jī)性能的關(guān)鍵。他解釋說(shuō):“雖然每個(gè)TPU的處理速度都比不上最好的英偉達(dá)AI芯片,但谷歌用于連接芯片和在芯片之間傳遞數(shù)據(jù)的光電路交換技術(shù)彌補(bǔ)了性能差異。”

英偉達(dá)技術(shù)已經(jīng)成為訓(xùn)練AI模型的黃金標(biāo)準(zhǔn),一些大型科技公司購(gòu)買了數(shù)千個(gè)Nvidia A100 GPU,試圖在AI的技術(shù)競(jìng)爭(zhēng)中超越對(duì)手。而OpenAI用于訓(xùn)練GPT-4的超級(jí)計(jì)算機(jī)配備了1萬(wàn)個(gè)英偉達(dá)GPU,每個(gè)零售價(jià)高達(dá)1萬(wàn)美元。

Nvidia A100 GPU

最新消息顯示,A100即將被英偉達(dá)的最新型號(hào)H100所取代。在MLPerf (一個(gè)跟蹤處理器性能的開(kāi)放AI工程聯(lián)盟)日前發(fā)布的推理基準(zhǔn)測(cè)試報(bào)告中,H100在功率和效率方面位居行業(yè)榜首。

Nvidia H100 GPU

英偉達(dá)聲稱,H100 GPU的運(yùn)行速度是谷歌拿來(lái)進(jìn)行比較的A100 GPU的9倍。這種速度優(yōu)勢(shì)將消除谷歌光電路交換技術(shù)帶來(lái)的優(yōu)勢(shì)。

谷歌90%的AI訓(xùn)練都使用TPU,但盡管其芯片功能強(qiáng)大,但Orme預(yù)計(jì)谷歌并不會(huì)將其推向第三方使用,因?yàn)楣雀璨](méi)有在AI芯片商用市場(chǎng)與英偉達(dá)芯片進(jìn)行競(jìng)爭(zhēng)的野心,其TPU專門(mén)用于谷歌數(shù)據(jù)中心或其AI超級(jí)計(jì)算機(jī)。”

為什么谷歌之外的用戶很少會(huì)使用這項(xiàng)技術(shù)?Orme認(rèn)為是因?yàn)楣雀柙圃诠苍剖袌?chǎng)上的份額很小。根據(jù)Synergy Research Group發(fā)布的調(diào)查數(shù)據(jù),谷歌云的市場(chǎng)份額為11%,落后于AWS和微軟Azure的34%及21%。

同時(shí),谷歌還與英偉達(dá)達(dá)成協(xié)議,將向谷歌云客戶提供H100 GPU算力,這反映了英偉達(dá)在未來(lái)一段時(shí)間內(nèi)仍將保持市場(chǎng)領(lǐng)導(dǎo)者地位,連谷歌也離不開(kāi)。

(免責(zé)聲明:本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性,但不保證有關(guān)資料的準(zhǔn)確性及可靠性,讀者在使用前請(qǐng)進(jìn)一步核實(shí),并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏,概不負(fù)任何法律責(zé)任。
任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí),應(yīng)及時(shí)向本網(wǎng)站提出書(shū)面權(quán)利通知或不實(shí)情況說(shuō)明,并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后,將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí),溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。 )

贊助商
2023-04-13
谷歌聲稱其第四代TPU優(yōu)于英偉達(dá)GPU,但業(yè)界認(rèn)為后者領(lǐng)導(dǎo)地位難撼動(dòng)
谷歌日前聲稱,公司在AI超級(jí)計(jì)算能力方面可以勝過(guò)英偉達(dá)。但業(yè)界認(rèn)為,這一消息并不可能對(duì)英偉達(dá)這家市場(chǎng)領(lǐng)導(dǎo)者帶來(lái)太大困擾。

長(zhǎng)按掃碼 閱讀全文