LightCounting:人工智能掀起光連接需求新浪潮

北京時間8月2日消息(水易)近日,市場研究機構LightCounting在最新報告中指出,爭奪人工智能“霸主”地位的競賽已經開始,擔心被落下的“恐懼”正在推動大量人工智能投資。Meta最近在財報電話會議上明確說明了這種情況:“我們不知道這些由人工智能驅動的應用會以多快的速度擴展,我們希望有足夠的能力來應對它們的快速擴展。”

有多少資金正在投入人工智能基礎設施尚不明確,但是英偉達在2023年4月的財報電話會議中給出了一些暗示。英偉達預計2023年第二季度的收入將環(huán)比增長50%,主要得益于面向AI集群的GPU的銷售。

沒過多久,金融分析師們就將GPU的銷售與光模塊的銷售聯(lián)系起來,并得出了非常高的數(shù)字。其中一些報告預計,未來5年光模塊的累計收入將達到1000億美元或更多,而這僅僅是針對人工智能應用的收入。

下圖是LightCounting對以太網光模塊銷售的預測,包括人工智能集群光連接對該市場貢獻的估計。未來5年,用于人工智能集群的光模塊銷售總額將達到176億美元,考慮到同期所有其他應用場景的以太網光模塊285億美元的銷售額,這的確是一個非常龐大的數(shù)字。

這并不完全令人意外。早在2019年—2020年,谷歌就報告稱在其人工智能集群中部署了比其他數(shù)據(jù)中心基礎設施更多的光器件。LightCounting估計,2022年在人工智能集群中部署的光模塊已經占到整個市場的25%,而這還不包括有源光纜(AOC),后者是英偉達系統(tǒng)中光連接的主要解決方案。

人工智能市場份額的提升還得益于計算集群和支持計算集群的光器件投資的減少。ChatGPT在2022年底成為頭條新聞的時機再好不過。對即將到來的經濟衰退的擔憂,以及營收增長放緩的跡象初現(xiàn),迫使所有領先的云計算公司削減開支,包括對數(shù)據(jù)中心的投資和光模塊的采購。

Meta將2023年部署200G FR4光模塊的預算削減了50%以上。在其最新的財報中,該公司宣布今年的資本開支將再減少10%。盡管如此,該公司仍計劃增加在人工智能集群和支持人工智能集群的400G FR4光模塊的支出。

最后但同樣重要的是,英偉達人工智能系統(tǒng)的新設計需要更多的光器件。該公司在一年多之前就宣布了NVLink,旨在實現(xiàn)800G的光連接。LightCounting在一份研究報告中指出,與InfiniBand相比,NVLink支持的GPU到GPU連接需要更多的帶寬。目前的估計表明,帶寬要高出6倍。

英偉達之前設計的所有系統(tǒng)都使用InfiniBand進行光連接,這些網絡大多是AOC。例如,LightCounting估計去年部署的HDR (200G) InfiniBand系統(tǒng)需要超過50萬個200G AOC。這些系統(tǒng)的銷售將在2023年激增,可能需要多達100萬個200G AOC和類似數(shù)量的200G銅纜。

現(xiàn)在,基于NDR(400G)InfiniBand的最新系統(tǒng)的銷售正在逐漸增長。這些系統(tǒng)將主要使用可插拔的400G SR4以太網光模塊,而不是用于InfiniBand連接的AOC,以及用于NVLink網絡的800G SR8光模塊。

假設NVLink網絡需要的帶寬是InfiniBand的6倍,一旦新系統(tǒng)的部署數(shù)量與當前基于HDR的系統(tǒng)相當,將需要200萬個400G SR4光模塊(每個AOC相當于兩個光模塊)和600萬個800G SR8光模塊。需要注意的是,這不會在今年發(fā)生,而可能在2024年或2025年發(fā)生。

與此同時,并非所有系統(tǒng)都將使用InfiniBand和NVLink連接,這對于非常大的GPU陣列最有利。而許多設備的規(guī)模將較為適中,主要依靠銅纜進行布線。

谷歌正在使用TPU而不是GPU,但它也在使用直接光連接來構建非常大規(guī)模的陣列,達到數(shù)萬個TPU。這對于谷歌來說并不是新鮮事,這就是為什么在2019年—2020年期間它在其AI集群中部署了大量光器件的原因。最近,谷歌還增加了部署800G FR8光模塊的計劃。

極客網企業(yè)會員

免責聲明:本網站內容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網站出現(xiàn)的信息,均僅供參考。本網站將盡力確保所提供信息的準確性及可靠性,但不保證有關資料的準確性及可靠性,讀者在使用前請進一步核實,并對任何自主決定的行為負責。本網站對有關資料所引致的錯誤、不確或遺漏,概不負任何法律責任。任何單位或個人認為本網站中的網頁或鏈接內容可能涉嫌侵犯其知識產權或存在不實內容時,應及時向本網站提出書面權利通知或不實情況說明,并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網站在收到上述法律文件后,將會依法盡快聯(lián)系相關文章源頭核實,溝通刪除相關內容或斷開相關鏈接。

2023-08-02
LightCounting:人工智能掀起光連接需求新浪潮
LightCounting:人工智能掀起光連接需求新浪潮,C114訊 北京時間8月2日消息(水易)近日,市場研究機構LightCounting在最新報告中指出

長按掃碼 閱讀全文