6月30日，全球權(quán)威AI基準(zhǔn)評測MLPerf™最新V2.0訓(xùn)練評測成績榜單公布。浪潮AI服務(wù)器表現(xiàn)優(yōu)異，繼兩月前在MLPerf™V2.0數(shù)據(jù)中心推理評測中斬獲全部冠軍后，本次又在MLPerf™V2.0單機(jī)訓(xùn)練性能繼續(xù)保持領(lǐng)先。
本次MLPerf™評測吸引了包括谷歌、NVIDIA、浪潮信息、百度、Intel-Habana、Graphcore等全球21家廠商和研究機(jī)構(gòu)參與，共有264項評測成績提交，是上一輪基準(zhǔn)評測的1.5倍。評測任務(wù)涵蓋了當(dāng)下主流AI場景，包括自然語言處理(BERT)、智能推薦(DLRM)、圖像分類(ResNet)、醫(yī)學(xué)影像分割(3D U-Net)、輕量級目標(biāo)物體檢測(RetinaNet)、重量級目標(biāo)物體檢測(Mask R-CNN)、語音識別(RNN-T)以及強(qiáng)化學(xué)習(xí)(Minigo)8類AI任務(wù)。
在單機(jī)訓(xùn)練評測的固定任務(wù)中，浪潮信息以高端AI服務(wù)器斬獲自然語言理解(BERT)、智能推薦(DLRM)、語音識別(RNN-T)三項性能成績第一，位列單機(jī)冠軍榜首。在本次配置8顆NVIDIA A100 Tensor Core GPU的主流高端AI服務(wù)器中，浪潮AI服務(wù)器斬獲5項任務(wù)最佳成績(BERT、DLRM、RNN-T、ResNet、MaskR-CNN)。
超越摩爾定律，持續(xù)領(lǐng)跑AI計算性能提升
MLPerfTM評測組織機(jī)構(gòu)MLCommons 執(zhí)行主任David Kanter 在此次成績發(fā)布會上表示，自首次公布評測基準(zhǔn)以來，MLPerf性能提升速度遠(yuǎn)超過摩爾定律。考慮到業(yè)界對計算和AI的需求正以驚人的速度增長，這讓人非常振奮。
自參加MLPerf™AI性能評測以來，浪潮AI服務(wù)器通過軟硬件全面優(yōu)化，持續(xù)實現(xiàn)AI性能突破。相較于2018年12月MLPerf™ 初始版本V0.5的典型配置8卡機(jī)型的性能數(shù)據(jù)，浪潮AI服務(wù)器的性能顯示出大幅提升，提升比例最高達(dá)789%，2.35倍于摩爾定律增速。
浪潮AI服務(wù)器在MLPerf™基準(zhǔn)評測中的卓越表現(xiàn)，得益于浪潮信息在AI計算系統(tǒng)上優(yōu)異的設(shè)計創(chuàng)新能力和全棧優(yōu)化能力。浪潮AI服務(wù)器針對AI訓(xùn)練中常見的密集I/O傳輸瓶頸，通過PCIe retimer-free 設(shè)計實現(xiàn)了CPU-GPU間通道免中繼高速互聯(lián)，大幅降低通信延遲;并針對高負(fù)載多GPU協(xié)同任務(wù)調(diào)度，以及NUMA節(jié)點與GPU之間的數(shù)據(jù)傳輸性能進(jìn)行了深度優(yōu)化，確保訓(xùn)練任務(wù)中的數(shù)據(jù)I/O通路處于最高性能狀態(tài);在散熱層面，率先實現(xiàn)4U空間內(nèi)部署8顆500W的高端NVIDIA A100 TensorCoreGPU，并支持風(fēng)冷、液冷兩種散熱方式。同時，在模型訓(xùn)練全流程中，浪潮AI服務(wù)器持續(xù)通過優(yōu)化預(yù)訓(xùn)練數(shù)據(jù)處理、GPU之間高速通信、GPU核心加速等關(guān)鍵模塊，最大化提升了AI模型的訓(xùn)練性能。
大幅提升Transformer訓(xùn)練性能
當(dāng)前，基于Transformer神經(jīng)網(wǎng)絡(luò)的預(yù)訓(xùn)練大模型正引領(lǐng)新一代AI算法發(fā)展，并逐步從自然語言處理走向計算機(jī)視覺、多模態(tài)等領(lǐng)域。MLPerfTM評測任務(wù)中的BERT模型即是基于Transformer架構(gòu)的模型。Transformer簡潔、可堆疊的架構(gòu)使得開發(fā)極大參數(shù)量、基于極大數(shù)據(jù)集的預(yù)訓(xùn)練大模型成為可能，這帶來了模型算法能力的大幅提升，但同時也對AI計算系統(tǒng)的處理性能、通信互聯(lián)、I/O性能、并行擴(kuò)展、拓?fù)渎窂郊吧崮芰μ岢隽烁叩囊蟆?/p>
在本次BERT評測任務(wù)中，浪潮AI服務(wù)器通過優(yōu)化數(shù)據(jù)預(yù)處理、GPU之間密集參數(shù)通信、超參數(shù)自動尋優(yōu)等，進(jìn)一步提升了BERT訓(xùn)練性能，在15.869分鐘內(nèi)即在Wikipedia數(shù)據(jù)集的2850176條數(shù)據(jù)上完成了3.3億參數(shù)的BERT模型訓(xùn)練，相較于V0.7版本的最佳成績49.01分鐘的性能提升達(dá)到309%。至此，浪潮AI服務(wù)器已經(jīng)連續(xù)三次獲得MLPerfTM訓(xùn)練BERT任務(wù)性能冠軍。
浪潮信息在MLPerf™ V2.0訓(xùn)練評測中取得佳績的2款A(yù)I服務(wù)器分別是NF5488A5及NF5688M6。NF5488A5是全球首批上市的NVIDIA A100 Tensor Core GPU服務(wù)器，在4U空間支持8顆由NVIDIA NVLink 互聯(lián)的NVIDIA A100 Tensor Core GPU和2顆AMD Milan CPU，同時支持液冷和風(fēng)冷散熱技術(shù)，累計斬獲40項 MLPerf™ 冠軍。NF5688M6是面向大規(guī)模數(shù)據(jù)中心優(yōu)化設(shè)計的具備極致擴(kuò)展能力的AI服務(wù)器，支持8顆第三代 NVLink 互聯(lián)的NVIDIA A100 Tensor Core GPU 和兩顆Intel Ice Lake CPU，支持多達(dá)13張PCIe Gen4 的IO擴(kuò)展能力，累計斬獲25項 MLPerf™ 冠軍。
附：MLPerf™簡介
MLPerf™ 是影響力最廣的國際AI性能基準(zhǔn)評測，由圖靈獎得主大衛(wèi)•帕特森(David Patterson)聯(lián)合頂尖學(xué)術(shù)機(jī)構(gòu)發(fā)起成立。2020年，非盈利性機(jī)器學(xué)習(xí)開放組織MLCommons基于MLPerf™ 基準(zhǔn)測試成立，其成員包括Google、Facebook、NVIDIA、英特爾、浪潮信息、哈佛大學(xué)、斯坦福大學(xué)、加州大學(xué)伯克利分校等50余家全球AI領(lǐng)軍企業(yè)及頂尖學(xué)術(shù)機(jī)構(gòu)，致力于推進(jìn)機(jī)器學(xué)習(xí)和人工智能標(biāo)準(zhǔn)及衡量指標(biāo)。目前，MLCommons每年組織2次MLPerf™ AI訓(xùn)練性能測試和2次MLPerf™AI推理性能測試，以便快速跟進(jìn)迅速變化的計算需求和計算性能提升，為用戶衡量設(shè)備性能提供權(quán)威有效的數(shù)據(jù)指導(dǎo)。
（免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請進(jìn)一步核實，并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負(fù)任何法律責(zé)任。
任何單位或個人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時，應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 ）
