中國(guó)工程院院士鄭緯民：AI算力基礎(chǔ)設(shè)施設(shè)計(jì)需要遵循三大平衡原則

4月24日消息 在4月21日舉辦的首屆超互聯(lián)新算力產(chǎn)業(yè)暨第三屆中國(guó)IDC行業(yè)DISCOVERY大會(huì)上，中國(guó)工程院院士鄭緯民表示，AI算力是算力基礎(chǔ)設(shè)施的重要組成部分，是新基建和國(guó)家“東數(shù)西算”工程的關(guān)鍵任務(wù)抓手。

鄭緯民指出，人工智能計(jì)算在海量數(shù)據(jù)、實(shí)時(shí)響應(yīng)、極端條件等場(chǎng)景下相較通用計(jì)算優(yōu)勢(shì)愈發(fā)明顯。預(yù)計(jì)到2025年，我國(guó)人工智能算力總量將超過(guò)1800EFlops，AI算力占整個(gè)算力的比重超過(guò)85%。

“以后的計(jì)算機(jī)中AI計(jì)算機(jī)和處理人工智能的計(jì)算機(jī)將占很大比例，特別是隨著ChatGPT的發(fā)展，算力需求大幅提升，迎來(lái)了高速擴(kuò)張時(shí)代。”鄭緯民表示。

在談及AI計(jì)算與HPC（高性能計(jì)算）的區(qū)別時(shí)，鄭緯民指出，HPC通常應(yīng)用在天氣預(yù)報(bào)、核聚變模擬、飛行器設(shè)計(jì)等領(lǐng)域，而AI計(jì)算是做分類(lèi)、回歸、自然語(yǔ)言處理等，二者應(yīng)用場(chǎng)合不同，運(yùn)算精度也不一樣。

鄭緯民認(rèn)為AI算力基礎(chǔ)設(shè)施的設(shè)計(jì)需要遵循計(jì)算平衡、網(wǎng)絡(luò)平衡、IO子系統(tǒng)平衡的原則。

“傳統(tǒng)的高性能計(jì)算機(jī)的測(cè)試結(jié)果與人工智能需要的性能不完全一致。高性能計(jì)算算力測(cè)試程序主要使用雙精度浮點(diǎn)數(shù)運(yùn)算，即64位浮點(diǎn)運(yùn)算，人工智能訓(xùn)練以單精度浮點(diǎn)數(shù)，即32位浮點(diǎn)數(shù)為主?！痹卩嵕暶窨磥?lái)，現(xiàn)在要做符合語(yǔ)言模型的訓(xùn)練，就要考慮半精度平衡性，即設(shè)計(jì)中主要考慮半精度運(yùn)營(yíng)性能，又要注意雙精度運(yùn)算能力不能過(guò)低，所以雙精度與半精度運(yùn)算性能之比為1:100較好。

“現(xiàn)在很多廠家都已經(jīng)在考慮這三個(gè)平衡設(shè)計(jì)，國(guó)內(nèi)也有差不多30個(gè)城市在建或者建好了AI超算中心?！睋?jù)其預(yù)測(cè)，HPC+AI+大數(shù)據(jù)中心在未來(lái)不超過(guò)5年的時(shí)間內(nèi)將會(huì)融合到一臺(tái)計(jì)算機(jī)中，“既可以做HPC，又可以做AI，也能處理大數(shù)據(jù)”。

生成海報(bào)

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書(shū)面權(quán)利通知或不實(shí)情況說(shuō)明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。