AIIA發(fā)布云側(cè)推斷芯片權(quán)威測(cè)評(píng)方案

中美貿(mào)易戰(zhàn)的升級(jí)，凸顯了作為信息科技基石的芯片的重要性，尤其是在全球人工智能快速興起的大背景下，AI芯片被認(rèn)為是打造“中國(guó)芯”的重要突破口，相關(guān)企業(yè)紛紛加快市場(chǎng)布局。隨著各式各樣的AI芯片產(chǎn)品進(jìn)入市場(chǎng)，如何推出國(guó)內(nèi)自主的AI芯片測(cè)評(píng)，助力市場(chǎng)的有序發(fā)展成為業(yè)界探索的重點(diǎn)。

AI測(cè)評(píng)亟需“國(guó)家隊(duì)”

近年來(lái)，隨著云計(jì)算、大數(shù)據(jù)、機(jī)器學(xué)習(xí)等技術(shù)發(fā)展和成熟，AI開(kāi)始興起。種類豐富的AI應(yīng)用的不斷落地，促使AI芯片成為市場(chǎng)布局和競(jìng)爭(zhēng)的焦點(diǎn)。無(wú)論是數(shù)據(jù)中心、物聯(lián)網(wǎng)等領(lǐng)域，還是智能手機(jī)、自動(dòng)駕駛汽車等設(shè)備中的SoC都將包含AI。相關(guān)預(yù)測(cè)顯示，2022年AI芯片的市場(chǎng)規(guī)模有望從2017年的20億美元，增長(zhǎng)至490億美元，年復(fù)合增長(zhǎng)率達(dá)90%。

由于在智能終端、自動(dòng)駕駛等多個(gè)場(chǎng)景擁有日漸旺盛的應(yīng)用需求，云端推斷芯片市場(chǎng)快速崛起，國(guó)內(nèi)外芯片廠商紛紛推出相關(guān)推斷芯片產(chǎn)品。然而，我國(guó)AI芯片尚處于初級(jí)發(fā)展階段，市場(chǎng)上相關(guān)產(chǎn)品的水平層次不齊，如何選擇真正滿足應(yīng)用需要的性能強(qiáng)大的AI芯片，正在成為困擾很多企業(yè)的“難題”。

“在市場(chǎng)尚不完善的情況下，AI芯片需要一個(gè)‘公認(rèn)指標(biāo)’，客觀、公正地評(píng)價(jià)產(chǎn)品的性能。”針對(duì)AI芯片市場(chǎng)的切實(shí)發(fā)展需要，業(yè)界專家發(fā)出了呼吁。尤其是在芯片國(guó)產(chǎn)化進(jìn)程加速推進(jìn)的背景下，AI芯片測(cè)評(píng)也迫切需要“自主”。

AIIA 發(fā)布云側(cè)推斷芯片評(píng)估方案

在日前召開(kāi)的中國(guó)國(guó)際大數(shù)據(jù)產(chǎn)業(yè)博覽會(huì)上，業(yè)界傳來(lái)喜訊，作為我國(guó)人工智能產(chǎn)業(yè)權(quán)威組織的中國(guó)人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟(AIIA)主導(dǎo)的“AIIA DNN benchmark系列云側(cè)推斷評(píng)估方案V0.5”正式發(fā)布。該方案基于AIIA權(quán)威測(cè)試平臺(tái)，在典型應(yīng)用場(chǎng)景下，能夠客觀反映具有深度學(xué)習(xí)處理能力的處理器或加速器的性能水平。

“測(cè)評(píng)的核心目的，就是要為市場(chǎng)提供一個(gè)客觀的標(biāo)尺。” AIIA總體組組長(zhǎng)孫明俊表示，當(dāng)前，AI芯片市場(chǎng)發(fā)展剛剛起步，在旺盛的市場(chǎng)需求下，有序發(fā)展提上了議程。作為權(quán)威行業(yè)組織，AIIA致力于通過(guò)基準(zhǔn)測(cè)試，切實(shí)反應(yīng)當(dāng)前市場(chǎng)上的AI芯片的能力，為各方企業(yè)選擇真正滿足需要的AI芯片提供科學(xué)、客觀的參考依據(jù)，最終推動(dòng)市場(chǎng)的健康發(fā)展。

AIIA DNN benchmark工作于2018年10月正式啟動(dòng)，AIIA發(fā)布AI端側(cè)芯片基準(zhǔn)測(cè)試評(píng)估方案V0.5版本，首輪評(píng)估結(jié)果已與今年3月披露，4月啟動(dòng)了第二輪評(píng)測(cè)。此次發(fā)布的“AIIA DNN benchmark系列云側(cè)推斷評(píng)估方案V0.5”，是AIIA取得的又一進(jìn)展，預(yù)計(jì)下半年AIIA將依據(jù)該評(píng)估方案啟動(dòng)首輪評(píng)估工作。

下半年將啟動(dòng)首輪云側(cè)推斷評(píng)估工作

據(jù)悉，云側(cè)推斷芯片的評(píng)測(cè)對(duì)象涵蓋芯片(加速卡)、一體機(jī)、云三種形態(tài)，包含兩大典型場(chǎng)景和五類評(píng)測(cè)指標(biāo)。而為了讓更多企業(yè)參與到測(cè)評(píng)中來(lái)，v0.5版本測(cè)試提供了“封閉”和“開(kāi)放”兩種評(píng)測(cè)機(jī)制。封閉機(jī)制下的限定較多，開(kāi)放機(jī)制則鼓勵(lì)創(chuàng)新。

封閉機(jī)制由評(píng)測(cè)工作組提供典型應(yīng)用場(chǎng)景已訓(xùn)練好的模型及其FP32權(quán)重，經(jīng)過(guò)參評(píng)廠商所提供的量化工具進(jìn)行量化，其中要求量化后的模型推斷準(zhǔn)確度大于一定閾值(例如，全精度模型推斷準(zhǔn)確度-1%);開(kāi)放機(jī)制則允許量化后再訓(xùn)練，以及邊量化邊訓(xùn)練等方式。任務(wù)場(chǎng)景及數(shù)據(jù)集(訓(xùn)練集、驗(yàn)證集)公開(kāi)，參評(píng)企業(yè)提供最終用于推斷的模型，同樣要求量化后的模型推斷準(zhǔn)確度大于一定閾值(例如，全精度模型推斷準(zhǔn)確度-1%)。

“版本迭代、不斷豐富、不斷完善”是AIIA DNN benchmark工作的宗旨。AIIA相關(guān)負(fù)責(zé)人表示，該項(xiàng)目采用開(kāi)源方式，前期項(xiàng)目代碼已經(jīng)開(kāi)源到Github，鏈接為: https://github.com/AIIABenchmark/AIIABenchmark。下一步，AIIA將順應(yīng)行業(yè)發(fā)展需要，不斷持續(xù)迭代評(píng)估規(guī)范，覆蓋更多的應(yīng)用場(chǎng)景，助力行業(yè)的健康、可持續(xù)發(fā)展。

欲了解更多AIIADNN benchmark芯片測(cè)評(píng)信息，請(qǐng)發(fā)送郵件至：aiiabenchmark@163.com

生成海報(bào)

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書(shū)面權(quán)利通知或不實(shí)情況說(shuō)明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。