西安交大任鵬舉:面向自主智能體的計(jì)算架構(gòu)思考

進(jìn)入工業(yè)4.0時(shí)代后,機(jī)器人由傳統(tǒng)數(shù)字化、自動(dòng)化、智能協(xié)作演進(jìn)為自主智能體。智能駕駛、無人機(jī)、機(jī)器人為代表的自主智能體,以智能邊緣、計(jì)算機(jī)視覺、自動(dòng)控制等創(chuàng)新技術(shù)作為支撐,將面對(duì)復(fù)雜、動(dòng)態(tài)、開放、非完整環(huán)境的挑戰(zhàn)。

西安交通大學(xué)人工智能與機(jī)器研究所副所長(zhǎng)任鵬舉在“UP·2021展銳線上生態(tài)峰會(huì)”上,分享了面向自主智能體的高效計(jì)算架構(gòu)思考。

  自主智能體需要全新計(jì)算架構(gòu)

自主智能體在解放生產(chǎn)力的同時(shí),對(duì)現(xiàn)有的計(jì)算架構(gòu)也提出了新的設(shè)計(jì)要求。任鵬舉表示,面向自主智能體的計(jì)算架構(gòu),需要結(jié)合系統(tǒng)、模型、算法和計(jì)算架構(gòu)進(jìn)行整體性的思考。從應(yīng)用系統(tǒng)中發(fā)現(xiàn)問題,從模型和算法方面找到高效解決方案,通過計(jì)算架構(gòu)的創(chuàng)新,部署在移動(dòng)智能端,從而實(shí)現(xiàn)機(jī)器的自主智能。

對(duì)典型的自主智能體來說,它在不同信息的處理階段有著不同的計(jì)算要求。根據(jù)OODA理論,自主智能體有觀測(cè)、感知、決策和控制幾個(gè)信息處理層次,。不同層次,對(duì)計(jì)算架構(gòu)又有著不同的要求。

以無人駕駛車為例,一臺(tái)無人駕駛車擁有豐富的傳感器,包括:激光雷達(dá),多個(gè)攝像機(jī)以及GPS、IMU慣導(dǎo)等。面向工業(yè)領(lǐng)域的AGV,也有豐富的傳感器,包括:激光雷達(dá)、攝像機(jī)、深度傳感器和單線激光雷達(dá)等。不同的傳感器擁有不同的處理精度要求和幀率要求,需要完成傳感器之間的數(shù)據(jù)融合。具體涉及到傳感器的處理到感知、決策規(guī)劃、人機(jī)交互以及底層硬件的控制。

傳感器處理屬于計(jì)算密集型,需要大量的向量和矩陣運(yùn)算。在決策規(guī)劃方面,是以控制為主的標(biāo)量運(yùn)算。在底層控制方面,又有條件執(zhí)行、條件判斷等等基本操作,因此異構(gòu)計(jì)算是未來自主智能體的基本計(jì)算形態(tài)。

因此,移動(dòng)智能體在不同的處理層次方面,對(duì)數(shù)據(jù)的處理類型有不同的要求。特別是在感知層,它涉及到大量的數(shù)據(jù)并行運(yùn)算,往往會(huì)成為AMR信息處理的瓶頸。

新一代AI加速器硬件架構(gòu)設(shè)計(jì)思路

基于這些思考,西安交大在今年4月份,完成了一款多核AI芯片處理器HIPU200的設(shè)計(jì)。該芯片采用28納米的工藝流片,擁有13個(gè)計(jì)算核心,外加兩個(gè)DDR控制器和PCIe,構(gòu)成了4×4的2D-mesh的這樣一個(gè)多核拓?fù)浣Y(jié)構(gòu)。整顆芯片可以提供13T的算力,在RISC-V的指令集基礎(chǔ)上,進(jìn)行了面向AI計(jì)算的向量和矩陣指令的擴(kuò)展。并采用全局異步局部同步的時(shí)鐘分配方式,,減少了clock tree的布局、布線的難度。

HIPU200還采用了自研的片上互連網(wǎng)絡(luò),支持核心的線性擴(kuò)展和多核之間高效的傳輸。針對(duì)在神經(jīng)網(wǎng)絡(luò)計(jì)算中,涉及到的大量固定節(jié)拍和工作內(nèi)容的向量和矩陣的運(yùn)算,設(shè)計(jì)了聚合指令提高效率。聚合指令的擴(kuò)展,減少了取指和譯碼的開銷,同時(shí)提供了高效的數(shù)據(jù)級(jí)并行。

對(duì)于標(biāo)量計(jì)算,HIPU200采用了分布式指令隊(duì)列,包含兩個(gè)ALU,一個(gè)乘除法運(yùn)算單元和一個(gè)地址生成單元。向量和矩陣運(yùn)算單元采用定序執(zhí)行的方式,并根據(jù)對(duì)數(shù)據(jù)并行度的要求,采用了定制的片上向量存儲(chǔ)器,為向量、矩陣計(jì)算單元(VMU)提供海量并發(fā)的數(shù)據(jù)支持。

同時(shí),HIPU200設(shè)計(jì)了定制DMA單元,來完成數(shù)據(jù)結(jié)構(gòu)的重組,以及DDR數(shù)據(jù)的高效訪問。除了高效的計(jì)算單元以外,為了支持多核之間的協(xié)同,設(shè)計(jì)了高效的片上網(wǎng)絡(luò)來完成核間的高效協(xié)同工作。

任鵬舉提到,HIPU200的性能已經(jīng)過了中國(guó)電子標(biāo)準(zhǔn)化研究院的第三方權(quán)威測(cè)試,并完成了無人駕駛的應(yīng)用驗(yàn)證。

(免責(zé)聲明:本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性,但不保證有關(guān)資料的準(zhǔn)確性及可靠性,讀者在使用前請(qǐng)進(jìn)一步核實(shí),并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏,概不負(fù)任何法律責(zé)任。
任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí),應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明,并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后,將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí),溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 )