思元 370 是寒武紀(jì)首款采用 chiplet(芯粒)技術(shù)的 AI 芯片,應(yīng)該也是國內(nèi)首顆 chiplet AI 芯片?;谂_積電 7nm 制程工藝,整體集成了 390 億個晶體管,最大算力達(dá)到 256TOPS(INT8),這一數(shù)據(jù)是寒武紀(jì)第二代產(chǎn)品思元 270 算力的 2 倍。
憑借寒武紀(jì)最新智能芯片架構(gòu) MLUarch03,相較于峰值算力的提升,思元 370 實測性能表現(xiàn)非常亮眼:同功率性能超過 T4 兩倍還多,完成同樣的任務(wù),功耗可以是 A10 的一半。
此外,寒武紀(jì)還基于思元370智能芯片的技術(shù),通過Chiplet(芯粒)技術(shù),靈活組合產(chǎn)品的特性,適配出符合不同場景需求的三款加速卡,包括:MLU370-S4、MLU370-X4和MLU370-X8。
具體來說,MLU370-S4為半高半長單槽位加速卡,板卡功耗為75W,可面向機(jī)器視覺/推理任務(wù),適合于對計算密度要求較高的數(shù)據(jù)中心場景。
而MLU370-X4為單槽位150W全尺寸加速卡,可提供256TOPS(INT8)推理算力和24TFLOPS(FP32)訓(xùn)練算力,同時提供FP16、BF16等多種訓(xùn)練精度,主要面向互聯(lián)網(wǎng)行業(yè)等推理任務(wù)或訓(xùn)推一體場景,適合于對單卡算力需求較高的應(yīng)用場景。
MLU370-X8則采用雙芯思元370配置,為雙槽位250W全尺寸加速卡,可提供24TFLOPS(FP32)訓(xùn)練算力和256TOPS(INT8)推理算力,同時提供豐富的FP16、BF16等多種訓(xùn)練精度,主要面向?qū)λ懔蛶捯筝^高的訓(xùn)練任務(wù)。在業(yè)界應(yīng)用廣泛的YOLOv3、Transformer等訓(xùn)練任務(wù)中,8卡計算系統(tǒng)的并行性能平均達(dá)到350W RTX GPU的155%。
總而言之,寒武紀(jì)在同樣的研發(fā)費用之下,滿足了更多元的市場需求。
據(jù)了解,寒武紀(jì)是智能芯片領(lǐng)域全球知名的新興公司,主營業(yè)務(wù)是各類云服務(wù)器、邊緣計算設(shè)備、終端設(shè)備中人工智能核心芯片的研發(fā)、設(shè)計和銷售,通過向客戶提供芯片及加速卡產(chǎn)品、訓(xùn)練整機(jī)、智能計算集群系統(tǒng)、IP授權(quán)及軟件獲取業(yè)務(wù)收入。
成立以來,寒武紀(jì)一直根據(jù)市場和客戶的需求,加強(qiáng)研發(fā)創(chuàng)新投入力度,持續(xù)升級迭代云邊端系列化產(chǎn)品及基礎(chǔ)系統(tǒng)軟件平臺,豐富公司的產(chǎn)品矩陣,以適應(yīng)不同的人工智能應(yīng)用場景。
(免責(zé)聲明:本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性,但不保證有關(guān)資料的準(zhǔn)確性及可靠性,讀者在使用前請進(jìn)一步核實,并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏,概不負(fù)任何法律責(zé)任。
任何單位或個人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時,應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明,并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后,將會依法盡快聯(lián)系相關(guān)文章源頭核實,溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 )