9月20日，在華為全聯(lián)接大會(huì)2024期間舉辦的數(shù)據(jù)存儲(chǔ)峰會(huì)上，華為公司副總裁、數(shù)據(jù)存儲(chǔ)產(chǎn)品線總裁周躍峰博士發(fā)布全新AI存儲(chǔ)OceanStor A800，以長記憶內(nèi)存新范式全面提升AI大模型訓(xùn)練和推理能力，助力千行萬業(yè)大步邁入數(shù)智時(shí)代。
華為公司副總裁、數(shù)據(jù)存儲(chǔ)產(chǎn)品線總裁周躍峰
人類文明從遠(yuǎn)古的石器時(shí)代，到農(nóng)業(yè)時(shí)代、工業(yè)時(shí)代，直至如今的數(shù)智時(shí)代，數(shù)據(jù)作為發(fā)展新質(zhì)生產(chǎn)力的關(guān)鍵生產(chǎn)要素。人們利用數(shù)據(jù)，在AI大模型、具身智能、AI for science等核心AI領(lǐng)域取得長足發(fā)展。
數(shù)智時(shí)代是數(shù)據(jù)的黃金時(shí)代，數(shù)據(jù)規(guī)模爆炸式增長、數(shù)據(jù)價(jià)值不斷攀升的同時(shí)，也面臨xPU與存儲(chǔ)的帶寬不足、算力集群可用度低、推理時(shí)延長等挑戰(zhàn)，對存儲(chǔ)提出更高要求。數(shù)智時(shí)代呼喚Storage for AI，具備極致性能、高擴(kuò)展性、數(shù)據(jù)韌性、可持續(xù)發(fā)展、新數(shù)據(jù)范式以及數(shù)據(jù)編織能力的數(shù)據(jù)存儲(chǔ)是通往AI數(shù)智時(shí)代的必由之路。
為應(yīng)對以上挑戰(zhàn)，華為發(fā)布全新AI存儲(chǔ)OceanStor A800，在AI大模型高效訓(xùn)練能力的基礎(chǔ)上，大幅增強(qiáng)推理能力，并在集群性能、新數(shù)據(jù)范式上有了跨越式提升，促進(jìn)AI在千行萬業(yè)落地。
· 單套AI存儲(chǔ)設(shè)備支持十萬卡級(jí)大模型訓(xùn)練
通過構(gòu)建前端網(wǎng)卡全共享、控制器與后端SSD盤全互聯(lián)的技術(shù)架構(gòu)，單套存儲(chǔ)設(shè)備可支持10萬卡級(jí)集群全互聯(lián)。一套OceanStor A800 存儲(chǔ)最多可實(shí)現(xiàn)與19.2萬卡訓(xùn)練集群的靜態(tài)全連接，性能提升40%，空間占用降低80%。
· 以存強(qiáng)算，AI集群可用度提升30%
AI訓(xùn)練中斷頻頻發(fā)生，據(jù)統(tǒng)計(jì)AI訓(xùn)練中心持續(xù)訓(xùn)練的時(shí)間最長僅為2.6天，導(dǎo)致GPU/NPU必須反復(fù)保存CKPT數(shù)據(jù)。中國移動(dòng)將華為OceanStor AI存儲(chǔ)用于大模型訓(xùn)練，實(shí)現(xiàn)150PB單存儲(chǔ)集群、8TB/s帶寬和2.3億IOPS的能力，集群可用度提升32%，為后續(xù)更大規(guī)模大模型訓(xùn)練提供有力支撐。
· 以存代算，長記憶內(nèi)存型存儲(chǔ)提升推理體驗(yàn)并降低系統(tǒng)成本
Long context（長上下文）成為大模型推理的必然發(fā)展趨勢，根據(jù)Scaling law，提供足夠高的推理算力和中間Token數(shù)，可大幅提升推理的準(zhǔn)確度。通過專業(yè)AI存儲(chǔ)，可長期保存Long context及海量中間推理Token，最大程度提升大模型的邏輯思考和推理能力，尤其是慢思考能力。
OceanStor A800作為業(yè)界首款提供長記憶能力的存儲(chǔ)，創(chuàng)新性采用多級(jí)KV緩存機(jī)制，將KV-Cache持久化保存并高效使用，讓大模型推理具備長記憶能力，減少在Prefill階段的重復(fù)計(jì)算，客戶推理時(shí)延降低78%，單個(gè)xPU卡的吞吐量提升67%，大幅提升推理體驗(yàn)的同時(shí)降低成本。
數(shù)智時(shí)代的全新AI存儲(chǔ)，正在金融信貸、投研分析、醫(yī)療健康、藥物研發(fā)等行業(yè)場景發(fā)揮價(jià)值。周躍峰表示，在數(shù)據(jù)的黃金時(shí)代，華為以其創(chuàng)新的AI存儲(chǔ)，釋放先進(jìn)數(shù)據(jù)存力，鑄就數(shù)智時(shí)代根基。
- 蜜度索驥：以跨模態(tài)檢索技術(shù)助力“企宣”向上生長
- 央國企采購管理升級(jí)，合合信息旗下啟信慧眼以科技破局難點(diǎn)
- Apache Struts重大漏洞被黑客利用，遠(yuǎn)程代碼執(zhí)行風(fēng)險(xiǎn)加劇
- Crunchbase：2024年AI網(wǎng)絡(luò)安全行業(yè)風(fēng)險(xiǎn)投資超過26億美元
- 調(diào)查報(bào)告：AI與云重塑IT格局，77%的IT領(lǐng)導(dǎo)者視網(wǎng)絡(luò)安全為首要挑戰(zhàn)
- 長江存儲(chǔ)發(fā)布聲明：從無“借殼上市”意愿
- 泛微·數(shù)智大腦Xiaoe.AI正式發(fā)布，千人現(xiàn)場體驗(yàn)數(shù)智化運(yùn)營場景
- IDC：2024年第三季度北美IT分銷商收入增長至202億美元
- AI成為雙刃劍！凱捷調(diào)查：97%組織遭遇過GenAI漏洞攻擊
- openEuler開源五年樹立新里程碑，累計(jì)裝機(jī)量突破1000萬
- 創(chuàng)想 華彩新程！2024柯尼卡美能達(dá)媒體溝通會(huì)煥新增長之道
免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請進(jìn)一步核實(shí)，并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。
