昇騰AI基礎(chǔ)軟硬件全面升級(jí),以更開放易用的平臺(tái)使能百模千態(tài)

[中國(guó),上海,2023年9月22日] 華為全聯(lián)接大會(huì)2023期間,華為計(jì)算產(chǎn)品線總裁張熙偉發(fā)表了“算力為基,共筑智能新生態(tài)”主題演講。他表示,華為深耕算力底座,聚焦鯤鵬、昇騰基礎(chǔ)軟硬件創(chuàng)新,攜手伙伴開發(fā)者,打造更放易用的平臺(tái),共筑更高效協(xié)同的生態(tài),使能百模千態(tài),共贏智能未來。

knote

華為計(jì)算產(chǎn)品線總裁張熙偉發(fā)表主題演講

昇騰全面、深度開放,選擇更靈活,使能開發(fā)者構(gòu)筑差異化競(jìng)爭(zhēng)力

昇騰面向算子、框架、加速庫和大模型全面開放,廣泛支持、兼容業(yè)界生態(tài),為大模型創(chuàng)新提供更多靈活選擇。提供豐富的融合算子,如主流的FlashAttention、FFN等,可在昇騰上實(shí)現(xiàn)性能倍級(jí)提升;全面支持PyTorch、飛槳、昇思等業(yè)界框架,同時(shí)PyTorch社區(qū)今年10月將發(fā)布2.1版本,原生支持昇騰;除了兼容業(yè)界主流的DeepSpeed、Megatron外,昇騰自主構(gòu)建了大模型加速庫AscendSpeed,提供豐富的大模型訓(xùn)練并行能力。同時(shí),HuggingFace社區(qū)最新的Transformers、Accelerate等代碼倉已原生支持昇騰,開發(fā)者直接下載,安裝即用。目前已有50+主流的基礎(chǔ)大模型基于昇騰訓(xùn)練迭代,9家伙伴發(fā)布了大模型訓(xùn)推一體機(jī),為行業(yè)提供更加豐富的選擇。

blank

昇騰以開放移動(dòng)的平臺(tái)使能百模千態(tài),高效協(xié)同的生態(tài)賦能千行萬業(yè)

為支撐開發(fā)者孵化出更高性能的自定義算子、加速庫,昇騰進(jìn)一步開放平臺(tái)能力,將于年底新增開放底層運(yùn)行時(shí),開發(fā)者可直接使用NPU上的核資源、控制流、任務(wù)調(diào)度等接口,原生構(gòu)建差異化競(jìng)爭(zhēng)力。在編程上,今年5月發(fā)布的Ascend C編程語言,簡(jiǎn)化開發(fā)邏輯,匹配開發(fā)習(xí)慣。通過持續(xù)迭代,當(dāng)前支持混合編程與編譯,增加歸一化、三角函數(shù)等API,300余行大算子的開發(fā)周期從2人月降到2人周,大幅提升大模型創(chuàng)新效率。

ModelZoo 2.0發(fā)布上線

為更好的發(fā)育大模型生態(tài),昇騰社區(qū)全新升級(jí)ModelZoo 2.0,在已提供數(shù)百個(gè)預(yù)訓(xùn)練模型的基礎(chǔ)上,年底前將持續(xù)上線40多個(gè)昇騰親和的預(yù)訓(xùn)練大模型,同時(shí)支持各類大模型在線的功能體驗(yàn) 與性能對(duì)比,開放全流程的大模型開發(fā)工具與套件,支撐開發(fā)者快速實(shí)現(xiàn)大模型的二次開發(fā)。

knalb

ModelZoo2.0正式上線昇騰社區(qū)

超級(jí)流水線全流程使能大模型創(chuàng)新落地

大模型開發(fā)是一個(gè)復(fù)雜的系統(tǒng)工程,昇騰大模型超級(jí)流水線,以友好的大模型開發(fā)環(huán)境和統(tǒng)一的全流程工具鏈,使能大模型易開發(fā)、易遷移、易部署。昇騰大模型開發(fā)套件,輕量代碼使能大模型極簡(jiǎn)開發(fā);MindStudio全流程工具鏈?zhǔn)鼓艽竽P兔艚葸w移,周級(jí)實(shí)現(xiàn)精度調(diào)試和性能調(diào)優(yōu);昇騰推理引擎統(tǒng)一推理業(yè)務(wù)全流程入口,支持多種推理方式使能應(yīng)用快速部署。

鼓勵(lì)昇騰原生創(chuàng)新,加速伙伴商業(yè)共贏

華為持續(xù)圍繞科研創(chuàng)新使能和大模型促進(jìn)兩大計(jì)劃,鼓勵(lì)開發(fā)者基于昇騰進(jìn)行根技術(shù)原生創(chuàng)新,賦能伙伴打造更具競(jìng)爭(zhēng)力的大模型場(chǎng)景解決方案,共同打造更緊密協(xié)同的人工智能新生態(tài)。

AI賦能openEuler更智能,以openEuler使能AI更高效

大模型讓歐拉更智能。歐拉作為首個(gè)廣泛支持AI的開源操作系統(tǒng),正在顛覆傳統(tǒng)的命令行交互方式。華為使用ChatGLM基礎(chǔ)模型,基于大量歐拉操作系統(tǒng)的代碼和數(shù)據(jù),訓(xùn)練出EulerCopilot,初步帶來代碼輔助生成、問題智能分析、系統(tǒng)輔助運(yùn)維等功能。以前需要多領(lǐng)域?qū)<覅f(xié)同解決的問題,未來都可以交給EulerCopilot

歐拉使能AI更高效。歐拉通過異構(gòu)資源統(tǒng)一管理與調(diào)度,實(shí)現(xiàn)CPU和XPU的深度融合,以更全局、更均衡和更精細(xì)化的視角統(tǒng)籌內(nèi)存和算力,充分挖掘空閑資源,提升有效利用率,進(jìn)而提升AI訓(xùn)練和推理性能。

鯤鵬軟硬件平臺(tái)進(jìn)行創(chuàng)新升級(jí)

華為持續(xù)升級(jí)鯤鵬軟硬件平臺(tái)。天池架構(gòu)支持伙伴面向千行萬業(yè),快速推出差異化機(jī)型?;A(chǔ)軟件方面,openEuler全場(chǎng)景協(xié)同能力持續(xù)增強(qiáng),進(jìn)一步提供負(fù)載動(dòng)態(tài)感知等關(guān)鍵能力,做到開箱即優(yōu)。同時(shí),升級(jí)鯤鵬BoostKit和DevKit 兩大套件,八大主流場(chǎng)景性能持續(xù)提升,通過四大場(chǎng)景化SDK助力鯤鵬高效原生開發(fā),更好的賦能伙伴,服務(wù)用戶。

華為全聯(lián)接大會(huì)2023(HUAWEI CONNECT 2023)以“加速行業(yè)智能化”為主題,邀請(qǐng)思想領(lǐng)袖、商業(yè)精英、技術(shù)專家、合作伙伴、開發(fā)者等業(yè)界同仁,從商業(yè)、產(chǎn)業(yè)、生態(tài)等方面共同探討如何加速行業(yè)智能化。更多信息,請(qǐng)參閱華為全聯(lián)接大會(huì)官網(wǎng):https://www.huawei.com/cn/events/huaweiconnect

極客網(wǎng)企業(yè)會(huì)員

免責(zé)聲明:本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性,但不保證有關(guān)資料的準(zhǔn)確性及可靠性,讀者在使用前請(qǐng)進(jìn)一步核實(shí),并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏,概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí),應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明,并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后,將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí),溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。

2023-09-22
昇騰AI基礎(chǔ)軟硬件全面升級(jí),以更開放易用的平臺(tái)使能百模千態(tài)
[中國(guó),上海,2023年9月22日] 華為全聯(lián)接大會(huì)2023期間,華為計(jì)算產(chǎn)品線總裁張熙偉發(fā)表了“算力為基,共筑智能新生態(tài)”主題演講。

長(zhǎng)按掃碼 閱讀全文