深度學習發(fā)展至今，語言、視覺、推薦、代碼生成等多個領域相繼出現(xiàn)一些“大模型”成果，不斷刷新著人們對 AI 的認知與想象。深度學習依賴對大量數(shù)據(jù)的訓練，而“大模型”的參數(shù)更多、函數(shù)更復雜，這樣的特征使得模型所演算出來的結果更精準。隨著萬物互聯(lián)世界的進一步發(fā)展，數(shù)據(jù)量的擴展與數(shù)據(jù)收集已不再是難題，隨之而來的新命題是如何處理海量數(shù)據(jù)，并且做出更好地訓練。
早在 2017 年，Transformer 結構被提出，使得深度學習模型參數(shù)突破了1億;2018 年，BERT 網(wǎng)絡模型的提出，使得參數(shù)量首次超過 3 億規(guī)模;2020 年，擁有 1750 億個參數(shù)的 GPT-3 橫空出世;2021 年推出的 ZionEX 系統(tǒng)，其所支持的推薦模型大小已超過 10 萬億規(guī)模……
隨著數(shù)據(jù)規(guī)模的指數(shù)級增長，大模型已經(jīng)逐漸被認為是通過深度學習認知智能的橋梁。
然而，數(shù)據(jù)量的暴增提出了新的命題——如何跨越通信等瓶頸，提升大模型的訓練效率?為了支持大模型的訓練，往往需要一套大規(guī)模分布式訓練框架來訓練大模型。
對此，華為交出的答卷便是昇思 MindSpore AI 框架，原生支持大模型訓練。昇思 MindSpore 擁有業(yè)界領先的全自動并行能力，提供 6 維混合并行算法，即數(shù)據(jù)并行、模型并行、流水并行、優(yōu)化器并行等能力;極致的全局內(nèi)存復用能力，在開發(fā)者無感知的情況下，自動實現(xiàn) NPU 內(nèi)存 / CPU 內(nèi)存 / NVMe 硬盤存儲的多級存儲優(yōu)化，極大降低模型訓練成本;極簡的斷點續(xù)訓能力，可解決大集群訓練故障導致的任務中斷問題……通過這些特性，可以很好地解決大模型開發(fā)時遇到的內(nèi)存占用、通信瓶頸、調(diào)試復雜、部署難等問題。
專注底層能力，昇思 MindSpore 攜手伙伴打造四大創(chuàng)新模型
值得注意的是，昇思 MindSpore AI 框架專注底層能力建設，為業(yè)界提供大模型的搭建基礎。至今，昇思 MindSpore AI 已經(jīng)攜手業(yè)內(nèi)領先的研究機構，推出覆蓋自然語言處理、遙感影像、生物醫(yī)藥、多模態(tài)的的四大模型，并廣泛應用在金融、醫(yī)療、農(nóng)林業(yè)、制造等各個行業(yè)。
2021 年 5 月，在華為生態(tài)大會 2021「昇騰萬里 共贏智能新時代」上，鵬城實驗室基于昇思 MindSpore 推出了全球首個 2000 億參數(shù)中文 NLP 大模型鵬程.盤古，是最接近人類中文理解能力的 AI 大模型。鵬程.盤古大模型具備廣泛的運用場景，在知識問答、知識檢索、知識推理、閱讀理解等文本生成領域表現(xiàn)突出。
2 個月后，中科院自動化所聯(lián)合華為基于昇騰AI和昇思MindSporeAI框架打造的全球首個三模態(tài)大模型——“紫東.太初”正式推出。紫東.太初能夠?qū)崿F(xiàn)視覺、文本、語音三個模態(tài)間的高效協(xié)同，性能全球領先，是探索通用人工智能道路上的重要成果，將在工業(yè)質(zhì)檢、影視創(chuàng)作、互聯(lián)網(wǎng)推薦、智能駕駛等領域廣泛應用。同時，依托其技術創(chuàng)新性和行業(yè)影響力，紫東.太初獲得今年WAIC的最高獎項——卓越人工智能引領者獎(Super AI Leader，簡稱SAIL獎)
除了基礎大模型之外，昇思 MindSporeAI 框架還已支撐兩個行業(yè)大模型上線——鵬程.神農(nóng)和武漢.LuoJia。
鵬城實驗室聯(lián)合華為基于昇騰 AI 和昇思 MindSporeAI 框架打造了面向生物醫(yī)學領域的人工智能平臺“鵬程.神農(nóng)”。制藥企業(yè)和醫(yī)學研究機構使用“鵬程.神農(nóng)”提供的AI能力，將大大加速新型藥物的篩選與研制，讓人工智能為人類的健康保駕護航。
武漢大學與華為昇騰AI團隊一起，共同打造了嵌入昇思MindSpore先進技術特性的全球首個遙感影像智能解譯專用框架武漢.LuoJiaNet和業(yè)界最大遙感樣本庫武漢.LuoJiaSET，助力遙感智能解譯，為數(shù)字鄉(xiāng)村建設、糧食安全保護、城市規(guī)劃建設國計民生應用賦能
構筑體驗平臺，開放大模型能力
通常，訓練一個大模型的人力和資源成本都非常之高，這也就導致了普通開發(fā)者入門無道。為了讓更多開發(fā)者可以體驗到大模型的魅力，昇思 MindSpore 社區(qū)打造了一站式大模型體驗平臺，已在 7 月 30 日正式上線。
●昇思大模型體驗平臺
昇思大模型體驗平臺不僅集模型選型、在線推理、在線訓練為一體，還支持了 Gradio 項目可視化推理、在線進行遷移學習。開發(fā)者可以在線查詢基于昇思 MindSpore 構建的模型和數(shù)據(jù)集，并選擇自己感興趣的大模型及相關任務，如鵬城.盤古大模型的知識問答、檢索和推理等、紫東.太初多模態(tài)大模型的以音搜圖、以圖生音和以音生圖等。
實戰(zhàn)造英雄，昇思 AI 挑戰(zhàn)賽現(xiàn)已開幕!
Get 一項新技能，最好的辦法就是立個小目標，自己動手實操。
在開發(fā)者領域，底層理論的掌握程度很難代表實際開發(fā)效果。為了能讓更多開發(fā)者有機會學習昇思 MindSpore，探索模型算法并提升算法能力，進而為行業(yè)儲備人才，推動人工智能軟硬件應用生態(tài)繁榮發(fā)展，昇思 MindSpore 特舉辦昇思 AI 挑戰(zhàn)賽。
昇思 MindSpore 還為參賽者準備了豐厚的獎品：
●一等獎1名，獎金5K元并頒發(fā)官方榮譽證書
●二等獎2名，獎金3K元并頒發(fā)官方榮譽證書;
●三等獎3名，獎金 2 K元并頒發(fā)官方榮譽證書;
●入圍復賽且通過代碼審查且成功在線推理的隊伍可獲得證書、定制大禮包等獎品;
●凡是提供推理模塊的隊伍，均可獲得參與獎;
本次 AI 挑戰(zhàn)賽是面向全球 AI 開發(fā)者打造的賽事，開設多類別圖像分類、文本分類、藝術家風格遷移三大賽道，涵蓋 AI 基礎領域。
其中圖像分類是計算機視覺中最基礎的任務，目前圖像分類的算法仍然在飛速發(fā)展。本賽題旨在讓參賽者熟悉昇思MindSpore并鍛煉參賽者使用MindSpore進行圖像分類預處理、圖像分類的能力。同時為了考察參賽者應對大量數(shù)據(jù)的處理能力，本賽題采用Celtech多類別圖像數(shù)據(jù)集。
文本分類研究能實現(xiàn)人與計算機之間用自然語言進行有效通信的各種理論和方法。文本分類在AI領域承擔了重要角色。本賽題旨在讓參賽者熟悉昇思MindSpore并鍛煉參賽者使用MindSpore進行NLP的文本處理、文本分類的能力。 本賽題采用Amazon Review數(shù)據(jù)集，參賽者需要根據(jù)用戶評論文本，對用戶的評分進行預測(1-5分的整數(shù))。
藝術家風格遷移賽道 圖像風格遷移技術的發(fā)展在圖像處理、計算機視覺、影視制作等領域均發(fā)揮著不可估量的作用。本賽題旨在讓參賽者熟悉昇思MindSpore并鍛煉參賽者使用MindSpore進行圖像風格遷移的能力。本賽題采用梵高畫作作為風格遷移的目標風格。
通過三大賽道的設置，開發(fā)者可以自由挑選感興趣的賽道，實現(xiàn)從理論到實踐的跨越，了解行業(yè)最新的人才需求，提升自身技能。
6 萬元獎金及眾多周邊福利，還等什么?
（免責聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性，但不保證有關資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責。本網(wǎng)站對有關資料所引致的錯誤、不確或遺漏，概不負任何法律責任。
任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權或存在不實內(nèi)容時，應及時向本網(wǎng)站提出書面權利通知或不實情況說明，并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關文章源頭核實，溝通刪除相關內(nèi)容或斷開相關鏈接。 ）
