王海峰最新發(fā)聲！

7月6日，2023世界人工智能大會(huì)（WAIC）在上海世博中心開幕，眾多專家學(xué)者、科技領(lǐng)軍人才、企業(yè)代表共同探討人工智能賦能產(chǎn)業(yè)發(fā)展的全新變化，展望技術(shù)新趨勢(shì)。百度首席技術(shù)官、深度學(xué)習(xí)技術(shù)及應(yīng)用國(guó)家工程研究中心主任王海峰解讀文心大模型3.5版核心技術(shù)，發(fā)布飛槳生態(tài)最新進(jìn)展，闡述人工智能產(chǎn)業(yè)模式，為人工智能技術(shù)及產(chǎn)業(yè)最新發(fā)聲。

飛槳已凝聚750萬名開發(fā)者，文心3.5效果提升50%，推理速度提升30倍

當(dāng)前，以大語(yǔ)言模型為代表的人工智能技術(shù)在全球掀起科技和產(chǎn)業(yè)創(chuàng)新浪潮，加速產(chǎn)業(yè)升級(jí)和經(jīng)濟(jì)增長(zhǎng)，各行各業(yè)都將發(fā)生巨大變化。IT技術(shù)棧發(fā)生根本性改變，從芯片、操作系統(tǒng)和應(yīng)用三層架構(gòu)，轉(zhuǎn)變?yōu)樾酒?、框架、模型、?yīng)用四層架構(gòu)。深度學(xué)習(xí)框架和大模型構(gòu)成了產(chǎn)業(yè)智能化基座，將支撐各行各業(yè)的應(yīng)用智能化重構(gòu)，促進(jìn)經(jīng)濟(jì)高質(zhì)量發(fā)展。

據(jù)了解，百度在人工智能四層技術(shù)棧均有布局和領(lǐng)先的自研技術(shù)，尤其在位于四層架構(gòu)核心的框架層和模型層。文心大模型的最新成果，也得益于飛槳深度學(xué)習(xí)平臺(tái)和文心的聯(lián)合優(yōu)化。飛槳是我國(guó)第一個(gè)自主研發(fā)的產(chǎn)業(yè)級(jí)深度學(xué)習(xí)開源開放平臺(tái)，在中國(guó)深度學(xué)習(xí)平臺(tái)綜合市場(chǎng)份額上連續(xù)兩年位居第一。王海峰現(xiàn)場(chǎng)透露，截至目前飛槳已凝聚750萬名開發(fā)者，這也是百度2023年以來首次對(duì)外披露飛槳生態(tài)最新數(shù)據(jù)。

百度自2019年3月文心大模型發(fā)布1.0版后，歷經(jīng)四年技術(shù)深耕和研發(fā)迭代，現(xiàn)已升級(jí)到文心大模型3.5。王海峰表示，文心大模型3.5效果、功能、性能全面提升，實(shí)現(xiàn)了基礎(chǔ)模型升級(jí)、精調(diào)技術(shù)創(chuàng)新、知識(shí)點(diǎn)增強(qiáng)、邏輯推理增強(qiáng)等，模型效果提升50%，訓(xùn)練速度提升2倍，推理速度提升30倍。

核心技術(shù)持續(xù)突破，效果和效率齊躍升

今年3月，百度在全球大型科技公司中第一個(gè)發(fā)布了大語(yǔ)言模型文心一言。文心一言是知識(shí)增強(qiáng)的大語(yǔ)言模型，首先從數(shù)萬億數(shù)據(jù)和數(shù)千億知識(shí)中融合學(xué)習(xí)得到預(yù)訓(xùn)練大模型，在此基礎(chǔ)上采用有監(jiān)督精調(diào)、人類反饋的強(qiáng)化學(xué)習(xí)和提示等技術(shù)，并具備知識(shí)增強(qiáng)、檢索增強(qiáng)和對(duì)話增強(qiáng)等技術(shù)優(yōu)勢(shì)。

王海峰解讀了文心大模型3.5的核心技術(shù)創(chuàng)新，在基礎(chǔ)模型訓(xùn)練上，采用了飛槳最先進(jìn)的自適應(yīng)混合并行訓(xùn)練技術(shù)及混合精度計(jì)算策略，并采用多種策略優(yōu)化數(shù)據(jù)源及數(shù)據(jù)分布，加快了模型迭代速度，顯著提升了模型效果和安全性。同時(shí)，創(chuàng)新了多類型多階段有監(jiān)督精調(diào)、多層次多粒度獎(jiǎng)勵(lì)模型、多損失函數(shù)混合優(yōu)化策略、雙飛輪結(jié)合的模型優(yōu)化等技術(shù)，進(jìn)一步提升模型效果及場(chǎng)景適配能力。

在知識(shí)增強(qiáng)和檢索增強(qiáng)基礎(chǔ)上，文心大模型3.5提出了“知識(shí)點(diǎn)增強(qiáng)技術(shù)”，對(duì)用戶輸入的查詢、問題等進(jìn)行分析理解，解析出生成答案所需要的相關(guān)知識(shí)點(diǎn)，之后運(yùn)用知識(shí)圖譜和搜索引擎為這些知識(shí)點(diǎn)找到相應(yīng)答案，最后再用這些知識(shí)點(diǎn)構(gòu)造輸入給大模型的提示，為大模型注入更具體、更詳細(xì)、更專業(yè)的知識(shí)點(diǎn)，顯著提升大模型對(duì)世界知識(shí)的掌握和運(yùn)用。

在推理方面，通過大規(guī)模邏輯數(shù)據(jù)構(gòu)建、邏輯知識(shí)建模、多粒度語(yǔ)義知識(shí)組合以及符號(hào)神經(jīng)網(wǎng)絡(luò)技術(shù)，提升文心大模型3.5在邏輯推理、數(shù)學(xué)計(jì)算及代碼生成等任務(wù)上的表現(xiàn)。

新增插件機(jī)制，拓展大模型能力邊界

文心大模型3.5新增了插件機(jī)制，文心一言已經(jīng)于6月17日對(duì)外發(fā)布官方插件百度搜索和ChatFile。百度搜索是默認(rèn)的內(nèi)置插件，使得文心一言具備生成實(shí)時(shí)準(zhǔn)確信息的能力。ChatFile是長(zhǎng)文本摘要和問答插件，支持超長(zhǎng)文本輸入。

王海峰表示，文心一言將發(fā)布更多優(yōu)質(zhì)的百度官方和第三方插件，讓用戶能夠更好地應(yīng)用文心大模型，同時(shí)也將逐步開放插件生態(tài)，幫助開發(fā)者基于文心大模型打造自己的應(yīng)用。

廣泛應(yīng)用于各類場(chǎng)景，加速產(chǎn)業(yè)智能化升級(jí)

現(xiàn)場(chǎng)王海峰展現(xiàn)了文心一言在辦公、會(huì)議、編碼等場(chǎng)景的應(yīng)用，文心一言成為工作中的“超級(jí)助理”，幫助總結(jié)工作溝通要點(diǎn)，實(shí)時(shí)記錄會(huì)議內(nèi)容，形成會(huì)議議題、摘要及總結(jié)等關(guān)鍵信息，可以通過各類插件完成指令任務(wù)，包括查詢?nèi)粘獭?chuàng)建會(huì)議、設(shè)置待辦、申請(qǐng)休假等，也可以在工程師編碼過程中自動(dòng)推薦和生成代碼。據(jù)悉，目前這些功能已通過智能工作平臺(tái)“如流”應(yīng)用于百度的工作流程中，幫助提升工作效率，提高決策質(zhì)量。

王海峰表示，凡是要跟語(yǔ)言文字或程序代碼打交道的應(yīng)用場(chǎng)景，都可能有文心一言的用武之地。已經(jīng)有很多在積極應(yīng)用文心一言的場(chǎng)景，例如能源、金融、教育、辦公、媒體，等等。在文心一言這類大模型產(chǎn)業(yè)落地的進(jìn)程中，可以采用“集約化生產(chǎn)，平臺(tái)化應(yīng)用”的模式，即具有算法、算力和數(shù)據(jù)綜合優(yōu)勢(shì)的企業(yè)將模型生產(chǎn)的復(fù)雜過程封裝起來，通過低門檻、高效率的生產(chǎn)平臺(tái)，為千行百業(yè)提供大模型服務(wù)。

生成海報(bào)

免責(zé)聲明：此文內(nèi)容為第三方自媒體作者發(fā)布的觀察或評(píng)論性文章，所有文字和圖片版權(quán)歸作者所有，且僅代表作者個(gè)人觀點(diǎn)，與極客網(wǎng)無關(guān)。文章僅供讀者參考，并請(qǐng)自行核實(shí)相關(guān)內(nèi)容。投訴郵箱：editor@fromgeek.com。

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。