阿里云發(fā)布通義千問(wèn)2.0,模型參數(shù)達(dá)千億級(jí)

10月31日消息,10月31日,阿里云正式發(fā)布千億級(jí)參數(shù)大模型通義千問(wèn)2.0。在10個(gè)權(quán)威測(cè)評(píng)中,通義千問(wèn)2.0綜合性能超過(guò)GPT-3.5,正在加速追趕GPT-4。當(dāng)天,通義千問(wèn)APP在各大手機(jī)應(yīng)用市場(chǎng)正式上線,所有人都可通過(guò)APP直接體驗(yàn)最新模型能力。

過(guò)去6個(gè)月,通義千問(wèn)2.0在性能上取得巨大飛躍,相比4月發(fā)布的1.0版本,通義千問(wèn)2.0在復(fù)雜指令理解、文學(xué)創(chuàng)作、通用數(shù)學(xué)、知識(shí)記憶、幻覺(jué)抵御等能力上均有顯著提升。目前,通義千問(wèn)的綜合性能已經(jīng)超過(guò)GPT-3.5,加速追趕GPT-4。

圖:通義千問(wèn)2.0綜合性能超過(guò)GPT-3.5,正在加速追趕GPT-4

在MMLU、C-Eval、GSM8K、HumanEval、MATH等10個(gè)主流Benchmark測(cè)評(píng)集上,通義千問(wèn)2.0的得分整體超越Meta的Llama-2-70B,相比OpenAI的Chat-3.5是九勝一負(fù),相比GPT-4則是四勝六負(fù),與GPT-4的差距進(jìn)一步縮小。

中英文理解能力是大語(yǔ)言模型的基本功。英語(yǔ)任務(wù)方面,通義千問(wèn)2.0在MMLU基準(zhǔn)的得分是82.5,僅次于GPT-4,通過(guò)大幅增加參數(shù)量,通義千問(wèn)2.0能更好地理解和處理復(fù)雜的語(yǔ)言結(jié)構(gòu)和概念;中文任務(wù)方面,通義千問(wèn)2.0以明顯優(yōu)勢(shì)在C-Eval基準(zhǔn)獲得最高得分,這是由于模型在訓(xùn)練中學(xué)習(xí)了更多中文語(yǔ)料,進(jìn)一步強(qiáng)化了中文理解和表達(dá)能力。

在數(shù)學(xué)推理、代碼理解等領(lǐng)域,通義千問(wèn)2.0進(jìn)步明顯。在推理基準(zhǔn)測(cè)試GSM8K中,通義千問(wèn)排名第二,展示了強(qiáng)大的計(jì)算和邏輯推理能力;在HumanEval測(cè)試中,通義千問(wèn)得分緊跟GPT-4和GPT-3.5,該測(cè)試主要衡量大模型理解和執(zhí)行代碼片段的能力,這一能力是大模型應(yīng)用于編程輔助、自動(dòng)代碼修復(fù)等場(chǎng)景的基礎(chǔ)。

圖:通義千問(wèn)2.0發(fā)布

通義千問(wèn)更成熟了,也更好用了。通義千問(wèn)2.0在指令遵循、工具使用、精細(xì)化創(chuàng)作等方面作了技術(shù)優(yōu)化,能夠更好地被下游應(yīng)用場(chǎng)景集成。通義大模型官網(wǎng)上線了多模態(tài)和插件功能,支持圖片輸入、文檔解析等細(xì)分任務(wù)。

與此同時(shí),基于通義大模型訓(xùn)練的8大行業(yè)模型組團(tuán)上線,他們分別是通義靈碼-智能編碼助手、通義智文-AI閱讀助手、通義聽(tīng)悟-工作學(xué)習(xí)AI助手通義星塵-個(gè)性化角色創(chuàng)作平臺(tái)、通義點(diǎn)金-智能投研助手、通義曉蜜-智能客服、通義仁心-個(gè)人專屬健康助手通義法睿-AI法律顧問(wèn)。8大行業(yè)模型面向當(dāng)下最受歡迎的多個(gè)垂直場(chǎng)景,使用領(lǐng)域數(shù)據(jù)進(jìn)行專門訓(xùn)練。用戶可以在官網(wǎng)直接體驗(yàn)?zāi)P凸δ埽_(kāi)發(fā)者可以通過(guò)網(wǎng)頁(yè)嵌入、API/SDK調(diào)用等方式,將模型能力集成到自己的大模型應(yīng)用和服務(wù)中。

圖:通義大模型家族全面升級(jí),8大行業(yè)模型組團(tuán)上線

截至10月,阿里云已與60多個(gè)行業(yè)頭部伙伴進(jìn)行深度合作,推動(dòng)通義千問(wèn)在辦公、文旅、電力、政務(wù)、醫(yī)保、交通、制造、金融、軟件開(kāi)發(fā)等領(lǐng)域的落地。

周靖人透露,阿里云計(jì)劃近期開(kāi)源通義千問(wèn)72B版本,此前,阿里云已先后開(kāi)源7B和14B版本模型,模型累計(jì)下載量超過(guò)100萬(wàn)。阿里云將持續(xù)支持千行百業(yè)的開(kāi)發(fā)者基于通義千問(wèn)開(kāi)源模型進(jìn)行模型和應(yīng)用創(chuàng)新。

圖:通義千問(wèn)72B即將開(kāi)源

極客網(wǎng)企業(yè)會(huì)員

免責(zé)聲明:本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性,但不保證有關(guān)資料的準(zhǔn)確性及可靠性,讀者在使用前請(qǐng)進(jìn)一步核實(shí),并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏,概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí),應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說(shuō)明,并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后,將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí),溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。

2023-10-31
阿里云發(fā)布通義千問(wèn)2.0,模型參數(shù)達(dá)千億級(jí)
性能超GPT-3.5。

長(zhǎng)按掃碼 閱讀全文