復(fù)旦測評(píng)13家大模型高考數(shù)學(xué)成績,字節(jié)豆包II卷超GPT-4o奪冠

近日,復(fù)旦大學(xué)自然語言處理(NLP)實(shí)驗(yàn)室LLMEVAL團(tuán)隊(duì)公布了2024 年高考數(shù)學(xué)大模型評(píng)測結(jié)果。數(shù)據(jù)顯示,字節(jié)豆包在2024高考數(shù)學(xué)新 II 卷客觀題正確率達(dá)到74.66%,在13家大模型中排名首位,阿里千問和GPT-4o分列二三位。而在高考數(shù)學(xué)新 I 卷評(píng)測排名中,字節(jié)豆包也排在前列。

據(jù)悉,LLMEval是由復(fù)旦大學(xué)NLP實(shí)驗(yàn)室推出的大模型評(píng)測基準(zhǔn),專注于評(píng)估專業(yè)領(lǐng)域的知識(shí)能力。評(píng)測團(tuán)隊(duì)表示,全新出爐的高考試題具備高度的獨(dú)創(chuàng)性和保密性,是用來評(píng)測大模型的“絕好評(píng)測集合”。因此,團(tuán)隊(duì)在高考后第一時(shí)間對(duì)13家大模型進(jìn)行了評(píng)測。

評(píng)測選取2024高考數(shù)學(xué)新I卷和新II卷的14道客觀題,參評(píng)“選手”涵蓋GPT-4o、文心一言、阿里千問、字節(jié)豆包等主流大模型。GPT-4o是OpenAI于今年5月新推出的大語言模型,數(shù)學(xué)能力是其發(fā)布會(huì)現(xiàn)場著重展現(xiàn)的能力模塊。但結(jié)果顯示,部分國產(chǎn)大模型在本次數(shù)學(xué)評(píng)測中的成績優(yōu)于GPT-4o。在新 II 卷客觀題測試中,字節(jié)豆包成績排在首位,其次是阿里千問和GPT-4o。

今年5月,豆包大模型在火山引擎原動(dòng)力大會(huì)上正式發(fā)布。相關(guān)數(shù)據(jù)顯示,在MMLU、BBH、GSM8K、HumanEval等11個(gè)業(yè)界主流的公開評(píng)測集上,Doubao-pro-4k的總分為76.8分,優(yōu)于同期測試的其他國產(chǎn)模型。在數(shù)學(xué)能力、語言理解能力,以及綜合評(píng)測集CMMLU和CEval的評(píng)測上,豆包也有不錯(cuò)的表現(xiàn),得分排在前三。

(免責(zé)聲明:本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性,但不保證有關(guān)資料的準(zhǔn)確性及可靠性,讀者在使用前請(qǐng)進(jìn)一步核實(shí),并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏,概不負(fù)任何法律責(zé)任。
任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí),應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明,并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后,將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí),溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 )