12月30日消息（南山）近日，幻方量化旗下的DeepSeek公司宣布發(fā)布全新系列模型DeepSeek-V3首個(gè)版本，并同步開源。
DeepSeek-V3為自研MoE模型，671B參數(shù)，激活37B，在14.8T token上進(jìn)行了預(yù)訓(xùn)練。
DeepSeek引用評測報(bào)告指出，DeepSeek-V3多項(xiàng)評測成績超越了阿里旗下Qwen2.5-72B和Meta旗下Llama-3.1-405B等其他開源模型，并在性能上和世界頂尖的閉源模型GPT-4o以及Claude-3.5-Sonnet不分伯仲。
令業(yè)界震驚的是，DeepSeek-V3訓(xùn)練僅花費(fèi)了557.6萬美元，在2048xH800集群上運(yùn)行55天完成，還很坦誠地公布了技術(shù)細(xì)節(jié)。
相比之下，GPT-4o這樣的模型訓(xùn)練成本約為1億美元。
這一成果已經(jīng)引起海外注意。其中，OpenAI創(chuàng)始成員Karpathy點(diǎn)評稱，DeepSeek-V3讓在有限算力預(yù)算上進(jìn)行模型預(yù)訓(xùn)練這件事變得容易。它看起來比Llama 3 405B更強(qiáng)，訓(xùn)練消耗的算力卻僅為后者的1/11。
這意味著算力成本的大幅下降，也意味著大模型領(lǐng)域在經(jīng)歷了“百模大戰(zhàn)”后，可能會迎來新一輪的大模型產(chǎn)品競爭。
- 蜜度索驥：以跨模態(tài)檢索技術(shù)助力“企宣”向上生長
- 萬兆光網(wǎng)試點(diǎn)工作解讀：運(yùn)營商集團(tuán)公司要給予必要的資金保障
- 建筑能源優(yōu)化：挑戰(zhàn)與解決方案
- 市值近3000億！寒武紀(jì)股價(jià)突破700元大關(guān)，創(chuàng)歷史新高
- 北京：圍繞量子科技等前沿技術(shù)領(lǐng)域推進(jìn)國際合作
- 空間智能的革命：GIS與智能技術(shù)的協(xié)同作用
- 數(shù)據(jù)可觀測性2.0：超越傳統(tǒng)監(jiān)控，確保企業(yè)數(shù)據(jù)質(zhì)量
- 到2030年，邊緣計(jì)算將主導(dǎo)數(shù)據(jù)處理｜趨勢
- 面部識別與人工智能在門禁領(lǐng)域的應(yīng)用
- 人工智能和數(shù)據(jù)中心：關(guān)鍵點(diǎn)、前景和力量
- 幽靈數(shù)據(jù)中心：人工智能真正潛力的障礙
免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請進(jìn)一步核實(shí)，并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。
