創(chuàng)新實(shí)力強(qiáng)、應(yīng)用落地廣,GenAI(生成式AI)技術(shù)棧領(lǐng)域,商湯科技位居國內(nèi)榜首!
近日,權(quán)威研究機(jī)構(gòu)弗若斯特沙利文(Frost & Sullivan, 簡稱“沙利文”)聯(lián)合頭豹研究院發(fā)布《2024年中國GenAI技術(shù)棧市場報(bào)告》,商湯科技在11個(gè)GenAI廠商中超越阿里云、百度智能云和華為云,增長指數(shù)和創(chuàng)新指數(shù)均排名國內(nèi)第一,在全球排名中僅次于亞馬遜云科技。
報(bào)告認(rèn)為,商湯積極投入技術(shù)創(chuàng)新,致力于為用戶提供行業(yè)領(lǐng)先的自研模型與高性能國產(chǎn)化的推理引擎,同時(shí)建立了包含機(jī)器與人工審核、安全評測與內(nèi)容安全策略迭代升級等在內(nèi)的完整性安全管理方案,是GenAI技術(shù)棧領(lǐng)域的領(lǐng)導(dǎo)者。
基于商湯大裝置,創(chuàng)新力和增長力領(lǐng)跑國內(nèi)市場
GenAI技術(shù)棧是連接硬件設(shè)施層與終端用戶交互的中間層,集成了包括基礎(chǔ)模型、數(shù)據(jù)處理、模型訓(xùn)練調(diào)優(yōu)、模型部署監(jiān)控等技術(shù)和工具,提供從模型初始化到部署全過程的一站式解決方案。
《2024年中國GenAI技術(shù)棧市場報(bào)告》從創(chuàng)新和增長兩個(gè)維度、共10個(gè)一級評價(jià)指標(biāo)進(jìn)行GenAI技術(shù)棧競爭力分析。
報(bào)告顯示,商湯科技在兩個(gè)維度中均排名全球第二、國內(nèi)第一,其中創(chuàng)新維度獲得“資源利用率優(yōu)化管理、緩存與記憶、精煉壓縮模型”三大模塊最高分,展現(xiàn)出三大能力優(yōu)勢:
· 高效的資源利用率優(yōu)化能力:商湯自研高性能大模型推理引擎性能優(yōu)勢明顯,在相同算力及電力成本下將每秒請求數(shù)(QPS)提升4倍。同時(shí)基于訓(xùn)推一體、算電協(xié)同等技術(shù)創(chuàng)新,萬卡集群GPU資源利用率最高達(dá)到80%以上。
· 高效的緩存與記憶能力:建立了數(shù)據(jù)飛輪機(jī)制,形成自我強(qiáng)化的反饋循環(huán),實(shí)現(xiàn)模型性能的不斷提升。
· 精煉的壓縮模型能力:在代碼小浣熊辦公助手和代碼助手應(yīng)用場景中,通過模型體積壓縮,實(shí)現(xiàn)數(shù)倍的顯存節(jié)省、高比例的速度提升。
在增長維度,商湯科技斬獲“行業(yè)客戶與場景方案”模塊最高分,展現(xiàn)出了商湯生成式AI落地應(yīng)用的廣度和深度:
· 覆蓋領(lǐng)域廣:商湯“日日新”大模型已在金融、醫(yī)療、Copilot助手、擬人交互、智能終端等關(guān)鍵領(lǐng)域確立了卓越的應(yīng)用價(jià)值和領(lǐng)先地位。
· 應(yīng)用觸達(dá)深:商湯科技與各行業(yè)頭部企業(yè)展開緊密合作,助力運(yùn)營商提高算力資源利用,助力媒體創(chuàng)新內(nèi)容生產(chǎn)模式,為生成式AI應(yīng)用落地提供了豐富的標(biāo)桿案例與行業(yè)經(jīng)驗(yàn)。
引領(lǐng)GenAI技術(shù)棧發(fā)展趨勢,加速GenAI應(yīng)用落地
報(bào)告指出,高質(zhì)模型的構(gòu)建、安全合規(guī)的優(yōu)化、推理成本的降低、數(shù)據(jù)價(jià)值的釋放、產(chǎn)品應(yīng)用化的實(shí)現(xiàn),是用戶在構(gòu)建GenAI應(yīng)用時(shí)的核心考量因素。
而商湯科技在GenAI技術(shù)棧領(lǐng)域取得領(lǐng)先,主要源于以下幾個(gè)方面:
· 積極的創(chuàng)新投入:不僅構(gòu)建了自主算力平臺,商湯日日新大模型在多評測集上也均保持領(lǐng)先地位,讓用戶可以調(diào)用不同模態(tài)與不同行業(yè)性的基礎(chǔ)大模型。
· 高性能的推理引擎:商湯大型分布式推理系統(tǒng),擁有高性能算子庫與極致優(yōu)化的推理框架,在軟硬件底層優(yōu)化、自適應(yīng)分離架構(gòu)、國產(chǎn)化生態(tài)打造以及前瞻性的“多模態(tài)AGI+云/邊/端系統(tǒng)”布局等層面優(yōu)勢顯著。
· 完善的安全管理框架:商湯針對GenAI場景,設(shè)計(jì)了符合大模型特質(zhì)的內(nèi)容安全運(yùn)營體系,為用戶提供完整的安全管理方案。
報(bào)告認(rèn)為,GenAI技術(shù)棧將呈現(xiàn)模塊化、標(biāo)準(zhǔn)化、平臺化、簡易化、去中心化的發(fā)展趨勢,MaaS(模型即服務(wù))的廣泛推廣還將重構(gòu)生成式AI的商業(yè)化生態(tài)。同時(shí),作為一項(xiàng)底層創(chuàng)新技術(shù),GenAI還將催生全新類型的信息商品,有望造就出全新的產(chǎn)品時(shí)代和超級產(chǎn)品。
商湯大裝置萬象,包含模型開發(fā)平臺和應(yīng)用開發(fā)平臺,面向企業(yè)與開發(fā)者提供模型管理、模型微調(diào)、推理部署、數(shù)據(jù)管理,以及智能體應(yīng)用等一站式大模型服務(wù),并成功應(yīng)用于央國企、運(yùn)營商、汽車、互聯(lián)網(wǎng)等行業(yè)客戶。
商湯大裝置將不斷完善GenAI技術(shù)棧,通過一系列工具與服務(wù)協(xié)助用戶降低模型開發(fā)門檻,以MaaS大模型即服務(wù)的創(chuàng)新模式,推動(dòng)生成式AI應(yīng)用的商業(yè)化落地和生態(tài)構(gòu)建。
（免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請進(jìn)一步核實(shí)，并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。
任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 ）
