">

度小滿CTO許冬亮:金融行業(yè)是大模型落地應(yīng)用的高潛場景,但有三大挑戰(zhàn)需解決

8月24日消息,昨日,在“北大光華-度小滿金融大模型技術(shù)與應(yīng)用論壇”上,度小滿CTO許冬亮表示,金融行業(yè)是高價值行業(yè),數(shù)字化基礎(chǔ)好,高度依賴數(shù)據(jù)和技術(shù),也是大模型落地應(yīng)用的高潛場景。

清華大學(xué)人工智能研究院常務(wù)副院長孫茂松指出:“大模型基于其所構(gòu)建的向量空間,很可能打造出嶄新的智能信息處理基礎(chǔ)平臺,進而變革各行各業(yè)的基本生態(tài)。大模型必然會導(dǎo)致相關(guān)產(chǎn)業(yè)重新洗牌,金融大模型正在重新定義金融科技。”

對于金融科技公司而言,金融大模型屬于兵家必爭之地。孫茂松表示,“金融科技公司對于金融大模型的態(tài)度決定了自身的境界,也決定了這家公司在日異激烈的競爭中能否贏得下一個五年,乃至下一個十年?!?/p>

據(jù)度小滿數(shù)據(jù)智能部總經(jīng)理楊青透露,度小滿軒轅大模型2.0版本將在10月份發(fā)布。2.0版本在對話和金融理解等場景下的能力大幅提升。在增量預(yù)訓(xùn)練和指令微調(diào)階段,該版本加入了海量金融數(shù)據(jù),對金融問題回答更加專業(yè)、準(zhǔn)確;在對話能力上,“軒轅2.0”的上下文長度擴充至8k,能夠處理更長的金融報告、研究和分析。

今年5月份,度小滿開源了千億級中文金融大模型“軒轅”,開源以來已經(jīng)有上百家金融機構(gòu)申請試用。

現(xiàn)階段,如何在金融領(lǐng)域發(fā)揮大模型的能力,許冬亮認為還有三個挑戰(zhàn)需要解決:

第一個挑戰(zhàn)是通用模型能力不能滿足金融場景需要。首先是通用大模型本身精度不夠,當(dāng)前大模型原生的幻覺問題、可控性問題和可解釋性問題都限制了生成內(nèi)容的準(zhǔn)確性和可控性,而金融又是一個對精準(zhǔn)性、可控性要求很高的行業(yè);其次是通用大模型金融知識的缺失;再次是大模型更新迭代困難,金融是高時效的,模型必須能夠?qū)崟r跟蹤金融市場的變化和趨勢。

第二個挑戰(zhàn)是大模型如何高效植入現(xiàn)有業(yè)務(wù)場景。一個團隊既要懂業(yè)務(wù)場景的know-how,又要理解大模型的使用方法,而且還需要具備比較強的工程能力,這樣才有可能選擇出適合應(yīng)用大模型的場景,高效的將大模型嵌入到實際業(yè)務(wù)流程。

第三個挑戰(zhàn)是大模型應(yīng)用于金融業(yè)中產(chǎn)生的安全合規(guī)和隱私保護問題。金融本身是一個高合規(guī)要求的行業(yè),大模型又是具有顛覆性的新技術(shù),我們對它的風(fēng)險還沒有完全了解,隨著大模型落地的不斷推進,如何平衡大模型落地收益和潛在合規(guī)風(fēng)險,會是一個越來越突出的問題。

如何解決大模型在金融行業(yè)落地應(yīng)用的這些難題,許冬亮認為每家機構(gòu)獨立去解決這些問題既是不現(xiàn)實的,也是不經(jīng)濟的,科技公司和金融機構(gòu)在金融大模型上的合作非常有必要。

大模型訓(xùn)練需要大數(shù)據(jù),但是金融數(shù)據(jù)非常寶貴。許冬亮具體解釋,“大模型訓(xùn)練非常依賴底層的生產(chǎn)資料,也就是數(shù)據(jù),但金融行業(yè)數(shù)據(jù)的分布實際上比較分散,通用智能化數(shù)據(jù)主要集中在科技公司手上,金融數(shù)據(jù)則分散在各個金融科技公司手上,而對于金融機構(gòu)而言數(shù)據(jù)是核心競爭力也不太可能進行分享,其他還有監(jiān)管、數(shù)據(jù)安全、隱私保護等因素存在,所以注定未來這個行業(yè)高質(zhì)量數(shù)據(jù)的分布也會是分散的狀態(tài)?!?/p>

許冬亮向網(wǎng)易科技記者表示,未來從合作模式上來說,應(yīng)該會是科技公司提供不同類型的通用大模型,金融科技公司在通用大模型的基礎(chǔ)上提供金融行業(yè)大模型,將領(lǐng)域內(nèi)的知識、know-how進一步整合,以私有化的形式部署到金融機構(gòu)內(nèi)部,而不是以云端API的方式提供服務(wù),科技公司和金融機構(gòu)未來會是深度合作的模式。

對于金融行業(yè)大模型的應(yīng)用實踐,中國農(nóng)業(yè)銀行研發(fā)中心大模型研發(fā)負責(zé)人耿博表示: AI大模型面臨算力需求大、訓(xùn)練和推理成本高、數(shù)據(jù)質(zhì)量不佳、隱私和安全問題等挑戰(zhàn)。目前,大模型和場景融合是一個不斷演進、探索的過程,數(shù)據(jù)是大模型的生產(chǎn)要素,基礎(chǔ)設(shè)施是大模型的入場券,場景應(yīng)用是大模型的驅(qū)動力,AI大模型未來發(fā)展將趨于通用化與專用化并行。

光大信托數(shù)據(jù)中心總經(jīng)理祝世虎則認為,大模型是生產(chǎn)力的提升,在金融行業(yè)的落地路徑要依靠大合作和大創(chuàng)新。通過大數(shù)據(jù)的整合、大算力的合作,在垂直領(lǐng)域精調(diào)模型,以小規(guī)模算力打造輕量級推理模型。在大創(chuàng)新上,目前大模型在金融領(lǐng)域的應(yīng)用主要集中在智能客服、智能運營、智能辦公等領(lǐng)域,后續(xù)應(yīng)該更多的應(yīng)用于風(fēng)險管理、資本管理和監(jiān)管科技等幾個方面。(一橙)

極客網(wǎng)企業(yè)會員

免責(zé)聲明:本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性,但不保證有關(guān)資料的準(zhǔn)確性及可靠性,讀者在使用前請進一步核實,并對任何自主決定的行為負責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏,概不負任何法律責(zé)任。任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時,應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明,并提供身份證明、權(quán)屬證明及詳細侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后,將會依法盡快聯(lián)系相關(guān)文章源頭核實,溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。

2023-08-24
度小滿CTO許冬亮:金融行業(yè)是大模型落地應(yīng)用的高潛場景,但有三大挑戰(zhàn)需解決
度小滿CTO許冬亮:金融行業(yè)是大模型落地應(yīng)用的高潛場景,但有三大挑戰(zhàn)需解決,許冬亮,大模型,金融,度小滿"/>

長按掃碼 閱讀全文