直擊亞馬遜云科技生成式AI構建者大會現(xiàn)場,Zilliz分享新時代向量數(shù)據(jù)庫

生成式 AI 應用落地已經(jīng)從熱火朝天的“百模大戰(zhàn)”,步入到了少數(shù)優(yōu)秀模型脫穎而出,工具鏈百花齊放,以及企業(yè)主管認真尋找生成式 AI 落地場景的新階段。然而,大模型是否能夠真正落地并應用于實踐、如何基于開發(fā)者自身 IT 架構快速構建AI Native 應用、如何衡量引入生成式 AI 的價值等問題引發(fā)行業(yè)關注。

在此背景下,亞馬遜云科技舉辦亞馬遜云科技生成式 AI 構建者大會。在本次大會中,眾行業(yè)大咖和技術專家們深度聚焦生成式 AI 前沿技術,就生成式 AI 的熱點技術話題和熱門應用場景展開了深入分享與交流,為開發(fā)者們解讀了當下應如何應對生成式 AI 帶來的機遇,在 AI 時代保持強有力的競爭力。

Zilliz 合伙人兼技術總監(jiān)欒小凡、Zilliz AI 云平臺負責人陳將受邀參加。

以下是他們的精彩發(fā)言:

欒小凡表示,向量數(shù)據(jù)庫是一種將數(shù)據(jù)存儲為高維向量的數(shù)據(jù)庫,高維向量是特征或屬性的數(shù)學表示。拆解來看,向量數(shù)據(jù)庫有兩個關鍵要素,一是面向高維向量數(shù)據(jù)的處理能力,二是具備一個數(shù)據(jù)庫的基本能力。因此,作為向量數(shù)據(jù)庫需要具備支持向量數(shù)據(jù)的增刪改查、高性能的向量檢索、支持數(shù)據(jù)的持久化、支持一種易用的查詢語言的能力。

此外,還可以從許多角度來評估向量數(shù)據(jù)庫:系統(tǒng)的擴展性、彈性、可用性,所采用的向量檢索算法,是否支持標量過濾、混合查詢、多向量等功能,是否開源,是否提供云服務,以及是否有完善的生態(tài)支持等。Milvus 和 Zilliz Cloud 作為全球領先的向量數(shù)據(jù)庫,能夠從多個維度滿足開發(fā)者對于向量數(shù)據(jù)庫的需求。

Zilliz 合伙人兼技術總監(jiān)欒小凡

當然,并非所有的向量數(shù)據(jù)庫都生而平等。欒小凡認為,開發(fā)者評判自己是否需要真正的向量數(shù)據(jù)庫時,需要著重考慮應用場景。向量數(shù)據(jù)庫的傳統(tǒng)應用場景包括文本類(如翻譯和語義檢索)、圖片類(如去重和以圖搜圖)、視頻類(如推薦和內容合規(guī)檢測)、生物制藥、自動駕駛等。隨著大模型時代的到來,向量數(shù)據(jù)庫的應用場景也隨之拓展,包括 RAG(Retrieval-augmented generation)、AI Agent、多模態(tài)大模型等。

陳將在進行主題分享時則對 RAG 應用于向量數(shù)據(jù)庫的場景進行了詳細拆解。陳將認為,LLM 的最大問題就是缺乏最新的知識和特定領域的知識。對于這一問題,業(yè)界有兩種主要解決方法:微調和檢索增強生成。業(yè)內許多公司(如 Zilliz、OpenAI 等)都認為相比微調,RAG 是更好的解決方法。歸根究底是因為微調的成本更高,需要使用的數(shù)據(jù)也更多,因此主要適用于風格遷移(style transfer)的場景。

Zilliz AI 云平臺負責人陳將

相比之下,RAG 方法使用例如 Milvus 之類的向量數(shù)據(jù)庫,從而將知識和數(shù)據(jù)注入到應用中,更適用于通用場景。陳將提到,采用 RAG 方法就意味著使用向量數(shù)據(jù)庫存儲真理數(shù)據(jù),這樣可以確保應用返回正確的信息和知識,而不是在缺乏數(shù)據(jù)時產(chǎn)生幻覺,捏造回答。不過,隨著越來越多的文檔、用例等信息被注入應用中,越來越多開發(fā)者意識到信息來源的重要性,它可以確保信息準確性,使得大模型的回答更加真實。

(免責聲明:本網(wǎng)站內容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性,但不保證有關資料的準確性及可靠性,讀者在使用前請進一步核實,并對任何自主決定的行為負責。本網(wǎng)站對有關資料所引致的錯誤、不確或遺漏,概不負任何法律責任。
任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內容可能涉嫌侵犯其知識產(chǎn)權或存在不實內容時,應及時向本網(wǎng)站提出書面權利通知或不實情況說明,并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網(wǎng)站在收到上述法律文件后,將會依法盡快聯(lián)系相關文章源頭核實,溝通刪除相關內容或斷開相關鏈接。 )