生成式 AI 應(yīng)用落地已經(jīng)從熱火朝天的“百模大戰(zhàn)”，步入到了少數(shù)優(yōu)秀模型脫穎而出，工具鏈百花齊放，以及企業(yè)主管認(rèn)真尋找生成式 AI 落地場景的新階段。然而，大模型是否能夠真正落地并應(yīng)用于實踐、如何基于開發(fā)者自身 IT 架構(gòu)快速構(gòu)建AI Native 應(yīng)用、如何衡量引入生成式 AI 的價值等問題引發(fā)行業(yè)關(guān)注。
在此背景下，亞馬遜云科技舉辦亞馬遜云科技生成式 AI 構(gòu)建者大會。在本次大會中，眾行業(yè)大咖和技術(shù)專家們深度聚焦生成式 AI 前沿技術(shù)，就生成式 AI 的熱點技術(shù)話題和熱門應(yīng)用場景展開了深入分享與交流，為開發(fā)者們解讀了當(dāng)下應(yīng)如何應(yīng)對生成式 AI 帶來的機遇，在 AI 時代保持強有力的競爭力。
Zilliz 合伙人兼技術(shù)總監(jiān)欒小凡、Zilliz AI 云平臺負(fù)責(zé)人陳將受邀參加。
以下是他們的精彩發(fā)言：
欒小凡表示，向量數(shù)據(jù)庫是一種將數(shù)據(jù)存儲為高維向量的數(shù)據(jù)庫，高維向量是特征或?qū)傩缘臄?shù)學(xué)表示。拆解來看，向量數(shù)據(jù)庫有兩個關(guān)鍵要素，一是面向高維向量數(shù)據(jù)的處理能力，二是具備一個數(shù)據(jù)庫的基本能力。因此，作為向量數(shù)據(jù)庫需要具備支持向量數(shù)據(jù)的增刪改查、高性能的向量檢索、支持?jǐn)?shù)據(jù)的持久化、支持一種易用的查詢語言的能力。
此外，還可以從許多角度來評估向量數(shù)據(jù)庫：系統(tǒng)的擴展性、彈性、可用性，所采用的向量檢索算法，是否支持標(biāo)量過濾、混合查詢、多向量等功能，是否開源，是否提供云服務(wù)，以及是否有完善的生態(tài)支持等。Milvus 和 Zilliz Cloud 作為全球領(lǐng)先的向量數(shù)據(jù)庫，能夠從多個維度滿足開發(fā)者對于向量數(shù)據(jù)庫的需求。
Zilliz 合伙人兼技術(shù)總監(jiān)欒小凡
當(dāng)然，并非所有的向量數(shù)據(jù)庫都生而平等。欒小凡認(rèn)為，開發(fā)者評判自己是否需要真正的向量數(shù)據(jù)庫時，需要著重考慮應(yīng)用場景。向量數(shù)據(jù)庫的傳統(tǒng)應(yīng)用場景包括文本類(如翻譯和語義檢索)、圖片類(如去重和以圖搜圖)、視頻類(如推薦和內(nèi)容合規(guī)檢測)、生物制藥、自動駕駛等。隨著大模型時代的到來，向量數(shù)據(jù)庫的應(yīng)用場景也隨之拓展，包括 RAG(Retrieval-augmented generation)、AI Agent、多模態(tài)大模型等。
陳將在進行主題分享時則對 RAG 應(yīng)用于向量數(shù)據(jù)庫的場景進行了詳細(xì)拆解。陳將認(rèn)為，LLM 的最大問題就是缺乏最新的知識和特定領(lǐng)域的知識。對于這一問題，業(yè)界有兩種主要解決方法：微調(diào)和檢索增強生成。業(yè)內(nèi)許多公司(如 Zilliz、OpenAI 等)都認(rèn)為相比微調(diào)，RAG 是更好的解決方法。歸根究底是因為微調(diào)的成本更高，需要使用的數(shù)據(jù)也更多，因此主要適用于風(fēng)格遷移(style transfer)的場景。
Zilliz AI 云平臺負(fù)責(zé)人陳將
相比之下，RAG 方法使用例如 Milvus 之類的向量數(shù)據(jù)庫，從而將知識和數(shù)據(jù)注入到應(yīng)用中，更適用于通用場景。陳將提到，采用 RAG 方法就意味著使用向量數(shù)據(jù)庫存儲真理數(shù)據(jù)，這樣可以確保應(yīng)用返回正確的信息和知識，而不是在缺乏數(shù)據(jù)時產(chǎn)生幻覺，捏造回答。不過，隨著越來越多的文檔、用例等信息被注入應(yīng)用中，越來越多開發(fā)者意識到信息來源的重要性，它可以確保信息準(zhǔn)確性，使得大模型的回答更加真實。
（免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負(fù)任何法律責(zé)任。
任何單位或個人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時，應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 ）
