魔搭社區(qū)推出AI Agent開發(fā)框架,人人都可基于開源LLM“攢”出智能體應(yīng)用

9月5日消息,阿里云牽頭建設(shè)的AI模型社區(qū)魔搭(ModelScope)又上新了,推出適配開源大語言模型的AI Agent開發(fā)框架ModelScope-Agent。借助ModelScope-Agent,所有開發(fā)者都可基于開源 LLM 搭建屬于自己的智能體應(yīng)用,最大限度釋放想象力和創(chuàng)造力。ModelScope-Agent的代碼現(xiàn)已開源。

AI Agent(AI智能體、AI代理)可謂當(dāng)前大模型領(lǐng)域最熱門的研究方向,它是指基于LLM的、能夠使用工具自主完成特定任務(wù)的智能體。眾所周知,目前階段的LLM存在能力邊界,主要擅長處理文本任務(wù)。AI Agent將LLM與其他模型、軟件等外部工具協(xié)同,便能處理真實(shí)世界中的各種復(fù)雜任務(wù),比如接入視頻生成模型,自主生產(chǎn)視頻;接入外部軟件,幫人類寫郵件、訂票、購物等等。

AI Agent類應(yīng)用正在成為大模型創(chuàng)業(yè)的重要賽道,AI Agent 開發(fā)框架也應(yīng)運(yùn)而生。但業(yè)界現(xiàn)有的AI Agent 開發(fā)框架大多基于閉源 LLM 構(gòu)建。為了充分釋放開源 LLM 的生產(chǎn)力,魔搭社區(qū)自研了適配開源 LLM 的AI Agent開發(fā)框架ModelScope-Agent。簡而言之,ModelScope-Agent是pilot(領(lǐng)航員)而非copilot(副駕駛員)。

此前,魔搭已用這套框架在社區(qū)做了“打樣”,搭建 ModeScopeGPT,它能通過自然語言與用戶交互、接受用戶指令,通過“中樞模型”通義千問調(diào)用社區(qū)的眾多AI模型API,自主完成人類布置的任務(wù)。ModeScopeGPT的調(diào)用量已超過 25 萬。

ModelScope-Agent系統(tǒng)架構(gòu)圖.jpg

(ModelScope-Agent系統(tǒng)架構(gòu)圖)

AI Agent的工作流程一般包括任務(wù)的理解、規(guī)劃和執(zhí)行,其中,LLM 負(fù)責(zé)任務(wù)規(guī)劃、工具調(diào)用以及回復(fù)生成,是整個(gè)流程的智能中樞,好比人類的大腦。ModelScope-Agent允許開發(fā)者自由選擇智能體的“大腦”,適配百川、通義千問等各類開源模型。主流LLM能夠做到“即插即用”,開發(fā)者如需專門訓(xùn)練LLM 以增強(qiáng)其工具調(diào)用能力,可以參考ModelScope-Agent開源的訓(xùn)練數(shù)據(jù)、訓(xùn)練方法、優(yōu)化方案、評(píng)估方法。

ModelScope-Agent開發(fā)框架還包含記憶控制、工具使用等模塊,記憶控制模塊支持知識(shí)檢索以及 prompt (提示詞)管理,工具使用模塊支持工具庫、工具檢索、工具定制。為了增強(qiáng)開源大模型工具調(diào)用能力,魔搭社區(qū)還自研了一個(gè)包含60w樣本的MSAgent-Bench工具調(diào)用數(shù)據(jù)集。

大多數(shù) AI Agent 開發(fā)框架需要手動(dòng)添加工具,而ModelScope-Agent 通過調(diào)用魔搭社區(qū)上開源的文本向量模型,打造API 工具檢索引擎,能讓AI Agent根據(jù)用戶指令自動(dòng)檢索相關(guān)工具。如果開發(fā)者想要新增外部工具/API,只需要在ModelScope-Agent上注冊(cè)工具,即可直接調(diào)用。

開源正在成為很多頭部大模型玩家的選擇。未來,ModelScope-Agent 會(huì)適配更多新增的開源LLM,并將推出更多基于ModelScope-Agent開發(fā)的應(yīng)用,如個(gè)人助理 Agent、Story Agent、Multi-Agent等。魔搭鼓勵(lì)開發(fā)者用ModelScope-Agent探索工業(yè)制造、游戲開發(fā)、智能互聯(lián)等行業(yè)的應(yīng)用。

魔搭社區(qū)表示,作為國內(nèi)規(guī)模最大、用戶最活躍的AI模型開源社區(qū),魔搭將持續(xù)通過開源開放推進(jìn)大模型技術(shù)和應(yīng)用發(fā)展。此前,阿里云曾表示要把促進(jìn)中國大模型生態(tài)的繁榮作為首要目標(biāo),并將魔搭建設(shè)成為中國最大的大模型自由市場。

ModelScopeAgent開源地址:https://github.com/modelscope/modelscope-agent/

(免責(zé)聲明:本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性,但不保證有關(guān)資料的準(zhǔn)確性及可靠性,讀者在使用前請(qǐng)進(jìn)一步核實(shí),并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏,概不負(fù)任何法律責(zé)任。
任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí),應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明,并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后,將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí),溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 )

贊助商
2023-09-05
魔搭社區(qū)推出AI Agent開發(fā)框架,人人都可基于開源LLM“攢”出智能體應(yīng)用
9月5日消息,阿里云牽頭建設(shè)的AI模型社區(qū)魔搭(ModelScope)又上新了,推出適配開源大語言模型的AI Agent開發(fā)框架ModelScope-Agent。

長按掃碼 閱讀全文