1月23日消息，在近日召開的“躍遷?向未來”順網(wǎng)科技戰(zhàn)略升級及產(chǎn)品升級發(fā)布會上，順網(wǎng)科技CEO樊星博士從實踐層面提出了大模型應用落地的挑戰(zhàn)。大模型落地到應用并不是在跑“最后一公里”，它們之間還有很長一段路要走，而智能體引擎將進一步縮減大模型到應用之間的距離。據(jù)此順網(wǎng)科技結合實際項目經(jīng)驗，提出了“AI應用的五層范式”，旨在解決AI應用落地的難題。而順網(wǎng)創(chuàng)新研發(fā)的靈悉引擎，將在智能體層發(fā)揮連接算力、大模型與應用的關鍵作用，幫助從業(yè)者降低AI的準入門檻，促進高質量AI陪伴應用的構建。
AI應用五層范式——從大模型到應用，需要智能體引擎
在落地層面，順網(wǎng)科技探索出一條新的道路，即涵蓋“算力層、基座模型層、模型池層、智能體層、應用層”的“AI應用五層范式”。其中，算力層提供了強大的計算基礎，支撐著模型的訓練和運行；基于此，基座模型層利用這些算力構建出可適用于多種任務的通用深度學習模型。緊接著，模型池層作為一個資源庫，存儲了各種經(jīng)過特定訓練或微調的模型，以備不同的應用場景調用。在此基礎上，智能體層發(fā)揮著至關重要的作用，它不僅整合了底層的算力和模型資源，還根據(jù)應用層的具體需求，智能地選擇和調度這些資源，確保問題解決的高效性。最終，應用層將這一切轉化為面向用戶的具體產(chǎn)品和服務。
在順網(wǎng)科技AI應用五層范式中，智能體引擎不僅是技術到應用的轉化器，更是連接整個體系高效運作的關鍵。通過智能體引擎的有效運用，大模型的強大能力得以在各種實際應用場景中得到充分發(fā)揮，最終實現(xiàn)了大模型到應用的順利轉化。
靈悉引擎——用好算力與模型，輕松打造高質量的AI陪伴應用
基于五層范式，順網(wǎng)科技研發(fā)了自己的智能體引擎——靈悉引擎（SPICE AGENT ENGINE）。靈悉引擎具備四個核心系統(tǒng)：智識中樞、感知與反饋、執(zhí)行體系和陪伴設定。智識中樞致力于提供更強的決策規(guī)劃能力和更低的使用門檻；感知與反饋板塊關注于智能體的環(huán)境感知和用戶交互，增強形象和聲音等多模態(tài)交互的體驗；執(zhí)行體系通過任務補全、鏈接和執(zhí)行來實現(xiàn)復雜功能；陪伴設定則提供了個性化和快速生成的能力，允許用戶根據(jù)自己的需要創(chuàng)建定制化的智能體，實現(xiàn)個性化陪伴。靈悉引擎通過這些組成部分，實現(xiàn)了在從大模型到應用的過程中有效地連接算力、模型與應用，幫助從業(yè)者用好算力與模型，輕松打造高質量的AI陪伴應用。
其中，智識中樞與陪伴設定是靈悉引擎的兩大特色模塊。一方面，通過智識中樞，參數(shù)更小的模型（小于10B）能實現(xiàn)與大模型（175B）相當?shù)娜蝿找?guī)劃和決策能力。這一點在AI領域具有重大意義。普通的大模型雖然功能強大，但常常伴隨著高昂的計算成本和算力要求。相反，智識中樞通過精心優(yōu)化模型結構和算法，達到了在較低資源消耗下實現(xiàn)高效決策和任務規(guī)劃的目標，從而大幅降低了成本和準入門檻；
另一方面，陪伴設定模塊則提供了更大的靈活性和個性化選項。這個模塊允許用戶根據(jù)自己的需求定制智能體，不僅可以依據(jù)極少信息快速生成智能體，還可以進行深入的個性化定制，滿足更復雜的需求。例如，智能體可基于角色、行為、知識、屬性和能力進行多維度定制，實現(xiàn)千人千面的個性化定制效果。
艾卡帕尼評估體系——評估智能體陪伴能力
基于在AI陪伴領域深入的探索，順網(wǎng)科技總結了一套評估智能體陪伴能力的評估方法——AI Companion Benchmark即艾卡帕尼評估體系。其具備對話能力、角色一致性、角色扮演吸引力、決策能力四大類共17大評估維度。通過這些綜合性的評估維度，艾卡帕尼評估體系能夠全面地衡量智能體的綜合陪伴能力，為AI陪伴應用的開發(fā)和優(yōu)化提供了一套標準化的評價框架，從而進一步推動AI陪伴技術發(fā)展、提高AI陪伴應用質量。
通過艾卡帕尼評估體系的評估，我們觀察到靈悉引擎開發(fā)的智能體在陪伴能力方面已經(jīng)達到與直接使用大模型封裝的智能體相當?shù)乃?。采用大模型的智能體意味著承擔更高的運營成本，而通過靈悉引擎構建智能體應用，則將顯著改善成本結構，降低AI應用開發(fā)準入門檻。
在當前的發(fā)展周期內，想要充分、海量地提供AI應用服務，靈悉引擎將充當重要角色。它不僅在工程層面上實現(xiàn)了與大模型相似的陪伴能力，更在實操層面上為更為廣泛的智能體應用提供了可行性，這在未來AI應用的大規(guī)模普及和發(fā)展中將發(fā)揮巨大的作用。
如果說2023年標志著“大模型”時代的到來，那么2024年或將成為“AI應用”爆發(fā)的開始。在這個新的階段，模型的價值將不僅僅體現(xiàn)在其技術先進性上，更在于它們如何被有效地應用于解決實際問題和創(chuàng)造價值。隨著模型層的快速發(fā)展和成熟，未來的AI產(chǎn)業(yè)趨勢將越來越多地由應用層驅動。這意味著，將高端模型技術轉化為具體、實用的應用將成為推動行業(yè)發(fā)展的關鍵。在這個過程中，像靈悉引擎這樣能夠連接模型與應用、同時優(yōu)化成本效益的解決方案將發(fā)揮至關重要的作用，引領AI技術從“模型時代”向“應用時代”轉變！
（免責聲明：本網(wǎng)站內容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性，但不保證有關資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責。本網(wǎng)站對有關資料所引致的錯誤、不確或遺漏，概不負任何法律責任。
任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內容可能涉嫌侵犯其知識產(chǎn)權或存在不實內容時，應及時向本網(wǎng)站提出書面權利通知或不實情況說明，并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關文章源頭核實，溝通刪除相關內容或斷開相關鏈接。 ）
