近期，領先的客戶互動和營銷科技服務商極光宣布推出GPTBots平臺，該平臺支持一鍵接入多個主流大模型，同時支持開發(fā)者將LLM(大語言模型)與企業(yè)數(shù)據(jù)、服務能力無縫連接，建構(gòu)企業(yè)自己的AI Bot服務，并開放注冊。
“人工智能是未來10年最大的生產(chǎn)力變革機會，每一個企業(yè)都要擁抱它，未來能不能用好AI，是一個非常核心的競爭力。”
極光CEO羅偉東認為，生成式AI正迎來爆炸式增長，其應用領域涉及Microsoft、微軟、Salesforce、Meta以及Adobe等知名企業(yè)。這為企業(yè)帶來了巨大的發(fā)展機遇，但同時也存在認知與技術(shù)鴻溝。
在他看來，許多企業(yè)使用GPT等技術(shù)時，往往僅限于生成文章或圖像，而未能充分利用其內(nèi)部數(shù)據(jù)和知識。這導致了巨大的機會和潛在的利益損失。企業(yè)需要將GPT等技術(shù)整合到其業(yè)務流程中，以提高效率并創(chuàng)造新機會。
當前，國內(nèi)大模型正蓬勃發(fā)展，無論是百度、阿里、字節(jié)等大廠都推出了自己的大模型。但在應用方面，生成式AI還存在幻覺問題，許多通用大語言模型缺乏垂域知識，導致無法解決復雜任務。
對于企業(yè)而言，應用AI模型涉及合規(guī)、數(shù)據(jù)、算力、工程和算法等多個環(huán)節(jié)，任一環(huán)節(jié)出現(xiàn)質(zhì)量問題都會影響到應用場景的實施。
舉例來說，在醫(yī)療問答場景中，通常需要涉及患者的敏感個人信息，如醫(yī)?？ㄙ~號、病歷記錄和藥物使用情況。如果AI應用系統(tǒng)出現(xiàn)數(shù)據(jù)調(diào)用錯誤，可能會對后續(xù)的診斷產(chǎn)生不良影響。在這種情況下，專門設計用于醫(yī)療場景的AI模型可以起到關(guān)鍵作用，它能夠標記潛在的隱私或關(guān)鍵病歷信息，并提醒后臺醫(yī)生或客服人員進行審核，這種功能將降低問診的成本，同時減少了潛在風險。
在羅偉東看來，這些問題可以通過創(chuàng)建自定義的AI BOT(或AI Agent)
來解決，結(jié)合企業(yè)內(nèi)部數(shù)據(jù)和領域知識，并通過API集成到流程業(yè)務中。這種方法不僅適用于大型企業(yè)，即使沒有大量研發(fā)資源的小型公司也可以輕松應用。企業(yè)應積極探索如何利用這些技術(shù)，無論是否擁有大量數(shù)據(jù)。
他表示，正是看到了企業(yè)的需求，極光基于多年開發(fā)者服務積累，推出了GPTBots開發(fā)平臺。極光GPTBots平臺上，開發(fā)者只需要具備生成式AI和相關(guān)領域知識，就可以構(gòu)建自己的AI Bot，并將其接入企業(yè)服務，其中包括開箱即用的LLMs、Plugins、長/短期記憶、知識庫和flow等功能，幫助企業(yè)量身定制AI Bot應用。
未來，生成式AI將成為企業(yè)提升效率和節(jié)省成本的工具。不過，羅偉東認為，在最大程度地利用生成式人工智能，企業(yè)間并非是縮小差距，反而會因為AI應用的落地拉大差距。
每一個革命性技術(shù)的誕生到落地應用，都需要一定的接受時間，同時也面臨用戶的隱私和數(shù)據(jù)安全，其次是算法的優(yōu)化和模型的迭代。對于企業(yè)而言，需要深入研究如何最大程度將生成式AI技術(shù)與自身業(yè)務相結(jié)合，才避免被時代淘汰。
以下是采訪實錄(原文基礎上有刪改)：
Q：ChatGPT爆紅之后，許多企業(yè)高層都會有很大的焦慮感。您的感受是什么?
極光CEO羅偉東：我認為將其比作iPhone時刻一點也不夸張，我是連續(xù)創(chuàng)業(yè)者，我清晰地記得當年iPhone問世的那一刻，這兩個感受非常相似。不過，我也相信它還需要時間來實現(xiàn)各種應用的成熟，就像iPhone問世后，一年以后才出現(xiàn)應用市場，應用生態(tài)也是2、3年后才逐漸起來。
Q：極光發(fā)布了GPTBots，您是看到了什么機會?
極光CEO羅偉東：許多企業(yè)使用GPT等技術(shù)時，往往僅限于生成文章或圖像，而未能充分利用其內(nèi)部數(shù)據(jù)和知識。這導致了巨大的機會和潛在的利益損失。企業(yè)需要將GPT等技術(shù)整合到其業(yè)務流程中，以提高效率并創(chuàng)造新機會。這可以通過創(chuàng)建自定義的AI BOT來實現(xiàn)，結(jié)合企業(yè)內(nèi)部數(shù)據(jù)和領域知識，并通過API集成到流程業(yè)務中。
這種方法不僅適用于大型企業(yè)，即使沒有大量研發(fā)資源的小型公司也可以輕松應用。企業(yè)應積極探索如何利用這些技術(shù)，無論是否擁有大量數(shù)據(jù)?；谄髽I(yè)這樣的困擾，我們推出了GPTBots開發(fā)平臺。
Q：可以詳細說下 GPTBots 的插件功能嗎?
極光CEO羅偉東：首先，我們要了解什么是LLMs的插件：LLMs插件區(qū)別于傳統(tǒng)插件，它獨立、靈活、自由、功能強大，大語言模型插件的核心是Web API，因此大語言模型插件完全擁抱互聯(lián)網(wǎng)，同時，沒有開發(fā)語言“歧視”，無論開發(fā)者的語言棧是Python、Java、Go、PHP等，只要可以開發(fā)HTTP協(xié)議接口，遵循RESTful規(guī)則，就可以構(gòu)建大語言模型插件。GPTBots插件融合了ChatGPT插件創(chuàng)建規(guī)范(通用的OpenAPI規(guī)范)和函數(shù)調(diào)用功能，讓開發(fā)者只需專注于自身功能接口開發(fā)，同時GPTBots也會自動兼容市面上主流已支持插件能力的 LLM。
舉個例子，考慮一個郵件服務的情況，如果有客戶想要從新加坡寄一封信到美國，他們可能會詢問該服務的費用。這個價格可能是不斷變化的，存儲在結(jié)構(gòu)化的數(shù)據(jù)庫中在這種情況下，我們可以提供一個價格查詢插件，通過它可以調(diào)用并獲取這個動態(tài)數(shù)據(jù)。
開發(fā)者可以根據(jù)需求創(chuàng)建插件自定義，通常用于處理企業(yè)內(nèi)部的結(jié)構(gòu)化數(shù)據(jù)服務。例如，企業(yè)的 HR 部門可以開發(fā)一個插件，用于查詢員工的假期余額。
Q：企業(yè)目前要應用大模型存在哪些問題? GPTBots是如何幫助企業(yè)解決這些問題的?
極光CEO羅偉東：企業(yè)要開發(fā)一個AI Bot，開發(fā)者需要具備一定的技術(shù)技巧和相關(guān)領域知識。從學術(shù)理論到商業(yè)產(chǎn)品，涉及到機器學習工具、編程語言、框架、前后端工程師、運維工程師等多個方面的專業(yè)知識。這對于企業(yè)來說是一個挑戰(zhàn)。
我們的平臺上，開發(fā)者只需要具備生成式AI和相關(guān)領域知識，就可以構(gòu)建自己的AI Bot，并將其接入企業(yè)服務。我們提供了簡單、高效和安全的LLMOps平臺，其中包括開箱即用的LLMs、Plugins、長/短期記憶、知識庫和flow等功能，幫助開發(fā)者為其業(yè)務量身定制AI Bot應用。
Q：如何看待開源跟閉源大模型的關(guān)系?GPTBots 是否都會支持?
極光CEO羅偉東：開源在AI領域的發(fā)展確實非常強大，而且開源社區(qū)在不斷創(chuàng)新和迭代，迎頭趕上了一些領先的原生技術(shù)。未來，開源很可能成為主流，原因在于它滿足了不同規(guī)模的企業(yè)和需求。
對于中小型企業(yè)，他們可以使用OpenAI、百度或阿里的云端服務，在滿足其需求的同時還降低了技術(shù)關(guān)稅。而對于大型企業(yè)和政府部門，他們可能更傾向于使用私有化部署開源模型以確保數(shù)據(jù)隱私和安全。所以，GPTBots也提供了支持和開源模型結(jié)合的私有化部署的解決方案，可以滿足不同規(guī)模和性質(zhì)客戶的需求。
Q：大型企業(yè)普遍擔心的數(shù)據(jù)安全性問題，我們有什么辦法?
極光CEO羅偉東：對于企業(yè)擔心的安全問題，我們提供了一些解決方案。如果企業(yè)使用公有的模型，他們可以采取一些措施來保證數(shù)據(jù)的安全性，例如在傳輸時提取用戶的敏感信息。如果用戶在醫(yī)療問答中詢問有關(guān)個人身體癥狀的問題，企業(yè)可以對其中的敏感信息進行脫敏處理，如姓名和醫(yī)療卡號，再將脫敏后的數(shù)據(jù)提交給GPT模型。然后，GPT返回答案，并將答案中的敏感信息進行替換，以保護用戶的隱私。
另一個解決方案是在企業(yè)內(nèi)部進行數(shù)據(jù)過濾，以確保敏感信息不被提交給模型。企業(yè)需要自行處理這一過程來規(guī)避風險。企業(yè)還可以選擇本地化部署開源模型，但這樣需要更高的成本，包括硬件和GPU。
Q：GPTBots的盈利模式是什么樣的?
極光CEO羅偉東：對于公用版本，我們采用包年訂閱的方式，并根據(jù)使用量和功能進行不同的定價。我們提供了標準的SAAS模式，這是我們之前一直在使用的模式。如果企業(yè)選擇本地化部署，我們提供私有化版本的定價以及相關(guān)的服務。私有化版本的價格通常會包括硬件和服務成本。
Q：您最后還有什么想分享的嗎?
極光CEO羅偉東：人工智能是未來10年最大的生產(chǎn)力變革機會，每一個企業(yè)都要擁抱它，未來能不能用好AI，是一個非常核心的競爭力。而AI-BOT開發(fā)平臺的出現(xiàn)，不僅為企業(yè)提供了應用實踐的機會，也為整個AI行業(yè)的發(fā)展帶來了新的動力。
（免責聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性，但不保證有關(guān)資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負任何法律責任。
任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時，應及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明，并提供身份證明、權(quán)屬證明及詳細侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 ）
