英國電信聯(lián)合AWS構(gòu)建GenAI Gateway平臺,加速流程智能化轉(zhuǎn)型

極客網(wǎng)·網(wǎng)絡(luò)通信9月25日 據(jù)報道,英國電信數(shù)字部門日前推出了名為“GenAI Gateway”(生成式AI網(wǎng)關(guān))的管理平臺,該平臺可以采用Anthropic、Meta、Cohere和亞馬遜等公司提供的一系列大型語言模型(LLM)。

英國電信可以將這個平臺應(yīng)用在任何用例中,完成了大量復(fù)雜且繁重的任務(wù),為該平臺的順利運行奠定了堅實的基礎(chǔ)。值得注意的是,AWS在這一過程中發(fā)揮了至關(guān)重要的作用,表面其可能是主要技術(shù)提供者。

image001.jpg

據(jù)悉,該平臺是使用Amazon Bedrock(這一套GenAI應(yīng)用開發(fā)服務(wù))和Amazon Sagemaker(一種托管機(jī)器學(xué)習(xí)服務(wù))開發(fā)的,使企業(yè)能夠針對任何數(shù)量的用例訓(xùn)練和定制機(jī)器學(xué)習(xí)模型。此外,AWS還為英國電信提供專業(yè)服務(wù)以確保順利運行。

GenAI Gateway的首個測試版用例已經(jīng)開始運行。英國電信網(wǎng)絡(luò)部門Openreach正在利用該平臺來整理以太網(wǎng)和全光纖工作相關(guān)的工程說明,從而幫助簡化流程,提升內(nèi)部高團(tuán)隊及其通信服務(wù)提供商(CSP)客戶的生產(chǎn)力。

此外,英國電信的業(yè)務(wù)、法律和采購團(tuán)隊也開始使用GenAI Gateway來改進(jìn)合同分析。

英國電信在一份聲明中明確表示,GenAI Gateway是該公司一項“All in”的舉措,公司不會嘗試開發(fā)其他不同的AI解決方案。部署這個平臺將減少重復(fù)工作和浪費資源的風(fēng)險。這也意味著API、安全配置和基礎(chǔ)設(shè)施管理都可以集中管理,從而降低錯誤風(fēng)險或為不同的用例維護(hù)單獨的LLM。

英國電信還在回答相關(guān)問題時指出,雖然臨時使用多個LLM適合用于測試和開發(fā),但不適合大規(guī)模使用。采用支持多種模型的靈活解決方案意味著英國電信的團(tuán)隊可以為合適的用例使用正確的模型,而不會出現(xiàn)成本增加和效率低下的問題。

此外,采用多LLM的方法還可以提供安全保障,以防其中的一個模型出現(xiàn)編造虛假信息(稱為幻覺)或停止預(yù)期的行為。

GenAI Gateway還采用了幾項保障措施確保符合所有重要的“道德AI”標(biāo)準(zhǔn)。這些措施包括過濾掉個人身份信息,使用在英國本土處理和存儲的數(shù)據(jù),以及將經(jīng)過訓(xùn)練的模型相互隔離,以防止它們過于自由地共享數(shù)據(jù)。同時GenAI應(yīng)用還受到了一定的限制,以降低有害交互的風(fēng)險,并過濾與其特定用例無關(guān)的查詢。這些舉措可以強(qiáng)化其在實際應(yīng)用中的可靠性和穩(wěn)定性。

英國電信數(shù)字部門數(shù)據(jù)和AI總監(jiān)Deepika Adusumilli表示,“AI正在幫助我們重新構(gòu)想公司的未來發(fā)展。我們認(rèn)為,在數(shù)據(jù)不變的情況下,我們需要LLM更具靈活性。GenAI Gateway正是我們實現(xiàn)這一目標(biāo)的強(qiáng)大工具,它讓我們能夠以安全、負(fù)責(zé)、靈活且可擴(kuò)展的方式大規(guī)模地利這一前沿技術(shù),充分釋放英國電信集團(tuán)內(nèi)部員工的潛力,無論是現(xiàn)在還是未來?!?/p>

AWS EMEA地區(qū)電信業(yè)務(wù)總經(jīng)理Fabio Cerone補(bǔ)充說:“英國電信的GenAI Gateway展示了企業(yè)如何有效地大規(guī)模和快速部署GenAI。這是一次具有開創(chuàng)性的絕佳合作機(jī)會,我們可以攜手客戶,采用逆向工作法,通過嵌入式安全性和合規(guī)性,加速將GenAI用例部署到生產(chǎn)的進(jìn)程。GenAI Gateway將推動GenAI的采用,為英國電信及其客戶帶來更為迅速且顯著的成效?!?/p>

毋庸諱言,像英國電信這樣的運營商大規(guī)模部署GenAI,是AI走向主流應(yīng)用和建立可信度等的重要里程碑。當(dāng)然對于那些獨立LLM提供商來說,每家分到的機(jī)會和蛋糕就減少了。

極客網(wǎng)企業(yè)會員

免責(zé)聲明:本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性,但不保證有關(guān)資料的準(zhǔn)確性及可靠性,讀者在使用前請進(jìn)一步核實,并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏,概不負(fù)任何法律責(zé)任。任何單位或個人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時,應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明,并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后,將會依法盡快聯(lián)系相關(guān)文章源頭核實,溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。

2024-09-25
英國電信聯(lián)合AWS構(gòu)建GenAI Gateway平臺,加速流程智能化轉(zhuǎn)型
像英國電信這樣的運營商大規(guī)模部署GenAI,是AI走向主流應(yīng)用和建立可信度等的重要里程碑。

長按掃碼 閱讀全文