生成式AI搜索成本比傳統(tǒng)高10倍,混合AI是未來

5天突破百萬用戶,2個月突破1億用戶,頻頻打破史上增速最快消費(fèi)級應(yīng)用,這便是ChatGPT。ChatGPT在去年11月以AI聊天機(jī)器人的形式登場,但與過去所有的聊天機(jī)器人不同,似乎像個全能戰(zhàn)士,可以聊天、寫文章、寫代碼、修改 bug……ChatGPT被視為生成式AI里程碑,并以前所未有的速度和廣度,展現(xiàn)出其巨大的發(fā)展?jié)摿Α?/p>

然而隨著生成式AI模型參數(shù)規(guī)模的急劇擴(kuò)張,對算力提出了巨大的挑戰(zhàn),以及帶來的成本問題,無疑會影響生成式AI的普及。研究數(shù)據(jù)指出,每個生成式AI網(wǎng)絡(luò)搜索查詢的成本比傳統(tǒng)搜索高10倍,如果每天進(jìn)行超過100億次查詢,每年的額外成本可能達(dá)數(shù)十億美元。 對此,在9月5日的服貿(mào)會上,高通給出的答案是混合AI。在高通發(fā)布的《混合AI是AI的未來》白皮書中,混合AI將支持生成式AI開發(fā)者和提供商利用邊緣終端的計(jì)算能力降低成本。不僅如此,混合AI架構(gòu)或終端側(cè)AI還能夠在全球范圍帶來高性能、個性化、隱私和安全等優(yōu)勢。

目前生成式AI主要采用云端部署運(yùn)行,而混合AI指終端和云端協(xié)同工作,在適當(dāng)?shù)膱鼍昂蜁r間下分配AI計(jì)算的工作負(fù)載,以提供更好的體驗(yàn),并高效利用資源,這其中5G承擔(dān)著連接云端算力和終端應(yīng)用的關(guān)鍵橋梁。在5G的加持下,混合AI架構(gòu)使AI在云端、邊緣云和終端側(cè)協(xié)同運(yùn)行,使整個系統(tǒng)中的計(jì)算和處理能力能夠以最有效的方式重新分布,實(shí)現(xiàn)更強(qiáng)大、更便利、更高效、更優(yōu)化的AI。

高通是全球領(lǐng)先的無線科技創(chuàng)新者,在5G等連接技術(shù),以及AI、影像、圖形等技術(shù)領(lǐng)域擁有長期積累,已打造出“統(tǒng)一的技術(shù)路線圖”,將先進(jìn)的連接、低功耗高性能計(jì)算和終端側(cè)AI等技術(shù)從手機(jī)高效擴(kuò)展至不同行業(yè)中的下一代智能終端,包括汽車、VR頭顯、物聯(lián)網(wǎng)設(shè)備等。

今年的服貿(mào)會上,高通在展位上呈現(xiàn)了全球首個可以完全運(yùn)行在安卓智能手機(jī)上的生成式AI大模型終端側(cè)演示,它能迅速理解用戶用自然語言描述的需求,憑借其掌握的超過10億與圖像相關(guān)的參數(shù),執(zhí)行多達(dá)20步推理,創(chuàng)作出用戶想要的圖像。值得注意的是,這些任務(wù)全部在手機(jī)端完成,全程無需聯(lián)網(wǎng)、無需訪問云端,且用時不超過15秒——這是迄今為止在智能手機(jī)上實(shí)現(xiàn)的最快的推理速度。

目前,在全世界范圍內(nèi),搭載了驍龍和高通平臺的智能終端數(shù)量已達(dá)到數(shù)十億臺??梢灶A(yù)見,5G連接所具有的高速率、低時延等優(yōu)勢,將會讓混合AI架構(gòu)更好地統(tǒng)籌運(yùn)用云端、邊緣云和終端側(cè)的AI算力,從而讓更多消費(fèi)者和行業(yè)用戶享受到生成式AI帶來的全新體驗(yàn)。

高通公司全球副總裁侯明娟在服貿(mào)會成果發(fā)布活動上表示,隨著生成式AI帶來空前的創(chuàng)新和發(fā)展機(jī)遇,AI正以驚人的發(fā)展速度和強(qiáng)大的創(chuàng)新潛能,快速走進(jìn)人們工作生活的方方面面,其變革千行百業(yè)的趨勢日益明顯。終端側(cè)AI是實(shí)現(xiàn)混合式AI架構(gòu)、擴(kuò)展生成式AI至全球更廣范圍的關(guān)鍵,期待日后能夠與更多合作伙伴成就全新的、更加豐富的商業(yè)模式和創(chuàng)新應(yīng)用,進(jìn)而惠及更多的行業(yè)和消費(fèi)者,帶來更加便利和愉悅的數(shù)字化生活。

(免責(zé)聲明:本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性,但不保證有關(guān)資料的準(zhǔn)確性及可靠性,讀者在使用前請進(jìn)一步核實(shí),并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏,概不負(fù)任何法律責(zé)任。
任何單位或個人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實(shí)內(nèi)容時,應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明,并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后,將會依法盡快聯(lián)系相關(guān)文章源頭核實(shí),溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 )