多項技術推動生成式AI擴展到終端,高通徐晧:創(chuàng)造更豐富多彩的應用場景

隨著2024世界人工智能大會暨人工智能全球治理高級別會議在上海盛大舉行,生成式AI再次受到廣泛的關注和討論。近年來,ChatGPT、Midjourney等生成式AI不斷推陳出新,推動用戶體驗持續(xù)升級,而如何將云端的生成式AI模型擴展到人們?nèi)粘J褂玫慕K端設備上也成為業(yè)界熱議的話題。

在今年世界人工智能大會期間舉辦的人工智能賦能新型工業(yè)化主題論壇上,高通公司中國區(qū)研發(fā)負責人徐晧發(fā)表演講時也提到了生成式AI的發(fā)展,包括更多更智能的語音支持、多模態(tài)模型、根據(jù)個人喜好打造的個人AI智能體等等。他同時也分享了將大語言模型落地到終端側所需要的一些關鍵技術,包括量化和壓縮、推測性解碼、知識提煉、異構計算等等。例如知識提煉,可以通過對大模型的學習,將其改為可以在手機上運行的模型,讓用戶通過手機就能體驗生成式AI。

還有異構計算,在生成式AI模型日益復雜、參數(shù)規(guī)模不斷提升、許多用例需要同時運行多個模型等趨勢下,生成式AI工作負載的復雜性、并發(fā)性和多樣性需要終端側所有處理器的能力,而支持處理多樣性的異構計算架構能夠發(fā)揮每個處理器的優(yōu)勢,包括以AI為中心定制設計的 NPU,以及 CPU和 GPU,每個處理器完成各自擅長的任務,實現(xiàn)最佳應用性能、能效和電池續(xù)航,賦能全新增強的生成式 AI 體驗。徐晧在演講中也介紹了高通正在做的規(guī)劃器(Orchestrator),當手機需要調(diào)用不同的程序時,需要將智能體作為底層架構,把所需的程序調(diào)用起來,同時將所需的資源放在一起,從而提供可滿足用戶需求的功能。

目前,高通已經(jīng)與眾多產(chǎn)業(yè)伙伴深入合作,推動生成式AI在終端設備上的落地應用。例如在個人電腦(PC)領域,今年6月,高通與微軟、華碩、聯(lián)想等PC廠商共同展示了20多款基于驍龍X Elite、驍龍X Plus平臺的Copilot+ AI PC筆記本產(chǎn)品,采用了創(chuàng)新的系統(tǒng)架構,包括CPU、GPU和NPU,帶來全新的AI體驗。在智能手機領域,目前已經(jīng)有超過20款搭載第三代驍龍8的旗艦手機產(chǎn)品發(fā)布,支持實時語音翻譯、智能拍照等豐富的生成式AI用例。

在工業(yè)應用方面,徐晧表示,目前機器人通常利用計算機視覺或者深度學習完成理解和功能執(zhí)行,隨著近年來大語言模型突破性的發(fā)展,機器人能夠更好地理解人們提出的一些基本要求,加上機器人學科實現(xiàn)的出色定位、導航和機械臂控制,可以打造非常智能的應用。此外,通過AI與5G的融合應用,機器人能夠實現(xiàn)網(wǎng)絡連接,賦能運維和質(zhì)檢等生產(chǎn)環(huán)節(jié),從而打造更加智能和現(xiàn)代化的工業(yè)環(huán)境。在AI和5G的加持下,智能生產(chǎn)環(huán)境可以在國內(nèi)外得到日益廣泛的推廣。

在本次論壇上,《中國AI大模型工業(yè)應用指數(shù)(2024年)》正式發(fā)布,該指數(shù)體系由大模型基礎應用能力與行業(yè)應用能力構成,其中大模型基礎應用能力涵蓋了文生文、圖生文等領域的準確性和穩(wěn)定性能力,大模型的行業(yè)應用能力則涉及多個重要行業(yè)在研發(fā)設計、生產(chǎn)制造、運維管理等環(huán)節(jié)的具體場景中表現(xiàn)出的應用效果,挖掘大模型潛在工業(yè)應用場景。

演講接近尾聲時,徐晧也展示了一款AI服務機器人,可以根據(jù)用戶需要前往房間另一側選擇相應的飲料并送給用戶。他同時表示,未來,我們會看到越來越多這樣的應用場景。希望人工智能不僅是在云端運行大語言模型,也能夠把人工智能算法落地到終端,落地到手機、個人電腦、機器人、汽車、XR眼鏡等產(chǎn)品上,創(chuàng)造出更加豐富多彩的應用場景。

(免責聲明:本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性,但不保證有關資料的準確性及可靠性,讀者在使用前請進一步核實,并對任何自主決定的行為負責。本網(wǎng)站對有關資料所引致的錯誤、不確或遺漏,概不負任何法律責任。
任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權或存在不實內(nèi)容時,應及時向本網(wǎng)站提出書面權利通知或不實情況說明,并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網(wǎng)站在收到上述法律文件后,將會依法盡快聯(lián)系相關文章源頭核實,溝通刪除相關內(nèi)容或斷開相關鏈接。 )