榮獲WAIC 2023 SAIL大獎 高通亮劍終端生成式AI

世界人工智能大會在2023年7月6日-8日于上海舉辦,本屆大會以“智聯(lián)世界 生成未來”為主題,打造“會議論壇、展覽展示、評獎賽事、應(yīng)用體驗(yàn)”四大核心內(nèi)容,匯聚世界頂級科學(xué)家、企業(yè)家、政府官員、專家學(xué)者、國際組織、投資人、初創(chuàng)團(tuán)隊(duì)等,搭建世界級合作交流平臺。

高通作為終端側(cè)AI領(lǐng)導(dǎo)者,在本次大會中進(jìn)行了多場主題演講,并展示了終端側(cè)AI在智能手機(jī)中的最新應(yīng)用。參會者能夠在高通的展臺中親自體驗(yàn)生成式AI在終端側(cè)的高效運(yùn)行,共同領(lǐng)略生成式AI所創(chuàng)造的未來體驗(yàn)。此外,高通AI引擎榮獲2023世界人工智能大會頂級獎項(xiàng):SAIL獎——卓越人工智能引領(lǐng)者獎,助力AI體驗(yàn)創(chuàng)新和繁榮發(fā)展。

高通技術(shù)公司首席商務(wù)官Jim Cathey

高通技術(shù)公司首席商務(wù)官Jim Cathey在首日全體會議——產(chǎn)業(yè)發(fā)展論壇期間,發(fā)表主題為“5G賦能智能互聯(lián)的未來”的演講。其表示,5G對于一個更加智能的世界至關(guān)重要,不僅推動了智能的規(guī)模化擴(kuò)展,還能夠使在邊緣側(cè)生成的情境相關(guān)數(shù)據(jù)與云端近乎實(shí)時地共享。在智能手機(jī)領(lǐng)域,5G和AI的結(jié)合是現(xiàn)代智能手機(jī)體驗(yàn)的基礎(chǔ);除智能手機(jī)之外,連接和智能正在開啟工業(yè)創(chuàng)新和數(shù)字化新時代。

高通AI引擎榮獲大獎 云端+邊緣側(cè)混合AI助力生成式AI發(fā)展

高通在人工智能興起之時就十分關(guān)注邊緣側(cè)AI發(fā)展,認(rèn)為云端和邊緣終端AI協(xié)同工作的混合AI模式,能夠?qū)崿F(xiàn)更強(qiáng)大、更高效的AI體驗(yàn)。對目前流行的生成式AI,混合AI可充分利用邊緣側(cè)終端算力來降低成本,而且在隱私和安全方面也占盡優(yōu)勢。

驍龍移動平臺是高通在終端側(cè)AI的重要布局,第二代驍龍8移動平臺搭載最先進(jìn)的高通AI引擎,通過一系列軟硬件創(chuàng)新帶來更強(qiáng)大的算力和更高的效率,能充分滿足終端側(cè)AI應(yīng)用,結(jié)合高通AI軟件棧和AI Studio提供全棧AI能力和優(yōu)化手段,并與云端協(xié)同打造適應(yīng)大模型時代的混合AI處理框架,創(chuàng)造手機(jī)端的新型AI體驗(yàn)。

混合AI具有終端的快速響應(yīng)能力,也具有云端的準(zhǔn)確性,可自由的在云端和終端側(cè)之間分配負(fù)載,對在閾值以下的輕量級模型,推理即可完全在終端側(cè)進(jìn)行。如果是更復(fù)雜的任務(wù),模型則可以跨云端和終端運(yùn)行,并在需要時通過云端來更正終端側(cè)的處理結(jié)果。

隨著生成式AI模型的不斷縮小,再加上終端側(cè)算力的高速提升,混合AI的潛力將會進(jìn)一步增長。目前參數(shù)超過10億的模型已經(jīng)能夠在手機(jī)上運(yùn)行,性能與精度可以媲美云端。再加上終端側(cè)在本地運(yùn)算的方式,對用戶隱私數(shù)據(jù)和安全性的優(yōu)勢也相當(dāng)明顯。

第二代驍龍8移動平臺的高通AI引擎賦予了手機(jī)端創(chuàng)新的AI體驗(yàn),并榮獲了2023世界人工智能大會SAIL獎——卓越人工智能引領(lǐng)者獎。SAIL獎作為人工智能領(lǐng)域高規(guī)格、國際化的獎項(xiàng),在2023年持續(xù)追蹤人工智能技術(shù)發(fā)展、生成式人工智能引發(fā)的行業(yè)熱潮,探索AIGC催化的產(chǎn)業(yè)新業(yè)態(tài),關(guān)注新一代人工智能的技術(shù)策源,加速AI新奇點(diǎn)與理論新發(fā)現(xiàn)的融合,用以獎勵在人工智能領(lǐng)域達(dá)到全球領(lǐng)先水平的創(chuàng)新技術(shù)和新型應(yīng)用的項(xiàng)目。

第二代驍龍8實(shí)現(xiàn)端側(cè)生成式AI高效體驗(yàn)

目前高通已經(jīng)實(shí)現(xiàn)了在手機(jī)端通過模型來生成圖片,并且在WAIC現(xiàn)場進(jìn)行了DEMO演示。首先是運(yùn)用Stable Diffusion模型,通過給出TAG文字標(biāo)簽讓AI模型在手機(jī)本地自動生成一張圖片。Stable Diffusion是可以在本地運(yùn)行的,但是需要很高的配置,尤其是顯卡要求極高,否則生成一張圖片就要幾十分鐘的時間。高通的展示中,Stable Diffusion在一臺驍龍8 Gen2手機(jī)中運(yùn)行,以本地化的端側(cè)算力,20個推理步驟不到15秒時間即可生成一張圖片,運(yùn)行效率非常驚人。

除此之外,高通還展示了手機(jī)端ControlNet生成圖片的體驗(yàn),其同樣使用驍龍手機(jī)通過端側(cè)AI算力實(shí)現(xiàn)。ControlNet能夠讓生成的圖片高度受控,能夠利用預(yù)先提供的圖片特征,來精準(zhǔn)控制生成圖片。比如簡單的手繪一張貓咪草圖,然后給AI相應(yīng)的文字描述,之后AI就會以草圖為標(biāo)準(zhǔn),生成符合TAG的圖片。

在高通的展示中,預(yù)先提供一張背影照片,在通過TAG標(biāo)簽,即可讓AI精準(zhǔn)生成一張身處海邊的黃昏時刻背影大片。而生成一張這樣的照片,只需要11.28秒的時間。

ControlNet解決了純文字生圖大模型無法定向控制生成圖片的難題,而能夠在端側(cè)實(shí)現(xiàn)快速生成圖片,離不開強(qiáng)大AI算力的支持。驍龍移動平臺的高通AI引擎采用異構(gòu)運(yùn)算,能夠同時調(diào)用CPU、GPU和Hexagon處理器,以達(dá)到最大化的運(yùn)算效率。第二代驍龍8移動平臺在升級的高通Hexagon處理器支持下,張量加速器帶來4.35倍的AI性能提升,能效方面最高有60%提升。Hexagon處理器還提供專用供電系統(tǒng)、支持微切片推理、INT4精度、Transformer網(wǎng)絡(luò)加速等創(chuàng)新技術(shù),可結(jié)合高通AI軟件棧和AI Studio提供全棧AI能力和優(yōu)化手段。

第二代驍龍8移動平臺憑借超高算力助力終端側(cè)AI有的高效運(yùn)算能力,同時兼顧了低功耗運(yùn)算,滿足手機(jī)端對續(xù)航的需求,助力驍龍手機(jī)在終端側(cè)率先支持Stable Diffusion、ControlNet等生成式AI用例。

(免責(zé)聲明:本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性,但不保證有關(guān)資料的準(zhǔn)確性及可靠性,讀者在使用前請進(jìn)一步核實(shí),并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏,概不負(fù)任何法律責(zé)任。
任何單位或個人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實(shí)內(nèi)容時,應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明,并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后,將會依法盡快聯(lián)系相關(guān)文章源頭核實(shí),溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 )