聯(lián)發(fā)科運用Llama2大語言模型,讓手機可運行生成式AI

8月24日消息,聯(lián)發(fā)科透露,將利用 Meta 新一代開源大語言模型(LLM)Llama 2 以及自家旗下先進的 AI 處理器(APU)和完整的 AI 開發(fā)平臺(NeuroPilot),建立完整的終端側(cè) AI 計算生態(tài),加速智能手機、物聯(lián)網(wǎng)、汽車、智能家居和其他邊緣設(shè)備的 AI 應(yīng)用開發(fā),為終端設(shè)備提供更安全、可靠和差異化的使用體驗。

據(jù)聯(lián)發(fā)科官方公眾號24日透露,預(yù)計年末采用聯(lián)發(fā)科新一代天璣旗艦移動芯片的智能手機支持由 Llama 2 模型開發(fā)的 AI 應(yīng)用,可為用戶帶來振奮人心的生成式 AI 應(yīng)用體驗。

目前,大多數(shù)生成式 AI 都依賴云計算,聯(lián)發(fā)科基于 Llama 2 模型成功實現(xiàn)直接在終端設(shè)備上運行生成式 AI 應(yīng)用。這將為開發(fā)者和用戶提供獨特優(yōu)勢,包括無縫的使用體驗,更強的用戶信息安全和可靠性,更低延遲,離線運算的能力以及更低的運營成本,讓每個人都能享受到生成式 AI 帶來的便捷與創(chuàng)新。

要在終端設(shè)備上充分釋放生成式 AI 的潛力,設(shè)備制造商需采用高算力、低功耗的 AI 處理器(APU),并通過更快、更可靠的網(wǎng)絡(luò)連接來增強設(shè)備的整體算力。

如今,每一顆聯(lián)發(fā)科 5G 智能手機 SoC 均搭載 AI 處理器,已廣泛執(zhí)行生成式 AI 應(yīng)用成功案例,例如 AI 降噪(AI-NR)、AI 超級分辨率(AI-SR)以及 AI 運動補償(AI-MEMC)等。

聯(lián)發(fā)科將于年末推出新一代旗艦移動芯片,將采用針對 Llama 2 模型而優(yōu)化的軟件棧(NeuroPilot),與搭配支持 Transformer 模型做骨干網(wǎng)絡(luò)加速的升級版 AI 處理器(APU),可減少動態(tài)隨機存取內(nèi)存(DRAM)的讀寫消耗和帶寬占用,進一步強化大語言模型和生成式 AI 應(yīng)用的性能,助力開發(fā)者打造令人驚艷的 AI 應(yīng)用,加速終端設(shè)備 AI 應(yīng)用落地發(fā)展。

極客網(wǎng)企業(yè)會員

免責(zé)聲明:本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性,但不保證有關(guān)資料的準(zhǔn)確性及可靠性,讀者在使用前請進一步核實,并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏,概不負(fù)任何法律責(zé)任。任何單位或個人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時,應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明,并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后,將會依法盡快聯(lián)系相關(guān)文章源頭核實,溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。

2023-08-24
聯(lián)發(fā)科運用Llama2大語言模型,讓手機可運行生成式AI
預(yù)計年末實現(xiàn)。

長按掃碼 閱讀全文