標題:京東云推出DeepSeek-R1/V3模型:公有云+私有云部署,引領云服務新潮流
隨著云計算技術的快速發(fā)展,越來越多的企業(yè)開始選擇將業(yè)務部署在云端,以實現(xiàn)資源的靈活配置和高效利用。京東云作為國內領先的云計算服務商,一直致力于提供高質量的云服務產品。近日,京東云正式上線了DeepSeek-R1和DeepSeek-V3模型,支持公有云在線部署、?;焖接谢瘜嵗渴饍煞N模式,為用戶提供了更多的選擇和更靈活的部署方式。
一、公有云在線部署
公有云在線部署是一種非常便捷的部署方式,開發(fā)者和企業(yè)可以在京東云官網,進入言犀AI開發(fā)計算平臺的“AI資產市場”中,選用DeepSeek-R1和DeepSeek-V3模型進行一鍵部署。這種部署方式無需用戶自己購買和維護服務器,只需在云端資源上進行一鍵操作即可完成模型的部署和調用。
在公有云在線部署方面,言犀AI開發(fā)計算平臺已經支持DeepSeek-V3、DeepSeek-R1以及所有蒸餾小參數(shù)模型(DeepSeek-R1-Distill)的一鍵部署。具體步驟如下:
1. 選擇基礎模型在“AI資產市場/模型”中,提供多個版本的DeepSeek模型,如DeepSeek-R1-Distill-Qwen-1.5B,點擊進入卡片頁可了解模型結構和預訓練數(shù)據等關鍵信息,并查看模型文件結構。
2. 準備資源節(jié)點在部署時,LLM模型因為模型較大,資源性能要求較高,需要獨占計算卡進行部署。建議提前準備好專屬資源節(jié)點。
3. 模型部署使用將模型部署到相應的服務資源上提供推理調用服務。平臺將自動適配預置推理框架,實現(xiàn)一鍵部署,僅需指定使用的專屬資源組和對應的節(jié)點規(guī)格。
二、私有化算力實例部署
私有化算力實例部署是一種更為安全和靈活的部署方式,用戶可以選擇在本地數(shù)據中心部署京東云的vGPU AI算力平臺,實現(xiàn)數(shù)據不出域的私有化模型推理服務。以DeepSeek R1版本為例,具體的使用步驟如下:
1. 進入算力管理頁面,點擊租用新實例按鈕
2. 選擇資源規(guī)格以及對應帶有deepseek模型的鏡像
3. 資源創(chuàng)建成功后通過Jupyterlab進入實例,啟動Ollama即可與之對話
私有化算力實例部署的優(yōu)勢在于數(shù)據的安全性和服務的自主性。用戶可以在自己的數(shù)據中心內進行模型的部署和調用,無需受到云服務商的限制。同時,私有化算力實例部署還可以實現(xiàn)資源的靈活配置和高效利用。
三、京東云言犀AI開發(fā)計算平臺的優(yōu)勢
京東云言犀AI開發(fā)計算平臺不僅支持公有云和私有化算力實例部署,還支持私有化部署及API快速集成。平臺通過自研高性能資源管理與彈性調度系統(tǒng),可提供大模型的全生命周期服務及部署,涵蓋模型開發(fā)、推理及多場景應用擴展。此外,平臺還支持蒸餾技術訓練企業(yè)自己的大模型,減少模型部署所需資源的同時具備較好的性能。
四、結語
京東云推出的DeepSeek-R1/V3模型:公有云+私有云部署,引領了云服務的新潮流。這種靈活的部署方式不僅可以滿足開發(fā)者和企業(yè)的不同需求,還可以實現(xiàn)資源的靈活配置和高效利用。未來,隨著云計算技術的不斷發(fā)展,我們將看到更多像京東云這樣的服務商提供更加優(yōu)質和多樣化的云服務產品。
(免責聲明:本網站內容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網站出現(xiàn)的信息,均僅供參考。本網站將盡力確保所提供信息的準確性及可靠性,但不保證有關資料的準確性及可靠性,讀者在使用前請進一步核實,并對任何自主決定的行為負責。本網站對有關資料所引致的錯誤、不確或遺漏,概不負任何法律責任。
任何單位或個人認為本網站中的網頁或鏈接內容可能涉嫌侵犯其知識產權或存在不實內容時,應及時向本網站提出書面權利通知或不實情況說明,并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網站在收到上述法律文件后,將會依法盡快聯(lián)系相關文章源頭核實,溝通刪除相關內容或斷開相關鏈接。 )