浪潮信息發(fā)布元腦企智EPAI一體機，大模型開發(fā)還能再搶快幾步

文 | 智能相對論

作者 | 陳泊丞

時至今日，隨著越來越多的企業(yè)和機構(gòu)不斷加速把AI技術(shù)融入自己的業(yè)務(wù)流程中，AI正持續(xù)改變著千行百業(yè)的業(yè)務(wù)模式。

在客戶服務(wù)領(lǐng)域，聊天機器人已經(jīng)可以7*24小時提供服務(wù)支持，減少了對人工客服的依賴。在供應(yīng)鏈管理領(lǐng)域，AI正在通過分析歷史銷售數(shù)據(jù)預(yù)測未來需求，幫助企業(yè)更好地規(guī)劃庫存。在制造領(lǐng)域，AI質(zhì)檢系統(tǒng)能夠自動識別產(chǎn)品缺陷、分類問題并提供實時反饋，從而幫助企業(yè)提升生產(chǎn)質(zhì)量、減少人工成本以及加快產(chǎn)品上市時間等等。

這些AI應(yīng)用在不同的行業(yè)場景大量涌現(xiàn)，而率先接入AI技術(shù)的廠商或企業(yè)也開始嘗到了技術(shù)創(chuàng)新所帶來的發(fā)展紅利。市場對AI的熱情日益增長，與此同時，技術(shù)的迭代似乎也不可避免地抬高后來者的進入門檻，新的應(yīng)用挑戰(zhàn)和落地難題在不斷被放大。

對于沒有深厚AI技術(shù)積累的企業(yè)而言，應(yīng)該如何趕上這波紅利？市場同樣在尋求解答思路，而大模型一體機的走紅恰好在這個節(jié)點上為行業(yè)指明了路徑。

在2024中國算力大會期間，浪潮信息重磅發(fā)布元腦企智EPAI一體機，通過軟硬件高度協(xié)同的一體化設(shè)計，為客戶提供多元多模、簡單易用、本地部署、安全可靠的大模型開發(fā)平臺。——這樣的解題思路無疑將成為行業(yè)的共識，但是具體來看，大模型一體機應(yīng)該如何幫助廣大企業(yè)群體找到更省心、更快速的AI引用落地路徑，從而加速大模型產(chǎn)業(yè)化落地？這樣的問題還得回歸行業(yè)中去尋找具體的答案。

四大挑戰(zhàn)，讓企業(yè)望“AI”興嘆

隨著大模型技術(shù)不斷升級和成熟，盡管應(yīng)用前景廣闊，但在實際部署過程中，許多企業(yè)仍面臨著諸多挑戰(zhàn)。如果不克服這些挑戰(zhàn)，就很難實現(xiàn)大模型應(yīng)用系統(tǒng)性的落地。

其一，由于產(chǎn)業(yè)生態(tài)離散以及行業(yè)應(yīng)用的具體需求，大模型落地面臨著多元多模適配難的困境。一方面，從芯片到軟件框架，再到模型本身，不同廠商提供的產(chǎn)品存在數(shù)據(jù)源不同、技術(shù)標準不一等情況，很難進行統(tǒng)一適配，易用性差，需要企業(yè)在應(yīng)用的過程中處理好多元多模的問題，即做出選擇、做好兼容，才能完成AI應(yīng)用的落地。

另一方面，源于行業(yè)場景的復(fù)雜性，單一的算力資源和大模型產(chǎn)品很難完美地解決實際性問題。多元多模是企業(yè)面向場景問題落地大模型應(yīng)用的一個必要配置，即兼顧多元算力和多樣大模型的選擇、適配與協(xié)同。

比如，在一個常見的智能交通場景，短期內(nèi)的車流監(jiān)控會采用邊緣算力和面向交通場景的端側(cè)大模型進行實時處理，而長期積累下來的交通監(jiān)控數(shù)據(jù)則會傳回云端，采用云端算力和云端的通用大模型進行分析、解讀，以輔助交通部門對城市道路的交通情況進行調(diào)控?！@樣的場景需要多元多模的思路來解決，也必然要解決好多元多模問題才能完美實現(xiàn)。

其二，計算模式的選擇將影響大模型開發(fā)與落地的實際效率。目前來看，以云邊端為主導(dǎo)的計算模式正在成為AI產(chǎn)業(yè)發(fā)展的一個主流趨勢，綜合性的計算解決方案可以結(jié)合邊緣計算的低延遲和云服務(wù)的強大計算能力，通過合理的任務(wù)分配實現(xiàn)最佳性能。

但是問題的關(guān)鍵則在于，綜合性的計算解決方案會促使系統(tǒng)設(shè)計和管理變得更加復(fù)雜，需要考慮如何有效地劃分任務(wù)以及協(xié)調(diào)不同節(jié)點之間的通信，解決好異構(gòu)算力的調(diào)度難題。簡單來說，企業(yè)落地大模型應(yīng)用無法再單一地依賴云計算，而需要考慮到邊緣計算與實際場景需求的適配，否則就會直接影響大模型開發(fā)和應(yīng)用的效率。

其三，數(shù)據(jù)治理難的問題再上一個層級。數(shù)據(jù)是AI系統(tǒng)的“燃料”，沒有高質(zhì)量的數(shù)據(jù)，就無法訓(xùn)練出高性能的模型。長期以來，數(shù)據(jù)治理就是一條復(fù)雜的鏈條，包括了數(shù)據(jù)的識別、清洗、標注、分類、存儲、應(yīng)用等多個環(huán)節(jié)。

過去，業(yè)內(nèi)試圖在云端打造一條完整的數(shù)據(jù)治理鏈條，但隨著大模型應(yīng)用走向深實，越來越多的企業(yè)開始意識到核心的數(shù)據(jù)資產(chǎn)過于敏感，放在云端難以保障隱私和安全性，開始尋求“數(shù)據(jù)不出域”的解決方案。而這樣的解決方案不僅需要構(gòu)建一條同樣完整的端側(cè)數(shù)據(jù)治理鏈條，做好本地數(shù)據(jù)與端側(cè)大模型的匹配協(xié)同，還需要進一步與云端數(shù)據(jù)治理解決方案融合，無形之中又加劇了數(shù)據(jù)治理的難度。

其四，學(xué)習(xí)成本高的問題始終困擾企業(yè)開發(fā)和落地大模型應(yīng)用。綜上，不難發(fā)現(xiàn)，不管是多元多模的客觀問題，還是基于多元多模所延伸出來的計算模式、數(shù)據(jù)治理等難題，對于企業(yè)而言都意味著高門檻。如果企業(yè)內(nèi)部沒有深厚技術(shù)積累的IT團隊，解決好這些問題的難度還將上升，難以估量。

因此，擺在行業(yè)面前的是一個進階的問題，不僅要解決好客觀存在的技術(shù)性問題，還要進一步降低企業(yè)的應(yīng)用門檻，讓沒有IT團隊或沒有深厚AI技術(shù)積累的企業(yè)能在不增加太多成本的情況下獲得更省心更快速的大模型開發(fā)和應(yīng)用解決方案，完成AI落地。

大模型一體機，能讓企業(yè)少走多少彎路？

大模型一體機的出現(xiàn)以及在市場上走紅，似乎給行業(yè)提出了一條切實可行的路徑。具體來看，以浪潮信息發(fā)布的元腦企智EPAI一體機為例，其基于三點進階能力讓企業(yè)在落地大模型應(yīng)用的過程中少走了不少彎路。

一、基礎(chǔ)底座的打造，避免大模型應(yīng)用根基不穩(wěn)。

很多企業(yè)在落地大模型應(yīng)用的過程中，一上手就先基于通用大模型做業(yè)務(wù)開發(fā)。當業(yè)務(wù)開發(fā)不少了，才發(fā)現(xiàn)算力不夠用、模型消耗太大，對業(yè)務(wù)的適配性太弱等問題開始暴露。這個時候，就不得不回過頭來重新構(gòu)建“算力+模型”的基礎(chǔ)底座，再把開發(fā)完成的業(yè)務(wù)重新進行適配或遷移，工程量就大了。而元腦企智EPAI一體機具備多元算力和多模管理能力，一臺機器就可以率先幫助企業(yè)穩(wěn)定基礎(chǔ)底座的構(gòu)建。

一方面，元腦企智EPAI一體機可以通過大模型計算框架TensorGlue實現(xiàn)異構(gòu)算力調(diào)度，同時通過算子基礎(chǔ)化技術(shù)，還實現(xiàn)了上層模型算法和下層基礎(chǔ)設(shè)施的邏輯解耦，能高效地屏蔽模型和芯片差異，從而降低企業(yè)跨算力平臺遷移、多元模型部署適配的試錯成本。另一方面，元腦企智EPAI一體機目前還支持10+業(yè)界主流大模型計算框架，同時也內(nèi)置了7個主流基礎(chǔ)大模型，預(yù)設(shè)了20+微調(diào)參數(shù)，企業(yè)根據(jù)不同的場景和業(yè)務(wù)需求可以快速開發(fā)模型應(yīng)用。

二、全流程工具提供，解決企業(yè)上手難的問題。

大模型應(yīng)用落地難度大對于企業(yè)而言，不僅是“算力+模型”的選擇與適配，還有后續(xù)一系列流程如數(shù)據(jù)、微調(diào)、RAG、部署、上線、運維等環(huán)節(jié)的理解與攻關(guān)。而在這個方面，浪潮信息的研發(fā)團隊自2007年起就開始在異構(gòu)加速計算以及背后一系列的工作。時至今日，這種長期的探索和積累正在通過元腦企智EPAI一體機轉(zhuǎn)化為一站式大模型開發(fā)解決方案開放給行業(yè)客戶。

根據(jù)浪潮信息產(chǎn)品方案開發(fā)部總經(jīng)理魏健介紹，元腦企智EPAI一體機提供從數(shù)據(jù)準備、大模型微調(diào)、知識庫構(gòu)建、大模型部署上線運維的全流程支持工具鏈，將快速且低成本地幫助企業(yè)構(gòu)建開發(fā)專屬大模型的能力。比如，針對大模型微調(diào)，元腦企智EPAI一體機采用低代碼可視化界面來進行微調(diào)，并且內(nèi)置了Lora、SFT等多種微調(diào)框架以及20多種優(yōu)化參數(shù)。用戶可依據(jù)具體業(yè)務(wù)需求和數(shù)據(jù)特性，選擇最為合適的框架與技術(shù)。

三、本地化部署思維，免去后顧之憂。

在大模型產(chǎn)業(yè)發(fā)展的過程中，云端部署的風(fēng)險和弊端逐步顯露，企業(yè)的關(guān)注點也開始從云端轉(zhuǎn)向云、邊、端一體，愈發(fā)注重本地化部署模式的結(jié)合。特別是數(shù)據(jù)不出域的需求，決定了企業(yè)在進行大模型應(yīng)用落地的過程中比以往更重視本地化部署。

在這個節(jié)點上，元腦企智EPAI一體機的本地化部署模式提供全鏈路的企業(yè)數(shù)據(jù)防護能力，設(shè)置多級過濾和審核體系，不管是部署模式還是安全能力，都非常好地幫助用戶解決好數(shù)據(jù)治理問題，不用擔心大模型應(yīng)用落地一段時間后還要再考慮數(shù)據(jù)是否安全、會不會被泄漏等后續(xù)問題，免除了企業(yè)發(fā)展AI的后顧之憂。

總的來說，“算力+模型”基礎(chǔ)底座全面且穩(wěn)定，當前憑借全流程工具鏈易上手，未來基于本地化部署模式無后顧之憂，元腦企智EPAI一體機所提供的解決方案既兼顧當前的應(yīng)用落地問題，也考慮到了未來長期主義的發(fā)展。——企業(yè)在落地大模型應(yīng)用時，就不需要再重復(fù)繞彎子，直接底座構(gòu)建-工具鏈開發(fā)應(yīng)用-本地化部署一條路走到底。

站在前人的經(jīng)驗中，把未來的發(fā)展時間搶回來

大模型一體機意味著什么？從浪潮信息的元腦企智EPAI一體機或是業(yè)內(nèi)其他廠商的產(chǎn)品，可以看到大模型一體機正在綜合過去企業(yè)落地AI應(yīng)用的各種路徑和經(jīng)驗，以集成化、智能化的思路最終形成了當前的解決方案，僅憑一臺機器就解決了大模型應(yīng)用開發(fā)的諸多問題。

不可置否，AI行業(yè)日新月異，在這個不斷迭代、交替的過程中，前人已經(jīng)走了不少彎路。比如，過去很多企業(yè)落地大模型應(yīng)用，大多是在云平臺上基于通用大模型進行開發(fā)，隨著業(yè)務(wù)深入，進而尋求行業(yè)大模型、企業(yè)大模型的專精開發(fā)，再意識到云計算所提供的算力不夠用，開始轉(zhuǎn)向邊緣計算，探索云邊端一體的發(fā)展。

這是一種自上而下的視角。一路走來，我們也很容易意識到大模型應(yīng)用落地的問題出在哪里。如今，基于前人的經(jīng)驗，大模型一體機則有機會針對性地解決這些問題，提供了一個自下而上的發(fā)展視角。

正如元腦企智EPAI一體機所帶來的解決方案，一上來就先系統(tǒng)地解決好多元算力、多模應(yīng)用的基礎(chǔ)底座構(gòu)建問題以及后續(xù)的本地數(shù)據(jù)治理問題，然后再一步步向上推進，依托全流程工具鏈做好應(yīng)用開發(fā)，從而幫助企業(yè)規(guī)避前人走過的“坑”。

未來，如果企業(yè)的業(yè)務(wù)繼續(xù)向智能化轉(zhuǎn)型，只需要在頂層做好大模型應(yīng)用開發(fā)即可，不需要再回過頭來做底層的基礎(chǔ)設(shè)施重構(gòu)或遷移。在發(fā)展上，這就相當于把未來的時間搶了回來。

隨著大模型技術(shù)越來越普遍，企業(yè)的發(fā)展亟需智能化應(yīng)用提高效率，少回頭一步，企業(yè)越能在日益激烈的市場競爭中搶占幾分優(yōu)勢，率先吃到技術(shù)創(chuàng)新的紅利。由此，大模型一體機或許才會在現(xiàn)階段出現(xiàn)并迅速火爆，成為業(yè)內(nèi)的共識吧。

*本文圖片均來源于網(wǎng)絡(luò)

生成海報

免責(zé)聲明：此文內(nèi)容為第三方自媒體作者發(fā)布的觀察或評論性文章，所有文字和圖片版權(quán)歸作者所有，且僅代表作者個人觀點，與極客網(wǎng)無關(guān)。文章僅供讀者參考，并請自行核實相關(guān)內(nèi)容。投訴郵箱：editor@fromgeek.com。

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性，但不保證有關(guān)資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負任何法律責(zé)任。任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時，應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明，并提供身份證明、權(quán)屬證明及詳細侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。