從“可用”到“好用”，百度智能云如何做大模型的“超級工廠”？

科技云報到原創(chuàng)。

如果說，過去兩三年大模型處于造錘子階段，那么今年，更多的則是考驗釘釘子的能力，面對各類業(yè)務場景大模型是否能夠有的放矢、一擊必中，為千行百業(yè)深度賦能。

當前市場上，已經有200多把這樣的錘子在瘋狂找釘子。但從實際應用來看，大模型在文生文、文生圖以及扮演初級的工作助理等方面還算合格，但要是真正落地到一線場景，解決業(yè)務痛點，提升生產和服務效率，還需要下更多功夫。

從最近幾個月的風向看，也不乏有人提出質疑，如此之多的大模型，其實用性到底有幾分？這里面是不是也存在著不小的“泡沫”？無須諱言，“泡沫”一定是有，為了大模型而大模型的企業(yè)甚至不在少數。

但不可否認是，業(yè)內也有以百度智能云為代表的實干者在持續(xù)探索大模型的實際價值，不斷推出可應用、可落地、可產生效益的大模型產品和解決方案，通過AI原生應用推動企業(yè)以及行業(yè)的創(chuàng)造力和生產力全面提升。

9月25日，2024百度云智大會正式舉行。本屆會議不僅圍繞基礎設施、大模型、開發(fā)工具鏈、AI原生應用等方面進行了多項全新發(fā)布，還為業(yè)界帶來了大模型產業(yè)落地的最佳實踐。

“云智一體”戰(zhàn)略牽引，為大模型鋪路筑基

當各行各業(yè)擁抱大模型之后，都會有一個共識，MaaS將是一種新的應用開發(fā)范式。在云計算時代，是基于PaaS做SaaS，再提供給用戶；智能化時代，則回歸到MaaS底座上，再結合千行百業(yè)的場景，打造智能化應用，提供用戶所需要的業(yè)務價值。

在“百模大戰(zhàn)”的行業(yè)大環(huán)境下，百度智能云事業(yè)群總裁沈抖曾表示，過去一年是大模型從技術變革走向產業(yè)變革的關鍵一年，而大模型和云計算緊密結合，正在成為新型的基礎設施。從1834年第一臺現代發(fā)電機誕生，到1882年美國建成全球第一座電廠，再到電力成為全球的能源基礎設施，每一次升級都能帶來生產力的巨大躍遷。而且一次比一次速度更快，影響更大。

面對AI浪潮席卷全球，百度智能云希望更多的創(chuàng)業(yè)者、企業(yè)用戶能夠繁榮大模型生態(tài)。去年10月，百度智能云將戰(zhàn)略升級為“AI原生時代的云智一體”，圍繞“云智一體，深入產業(yè)，生態(tài)繁榮，AI普惠”理念，聚焦更高效的算力基礎設施、更好用的一站式大模型平臺和AI原生應用開發(fā)平臺，以及更豐富的AI原生應用樣板間和行業(yè)解決方案，去滿足客戶在大模型時代的不同業(yè)務需求。

在“云智一體”戰(zhàn)略框架下，百度智能云自下而上推出一整套AI原生技術棧，包括異構算力基礎設施“百度·百舸AI異構計算平臺”、一站式大模型平臺“千帆ModelBuilder”和AI原生應用開發(fā)平臺“千帆AppBuilder”、AI生成式產品“文心大模型”，以及數字人、智能客服、超級助理、生成式BI等豐富的AI原生應用和行業(yè)解決方案，滿足各行各業(yè)在AI原生時代的不同業(yè)務需求，全力賦能千行百業(yè)，加速推進產業(yè)智能化。

百度智能云事業(yè)群總裁 沈抖

在IDC近日發(fā)布的《中國大模型平臺市場份額，2023：大模型元年——初局》報告中，百度智能云以19.9%的市場份額居中國大模型平臺市場第一。從應用角度看，百度智能云能夠連續(xù)多年保持領先優(yōu)勢主要得益于三方面的原因：一是布局全棧AI技術，形成端到端的AI優(yōu)化機制；二是在生成式AI、多模態(tài)、大模型應用場景、OCR、對話式AI等AI軟件方面具備明顯優(yōu)勢；三是擁有最大的AI及大模型產業(yè)落地規(guī)模，廣泛覆蓋金融、制造、能源、互聯網等行業(yè)。

作為AI時代的新型生產力，數據、算力和算法成為關鍵資源。在大規(guī)模前端產品落地后，算力建設能否及時跟上，成為AI大模型向各領域進一步滲透的關鍵因素。

面對大模型高昂的計算成本和算力資源供應短缺的問題，如何在大模型訓練推理上高效使用算力、擴大算力來源是業(yè)務的核心考驗。

沈抖指出，過去一年的最深感受就是大模型訓練的需求越來越大，需要的集群規(guī)模也越來越大。與此同時，行業(yè)對推理的成本下降的預期也越來越高。這些都對GPU管理的穩(wěn)定性和有效性提出了更高的要求。此次，百度智能云對百舸做了大幅升級。

目前，百度百舸AI異構算力平臺能夠對不同地點、規(guī)模、集群的智能算力進行統一管理，并基于芯片性能優(yōu)化、自動芯片選型、潮汐混部等技術，大幅提升智能算力效能，萬卡集群上的模型有效訓練時長占比超過99.5%。相同的大模型任務，百舸能夠幫助客戶將資源成本降低一半。

為了解決算力不足問題，“一云多芯”是中國企業(yè)的必然選擇。百舸已經攻克了同一智算集群中混合使用不同廠商芯片的業(yè)界難題，幫助企業(yè)擺脫單一芯片依賴，打造更有性價比、更安全、更具彈性的供應鏈體系。百舸能夠在兼容昆侖芯、昇騰、海光DCU、英偉達、英特爾等國內外主流AI芯片的同時，最大限度屏蔽硬件之間的差異，在多芯混合訓練任務中百卡規(guī)模性能損失不超過3%，萬卡規(guī)模性能損失不超過5%，均為業(yè)界最高水平。

基于強有力的算力平臺，百度智能云搭建起一站式企業(yè)級大模型平臺——千帆。該平臺不僅提供包括文心大模型4.0、4.0 Turbo和3.5三款旗艦模型、主流開源大模型在內的近80款大模型服務，還提供覆蓋開發(fā)大模型、AI原生應用全生命周期的工具鏈。同時，為進一步實現AI技術普惠，平臺還預置了ERNIE Speed、ERNIE Lite、ERNIE Tiny三款性價比較高的主力模型，幫助開發(fā)者和企業(yè)降低大模型使用門檻和試錯成本，加速業(yè)務創(chuàng)新。

為了進一步降低行業(yè)大模型的開發(fā)門檻，百度智能云推出了千帆·行業(yè)增強版，將通用大模型的理解、生成、邏輯、記憶能力，與行業(yè)模型的專業(yè)能力相結合，搭配體系化的工具和組件，支持從資源管理、大模型服務到應用開發(fā)的全過程，把企業(yè)定制化的部分從“最后一公里”縮短至“最后一百米”，讓行業(yè)的應用開發(fā)事半功倍。

目前，百度智能云的各類大模型產品已廣泛覆蓋交通、政務、教育、金融、制造、能源、互聯網等行業(yè)，并深入到“研、產、供、銷、服”的每個環(huán)節(jié)中，取得了顯著成效。

截至2024年Q2，千帆大模型平臺日調用量超過7億次，累計開發(fā)出了超過70萬個AI原生應用。

小切口大縱深，從實踐中來到實踐中去

大模型商業(yè)化應用的核心在于能否真正解決用戶問題。

在經歷了“百模大戰(zhàn)”的錘煉之后，企業(yè)們的技術能力正變得越發(fā)強勁，大模型開始走向商業(yè)化落地。今年以來，中國10億參數規(guī)模以上的大模型數量已超100個，行業(yè)大模型深度賦能電子信息、醫(yī)療、交通等領域，形成上百種應用模式，賦能千行百業(yè)。

隨著技術迭代曲線放緩、基礎大模型賽道的競爭格局企穩(wěn)，生成式AI市場的性質正在發(fā)生變化，更多的創(chuàng)新和價值創(chuàng)造正在向應用層匯聚。沈抖曾表示，企業(yè)有多少業(yè)務場景，未來就有多少AI原生應用。這也印證了百度智能云正在通過對產業(yè)痛點的深入洞察和理解，將大模型與實體經濟及行業(yè)應用全域融合，在服務產業(yè)的過程中，也進一步完善和提升了大模型的行業(yè)能力，形成互為反哺、相互促進的正向循環(huán)。

沿著這一邏輯，大模型一個最為前景的應用場景，就是垂直領域專業(yè)服務。越是復雜的問題，越是專業(yè)的領域，越能孕育出更具價值的商業(yè)化應用。最典型者如金融、政務、交通等行業(yè)。

在教育領域，教育龍頭企業(yè)好未來運用百度百舸·AI異構計算平臺，為其自研九章大模型（MathGPT）提供關鍵支撐。九章大模型在成功內測推出后，已經成功在智能硬件學習機xPad實現了業(yè)務上線。九章大模型的“數學隨時問”功能可以實現對80%的數學題即問即答，暫時不能回答的最快可在一小時內上傳真人講解視頻、20分鐘內生成AI視頻解析。此外，好未來AI輔導工具xPad2 Pro系列還上線了自研的新功能“AI對話學”，該功能基于九章大模型的解題和講題能力，通過與學生進行啟發(fā)式的對話交流，打開題目的黑盒，快速分析出學生的薄弱點，從而使教育更具針對性。

面對快速增長的電動汽車智能座艙需求，蔚來汽車基于千帆平臺，在文心大模型的基礎上通過提示詞工程打造出了業(yè)內首家純端側部署的多模態(tài)感知大模型——NOMI GPT，助力客戶座艙場景體驗創(chuàng)新。

NOMI能夠自然地與用戶互動，成為一個更懂用戶、更聰明的座艙AI小助手。通過文心大模型，NOMI能夠對用戶的用車問題解答，還能實時監(jiān)測車況，支持用戶口語化模糊查找。比如用戶說出目的地城市，NOMI就能幫助用戶推薦景點游玩攻略、景點推介、食宿推薦等；用戶給出關鍵詞，NOMI可以給出理解并調整氛圍燈色調。此外，NOMI還能自定義角色陪聊，具備兒童百科問答、學習解惑、語言游戲等多種功能。目前，NOMI已經陪伴了近20萬車主家庭，已經成為有溫度的情感陪伴和移動的生活空間。

在港航領域，百度智能云與山東日照港聯合探索大模型港口應用場景，推動大模型試點應用，賦能港航領域產業(yè)鏈上下游企業(yè)和生態(tài)企業(yè)智能化轉型升級。2023年，日照港口貨物吞吐量達到5.93億噸，躍居全國第六、世界第七；全市臨港產業(yè)產值占規(guī)上工業(yè)總產值的比重達85%以上。和一般碼頭有點不一樣的是，這里專做件雜貨。

件雜貨，是對論件計數、形狀各異、大小不一的貨物的統稱。這類貨物的包裝形式、類別各不相同，無法使用集裝箱運輸，還存在不同的存放需求和上船時間要求，裝卸工具和方案各異，裝卸工藝流程復雜、人機交互頻繁。

相比集裝箱碼頭，件雜貨碼頭實現自動化和智能化的難度更高。由于件雜貨的獨特屬性，碼頭需要可靠、準確的圖像分析和智能算法，對貨物進行有效識別、定位并進行智能配載。

百度智能云運用人工智能技術，打造智能化系統，為件雜貨碼頭自動化、智能化升級探索可行路徑。通過百度智能云OCR視覺識別技術，在貨物即將進港時，工作人員就可識別貨單信息，將具象化的貨物實體轉化為算法支持的數學邏輯，從而避免人工錄入造成的失誤，提升數據錄入的準確性，降低貨運代理數據錄入工作量。

智能化系統可對整個港口的堆場進行厘米級的地理信息采集，實現人員、車輛、設備、貨物、場地、船舶等要素精準定位，形成一張“綜合地圖”。數字化堆場系統會從TOS系統(Terminal Operating System，碼頭智能生產管理控制系統)中獲取各生產要素的實時信息，并在高精地圖中進行實時展示，助力業(yè)務人員遠程作業(yè)。

在實現多維生產要素和生產流程的數學建模的同時，智能化系統基于調度數據優(yōu)化大模型的調度算法，提供包括智能堆場計劃、智能泊位計劃和智能配載計劃等調度計劃策略，再通過實時的人員排班調度、港機作業(yè)調度和水平運輸車輛調度等，實現件雜貨碼頭自動化、智能化運轉。此外，調度優(yōu)化大模型還可以提高碼頭作業(yè)全流程的人機協同效率，將人工智能算法下沉到各類機械的調度和控制中，大大降低碼頭的整體運轉控制難度，提高控制精度，實現港口智能化再升級。

依托百度智能云打造的智能化系統，山東日照港件雜貨碼頭整體運轉效率提升10%，設備利用率提升20%，堆場周轉率提升20%，堆場利用率提升15%，并實現大模型在港航領域的成功應用。

從“可用”到“好用”，從“潮玩”到“普適”，大模型在千行百業(yè)的場景落地是結合場景定義、訓練、調優(yōu)、運維等多個步驟的螺旋式上升過程。作為AI時代的底座建設者，百度智能云正結合軟硬件能力，賦能開發(fā)者和生態(tài)伙伴，進一步釋放AI的創(chuàng)新潛能。

【關于科技云報到】企業(yè)級IT領域Top10新媒體。聚焦云計算、人工智能、大模型、網絡安全、大數據、區(qū)塊鏈等企業(yè)級科技領域。原創(chuàng)文章和視頻獲工信部權威認可，是世界人工智能大會、數博會、國家網安周、可信云大會與全球云計算等大型活動會議的官方指定傳播媒體之一。

生成海報

免責聲明：此文內容為第三方自媒體作者發(fā)布的觀察或評論性文章，所有文字和圖片版權歸作者所有，且僅代表作者個人觀點，與極客網無關。文章僅供讀者參考，并請自行核實相關內容。投訴郵箱：editor@fromgeek.com。

免責聲明：本網站內容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網站出現的信息，均僅供參考。本網站將盡力確保所提供信息的準確性及可靠性，但不保證有關資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責。本網站對有關資料所引致的錯誤、不確或遺漏，概不負任何法律責任。任何單位或個人認為本網站中的網頁或鏈接內容可能涉嫌侵犯其知識產權或存在不實內容時，應及時向本網站提出書面權利通知或不實情況說明，并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網站在收到上述法律文件后，將會依法盡快聯系相關文章源頭核實，溝通刪除相關內容或斷開相關鏈接。