華為周紅:未來通信和未來計(jì)算是建設(shè)智能世界需要解決的兩大核心問題

極客網(wǎng)·極客說4月19日, 華為戰(zhàn)略研究院院長周紅博士在第20屆華為全球分析師大會(huì)期間做了主題為“建設(shè)智能世界的假設(shè)與愿景-從經(jīng)驗(yàn)、知識(shí)到智能”的主題演講。他指出,邁向智能世界需要解決的兩大核心問題是未來通信和未來計(jì)算。在通信上,要大膽探索有別于香農(nóng)定理的前提條件和應(yīng)用場(chǎng)景;在計(jì)算上,要進(jìn)一步明確人工智能的目標(biāo)定義、提升正確性、適應(yīng)性和高效性。

以下是周紅博士發(fā)言精簡(jiǎn)內(nèi)容:

在去年的分析師大會(huì)上,我分享了邁向未來智能世界的科學(xué)假設(shè)與商業(yè)愿景,并提出了十個(gè)問題和挑戰(zhàn)。在過去的一年中,我們與學(xué)術(shù)界、產(chǎn)業(yè)界科學(xué)家做了廣泛交流,探討了邁向智能世界需要解決的兩大核心問題:未來通信和未來計(jì)算。

今天,我將重點(diǎn)分享在這兩個(gè)問題上的一些思考。

首先是在通信領(lǐng)域。75年前,香農(nóng)提出了3個(gè)定理。第一定理是可變長無失真信源編碼,第二定理是有噪聲情況下的信道編碼,第三定理是保真度下的信源編碼。在第一和第三定理中,香農(nóng)假設(shè)信源是離散無記憶的,當(dāng)時(shí)通信采用的是經(jīng)典極化電磁場(chǎng),傳播環(huán)境比較簡(jiǎn)單,沒有考慮高樓大廈林立的場(chǎng)景。

這些年學(xué)術(shù)界發(fā)現(xiàn)一些新的物理現(xiàn)象,比如自愈性的非衍射波束、軌道角動(dòng)量OAM電磁場(chǎng)傳播等,以及出現(xiàn)一些新技術(shù),比如飛秒激光器,人工智能等。這些都是香農(nóng)當(dāng)年視野之外的,所以我認(rèn)為,在未來的通信上還有很大的發(fā)展空間。通信網(wǎng)絡(luò)是建設(shè)智能世界的基礎(chǔ),需要考慮敢于打破既有理論與技術(shù)瓶頸的條條框框,實(shí)現(xiàn)成百上千倍的提升,才能大踏步前行。

其次是計(jì)算。智能應(yīng)用的迅速發(fā)展,過去十年,AI算法的算力需求提升了四十萬倍。

麻省理工的Max Tegmark教授在《生命3.0》書中,給出了一個(gè)AI能力地圖。目前在山腳處很多能力上,AI已經(jīng)超越人類,比如象棋、圍棋等。在山腰上的一些能力上,人們還在不斷研究提升中,例如自動(dòng)駕駛、圖像識(shí)別、語言文字處理等。在接近山頂?shù)哪芰ι?,例如編程、科學(xué)研究、定理自動(dòng)驗(yàn)證和自動(dòng)證明等,學(xué)術(shù)界和產(chǎn)業(yè)界已經(jīng)有一些探索。隨著計(jì)算模式的不斷優(yōu)化、算力的不斷提升、有了更多和更好的數(shù)據(jù),AI將能更好地服務(wù)于人類社會(huì)的進(jìn)步。

在AI能力快速提升的情況下,我認(rèn)為AI目前還面臨三個(gè)重要的挑戰(zhàn):AI的目標(biāo)定義、正確性與適應(yīng)性、以及效率。

第一個(gè)挑戰(zhàn):缺乏共識(shí)的目標(biāo)定義

對(duì)于AI,除了通過規(guī)則和法律來加強(qiáng)AI的倫理和治理外,缺乏目標(biāo)定義也是一個(gè)關(guān)鍵挑戰(zhàn)。杜克大學(xué)的物理學(xué)家Adrian Bejan教授在《生命的物理學(xué)》書中,列出了對(duì)智能的二十多種目標(biāo)定義,有的強(qiáng)調(diào)理解和認(rèn)知能力、有的強(qiáng)調(diào)學(xué)習(xí)和思考能力、有的強(qiáng)調(diào)適應(yīng)和行動(dòng)能力等等。

如果沒有定義清楚并達(dá)成共識(shí),就很難確保AI發(fā)展的目標(biāo)與人類一致,也很難合理地分類和科學(xué)地計(jì)算。人工智能在歷史上有不同的流派,例如符號(hào)學(xué)派、貝葉斯學(xué)派、進(jìn)化學(xué)派、行為學(xué)派,以及聯(lián)結(jié)學(xué)派等,它們還沒有很好地融合起來,缺乏共識(shí)的目標(biāo)定義是重要的原因之一。

第二個(gè)挑戰(zhàn):正確性和適應(yīng)性挑戰(zhàn)

依靠大數(shù)據(jù)統(tǒng)計(jì)規(guī)律進(jìn)行的學(xué)習(xí),會(huì)依賴于采樣的覆蓋面和數(shù)據(jù)的正確性,如果錯(cuò)誤使用,就可能導(dǎo)致結(jié)果不穩(wěn)定和偏見的風(fēng)險(xiǎn),出現(xiàn)“黑天鵝”事件。

比如用統(tǒng)計(jì)和相關(guān)計(jì)算模式來識(shí)別香蕉,如果我們?cè)谙憬哆吷戏乓恍┢渌麍D片,識(shí)別結(jié)果可能從香蕉變成烤箱,中間還有一定的比例是鼻涕蟲;熊貓圖片加上一些肉眼幾乎不可見的小噪聲,也可能被識(shí)別成長臂猿。這些圖片用人眼來看是一目了然的,但是人工智能為什么會(huì)犯錯(cuò),這很難解釋。因?yàn)锳I的能力分布在巨大的參數(shù)中,出了這些問題,我們既無法解釋、也難以調(diào)試。

第三個(gè)挑戰(zhàn):AI的效率

2022年第60屆全球超級(jí)計(jì)算機(jī)Top500排名第一的計(jì)算機(jī)是Frontier,計(jì)算性能約1102PFLOPS,能耗是2千1百萬瓦;而相比之下,人腦只需要約20瓦就能等效處理約30PFLOPS的計(jì)算??梢姰?dāng)前這些超級(jí)計(jì)算機(jī)單位能量的計(jì)算效率要比人腦低大約三萬倍到十萬倍。

除此之外還有數(shù)據(jù)效率。我們除了通過從大數(shù)據(jù)中得到統(tǒng)計(jì)規(guī)律,來認(rèn)識(shí)和理解世界外,能不能從小數(shù)據(jù)中進(jìn)行思考,發(fā)現(xiàn)邏輯性,形成概念,抽象出原則和規(guī)律?

面對(duì)挑戰(zhàn),如何突破?

首先,建議從實(shí)用的角度,來發(fā)展知識(shí)和智能。比如通過從外部環(huán)境和我們自身的事實(shí)和現(xiàn)象的經(jīng)驗(yàn)中,歸納、抽象、驗(yàn)證其概念、屬性、關(guān)系和運(yùn)行規(guī)律,來發(fā)展知識(shí)。通過感知與交互、計(jì)算或者試錯(cuò),在復(fù)雜的環(huán)境和有限的資源下達(dá)成目標(biāo),來發(fā)展智能。

近幾年學(xué)術(shù)界有很多跳出Transformer之外的新型AI架構(gòu)的思考。我建議發(fā)展感知與建模、知識(shí)自動(dòng)生成、自動(dòng)化求解三個(gè)核心部分,通過從多模態(tài)感知融合與建模,到“知識(shí)+數(shù)據(jù)”驅(qū)動(dòng)的決策,實(shí)現(xiàn)更高正確性的自主智能系統(tǒng)。希望上述思想和技術(shù)能夠映射到未來的自主系統(tǒng)中,更好地支持自動(dòng)駕駛網(wǎng)絡(luò)、自動(dòng)駕駛汽車、云服務(wù)等領(lǐng)域。

其次,是發(fā)展更好的計(jì)算模式,以及與之匹配的計(jì)算架構(gòu)與計(jì)算部件,來持續(xù)提升智能計(jì)算的效率。

我曾和菲爾茲獎(jiǎng)教授Laurent Lafforgue討論,當(dāng)前在視覺與空間計(jì)算上,往往采用像素點(diǎn)來表達(dá)物體,但是絕大部分物體的識(shí)別與其像素點(diǎn)的顏色沒有直接的關(guān)系,甚至是毫無關(guān)系,它們?cè)诓煌墓庀鲁尸F(xiàn)不同的顏色,可以通過幾何流形來進(jìn)行表達(dá)和計(jì)算,看看能不能用很小的數(shù)據(jù)量來抓住物體的不變性。

EPFL的Gestner和Kistlei等教授寫了一本《神經(jīng)動(dòng)力學(xué)》的書,介紹了人大腦皮層的功能柱、以及功能柱中的六層連接情況,這樣的淺度神經(jīng)網(wǎng)絡(luò)架構(gòu),會(huì)不會(huì)比深度學(xué)習(xí)更高效?

在當(dāng)前的很多AI計(jì)算上,面臨存儲(chǔ)瓶頸的問題,我們往往要花比計(jì)算多上百倍的時(shí)間來讀寫與搬移數(shù)據(jù),今后能不能拋開傳統(tǒng)的馮·諾依曼架構(gòu)的處理器、指令集、總線、邏輯器件和存儲(chǔ)器件,圍繞先進(jìn)AI計(jì)算模式的需要來定義新的架構(gòu)與部件?

以下是華為在計(jì)算領(lǐng)域所做的一些探索。

AI for Industry:通過行業(yè)大模型促進(jìn)價(jià)值創(chuàng)造

華為在視覺、語言文字、圖網(wǎng)絡(luò)、多模態(tài)等專用L0基礎(chǔ)大模型之上,形成L1行業(yè)專用大模型,來降低開發(fā)門檻、提升泛化能力,解決應(yīng)用碎片化的問題,推動(dòng)從“作坊式”走向工業(yè)化升級(jí),幫助電力、煤礦、交通、制造等重要行業(yè),提升作業(yè)效率、提升安全性。比如,在煤礦場(chǎng)景,華為幫助客戶通過模型訓(xùn)練與推理,來實(shí)現(xiàn)瓦斯?jié)舛鹊某邦A(yù)警、作業(yè)序列的風(fēng)險(xiǎn)防范、以及作業(yè)質(zhì)量的智能驗(yàn)收;華為的智慧港口方案,已經(jīng)在天津、青島、上海、深圳等港口實(shí)現(xiàn)智慧化應(yīng)用。華為機(jī)場(chǎng)與軌道軍團(tuán)在呼和浩特、武漢、西安、深圳、香港等地與客戶及合作伙伴們一起探索城軌、鐵路與機(jī)場(chǎng)的數(shù)字化轉(zhuǎn)型,不僅提升作業(yè)安全性與效率,還提升用戶體驗(yàn)與滿意度。比如在深圳機(jī)場(chǎng),通過基于云和大數(shù)據(jù)以及AI創(chuàng)新,實(shí)現(xiàn)了智能機(jī)位分配,每年可以節(jié)省260萬旅客免坐擺渡車,成為全球數(shù)字化轉(zhuǎn)型的標(biāo)桿。

AI for Science:極大幫助提升科學(xué)研究的能力

比如,我們通過構(gòu)造新型的、地理信息3D Transformer編碼結(jié)構(gòu),以及層次化時(shí)域聚合方法,推出盤古氣象大模型,通過更精準(zhǔn)、高效的學(xué)習(xí)與推理機(jī)制,從大自然歷史運(yùn)轉(zhuǎn)出來的數(shù)據(jù)中提取出全球氣象先驗(yàn)知識(shí),代替?zhèn)鹘y(tǒng)科學(xué)計(jì)算的超大規(guī)模偏微分方程的時(shí)序求解,從而可以實(shí)現(xiàn)快速完成全球未來1小時(shí)到7天的天氣預(yù)報(bào),預(yù)測(cè)精度比歐洲中期天氣預(yù)報(bào)中心高20%以上。在這兩張臺(tái)風(fēng)軌跡圖中,藍(lán)色軌跡是歐洲中期天氣預(yù)報(bào)中心給出的預(yù)測(cè),實(shí)際路徑是黑色軌跡,華為盤古大模型的預(yù)測(cè)的路徑是紅色軌跡,可以看出,這個(gè)預(yù)測(cè)非常接近實(shí)際情況。

再比如制藥領(lǐng)域,藥物靶點(diǎn)發(fā)現(xiàn)是藥物研發(fā)過程的關(guān)鍵問題。傳統(tǒng)的分子對(duì)接計(jì)算方法效率高,但是沒有考慮蛋白質(zhì)的柔性,導(dǎo)致搜索空間小,尋找到的靶點(diǎn)少;而分子動(dòng)力學(xué)模擬考慮了蛋白質(zhì)的柔性,但是計(jì)算量非常大。我們的專家與北大教授一起提出了基于元?jiǎng)恿W(xué)的靶點(diǎn)發(fā)現(xiàn)和構(gòu)象搜索算法,加速小分子遍歷蛋白質(zhì)的過程,對(duì)同樣的構(gòu)象搜索,傳統(tǒng)方法需要37天,華為只需要6個(gè)小時(shí),提升了150倍效率。

在軟件編程上,除了用傳統(tǒng)AI在大量已有代碼中進(jìn)行檢索和推薦外,我們也在發(fā)展科學(xué)的模型驅(qū)動(dòng)和形式化方法。也通過新的AI計(jì)算模式,來研究定理自動(dòng)證明問題。比如拓?fù)渌估碚撚兄谔剿鞣懂犠C明、同余推理系統(tǒng)、自動(dòng)理論導(dǎo)出,提升定理證明器的水平,希望解決形式驗(yàn)證中的狀態(tài)爆炸問題和自動(dòng)模型抽象問題,增強(qiáng)形式驗(yàn)證能力。

在走向智能社會(huì)的過程中,可能有超過百倍、甚至千倍的信息需求增長。我們將這些面向未來的思考放在黃大年茶思屋網(wǎng)站上,促進(jìn)開放的探討交流,希望能與伙伴們一起,開展相關(guān)的基礎(chǔ)科學(xué)研究與技術(shù)創(chuàng)新,重構(gòu)基礎(chǔ)理論、重構(gòu)架構(gòu)、重構(gòu)軟件。同時(shí)我們也贊助青年學(xué)者,并在ICPC、IMC、以及其他全球?qū)W生奧林匹克競(jìng)賽中,分享這些挑戰(zhàn)和方向、贊助學(xué)生訓(xùn)練營、激勵(lì)和培養(yǎng)更多的未來領(lǐng)軍人才。

極客網(wǎng)企業(yè)會(huì)員

免責(zé)聲明:本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性,但不保證有關(guān)資料的準(zhǔn)確性及可靠性,讀者在使用前請(qǐng)進(jìn)一步核實(shí),并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏,概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí),應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明,并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后,將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí),溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。

2023-04-20
華為周紅:未來通信和未來計(jì)算是建設(shè)智能世界需要解決的兩大核心問題
極客網(wǎng)·極客說4月19日, 華為戰(zhàn)略研究院院長周紅博士在第20屆華為全球分析師大會(huì)期間做了主題為“建設(shè)智能世界的假設(shè)與愿景-從經(jīng)驗(yàn)、知識(shí)到智能”的主題演講。他指出,邁向智能世界需要解決的兩大核心問題是未來通信和未來計(jì)算。在通信上,要大膽探索有別于香農(nóng)定理的前提條件和應(yīng)...

長按掃碼 閱讀全文