OpenDILab幕后的「孤勇者」：AI研究員、電競冠軍和他們的開源夢

生物智能的產生，一直以來被定義為「奇跡」和「謎團」。

從宇宙的一片塵埃開始，人類的演化花費了數十億年的時間。很難想象，你我均起源于出現(xiàn)在地球上的單細胞生物。

時至今日，人類憑借自身的智慧，創(chuàng)造了地球上最繁榮的文明。同時，這一演化仍在繼續(xù)，遠沒有走到盡頭。

但演化的方向已經悄然改變：下一代文明的方向，將由人類親手創(chuàng)造的「智能體」來探索。

由此引出一個問題：人類智能與人工智能，誰的上限將會更高？

過去數十年，研究者夙興夜寐，將無數人類智慧灌注其中，不斷將「人工智能」的能力上限抬高。一個剛剛誕生的智能體，就像一個初來世間的嬰孩，即使懵懂，卻蘊藏著無限潛力。在永不停歇的演變之后，人們普遍認為，智能體終將超越人類。

這種演化規(guī)律，在 OpenDILab 平臺的開源歷程中體現(xiàn)得淋漓盡致。它的源起，是幾位算法研究員的一次跨界設想，是面向最復雜的競技游戲的一場挑戰(zhàn)。僅僅過了兩年多時間，今天的 OpenDILab 已演化為覆蓋最全學術界算法和工業(yè)級規(guī)模的國產決策智能開源平臺。它為整個決策智能領域開辟了一個全新的開源社區(qū)，這個社區(qū)正在以驚人的速度生長。

項目地址：https://github.com/opendilab

2022 年 6 月 12 日，《星際爭霸 II》前中國冠軍——IG 戰(zhàn)隊的 iA ，又一次登陸了斗魚直播間。這么久不見，人們發(fā)現(xiàn)，iA 竟然開始講 PPT 了。

兩年之前，iA 低調退役。兩年之后，電競少年歸來，已是 AI 研究員，還帶來了目前已開源項目中實力最強的《星際爭霸 II》 AI——DI-star。

直播錄像：https://www.bilibili.com/video/BV15T411G7xD?spm_id_from=333.999.0.0

一個多小時的直播里，iA 演示了多場對局。在所有演示中，DI-star 均表現(xiàn)出人類最高段位——Grandmaster 分段的競技水平。

驚喜的是，DI-star 的決策能力相當靈活，屢次在復雜對局中快速找到最優(yōu)策略。比如與前世界冠軍 Scarlett 對戰(zhàn)時，DI-star 使用了 「女王前壓」 這種不常見于人類的戰(zhàn)術，出奇制勝：

此時，距離 DI-star 及其背后的決策智能平臺 OpenDILab 開源已經有一年了。

2022 年 9 月，OpenDILab 正式升級為 1.0 版本，幕后團隊兩年多來的心血，全部凝聚于此。

白手起家

所有的故事都從 2020 年的第一個月開始。一群來自中國的算法研究員和工程師，在人臉識別的數據海中摸爬滾打多年之后，決定跳出舒適區(qū)，做一點探索未來的事。

比如，從零開始打造一個星際爭霸 AI。

在當時的 AI 學界眼中，決策 AI 是不同于計算機視覺等感知型 AI 的另一道難關，而《星際爭霸 II》一直被看作檢驗 AI 決策能力的絕佳舞臺，也是 AI 爭相挑戰(zhàn)的「珠峰」。

星際爭霸系列游戲能保持 20 多年長盛不衰，一部分原因就在于其豐富的多層次游戲機制。《星際爭霸 II》的空間復雜度高達 10 的 1685 次方，遠超圍棋 10 的 170 次方復雜度。對于 AI 來說，這是一個非常接近現(xiàn)實世界的虛擬環(huán)境。

開源社區(qū)是助力 AI 發(fā)展的重要因素之一，而在項目的開始階段，DI-star 的開發(fā)者們準備好了充足的算力和資源，卻發(fā)現(xiàn)星際爭霸 AI 的開源生態(tài)基本是一片空白，只能找到 DeepMind 公開的原版論文，非常多的技術細節(jié)都有待考證。就好比老師教了你九九乘法表，卻突然讓你做一道微積分的作業(yè)題。

DI-star 的開發(fā)者們首先調研了各種已有的強化學習開源平臺，但發(fā)現(xiàn)開源的算法、工具等基本都是圍繞「小而精」的學術研究，壓根沒有星際爭霸這種大規(guī)模環(huán)境的開源項目。

「沒有輪子，就立馬動手造一個，這才是極客精神！」

于是乎，DI-star 的開發(fā)者們拿著之前自己在計算機視覺任務上積累的經驗，想要一定程度的知識復用。但很快他們就發(fā)現(xiàn)，這不只是個脫離舒適區(qū)的問題，這簡直是一腳踏入深水區(qū)，每天都會誕生新的靈魂拷問：

原本規(guī)規(guī)整整的張量圖片，卻變成了高度結構化且動態(tài)變化的游戲信息；

原本直筒式簡簡單單搭積木的神經網絡設計，卻變成了復雜多樣的「毛線團網絡」設計比賽；

原本輕易擴展的分布式訓練架構，卻變成了多種硬件和計算模式混合的大雜燴系統(tǒng)……

在不斷以「一日速成法」了解各類游戲 AI 設計和分布式系統(tǒng)設計知識后，團隊總算是搭出了第一版能正常運行的分布式訓練系統(tǒng)，這也是之后 OpenDILab 的最初原型。

只不過還有一件事讓人犯愁：到底怎么讓 AI 學習打星際的技巧呢？這需要集深度學習、強化學習、游戲 AI 三方面的技術和力量。

技術可以后天努力學習，游戲天賦可真是命中注定，于是，他們找到了中國星際的傳奇人物：iA 周航。于是，幾個基本對決策 AI 零基礎的人，構成了 DI-star 項目的最初班底。

「最初幾乎訓練不出來任何哪怕有正常操作的 AI」。DI-star 團隊一度很頭疼。沒辦法，前半年只能一點一點解 bug，慢慢地教。發(fā)現(xiàn)一個不合理的 AI 行為，就從游戲錄像中開始分析，對應到具體的游戲操作，解析游戲引擎內存中的數據片段，再一步步追根溯源，最終分析到神經網絡里具體某個神經元的激活輸出，從而定位到代碼實現(xiàn)和算法設計的相關問題。

「程序是不會騙你的，只要你用心去凝視它?！?/strong>像上面這樣一環(huán)扣一環(huán)，非常需要高度集中心力的細節(jié)分析，在 DI-star 的前期階段，幾乎是天天都有。

終于，經歷了半年的艱苦奮斗， 2020 年 6 月，DI-star 已經能夠擊敗簡單的電腦。2020 年 7 月，團隊進行了 DI-star 第一次人機內測，AI 戰(zhàn)勝了一位剛剛入門《星際爭霸 II》的研究員。

步入正軌之后，就要去探索 AI 的上限究竟在哪里。DI-star 團隊希望在整個系統(tǒng)的各個環(huán)節(jié)中都做到極致：不僅僅是復現(xiàn)最強的決策 AI 問題，而是盡其所能去嘗試每種可能性。有人從神經網絡角度，設計更穩(wěn)定的大批量樣本優(yōu)化技術和高效處理動態(tài)決策空間的網絡層，有人從強化學習優(yōu)化方向，精心調控探索和利用的多方面平衡，有人從游戲 AI 領域，融合即時戰(zhàn)略類游戲的百家之長，將 AI 的微操優(yōu)勢培養(yǎng)到新的境界，有人從系統(tǒng)效率出發(fā)，做各種資源的權衡，存儲 / 網絡 / 計算，一切能想到的辦法都用來優(yōu)化訓練效率。

在集合整個團隊的技術積累之后，歷經人類錄像模仿學習和自我博弈強化學習兩個階段，總計一億局星際對局，五周的最終訓練時間，2021 年 6 月，DI-star 終于戰(zhàn)勝了 DI-star 的創(chuàng)造者之一——周航本人。之后，周航又拉來一些職業(yè)電競時期的老朋友跟 DI-star 打，包括 MMR6000 分的中國最強蟲族選手 Rex。

好消息是，DI-star 都贏了，沒辜負一年多來的苦練。

從星際 AI 到開源平臺

路行至此，接下來又該怎么走？

極客探索歸探索，但想把技術做長久做出影響力，復盤是必不可少的。而在當時的馬拉松復盤會中，研發(fā)團隊一致的觀點是：必須積累足夠扎實的技術工具鏈。DI-star 中的小農式精耕細作太難復制也太難推廣了，需要能有讓決策AI技術真正大放光彩的基建工作。那么自然的，做一個決策智能開源平臺和生態(tài)，就成了大家新的目標。

更具體一點，在算法方面，哪些技術適合在前期探索智能體策略的多樣性和潛力，哪些方法適合作為最終超大規(guī)模強化學習訓練的核心模塊；在系統(tǒng)方面，哪些系統(tǒng)設計既能提高采樣效率又能對大規(guī)模強化學習的優(yōu)化效率帶來幫助，什么樣的設計可以易用快速的算法迭代和想法驗證。所有上述這些積累的經驗和知識，都是有價值被沉淀下來的東西。

光是教會AI玩《星際爭霸 II》并不是最終目標，探索決策AI的能力邊界，學會面對更加復雜的真實世界，才是在青春年月值得去拼搏的事?；谶@樣的初心，后續(xù)成立的 OpenDILab 團隊以 DI-star 為起點，開始進一步探索如何做開源。

當時決策智能領域的開源生態(tài)，比起 CV、NLP 這些成熟的研究領域，的確差了不是一點半點。

不過對于整個決策智能領域來說，開發(fā)者最需要的不只是某一套代碼，也不僅是某一個工具包。這個領域，正需要一個功能全面、便捷易用的開源平臺。

但如何設計一個能滿足廣大研究者需求的平臺，是需要認真考慮的問題。

這時，更多學術界、產業(yè)界的決策智能研究痛點進入了團隊成員們的視野：

與感知智能不同，決策類問題通常涉及處理諸如圖像、語音、結構化數據等多種復雜模態(tài)的數據類型。此外，單機單卡與多機多卡甚至跨集群計算的決策 AI 計算邏輯也完全不同。不同任務間的最優(yōu)算法配置也差別較大。對于決策智能，這些問題很難標準化。

還有一個客觀現(xiàn)象：關于決策智能的問題定義和研究視角，學術界和工業(yè)界之間的差距是很大的。很多前沿的理論算法缺少環(huán)境和計算 pipeline 上的通用性，只能局限于 toy model 級別的實驗環(huán)境，無法遷移到真正的工業(yè)場景中。

因此，團隊最終對開源平臺的期望是：既要在學術算法層面做到最全最廣的覆蓋和統(tǒng)一，又要將這些算法真正發(fā)揮到相應的實際場景中去，解決各個其他領域的工業(yè)級應用問題。當然，想要兼顧兩者是一件極為困難的事，系統(tǒng)和平臺設計本身就是在做各種各樣的權衡，而開源社區(qū)正是幫助平臺成長和不斷進化的重要力量。

這將是一項產生長期價值的工程，力求將技術的廣度和深度都推到極致，將成千上萬開發(fā)者的智慧與努力集合起來，在各行各業(yè)中演化出無限可能。

人人可用的開源決策智能平臺

2021 年 7 月，DI-star 及其衍生出的決策智能平臺 OpenDILab 在 GitHub 正式開源了。

在最初發(fā)布的 OpenDILab beta 版本中，自上而下覆蓋了應用生態(tài)層、算法抽象層、分布式管理層和分布式執(zhí)行層，還支持從單機到上萬級別 CPU/GPU 聯(lián)合訓練的全尺度調度系統(tǒng)優(yōu)化，將 OpenDILab 團隊自 DI-star 項目以來積累的各方面技術和知識完全開源開放出來。然而開源社區(qū)的構建是需要不斷打磨的，beta 版本在各種各樣的權衡中遺留了一些上手難度問題，而在這一年多開發(fā)者與開源社區(qū)的共同努力下，OpenDILab 1.0版本在易用性、效率、多元化等方面都展現(xiàn)出了新的思考和理解。

項目地址：https://github.com/opendilab/

其中，OpenDILab 推出了一系列面向不同目標的開源庫：

最底層的 DI-engine 及相關系統(tǒng)支持庫致力于解決決策AI在環(huán)境，算法，計算尺度三個方面的標準化問題，它首先提供了在 40+ 不同類型決策環(huán)境上的最佳實踐，可作為不同領域研究者應用強化學習技術的最佳模板，還匯聚了 8 大研究子方向的 60+ 決策智能算法，將深度強化學習，多智能體博弈，離線強化學習和模仿學習等領域一網打盡，而上述這些環(huán)境和算法，都可以在統(tǒng)一的系統(tǒng)執(zhí)行設計下高效實現(xiàn)，并根據任務特性自適應地調整資源利用的最佳方案。

中層的算法與模型抽象層 DI-zoo 整合了 OpenDILab 在各個領域應用決策AI算法的相關經驗，將算法理論，代碼實現(xiàn)，應用領域知識一一對應在一起，并在AutoML工具的支持下，幫助開發(fā)者構建統(tǒng)一且標準的基準方案，也很大程度上降低了初學者的入門門檻。

在應用生態(tài)層，既有 DI-star 這樣面向于虛擬世界即時戰(zhàn)略類游戲的大規(guī)模強化學習訓練方案，包含完整的訓練、測試和應用原型代碼細節(jié)，還開源了包含感知決策全流程的自動駕駛平臺 DI-drive，朝著決策 AI 落地應用的方向前進。

自開源以來，OpenDILab 已經收獲了 4500 多個 GitHub star。DI-star 也被列入 Github Trending Python 語言優(yōu)質開源項目。

多智能體決策智能領域的「ImageNet」

決策智能的落地通常會受到訓練平臺、仿真環(huán)境兩方面的挑戰(zhàn)。OpenDILab 是好用的，但它暫時只解決了訓練平臺層面的一部分問題。

那么，仿真環(huán)境的問題怎么解決呢？

為了讓更多人參與到決策智能的探索中來，OpenDILab 搞了一場 Go-Bigger 挑戰(zhàn)賽。通俗地講，這其實是一場決策 AI 版的「大球吃小球」挑戰(zhàn)賽。

在 Go-Bigger 挑戰(zhàn)賽里，每局時長十分鐘，大球吃掉小球會獲得更大重量和體積，但同時需要避免被更大的球吃掉。球的類型包括分身球、孢子球、食物球、荊棘球，這四種球的決策路徑是不同的。

每個隊伍都需和其他隊伍對抗，總重量更大的團隊獲勝。

這個游戲環(huán)境看起來簡單，但其實非?？简灦嘀悄荏w之間的配合和對抗，包括權衡同一團隊中的個體行動與合作行動、不同團隊間的合作與競爭、表征和交換與其它智能體的環(huán)境信息等，體現(xiàn)了很高的決策復雜度。

有意思的是，Go-Bigger 游戲設計了球球對抗時間、成長加速度、分裂、消失、衰亡等約束條件，這種情況其實廣泛存在于現(xiàn)實世界，比如在人的生命周期中，我們都需要在不同的人生階段，在各種約束條件下進行協(xié)作、對抗，做出最利于自身的決策。球球和人類之間，由此產生了一種微妙的關聯(lián)。

在 AI 領域，很多研究問題的真正被定義和解決，都經歷了從「球球」到「真實世界」的模擬過程。

比如計算機視覺領域的經典之作 ImageNet。上海人工智能實驗室青年科學家、商湯科技高級研究總監(jiān)、OpenDILab 項目發(fā)起人劉宇表示，在 ImageNet 比賽之前，數據集都非常小，學術界很難定義產業(yè)界真正需要的算法問題。但 ImageNet 提出了全新的挑戰(zhàn)，在海量數據上定義的研究問題與真實世界中真正應該被解決的問題更加貼近了，加上算力條件的提升，成就了后來計算機視覺的蓬勃發(fā)展。

對于今天的多智能體決策智能領域來說，學術界和產業(yè)界都在等待著像「ImageNet」這樣具備「公認的問題定義能力」的項目出現(xiàn)，而 OpenDILab 希望 Go-Bigger 能擔起這一重擔。

有人可能會問，既然開源了 DI-star，為什么不直接辦一場星際爭霸 AI 挑戰(zhàn)賽？

這也是從現(xiàn)實因素出發(fā)來考慮的，畢竟訓練一個星際爭霸 AI 需要太多的算力消耗，對于一般參賽者來說實在不友好。

Go-Bigger 的定位是人人可以參加的中型游戲 AI 競技環(huán)境。相比學術界常用的 Atari、MuJoCo、SMAC，Go-Bigger 的環(huán)境規(guī)模更大，但又可以在小型的實驗室中完成，用一臺機器、一塊 GPU 就能訓練起來。這樣一來，參賽者就能把更多精力聚焦到探索多智能體協(xié)作能力的算法上。

即使如此，從零開始實現(xiàn)比賽要用的算法和訓練流程還是很復雜的，而 OpenDILab 平臺提供的決策 AI 框架 DI-engine 正好幫助開發(fā)者簡化了這一過程。

開發(fā)者們基于DI-engine為Go-Bigger設計實現(xiàn)了多種類型的基準算法，包含多智能體協(xié)作，稀疏獎勵引導，記憶化探索和計算效率提升等多個方面。

走進現(xiàn)實世界

在工業(yè)應用這塊，OpenDILab 也沒松懈，推出了自動駕駛領域內第一個支持多種仿真器和多種決策智能算法的開源研究平臺——DI-drive。

之所以選擇自動駕駛領域做開源，OpenDILab 有自己的思考：

第三次發(fā)展浪潮之后，AI 技術已經進入從感知智能到決策智能演變的關鍵節(jié)點，決策 AI 技術的突破也到了在實際場景部署和應用的階段。任何前沿的學術理論，都要走到現(xiàn)實世界當中去，才能產生更多的價值。

可以說，決策 AI 技術應用的成功與否，直接決定了這一技術在產業(yè)界的認可程度，反過來，應用領域的難題也可以指導決策 AI 理論的演進。

另一方面，生態(tài)構建的成功與否體現(xiàn)了決策 AI 技術的應用門檻、其通用能力和泛化能力以及對不同任務的適應能力。應用生態(tài)也可以更加廣泛地拓展決策 AI 的應用領域，打通不同應用領域所面臨的問題和挑戰(zhàn)。

自動駕駛是當前人工智能的熱門研究方向。決策、規(guī)劃與控制是自動駕駛任務的大腦，一向被各大公司視作高度保密技術。如果是一位普通開發(fā)者，就算想深入了解也難。

所以，OpenDILab 綜合了大量自動駕駛決策 AI 的方法，抽象出基本涵蓋現(xiàn)有自動駕駛方法的一套流程，做出了自動駕駛領域第一個開源的、人人可以參與的研究平臺 DI-drive。

目前，DI-drive 已在自動駕駛端到端仿真任務上取得若干算法突破。對于一系列核心技術突破，OpenDILab 不作保留，全部開源。

比如自動駕駛策略 InterFuser，該策略基于 Transformer 進行多傳感器融合，并使用了可解釋性特征來增加自動駕駛的安全性。

我們都知道，在高交通密度的場景中，會有大量的障礙物和動態(tài)物體參與決策。在這些情況下，一些部署的自動駕駛系統(tǒng)可能表現(xiàn)出不正確或意外的行為，導致災難性的事故。

比如行人突然從路邊出現(xiàn)、通過路口時遭遇意外車流（闖紅燈等），這需要更好地理解多模態(tài)多視角傳感器輸入下的場景。另外，如何驗證決策過程也是個問題，換句話說，識別系統(tǒng)的功能 / 故障情況以及故障原因，這需要決策系統(tǒng)的可解釋性。

OpenDILab 模擬了大部分情況，基于自動駕駛研究的開源模擬器 CARLA 進行了測評，InterFuser 顯示出良好的問題處理能力：

等紅燈

轉彎

在最新的 CARLA Leaderboard 排行榜中，OpenDILab 提出的自動駕駛策略 InterFuser 取得了 Top 1 的成績。

InterFuser 在 CARLA Leaderboard 上的排名

InterFuser arXiv 論文地址: https://arxiv.org/abs/2207.14024

InterFuser Github 項目地址: https://github.com/opendilab/InterFuser

此外，OpenDILab 還針對自動駕駛開發(fā)了一套貼近真實的駕駛場景 Casezoo，所涉及的駕駛場景均由實車數據和路測案例轉化而來。他們在多種貼近真實的駕駛環(huán)境中訓練和測試了決策模型，有效促進自動駕駛領域仿真研究在實車環(huán)境中的推廣和應用。

圖注：Casezoo 為自動駕駛模擬提供更接近真實的駕駛場景

與此同時，OpenDILab 也在探索新的決策智能應用領域和方法，如金融領域的反欺詐和交易，電網、港口等場景的資源調度和優(yōu)化，生物領域的合成搜索和預測等。一系列重磅成果，均在醞釀之中。

不斷進化的 OpenDILab

一年時間過得很快。Beta 版本開源之后，OpenDILab 團隊一直在根據開發(fā)者社區(qū)的反饋改進。

經過多次完善后，近日的 WAIC 2022 大會上，OpenDILab 1.0 版本正式問世。

OpenDILab 框架圖

項目地址：https://github.com/opendilab

整體來看，OpenDILab 1.0 有三大升級特點：

1. 易用高效的大規(guī)模決策智能訓練系統(tǒng)：具備插件化的擴展能力和友好的分布式能力

2. 當前世界上最全面的標準化決策 AI 平臺：一個平臺整合所有 RL 研究領域，一套框架服務多種決策 AI 問題，最全最強算法集（1 個架構，8 大研究方向，40 + 環(huán)境，60 + 算法，70 + 專利）

3. 到手即用的工業(yè)應用生態(tài)：決策 AI+X 的最佳實踐，助力各行各業(yè)實現(xiàn)關鍵的技術和應用突破。

「在計算機視覺領域，標準化做得很好，比如所有數據模態(tài)都可以用非常規(guī)整的 Tensor 來表示，所有任務都可以在 batch 維度同步 forward 和 bp（Back Propagation）的神經網絡來處理，比如 PyTorch 和 TensorFlow。而在數據模態(tài)高度結構化，訓練過程高度異步化的決策智能領域，我們希望做的也是這樣一件事。」劉宇表示。

硬核升級之外，OpenDILab 也更加注重易用性和便捷性，為社區(qū)內的開發(fā)者提供了更加詳盡的上手教程。值得一提的是，OpenDILab 將于今年 10 月推出從應用場景出發(fā)的 「PPO x Famliy 入門公開課」，課程內容主要從一個 PPO 解決絕大多數的常規(guī)決策問題，根據算法原理，代碼實現(xiàn)，實際應用三者的一一對應來設計，即使你只是一枚想入門決策 AI 的萌新，或者只是一位想用決策 AI 技術解決某個實際問題的非內行工程師，都可以通過該課程和 OpenDILab 平臺獲得在算法、系統(tǒng)、工程等經驗和工具支持。

我們也了解到，同在 WAIC2022 發(fā)布的 SenseMAP 商湯多智能體平臺，在搭建過程中也用到了 OpenDILab 開源的多項前沿技術。

在 WAIC 2022 的企業(yè)論壇中，劉宇介紹：「我們利用 OpenDILab 作為基建之一構建了商湯多智能體游戲 AI 平臺 SenseMAP，同時 OpenDILab 也支持了我們在游戲、電力調度、自動駕駛和貨運調度等領域的業(yè)務應用?！?/p>

劉宇認為，只有一項技術的門檻明顯降低，更多人才有機會入局。

縱觀人類技術發(fā)展歷史，真正帶動整個社會往前走的機會，未必出現(xiàn)在某種技術誕生的那一刻，更多是這項技術能夠得到普及之后。這正是 OpenDILab 的開源初衷。

來源：轉載機器之心