陶大程院士：大模型的上空漂浮著一朵“烏云”

7月6日消息 昨天，中國信息通信研究院承辦的WAIC 2024“邁向AGI：大模型煥新與產(chǎn)業(yè)賦能”論壇，于上海徐匯西岸拉開帷幕！本次論壇深度聚焦大模型產(chǎn)業(yè)應(yīng)用落地、端側(cè)智能、大模型安全與治理等前沿?zé)狳c話題，攜手全球AI領(lǐng)域頂級學(xué)者、行業(yè)領(lǐng)袖展開頂尖思維碰撞，共探大模型驅(qū)動新質(zhì)生產(chǎn)力發(fā)展的新潛能，為行業(yè)呈現(xiàn)一場精彩紛呈的科技盛宴。

澳大利亞科學(xué)院院士、南洋理工大學(xué)杰出教授陶大程院士應(yīng)邀作了題為“大模型的道術(shù)”的主旨演講。

陶大程表示，從ChatGPT成功以來，大模型發(fā)展十分迅速，一定程度上可以看作是人和自然的博弈。隨著超級大模型的誕生，人工智能的發(fā)展已經(jīng)進(jìn)入了平臺期，走在十字路口的中央，產(chǎn)業(yè)界更應(yīng)該思考大模型的道和術(shù)?！昂螢榈?？就是大模型的工作機(jī)制，何為術(shù)？就是大模型的實現(xiàn)和實踐的具體路徑。理解道，我們將會清楚大模型的工作機(jī)制和工作邊界。在理解道的基礎(chǔ)上，我們才有機(jī)會能夠更好發(fā)揮術(shù)。正所謂，有道無術(shù)，術(shù)上可求，有術(shù)無道，止于術(shù)?！?/p>

陶大程指出，歷經(jīng)了80年的實踐，神經(jīng)網(wǎng)絡(luò)終于在大模型時代證明了自己。在他看來，神經(jīng)網(wǎng)絡(luò)的發(fā)展動力主要來自于算力和數(shù)據(jù)的不斷增長，特別是最近10來年，深度學(xué)習(xí)充分展示了它在發(fā)展進(jìn)程中的實際價值，目前深度學(xué)習(xí)的發(fā)展已經(jīng)進(jìn)入了由大模型所驅(qū)動的超級深度學(xué)習(xí)時代。

陶大程認(rèn)為，大模型的激動時刻莫過于它的涌現(xiàn)能力，但我們對什么是涌現(xiàn)能力還不夠清晰?！耙欢ǔ潭壬希?dāng)前大模型已經(jīng)可以對產(chǎn)生的結(jié)果，做出相對比較合理的解釋，只是我們還不能夠完全信任這些解釋。因為我們對大模型的基本工作原理還不夠清晰，而這正是大模型的道?；孟罂偸窃诎l(fā)生，但我們不知道什么時候發(fā)生，也不知道為什么發(fā)生。今天，大模型的上空也漂浮著一朵烏云，這朵烏云實際上讓我們惴惴不安?！?/p>

陶大程指出，大模型的研究工程化和使用目前都面臨諸多的挑戰(zhàn)。比如，我們尚不清楚大模型是不是真的會思考？比如在大語言模型方面，復(fù)雜表述的困境，跨語言的幻覺甚至是翻譯的誤差；比如在文生圖方面，視覺文本的錯誤對齊、畸形的手和腳以及多模態(tài)混合生成的具像錯誤等等。同時，我們還面臨眾多人工智能安全的問題，內(nèi)生安全包括魯棒性、隱私保護(hù)、公平性以及透明性，衍生安全方面包括了可靠性、偏見、篤性。

陶大程強(qiáng)調(diào)，雖然面臨諸多挑戰(zhàn)，但我們依然要向前，道雖不清，術(shù)上還要全力以赴?！按竽Ｐ妥鳛樾使ぞ?，我認(rèn)為它是一個非常好的選擇，可以廣泛應(yīng)用于娛樂、電商、搜索的業(yè)務(wù)之上，大模型將會對未來的人機(jī)交互產(chǎn)生劃時代意義的變化和影響，人機(jī)交互將有機(jī)會實現(xiàn)全感知、沉浸式、無邊界以及無障礙?！?/p>

生成海報

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請進(jìn)一步核實，并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時，應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。