人工智能系統(tǒng)會有意識嗎？三位意識科學(xué)家表示，目前沒有人知道，他們對缺乏對這個問題的調(diào)查研究表示擔(dān)憂。
數(shù)學(xué)意識科學(xué)協(xié)會(AMCS)的三位領(lǐng)導(dǎo)人在向聯(lián)合國發(fā)表的評論中呼吁提供更多資金來支持意識和人工智能的研究。他們表示，迫切需要對意識和無意識系統(tǒng)之間的界限進行科學(xué)調(diào)查，法律和安全問題使理解人工智能意識變得至關(guān)重要。例如，如果人工智能發(fā)展出意識，是否應(yīng)該允許人們在使用后簡單地關(guān)閉它？
AMCS董事會成員Jonathan Mason是英國牛津的數(shù)學(xué)家，也是評論的作者之一，他說，最近關(guān)于人工智能安全的討論，比如備受矚目的英國人工智能安全峰會，大多沒有這種擔(dān)憂。梅森指出，美國總統(tǒng)喬·拜登尋求負責(zé)任地開發(fā)人工智能技術(shù)的行政命令也沒有解決有意識的人工智能系統(tǒng)提出的問題。
Mason說：“隨著人工智能的發(fā)展，不可避免地會有其他鄰近的科學(xué)領(lǐng)域需要迎頭趕上。”。意識就是其中之一。
另一些評論的作者是AMCS主席Lenore Blum，他是賓夕法尼亞州匹茲堡卡內(nèi)基梅隆大學(xué)的理論計算機科學(xué)家，以及董事會主席Johannes Kleiner，他是德國慕尼黑路德維?！ゑR克西米利安大學(xué)研究意識的數(shù)學(xué)家。
科學(xué)界還不知道是否存在或?qū)⒂肋h存在有意識的人工智能系統(tǒng)。Mason說，即使知道是否已經(jīng)開發(fā)出一種也將是一個挑戰(zhàn)，因為研究人員還沒有創(chuàng)造出科學(xué)驗證的方法來評估機器中的意識。加州舊金山非營利研究機構(gòu)人工智能安全中心的哲學(xué)家羅伯特·龍表示：“考慮到進展的速度，我們對人工智能意識的不確定性是人工智能的許多擔(dān)憂之一?！薄?/p>
這樣的擔(dān)憂不再只是科幻小說。包括創(chuàng)建聊天機器人ChatGPT的OpenAI公司在內(nèi)的公司正致力于開發(fā)通用人工智能，這是一種經(jīng)過訓(xùn)練的深度學(xué)習(xí)系統(tǒng)，可以執(zhí)行與人類類似的各種智力任務(wù)。一些研究人員預(yù)測，這將在5到20年內(nèi)實現(xiàn)。梅森說，即便如此，意識研究領(lǐng)域還是“支持不足”。他指出，據(jù)他所知，2023年還沒有一筆資助來研究這一主題。
AMCS領(lǐng)導(dǎo)人向聯(lián)合國人工智能高級別咨詢機構(gòu)提交的報告概述了由此產(chǎn)生的信息差距。該機構(gòu)于10月啟動，計劃于2024年年中發(fā)布一份關(guān)于世界應(yīng)如何管理人工智能技術(shù)的報告。AMCS領(lǐng)導(dǎo)人的意見書尚未公開發(fā)布，但該機構(gòu)向作者證實，該組織的評論將成為其“基礎(chǔ)材料”的一部分，這些文件為其關(guān)于人工智能系統(tǒng)全球監(jiān)督的建議提供了信息。
AMCS的研究人員表示，了解什么可以使人工智能有意識，對于評估有意識的人工智能系統(tǒng)對社會的影響，包括其可能的危險，是必要的。人類需要評估這些系統(tǒng)是否具有人類的價值觀和利益；否則，它們可能會給人們帶來風(fēng)險。
但研究人員表示，人類也應(yīng)該考慮有意識的人工智能系統(tǒng)的可能需求。這樣的系統(tǒng)會受到影響嗎？Long說：“如果我們沒有意識到人工智能系統(tǒng)已經(jīng)變得有意識，我們可能會給有意識的實體帶來痛苦：“我們在將道德考慮擴展到與我們長相和行為不同的實體方面并沒有很好的記錄?！保驗槿祟惒粦?yīng)該花費資源來保護那些不需要保護的系統(tǒng)。
AMCS的評論中提出的一些問題是法律問題，以強調(diào)意識問題的重要性：有意識的人工智能系統(tǒng)是否應(yīng)該對故意的不當(dāng)行為負責(zé)？它是否應(yīng)該被賦予與人民相同的權(quán)利？該聯(lián)盟寫道，答案可能需要對法規(guī)和法律進行修改。
此外，科學(xué)家還需要教育其他人。梅森說，隨著公司設(shè)計出越來越強大的人工智能系統(tǒng)，公眾會懷疑這些系統(tǒng)是否有意識，科學(xué)家需要有足夠的知識來提供指導(dǎo)。
其他意識研究者對此表示贊同。位于博卡拉頓的佛羅里達大西洋大學(xué)未來思維中心主任、哲學(xué)家Susan Schneider表示，像ChatGPT這樣的聊天機器人的行為看起來非常像人類，人們有理由對此感到困惑。如果沒有科學(xué)家的深入分析，一些人可能會得出結(jié)論，認為這些系統(tǒng)是有意識的，而其他公眾可能會忽視甚至嘲笑對人工智能意識的擔(dān)憂。
為了減輕風(fēng)險，AMCS的評論呼吁政府和私營部門資助更多關(guān)于人工智能意識的研究。推進這一領(lǐng)域不需要太多資金：盡管迄今為止支持有限，但相關(guān)工作已經(jīng)在進行中。例如，Long和其他18名研究人員開發(fā)了一份標(biāo)準(zhǔn)清單，以評估一個系統(tǒng)是否有很高的意識。這篇論文于8月發(fā)表在arXiv預(yù)印本庫中，尚未經(jīng)過同行評審，其標(biāo)準(zhǔn)來源于解釋意識生物學(xué)基礎(chǔ)的六個著名理論。
Mason說：“進步的潛力很大?！?。
本文譯自 nature，由 兩個豬頭 編輯發(fā)布。
（免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負任何法律責(zé)任。
任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時，應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明，并提供身份證明、權(quán)屬證明及詳細侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 ）
