（原標(biāo)題：Mark Zuckerberg, Elon Musk and the Feud Over Killer Robots）
小扎曾請馬斯克在家吃飯 勸他放棄AI威脅論卻沒成
6月12日消息，據(jù)國外媒體報(bào)道，社交媒體Facebook創(chuàng)始人馬克·扎克伯格（Mark Zuckerberg）認(rèn)為，他的朋友、硅谷億萬富翁埃隆·馬斯克（Elon Musk）表現(xiàn)得像個(gè)危言聳聽者。
馬斯克創(chuàng)建了SpaceX，并且現(xiàn)在是特斯拉（Tesla）首席執(zhí)行官。他在電視采訪和社交媒體上警告世界，人工智能(AI)“可能比核武器更危險(xiǎn)”。
2014年11月19日，扎克伯格邀請馬斯克，在自己位于加州帕洛阿爾托（Palo Alto）的家中共進(jìn)晚餐。此外，來自Facebook新人工智能實(shí)驗(yàn)室的兩名頂尖研究人員和另外兩名Facebook高管也受邀參加了這次晚餐活動(dòng)。
進(jìn)入晚餐時(shí)，F(xiàn)acebook一方人員試圖讓馬斯克認(rèn)為自己錯(cuò)了。但是，馬斯克沒有讓步。據(jù)這次晚餐參加者之一、領(lǐng)導(dǎo)Facebook人工智能實(shí)驗(yàn)室的研究員揚(yáng)恩·萊肯（Yann LeCun）稱，馬斯克當(dāng)時(shí)對同桌者表示，“我真的認(rèn)為這很危險(xiǎn)?！?/p>
馬斯克對人工智能的恐懼本質(zhì)上講很好理解：如果我們創(chuàng)造出比人類更聰明的機(jī)器，他們可能會(huì)轉(zhuǎn)而反對我們?？纯纯苹闷督K結(jié)者》（The Terminator）、《黑客帝國》（The Matrix）和《2001太空漫游》（2001: A Space Odyssey），就可知道人工智能是如何控制人類的。他對科技行業(yè)表示，在我們將其釋放給世界之前，想想我們正在創(chuàng)造的東西所帶來的意想不到的后果吧。
針對這次晚餐活動(dòng)，馬斯克和扎克伯格都沒有談及細(xì)節(jié)。而關(guān)于這次晚餐以及當(dāng)時(shí)關(guān)于人工智能方面的辯論，此前沒有媒體報(bào)道過。
“超級智能”的誕生，將人工智能推進(jìn)到一個(gè)新的高度，所創(chuàng)造出的機(jī)器不僅能執(zhí)行需要人類智力才能完成的特別任務(wù)(比如自動(dòng)駕駛汽車)，而且實(shí)際上可以超越人類。這感覺仍然像科幻小說。不過，關(guān)于人工智能未來的爭論已經(jīng)蔓延到整個(gè)科技行業(yè)。
谷歌4000多名員工最近簽署了一份請?jiān)笗?，抗議該公司與五角大樓簽訂的一份案值達(dá)900萬美元人工智能合同。這是一份讓這家互聯(lián)網(wǎng)公司獲利的協(xié)議，但對該公司的許多人工智能研究人員來說，這一交易令人深感不安。上周，谷歌高管們試圖阻止員工反抗，他們表示，明年合同到期后谷歌不會(huì)續(xù)簽合同。
無論是作為經(jīng)濟(jì)引擎和軍事優(yōu)勢的來源，人工智能研究具有巨大的潛力和巨大的影響。中國政府已表示，未來幾年愿意投入數(shù)十億美元打造人工智能世界領(lǐng)先地位，而五角大樓正積極尋求科技產(chǎn)業(yè)的幫助，一種新型自動(dòng)武器的誕生不會(huì)遙遠(yuǎn)。
從在加州中部海岸舉行的哲學(xué)家和科學(xué)家聚會(huì)，到亞馬遜首席執(zhí)行官杰夫·貝佐斯(Jeff Bezos)在加州棕櫚泉（Palm Springs）舉辦的年度會(huì)議，各類深謀遠(yuǎn)慮的思想家都加入了這場辯論。
未來人類研究所(Future of Humanity Institute)的人工智能治理項(xiàng)目主任艾倫·達(dá)福(Alan Daboe)表示，“我們現(xiàn)在談?wù)撊斯ぶ悄艿娘L(fēng)險(xiǎn)，并非迷失在科幻小說里。”該研究所是牛津大學(xué)的一個(gè)研究中心，研究的是先進(jìn)技術(shù)的風(fēng)險(xiǎn)和機(jī)遇。
在過去幾個(gè)月，對Facebook和其他科技公司的公開炒作已經(jīng)強(qiáng)烈地牽引出這樣的問題，即硅谷創(chuàng)造的技術(shù)帶來了意想不到的后果。
今年4月份，就數(shù)據(jù)隱私以及Facebook在2016年大選前傳播錯(cuò)誤信息中所扮演的角色問題，扎克伯格花了兩天時(shí)間在國會(huì)向議員們作出了回答。上個(gè)月，他在歐洲面臨類似的質(zhì)詢。
Facebook很難理解到底發(fā)生了什么，這已經(jīng)導(dǎo)致一個(gè)行業(yè)進(jìn)入難得的自我反省時(shí)刻。長期以來，人們一直認(rèn)為，不管世界喜歡與否，F(xiàn)acebook正在讓世界變得更美好。
就連微軟創(chuàng)始人比爾·蓋茨(Bill Gates)和已故斯蒂芬·霍金(Stephen Hawking)等有影響力的人物，也表達(dá)了對創(chuàng)造比我們更智能的機(jī)器的擔(dān)憂。盡管超級智力離我們似乎還有數(shù)十年時(shí)間，但是這些有影響力人物以及其他人表示，難道我們不應(yīng)該在到了為時(shí)已晚階段之前就考慮后果嗎？
康奈爾大學(xué)計(jì)算機(jī)科學(xué)教授、前貝爾實(shí)驗(yàn)室（Bell Labs）研究員巴特·塞爾曼(Bart Selman)表示，“我們正在創(chuàng)建的這種系統(tǒng)非常強(qiáng)大，并且我們無法了解它們的影響?！?/p>
不完美的技術(shù)
Pacific Grove是美國加州中部海岸的一個(gè)小鎮(zhèn)。1975年冬天，一群遺傳學(xué)家曾聚集在這里，討論他們的工作——基因編輯——最終是否會(huì)危害世界。2017年1月，人工智能社區(qū)在這海濱樹林小鎮(zhèn)舉行了類似的討論。
在Asilomar Hotel酒店舉行的這次私人聚會(huì)，由未來生命研究所（Future of Life Institute）所組織。該研究所是一家智囊，研究方向是人工智能和其他技術(shù)的相關(guān)風(fēng)險(xiǎn)。
參與這次聚會(huì)人員中，F(xiàn)acebook人工智能實(shí)驗(yàn)室負(fù)責(zé)人揚(yáng)恩·萊肯是人工智能大腕，他幫助開發(fā)了一種神經(jīng)網(wǎng)絡(luò)，這是當(dāng)今人工智能中最重要的工具之一。參與者還有尼克·博斯特羅姆(Nick Bostrom),他的書籍《超級智能:路線圖、危險(xiǎn)性與應(yīng)對策略》（Superintelligence: Paths, Dangers, Strategies），對人工智能討論生產(chǎn)了巨大影響，不過有些人認(rèn)為是人為制造恐怖；還有奧倫·埃茨奧尼（Oren Etzioni），他是華盛頓大學(xué)前計(jì)算機(jī)科學(xué)教授，現(xiàn)已在西雅圖艾倫研究所（Allen Institute）領(lǐng)導(dǎo)人工智能研究；還有德米斯·哈薩比斯（Demis Hassabis），目前是谷歌位于倫敦的具有重要影響力的人工智能研究實(shí)驗(yàn)室DeepMind的領(lǐng)導(dǎo)人。
馬斯克2015年曾向位于馬薩諸塞州劍橋市的未來生命研究所捐贈(zèng)了1000萬美元。同年，他還幫助創(chuàng)建了一個(gè)名為OpenAI的獨(dú)立人工智能實(shí)驗(yàn)室，其明確目標(biāo)是：創(chuàng)建確實(shí)不會(huì)失控、具有保障措施的超級智能。這一信息清楚地表明，他支持尼克·博斯特羅姆的觀點(diǎn)。
在這次私人聚會(huì)的第二天，馬斯克參加了一個(gè)專門討論超級智能問題的9人小組。大家都知道馬斯克認(rèn)為超級智能不僅是可能的，而且是非常危險(xiǎn)的。
在這次小組討論活動(dòng)結(jié)束時(shí)，馬斯克被問到社會(huì)如何才能最好地與超級智能共存。他說，我們需要的是我們的大腦和機(jī)器之間的直接聯(lián)系。幾個(gè)月后，他推出了一項(xiàng)名為“神經(jīng)鏈接（Neuralink）”的新項(xiàng)目。該項(xiàng)目獲得1億美元的支持，目的是通過將計(jì)算機(jī)與人腦融合，創(chuàng)造出一種所謂的神經(jīng)接口。
當(dāng)然，有關(guān)人工智能風(fēng)險(xiǎn)的警告已經(jīng)存在多年了。但是幾乎沒有哪個(gè)不為人所信的吉兇預(yù)言者，擁有馬斯克這樣的技術(shù)聲望。如果有的話，幾乎沒有人花那么多的時(shí)間和金錢在人工智能上。或許沒有哪個(gè)不為人所信的吉兇預(yù)言者，擁有馬斯克如此復(fù)雜的科技創(chuàng)業(yè)經(jīng)歷。
馬斯克在扎克伯格家里那次晚宴上談?wù)撍麑θ斯ぶ悄軗?dān)憂時(shí)的前幾周，曾打電話給Facebook人工智能實(shí)驗(yàn)室的研究員揚(yáng)恩·萊肯，詢問能夠從事特斯拉汽車公司自動(dòng)駕駛汽車項(xiàng)目的頂尖人工智能研究人員的姓名。
公司財(cái)務(wù)虧損和汽車質(zhì)量問題，一直在困擾著馬斯克。在最近一次特斯拉財(cái)報(bào)電話會(huì)議上，他指責(zé)新聞媒體沒有關(guān)注死亡——這是一個(gè)被反復(fù)警告的明確立場，即人工智能對人類是一種危險(xiǎn)。
棕櫚泉的爭斗
硅谷有句諺語：人們往往高估三年內(nèi)之所為，低估10年內(nèi)之可為。
2016年1月27日，Google旗下的DeepMind實(shí)驗(yàn)室推出一款機(jī)器人，能夠在圍棋比賽中擊敗專業(yè)玩家。
甚至頂級的人工智能研究人員曾認(rèn)為，機(jī)器人能夠下這樣的圍棋還需要十年。圍棋很復(fù)雜，最好的玩家不是憑空算計(jì)，而是憑直覺取勝。就在AlphaGo推出之前兩周，F(xiàn)acebook人工智能實(shí)驗(yàn)室的研究員揚(yáng)恩·萊肯曾表示，這樣的機(jī)器人不太可能存在。
幾個(gè)月后，AlphaGo擊敗了李世石。這臺(tái)機(jī)器人的動(dòng)作困惑了人類專家，并且最終取得勝利。
包括DeepMind和OpenAI的領(lǐng)導(dǎo)者在內(nèi)的許多研究人員都認(rèn)為，為AlphaGo所使用的這種自動(dòng)學(xué)習(xí)技術(shù)，提供了一條通往“超級智能”的道路。他們認(rèn)為，在今后幾年，這方面的進(jìn)展將大大加快。
OpenAI最近“開發(fā)”了一個(gè)系統(tǒng)，為的是玩一個(gè)劃船比賽視頻游戲，鼓勵(lì)該系統(tǒng)盡可能多地贏得比賽積分。但是在持續(xù)贏得比賽積分后再進(jìn)行時(shí)，它會(huì)旋轉(zhuǎn)，與石頭墻碰撞，撞上其他船只。
正是這種不可預(yù)見性，引起了人們對包括超級智能在內(nèi)的人工智能的嚴(yán)重?fù)?dān)憂。
但是在今年3月份，亞馬遜和貝佐斯在棕櫚泉組織的一次專門會(huì)議，對這些擔(dān)憂表達(dá)了強(qiáng)烈的反對。
一天晚上，麻省理工學(xué)院的機(jī)器人專家羅德尼·布魯克斯（Rodney Brooks）與神經(jīng)學(xué)家、哲學(xué)家和播客山姆·哈里斯（Sam Harris）討論了人工智能的潛在危險(xiǎn)，哈里斯對人工智能潛在危險(xiǎn)提出了特別的警告。根據(jù)泰晤士報(bào)（The Times）獲得的一段錄音，這場辯論演變成針對個(gè)人的人身攻擊。
哈里斯警告稱，由于全球處于利用人工智能的軍備競賽之中，研究人員可能沒有足夠的時(shí)間來確保超級智能建立在安全方式下。
布魯克斯回答說，“這是你編造出來的?！彼凳?，哈里斯的論點(diǎn)是基于不科學(xué)的推理。這不可能被證明是對或是錯(cuò)的。哈里斯則表示，“如果這真的有意義，我會(huì)把這件事當(dāng)真。”
主持人最終終止了這場爭斗，并向觀眾提出了問題。Allen Institute負(fù)責(zé)人奧倫·埃茨奧尼表示從觀眾席走出來，他說，今天的人工智能系統(tǒng)是如此有限，花那么多時(shí)間來擔(dān)心超級智能是沒有意義的。
他說，站在馬斯克一邊的人是哲學(xué)家、社會(huì)學(xué)家、作家，他們都不是從事人工智能工作的研究人員。在人工智能科學(xué)家中，關(guān)于我們應(yīng)該開始擔(dān)心超級智能的想法，“在很大程度上是一個(gè)邊緣性的論點(diǎn)?！?/p>
扎克伯格去華盛頓
自三年前他們共進(jìn)晚餐以來，扎克伯格和馬斯克之間的爭論已經(jīng)變得惡劣。去年夏天，在扎克伯格和妻子于自己家后院燒烤時(shí)的Facebook直播視頻中，扎克伯格稱馬斯克對人工智能的看法“非常不負(fù)責(zé)任”。
他說，現(xiàn)在對還處于發(fā)展初期的人工智能表現(xiàn)出恐慌，可能會(huì)損害由自動(dòng)駕駛汽車和人工智能醫(yī)療保健等事物所帶來的許多好處。
“特別是有了人工智能，我真的很樂觀，”扎克伯格表示，“那些持反對意見的人，試圖編造出這些世界末日的情景——我只是，我不明白?！?/p>
針對扎克伯格的言論，馬斯克也作出了回應(yīng)?！拔液婉R克（扎克伯格）談過這件事，”馬斯克寫道，“他對這個(gè)問題的理解有限?！?/p>
今年4月份，扎克伯格在美國國會(huì)作證，他對Facebook如何改正目前所存在的問題進(jìn)行了解釋。
解決存在問題的一種措施是依靠人工智能。不過扎克伯格在證詞中承認(rèn)，科學(xué)家們還沒有完全弄清楚某些類型的人工智能是如何學(xué)習(xí)的。
“這將是一個(gè)非常核心的問題，關(guān)系到我們?nèi)绾慰创磥硎昴酥粮L時(shí)間里的人工智能系統(tǒng)，”他說，“現(xiàn)在，我們的許多人工智能系統(tǒng)以人們不太了解的方式做出決定?！?/p>
科技巨頭和科學(xué)家們可能會(huì)嘲笑馬斯克在人工智能上的膽小，但他們似乎正朝著他的觀點(diǎn)方向發(fā)展。
在谷歌內(nèi)部，一個(gè)小組正在探索人工智能方法中的缺陷，這些人工智能方法可以愚弄計(jì)算機(jī)系統(tǒng)，讓其看到不存在的東西。研究人員警告稱，自動(dòng)生成真實(shí)圖像和視頻的人工智能系統(tǒng)，將很快使我們更難相信我們在網(wǎng)上看到的東西。現(xiàn)在，DeepMind和OpenAI都在運(yùn)轉(zhuǎn)著致力于“人工智能安全”的研究小組。
DeepMind創(chuàng)始人德米斯·哈薩比斯（Demis Hassabis）仍然認(rèn)為，馬斯克的觀點(diǎn)是極端的。他說，威脅不存在，還沒有。（天門山）
（免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請進(jìn)一步核實(shí)，并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。
任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 ）
