細(xì)思極恐！Deepmind人工智能可讀取同類思想并預(yù)測行為

高層速讀

關(guān)鍵信息：Deepmind公司的計(jì)算機(jī)科學(xué)家已經(jīng)創(chuàng)造出了一種人工智能——ToMnet，它可以探測其他計(jì)算機(jī)的“思想”和“信仰”，并預(yù)測它們的下一步行為，這是機(jī)器之間互相協(xié)作的開始。研究人員本月在斯德哥爾摩舉行的國際機(jī)器學(xué)習(xí)會議上報(bào)告上宣布了這一消息。

關(guān)鍵數(shù)據(jù)：ToMnet由三個(gè)神經(jīng)網(wǎng)絡(luò)組成。

關(guān)鍵意義：理解他人的想法和信仰，是人類和其他動物心智發(fā)展的關(guān)鍵階段，機(jī)器人能做到這一步，是不是離人工智能威脅又近了一步？

與Siri或天貓精靈進(jìn)行過互動的人都知道，數(shù)字助理無法從根本吸引人，因?yàn)?strong>它們不懂人的思想、需求，無法像真正的人類朋友一樣對話，它們需要心理學(xué)家所謂的“心智理論”，即對他人信仰和欲望方面的認(rèn)識。

現(xiàn)在，谷歌旗下Deepmind公司的計(jì)算機(jī)科學(xué)家已經(jīng)創(chuàng)造出了一種人工智能，它可以探測其他計(jì)算機(jī)的“思想”，并預(yù)測它們的下一步行為。這也是機(jī)器之間的協(xié)同合作的第一步。

加州大學(xué)伯克利分校的發(fā)展心理學(xué)家Gopnik說：“心智理論顯然是一種至關(guān)重要的能力。”因?yàn)樵?歲時(shí)，人類的孩子就會明白，另一個(gè)人的信仰可能會偏離現(xiàn)實(shí)，而這些信念可以用來預(yù)測一個(gè)人的未來行為。今天的一些程序可以識別出“快樂”或“憤怒”的面部表情，這也是一種與心智理論相關(guān)的技能，但它們極少能理解人類的情緒或者動機(jī)。

Deepmind新項(xiàng)目始于一項(xiàng)讓人類理解計(jì)算機(jī)的努力。人工智能所使用的許多算法并不是由程序員編寫的，而是依賴于依次解決問題時(shí)的機(jī)器學(xué)習(xí)，但計(jì)算機(jī)生成的解決方案通常是“黑盒子”，算法過于復(fù)雜，人類的洞察力看不透。

因此，DeepMind的研究科學(xué)家Neil Rabinowitz和他的同事們創(chuàng)造了一種名為“ToMnet”的思維AI理論，看它是否能通過觀察其他AI知道后者是如何工作的。

ToMnet由三個(gè)神經(jīng)網(wǎng)絡(luò)組成，每個(gè)神經(jīng)網(wǎng)絡(luò)由小的計(jì)算元素和連接組成，它們從經(jīng)驗(yàn)中學(xué)習(xí)，類似于人類的大腦。第一個(gè)網(wǎng)絡(luò)根據(jù)AI們過去的行為學(xué)習(xí)它們的傾向性；第二個(gè)網(wǎng)絡(luò)是理解AI們當(dāng)前的“信仰”；第三個(gè)則從另外兩個(gè)網(wǎng)絡(luò)中獲取輸出，根據(jù)具體情況預(yù)測人工智能的下一步動作。

在試驗(yàn)中，被觀察的AI是一個(gè)簡單的角色，它在一個(gè)虛擬的房間里收集彩色的盒子，ToMnet從上方觀察了房間，發(fā)現(xiàn)有三種角色：一個(gè)看不到周圍的墻壁，一個(gè)不記得最近的走過步驟，還有一個(gè)既看的到周圍的墻壁也記得住最近的步驟。

“失明”的角色傾向于沿著墻走，“健忘癥患者”會移動到最近的物體上，第三個(gè)角色形則成了子目標(biāo)：以特定的順序戰(zhàn)略性地抓取物體以獲得更多的點(diǎn)數(shù)。

在經(jīng)過一些訓(xùn)練后，ToMnet不僅能在幾個(gè)步驟之后識別出一個(gè)角色的種類，而且還能正確預(yù)測它未來的行為，研究人員本月在斯德哥爾摩舉行的國際機(jī)器學(xué)習(xí)會議上報(bào)告上宣布了這一消息。

最后一項(xiàng)測試顯示，ToMnet甚至可以理解一個(gè)人是否持有錯(cuò)誤的信念，這是人類和其他動物心智發(fā)展理論的關(guān)鍵階段。

在這個(gè)測試中，一種類型的角色被設(shè)定為近視眼;當(dāng)電腦在游戲進(jìn)行到一半改變了他們視力范圍之外的景象時(shí)，ToMnet準(zhǔn)確地預(yù)測角色會比視力好的角色更能堅(jiān)持原來的路線，因?yàn)樗鼈儗π颅h(huán)境的適應(yīng)能力較差。這項(xiàng)研究是神經(jīng)網(wǎng)絡(luò)驚人的學(xué)習(xí)技能的例子，但這仍然不能使它們與人類兒童處于同一水平。

Josh Tenenbaum是麻省理工學(xué)院的心理學(xué)家和計(jì)算機(jī)科學(xué)家，他也研究了心智能力理論的計(jì)算模型。他說，與他的團(tuán)隊(duì)的系統(tǒng)相比，ToMnet更有效地注入了信念。但她補(bǔ)充說，ToMnet的理解與它被訓(xùn)練的環(huán)境緊密相關(guān)，這使得它在全新的環(huán)境中的預(yù)測能力變得越來越弱，它系統(tǒng)的所達(dá)到的功能可能連小孩子都能做到。

Gopnik指出，在未來結(jié)合其他方法，可能會讓這個(gè)領(lǐng)域出現(xiàn)“非常有趣的方向”，計(jì)算機(jī)正在發(fā)展的那種社會能力不僅能改善與人類的合作，或許還能改善欺騙行為。

期待未來的撲克機(jī)器人可以掌握虛張聲勢的藝術(shù)~

生成海報(bào)

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請進(jìn)一步核實(shí)，并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。