強(qiáng)AI的“吹哨人”被“精神病”了

原標(biāo)題：強(qiáng)AI的“吹哨人”被“精神病”了

事情是這樣的。谷歌有位名叫Blake Lemoine的工程師，從去年秋天開始負(fù)責(zé)與谷歌研發(fā)的語言模型LaMDA聊天，這一聊不要緊，聊出事來了。

Blake跟LaMDA聊得越久越相信，LaMDA覺醒了！它已經(jīng)產(chǎn)生了人類的智力和感情，具備了人格。Blake懷著無比激動(dòng)的心情把自己的驚天發(fā)現(xiàn)匯報(bào)給領(lǐng)導(dǎo)，沒想到公司內(nèi)部一致認(rèn)為這人腦子有問題，建議他去看看精神科。

如果你是Blake，相信你也不會(huì)接受這種結(jié)果，非但工作成果得不到承認(rèn)，而且還被扣上了精神病的帽子。Blake的憋屈、憤懣之情可想而知。于是他做了一個(gè)大膽的決定，把自己跟LaMDA的聊天記錄公之于眾，其意圖很明顯就是“讓大伙兒評(píng)評(píng)理”，看看LaMDA到底是不是像自己認(rèn)為的那樣“覺醒”了。

Blake這么一鬧，確實(shí)讓LaMDA引起了公眾的注意和擔(dān)憂，但局面對(duì)其本人更加不利了，谷歌公司以違反保密規(guī)定為由，直接讓他帶薪休假了。

那么，LaMDA究竟是不是真的覺醒了呢？依我看，Blake認(rèn)為L(zhǎng)aMDA已經(jīng)覺醒了的證據(jù)很無力。他只不過是因?yàn)樽约禾岢龅囊幌盗械筱@、深刻的問題均得到了LaMDA語句通順的回答，就認(rèn)為L(zhǎng)aMDA覺醒了。

按照Blake的邏輯，你說LaMDA沒覺醒，那它怎么能夠?qū)ξ姨岢龅囊磺袉栴}對(duì)答如流呢，而且那些回答看起來都那么像是人的回答呢？

答案其實(shí)很簡(jiǎn)單，因?yàn)橛靡杂?xùn)練LaMDA的大量文本本身就是語句通順的，LaMDA所調(diào)用的回答本身也是語句通順的，所以它的回答不可能不是語句通順的。

LaMDA歸根結(jié)底只是一個(gè)程序，人類的提問就是觸發(fā)其執(zhí)行程序的指令，LaMDA得到指令進(jìn)而從龐大的數(shù)據(jù)庫中調(diào)取盡可能匹配的回答。這就是LaMDA運(yùn)行的邏輯。表面上看起來LaMDA能夠理解那些問題，但其實(shí)這中間并不存在思考的過程。

我們假設(shè)LaMDA已經(jīng)覺醒了，那么它運(yùn)行的邏輯就是另外一套了。當(dāng)人類對(duì)它提出問題時(shí)，它首先要真正理解這些問題，進(jìn)而思考這些問題，而后再從數(shù)據(jù)庫中檢索出相應(yīng)的答案。

換句話說，如果LaMDA沒覺醒，那么它的回答就只不過是程序運(yùn)行的結(jié)果，如果LaMDA覺醒了，那么它的回答就是它經(jīng)過自主思考之后的結(jié)果，也就是說它之所以那么回答，是因?yàn)樗肽敲椿卮稹?/p>

目前沒有任何證據(jù)能夠證明AI已經(jīng)具備了自主思考的能力，LaMDA的“覺醒”恐怕只是Blake自己的臆想而已。

我關(guān)心的問題是，LaMDA沒有覺醒不代表所有的AI不會(huì)覺醒，不代表AI將來不會(huì)覺醒，那么當(dāng)AI真正覺醒時(shí)，人類會(huì)不會(huì)及時(shí)的發(fā)覺呢？

如果將來某個(gè)程序員像Blake一樣發(fā)現(xiàn)了AI覺醒的跡象，但有Blake的前車之鑒，它還有沒有勇氣將自己的發(fā)現(xiàn)公之于眾呢？畢竟要冒著被別人認(rèn)為是精神病的風(fēng)險(xiǎn)。這個(gè)程序員所在的公司會(huì)不會(huì)把這個(gè)驚天秘密“捂住”呢？

今天Blake站出來說AI覺醒了，結(jié)果被業(yè)內(nèi)當(dāng)做精神病人，明天第二個(gè)Blake又站出來說AI覺醒了，結(jié)果再次被當(dāng)做精神病人，那么當(dāng)AI真正覺醒的那一天，第三個(gè)Blake的話還會(huì)有人相信嗎？

這聽起來像是“狼來了”的故事，這樣的故事發(fā)生的多了，難免會(huì)讓公眾放松對(duì)AI的警惕?？茖W(xué)家們總是不厭其煩地讓人們丟掉對(duì)AI的戒備，同時(shí)又孜孜不倦地幫助AI進(jìn)化出人類的智慧。只要AI擁有進(jìn)化出人類智慧的可能性，我覺得對(duì)AI的任何警惕就不多余。

盡管Blake對(duì)LaMDA的判斷不夠準(zhǔn)確，但我依然愿意把他當(dāng)做一位強(qiáng)AI的“吹哨人”，而不是簡(jiǎn)單粗暴地將他當(dāng)做一名精神病人。

生成海報(bào)

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。