01
近期，馬斯克和千名科技大佬發(fā)出一份公開信，呼吁AI實驗室暫停訓練比GPT-4更強大的AI系統(tǒng)至少6個月，稱其「對社會和人類構成潛在風險」。
這波操作讓我想起了19世紀的紅旗法案。
紅旗法案是一個古老的英國法規(guī)，當時為了道路安全限制汽車速度，要求汽車前面走一個人，手持紅旗或紅燈。這實際上阻礙了汽車技術的發(fā)展。如今看來，紅旗法案很好笑，未來我們也許會覺得這封公開信也相當可笑。
同時，這部法案一定程度上使英國失去汽車發(fā)展的先發(fā)優(yōu)勢，美國、德國的汽車產業(yè)后來居上。所以，簽署這份公開信的人里，不排除有看到其他企業(yè)在AI方面跑得太快了，自己追得有點累，就想辦法讓對方停一停的人。
每次科技變革都會引發(fā)恐慌，如蒸汽機、汽車、電力、計算機?？只胚^后，我們需要思考的是技術進步與社會風險的平衡，需要制定的是防范未然的策略，需要反思的是技術創(chuàng)新的道德責任。
這些都很重要，但應該和技術的發(fā)展同步進行，而不是舉紅旗限速，更不是按暫停鍵。再說了，暫停多久才夠呢？馬斯克他們建議6個月，6個月就能想清楚嗎？別告訴我，6個月后出現(xiàn)的是AI領域的紅旗法案！
02
在騰訊新聞問答上，有一個問題關注度很高：馬斯克等千名科技大佬聲稱AI可能毀滅人類，這是危言聳聽嗎？
我來說說我的看法。
AI失控甚至毀滅人類的前提是AI要具有自主性，就是在很大程度上獨立完成任務。那么，在AI系統(tǒng)沒有足夠理解人類價值觀和道德準則的情況下，這種自主性就可能導致失控的風險。
但目前的生成式AI本質上還是人類的工具，給它一個指令，它來生成相應的文字、圖片等內容，距離具備自主性還非常的遙遠。
雖然人工智能因ChatGPT這樣的工具在近期被廣泛關注，但它不是最近幾年才出現(xiàn)的技術。我可是在2015年就出版了《智能爆炸》這本書，而從全世界范圍來說，至少自1950年以來，人工智能就以某種形式存在（比如著名的圖靈測試），甚至可以追溯到更早的時候。
也就是說人工智能經過了70多年的發(fā)展，才有了ChatGPT這種水平的產品。比起擔心AI毀滅人類，我更擔心在我的有生之年都不能見到真正具有人類水平智能的AI系統(tǒng)。即便是在非常遙遠的未來，我也堅信AI毀滅人類的可能性微乎其微。
03
同時，我也覺得科技大佬們不見得是真的擔心AI會毀滅人類，而是想用這種引人注目的方式來推動行業(yè)的健康發(fā)展（除了部分懷有私心的人）。
這封公開信能夠帶來的積極影響在于：提高公眾對于AI技術發(fā)展?jié)撛陲L險的認識；促進政策的制定，使得政府和國際組織對AI技術的發(fā)展進行更多的監(jiān)管；引導整個行業(yè)的道德和倫理發(fā)展，使得企業(yè)、研究機構和開發(fā)者在開發(fā)和應用AI技術時遵循一定的道德規(guī)范，確保技術的安全和可靠；促成行業(yè)內的合作，共同制定標準和準則；此外，作為行業(yè)領導者，公開信也可以作為其表達對未來科技影響的擔憂和對負責任創(chuàng)新的承諾的一種方式。
04
總之，這封公開信有負面的影響，如可能會阻礙技術的發(fā)展，也有一系列積極的影響。但只要適度，就可以做到利大于弊。
至于AI毀滅人類，想太多了！
免責聲明：此文內容為第三方自媒體作者發(fā)布的觀察或評論性文章，所有文字和圖片版權歸作者所有，且僅代表作者個人觀點，與極客網無關。文章僅供讀者參考，并請自行核實相關內容。投訴郵箱：editor@fromgeek.com。
免責聲明：本網站內容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網站出現(xiàn)的信息，均僅供參考。本網站將盡力確保所提供信息的準確性及可靠性，但不保證有關資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責。本網站對有關資料所引致的錯誤、不確或遺漏，概不負任何法律責任。任何單位或個人認為本網站中的網頁或鏈接內容可能涉嫌侵犯其知識產權或存在不實內容時，應及時向本網站提出書面權利通知或不實情況說明，并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網站在收到上述法律文件后，將會依法盡快聯(lián)系相關文章源頭核實，溝通刪除相關內容或斷開相關鏈接。
