劉興亮 | 奧特曼是潘多拉魔盒的開啟者嗎

01

短短兩三年時間，新近崛起的人工智能大佬山姆·奧特曼的新聞和故事伴隨著聽眾的驚訝、玄虛和贊嘆四處傳播，OpenAI圍繞他上演了與權(quán)力、財富緊密關(guān)聯(lián)的謊言、陰謀、分合的古老橋段。

他注定是非凡之人，對分散的社會單元具有磁鐵般的吸引力，一切行業(yè)的觀察者和敏感者都將目光投向了這位長著一雙深目的年輕新貴。

他引起了科技生產(chǎn)部門的極大關(guān)注，也讓經(jīng)濟(jì)結(jié)構(gòu)和未來的產(chǎn)業(yè)升級迫在眉睫，對于人工智能的爆炸式發(fā)展，更引發(fā)了道德家的擔(dān)憂和批判。

人工智能到底會以怎樣的速度破壞傳統(tǒng)產(chǎn)業(yè)結(jié)構(gòu)，它將提高生產(chǎn)力，也會對武器和整個社會的控制模式產(chǎn)生無法預(yù)估的影響。人類社會是否將進(jìn)入一種前所未有的「智力專制時代」，機(jī)器人將與一部分掌控著最高科學(xué)技術(shù)的人共同決定人類的前途。這是一幅令人驚怖的圖景。

《紐約》雜志將山姆·奧特曼稱作「我們時代的奧本海姆」，這一命名的言外之意十分明了。

02

山姆·奧特曼是OpenAI的創(chuàng)始人之一，他以卓越的能力在締造公司傳奇的過程中成為這個企業(yè)的「國王」。

他是科技怪才，進(jìn)行禪修和打坐，吃素，有寬泛的社會視角和興趣，有人將他稱作「仆人式的領(lǐng)袖」。然而這個仆人正以自己的絕對意志控制著當(dāng)前世界最先進(jìn)、最具深遠(yuǎn)影響的科技公司。

正如他自己所理解的那樣，他是一個非常聰明但不是天才的「技術(shù)兄弟」，具有一些異常的特征。他認(rèn)為自己擁有「絕對妄想的自信」，對「技術(shù)和社會變革在很長一段時間內(nèi)的弧線」有著預(yù)言性的把握。

作為一個猶太人，山姆·奧特曼在樂觀的同時又能居安思危，他非常善于評估風(fēng)險，在事業(yè)上能集中高度的注意力。

山姆·奧特曼盡管在言談中謙虛地表示他不確定他所領(lǐng)導(dǎo)的革命在歷史的長河中是否會被視為技術(shù)革命或社會革命，但同時表示「比標(biāo)準(zhǔn)的技術(shù)革命更大」。

在具有遠(yuǎn)見卓識的社會觀察家看來，OpenAI引發(fā)革命是不可避免的，人工智能將顛覆政治、勞動方式和雇傭關(guān)系、民權(quán)、監(jiān)控、隱私、經(jīng)濟(jì)剝削、武器、軍隊和教育。

在這些隱隱作愁的社會觀察家眼中，山姆·奧特曼的力量無比巨大，他背后的技術(shù)以及這些技術(shù)的衍生、分化方向，具體的應(yīng)用和應(yīng)用的方式，都將成為全人類的問題。

山姆·奧特曼曾經(jīng)被清出OpenAI，但是董事會無法忍受科技巨型企業(yè)的分崩離析，他以極快的速度重新掌舵，繼續(xù)航行。

這艘船將駛向何方呢，它是否會越來越快，乃至失控？有人試圖阻止人工智能的發(fā)展速度，但這顯然無法實(shí)施，全球各國雨后春筍般出現(xiàn)的公司都在訓(xùn)練自己的模型，一個新的時代已經(jīng)來臨。

03

山姆·奧特曼在美國圣路易斯郊區(qū)的四個兄弟姐妹中長大：三個男孩，山姆、麥克斯和杰克，每個相差兩歲，然后是一個女孩安妮，比山姆小九歲。

他被稱作天才少年，從3歲開始修理家庭錄像機(jī)。8 歲生日那天，他擁有了自己的電腦，從此人生以這一天為界分為兩段。他是同性戀，毫不隱諱。他是絕對的自由者，主宰自身的命運(yùn)。

他進(jìn)入斯坦福大學(xué)，并很快退學(xué)創(chuàng)業(yè)——一個美國式的瘋狂故事的開頭。

2017年，他考慮競選加州州長，發(fā)表了一篇名為「美國石板」的綱領(lǐng)，概述了三個核心原則：技術(shù)帶來的繁榮、經(jīng)濟(jì)公平和個人自由。不過，幾周后，山姆·奧特曼放棄了這一選擇。

OpenAI的初衷是非盈利組織，但訓(xùn)練AI十分燒錢，山姆·奧特曼不得不建立一家盈利公司，找錢。

2022 年 11 月 30 日，OpenAI 發(fā)布了 ChatGPT，該軟件在兩個月內(nèi)吸引了 1 億用戶，成為科技史上最偉大的產(chǎn)品。從這一天開始，人工智能一躍成為真正的、無所不及的現(xiàn)實(shí)。

山姆·奧特曼置身世界矚目的焦點(diǎn)，他會見各國政要，他的一舉一動影響著經(jīng)濟(jì)、股市和人們的觀念，以及新聞媒體的鏡頭。

與此同時，他一直將自己與奧本海默聯(lián)系在一起，討論人工智能帶來的生存風(fēng)險。很顯然，這種風(fēng)險在這個創(chuàng)造者心中并非虛妄的想象。

04

成功的故事總伴隨著陰影和嫉妒，以及一些反面的素材。

與山姆·奧特曼的巨大成功相伴隨的是，他的妹妹躲避著這個世界，過著顛沛流離的生活，拒絕哥哥給她買房子，甚至在網(wǎng)上發(fā)布色情內(nèi)容來養(yǎng)活自己。她在夏威夷的偏遠(yuǎn)角落里孤身一人，與匱乏斗爭。

這似乎展示了一幅與他的哥哥曾經(jīng)發(fā)布的「美國石板」綱領(lǐng)相反的現(xiàn)實(shí)場景。技術(shù)真的能讓生活更好嗎？人之間的對立、忌恨、權(quán)力意志能夠被技術(shù)所消滅嗎？還是走向更加令人不安的反面。

OpenAI引發(fā)了技術(shù)進(jìn)步，看起來是有益的，但它的甫一出現(xiàn)也讓一些OpenAI自己的員工感到驚恐。

時任OpenAI研究副總裁的達(dá)里奧·阿莫迪（Dario Amodei）回憶起數(shù)年前第一次看到GPT-2時的感受：「我被嚇到了。這太瘋狂了。這在世界上是前所未有的?！?/p>

他看著自己在OpenAI幫助構(gòu)建的模型，感到一種難以解釋的恐懼。他意識到這個東西將變得非常強(qiáng)大。它可以摧毀人類，如果人類不能理解或很好地利用這樣的模型，如果它想制造混亂并摧毀人類或其他什么，人基本上沒有辦法阻止它。

05

實(shí)際上，山姆·奧特曼對于人工智能的看法在多年中經(jīng)歷了顯著的變化。

他是創(chuàng)造者，投入激情和才華，推動它的發(fā)展。但早在2015年，他曾明確地表達(dá)過自己的憂慮，認(rèn)為高級人工智能可能成為人類持續(xù)存在的最大威脅。

他向《紐約客》記者透露，自己像一個末日者那樣儲備了槍支、黃金、彈藥、抗生素、防毒面具。他在美國加州大瑟擁有一片土地，確保自己在世界末日時可以避難。雖然他后來盡量避免談到這些。

山姆·奧特曼的這些行為和言論，不僅揭示了他對人工智能潛在風(fēng)險的深刻認(rèn)識，也反映出一種深層的生存本能和對未來不確定性的個人準(zhǔn)備。

細(xì)心的人會發(fā)現(xiàn)，在公眾面前，奧特曼可能更多地聚焦于人工智能的帶來的有益影響。但他自己在內(nèi)心深處對AI潛在風(fēng)險的警覺和預(yù)防，卻從未放松。

06

奧本海姆打開了潘多拉的盒子，人類擁有的核武器足以毀滅地球很多次。山姆·奧特曼是否打開了另一個潘多拉的盒子呢？是與不是已成事實(shí)。人工智能是否會溢出人類的掌控范疇，讓科幻電影描繪的場景成真？

抑或這只是杞人憂天。顯然不是。

2024年3月21日，聯(lián)合國大會一致通過了由美國牽頭提出的決議案《抓住安全、可靠和值得信賴的人工智能系統(tǒng)帶來的機(jī)遇，促進(jìn)可持續(xù)發(fā)展 》（Seizing the Opportunities of Safe, Secure and Trustworthy Artificial Intelligence Systems for Sustainable Development）——這是聯(lián)合國大會歷史上首次為針對人工智能治理問題確立全球統(tǒng)一規(guī)范所通過的專項決議，意在支持促進(jìn)安全、可靠和值得信賴的人工智能系統(tǒng)以推動可持續(xù)發(fā)展的原則。

該決議倡議采取措施，減少人工智能系統(tǒng)帶來的風(fēng)險；加強(qiáng)隱私保護(hù)工作；促進(jìn)公平和人權(quán)；進(jìn)一步保障消費(fèi)者和工人權(quán)益；促進(jìn)改善人民生活解決方案的創(chuàng)新和競爭。決議還鼓勵采取其他措施，幫助世界各地的人們更好地辨別內(nèi)容是否由人工智能生成。

事實(shí)上，在OpenAI推出大模型之前，類似的決議只能沉睡在一些人的想象中。當(dāng)它成為現(xiàn)實(shí)，則意味著與這種現(xiàn)實(shí)對應(yīng)的事實(shí)正在發(fā)生。

生成海報

免責(zé)聲明：此文內(nèi)容為第三方自媒體作者發(fā)布的觀察或評論性文章，所有文字和圖片版權(quán)歸作者所有，且僅代表作者個人觀點(diǎn)，與極客網(wǎng)無關(guān)。文章僅供讀者參考，并請自行核實(shí)相關(guān)內(nèi)容。投訴郵箱：editor@fromgeek.com。

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請進(jìn)一步核實(shí)，并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實(shí)內(nèi)容時，應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。