蒙眼狂奔？GPT-4狂飆之際微軟卻被曝砍掉了AI倫理團隊

極客網(wǎng)·極客觀察3月17日 上個月微軟推出AI版必應（Bing）搜索，開啟以AI搜索向搜索巨頭谷歌挑戰(zhàn)的序幕，接著更是將來自投資公司OpenAI的技術(shù)運用到各類產(chǎn)品中。隨著GPT-4的發(fā)布，微軟進一步加速了其AI產(chǎn)品化的步伐。

不過最新消息顯示，就在微軟AI狂飆之際，該公司卻裁掉一個負責AI倫理道德的關(guān)鍵團隊，該團隊確保微軟產(chǎn)品以符合倫理的方式引入AI技術(shù)。

裁員發(fā)生在微軟迎來AI幸福時刻之前

今年1月微軟曾裁員10000人，當中AI部門的倫理和社會團隊被砍掉。這意味著目前微軟正在向公眾推出AI工具，但微軟內(nèi)部并沒有一個專業(yè)團隊負責將AI原則與產(chǎn)品設(shè)計結(jié)合在一起。但即便如此，微軟仍告訴外界會以負責任態(tài)度推進AI。

當然，微軟現(xiàn)在內(nèi)部保留了一個名叫“負責任AI辦公室”（Office of Responsible AI）的機構(gòu)，它為微軟AI項目設(shè)立規(guī)范和原則。但員工似乎對此并不買賬。

微軟一些員工認為倫理和社會團隊相當重要，它們可以確保微軟“負責任”的AI原則在產(chǎn)品設(shè)計時真正得到體現(xiàn)。一位微軟前員工說：“看到負責任AI辦公室提供一些原則，有人可能會說：‘我不知道如何應用?！鴤惱砗蜕鐣F隊的任務就是向他們演示，給沒有規(guī)則的地方定出規(guī)則。”

在過去幾年里倫理和社會團隊曾設(shè)計一款名叫Judgment Call的角色扮演游戲，它可以幫設(shè)計師了解AI可能造成的潛在傷害并在開發(fā)時討論。不久前，團隊還幫微軟分析了引入OpenAI技術(shù)會有何種風險。

團隊是逐步被“肢解”的

2020年時微軟倫理和社會團隊的規(guī)模達到最大，不過人數(shù)并不多，只有30人，包括工程師、設(shè)計師、哲學家。去年10月，因為重組團隊人數(shù)減少，只剩下大約7人。

在一次會議上，微軟AI企業(yè)副總裁John Montgomery說，員工們將會被快速轉(zhuǎn)移至它處?！皝碜訡TO和CEO的壓力非常非常大，上層要求我們將最新開發(fā)的OpenAI模型及之后的模型以最快速度交給客戶?！?/p>

會上有員工表示不滿。一位員工說：“怒我大膽，希望你能重新考慮這個決定。我知道這一決定有業(yè)務上的考慮，我也理解……但是倫理和社會團隊十分關(guān)心我們的工作對社會有何影響，尤其是負面影響。影響是十分巨大的?！?/p>

不過John Montgomery拒絕了員工的請求，他說：“我能重新考慮嗎？我不能。很不幸，壓力還是一樣的?！碑敃rJohn Montgomery并沒有說團隊會被取消。

的確，當時只是裁減了員工，倫理和社會團隊仍然存在，只是人少了之后想推進宏大計劃變得有心無力。

3月6日，倫理和社會團隊剩余員工開會，John Montgomery明確告訴員工團隊將會完全取消。

團隊曾預警引入OpenAI工具的風險

就在倫理和社會團隊被砍之前，他們正在做一件十分重要的事：預測微軟OpenAI工具向全球推廣之后會發(fā)生什么？

去年該團隊曾撰寫一份備忘錄，詳細討論必應Image Creator的潛在風險。必應Image Creator用到了OpenAI開發(fā)的DALL-E系統(tǒng)，它可以根據(jù)文本提示制作圖片。去年10月必應圖片創(chuàng)作工具在多個國家發(fā)布。

必應Image Creator相當成功，微軟研究人員卻警告說，由于任何人都可以輕易模擬藝術(shù)家的風格，藝術(shù)家生計可能會受到影響。備忘錄稱：“測試必應Image Creator發(fā)現(xiàn)，只需要給AI簡單提示，比如輸入藝術(shù)家的名字和媒介（如繪畫、打印、攝影、雕塑），生成的圖片就可以與原作媲美，很難分出真假。”

報告認為必應Image Creator可能會損害微軟的品牌形象，藝術(shù)家以及與他聯(lián)系的利益相關(guān)方也會受到傷害，藝術(shù)家和公眾可能會抱怨。

去年OpenAI更新服務條款，用戶完全擁有DALL-E圖片的版權(quán)，當時微軟倫理和社會團隊十分困惑。他們認為：“如果AI生成的圖片只是藝術(shù)作品的圖字模仿品，根據(jù)提示制作圖片的人卻擁有完整版權(quán)，這在倫理道德上是講不通的?！?/p>

怎么應對？微軟研究人員提出一套方案，比如禁止必應Image Creator用戶通過提示信息利用仍然在世藝術(shù)家的名字制作AI圖片，還有就是創(chuàng)建一個集市出售藝術(shù)家作品，如果搜索藝術(shù)家名字作品就會彈出來。這些建議并沒有被采納。

微軟稱在發(fā)布之前工具已經(jīng)修改過，目的是解決備忘錄中提到的問題，而且負責任AI辦公室也做了很多工作。

那么，你真的會相信微軟在砍掉有倫理道德的AI倫理道德團隊后，會認真規(guī)范AI，讓它符合倫理嗎？（小刀）

生成海報

免責聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性，但不保證有關(guān)資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負任何法律責任。任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時，應及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明，并提供身份證明、權(quán)屬證明及詳細侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。