自動(dòng)化是未來，但我們需要以開放的眼光和清晰的頭腦進(jìn)入未來。
重大的安全或隱私泄露會(huì)給企業(yè)帶來危機(jī)。上頭條新聞，打官司，有時(shí)，首席執(zhí)行官在國會(huì)作證。首席信息官們晝夜不停地工作，得到的卻是解聘書和前程未卜的事業(yè)。這樣的事情我們見過不少。
來自麻省理工學(xué)院和斯坦福大學(xué)的研究人員測試了來自主要科技公司的三個(gè)以商業(yè)版的形式發(fā)布的面部分析程序，并將展示這樣的發(fā)現(xiàn)——這些軟件帶有明顯的膚色和性別偏見。面部識(shí)別程序擅長識(shí)別白人男性，但卻無法成功地識(shí)別女性（尤其是膚色較深的女性）。即將舉行的公平、問責(zé)和透明度會(huì)議將全面公布上周的這個(gè)爆炸性新聞。
偏見有損企業(yè)與公眾之間的關(guān)系。它會(huì)成為批評人士的眾矢之的，他們會(huì)將這種事情看作是公司不分擔(dān)客戶價(jià)值的證據(jù)。而且，由于人工智能在投資、醫(yī)療保健、貸款和財(cái)務(wù)決策、就業(yè)等方面做出越來越多的決策，人身和財(cái)務(wù)甚至刑事責(zé)任的風(fēng)險(xiǎn)將會(huì)增加。
在我們開始存儲(chǔ)和傳輸有價(jià)值的數(shù)據(jù)（通常是個(gè)人和財(cái)務(wù)方面的數(shù)據(jù)）時(shí)，我們會(huì)造成數(shù)據(jù)泄露的風(fēng)險(xiǎn)。在人工智能和自動(dòng)化技術(shù)時(shí)代，偏見是新的漏洞。人工智能和自動(dòng)化技術(shù)對你的公司戰(zhàn)略至關(guān)重要。但隨之而來的是首席信息官和其他領(lǐng)導(dǎo)者必須應(yīng)對的新風(fēng)險(xiǎn)和問題。
創(chuàng)建系統(tǒng)和流程非常重要，它們可以防止偏見蔓延到公司的人工智能軟件中，并在在偏見產(chǎn)生時(shí)檢測到它并減少損害。未來幾年的最大挑戰(zhàn)將會(huì)是這個(gè)，而不是失去工作或人工智能對人身安全的威脅。
公開例子
軟件程序可能存在偏見，這似乎很奇怪，但原因很簡單。開發(fā)人工智能技術(shù)的專家是那些將數(shù)據(jù)輸入到程序中的人。如果他們使用的數(shù)據(jù)已經(jīng)包含標(biāo)準(zhǔn)的人為偏差，那么他們的人工智能軟件也會(huì)反映這種偏見。這并非有意為之，但不幸的是，在Alexa、Siri或Google Home等系統(tǒng)上開始最初的編程時(shí)，它并不是一個(gè)主要的考慮因素。
有些批評人士希望看到人工智能的交互既是性別上中立的，也是種族上中立的。我們可能希望采用更通用的機(jī)器發(fā)音，而不是我們已經(jīng)接觸到的標(biāo)準(zhǔn)女性聲音。這可能有點(diǎn)過了，但觀點(diǎn)是有效的。在將人工智能集成到商業(yè)組織中時(shí)，我們需要時(shí)刻保持警惕，避免出現(xiàn)偏見。
避免偏斜的數(shù)據(jù)集
機(jī)器學(xué)習(xí)的優(yōu)勢之一在于，與傳統(tǒng)分析方法相比，它可以從相對較小的數(shù)據(jù)集創(chuàng)建高度引人注目的預(yù)測模型。這往往會(huì)產(chǎn)生令人興奮且非常有價(jià)值的洞察。但是，這些巨大的利益中存在很大的風(fēng)險(xiǎn)。如果我們希望人工智能完全無偏見，我們必須讓它有一個(gè)盡可能好的起點(diǎn)。目前的數(shù)據(jù)集可能已經(jīng)向基于性別或種族的自動(dòng)假設(shè)偏斜。
當(dāng)我們從頭開始建立人工智能系統(tǒng)，我們必須認(rèn)識(shí)到這一點(diǎn)。數(shù)據(jù)要完全透明并且不受我們自身偏見的影響。只有這樣，人工智能系統(tǒng)才能夠以不偏不倚的方式為我們提供最好的支持。
不斷的訓(xùn)練和評估
一旦系統(tǒng)創(chuàng)建并集成到業(yè)務(wù)網(wǎng)絡(luò)中，工作就無休無止。偏見仍然會(huì)隨著時(shí)間推移而引入——尤其當(dāng)新數(shù)據(jù)輸入到系統(tǒng)中時(shí)。有助于實(shí)施新系統(tǒng)的員工必須得到適當(dāng)?shù)呐嘤?xùn)。他們必須知道如何尋找我們稱之為偏見蔓延（creeping bias）的東西。隨著系統(tǒng)的發(fā)展，它要始終避免人為缺陷。
種族和性別多樣性
例如，如果一家公司正在引入面部識(shí)別軟件，它應(yīng)對系統(tǒng)進(jìn)行培訓(xùn)，使系統(tǒng)能發(fā)現(xiàn)公司員工和客戶的多樣性。無論用戶的種族背景如何，它必須能夠識(shí)別正確的性別。確保新人工智能項(xiàng)目的技術(shù)人員和貢獻(xiàn)者本身就具有多樣性，這是一個(gè)好的開端。
創(chuàng)意多樣性
盡管種族和性別多樣性似乎很容易糾正，但它們并不是唯一可能最終進(jìn)入人工智能系統(tǒng)的偏見類型。到目前為止，人工智能技術(shù)是由一小部分人創(chuàng)建的，他們都擁有博士學(xué)位。他們并不能代表普羅大眾。由于這個(gè)原因，首席信息官必須意識(shí)到這樣的需要——在人工智能程序中建立背景多樣性。
隨著這些系統(tǒng)的成熟和發(fā)展，在開發(fā)過程中讓更多來自廣泛背景的人員參與進(jìn)來，這是很重要的。這應(yīng)該包含來自所有領(lǐng)域的創(chuàng)意人士。這個(gè)想法是為人工智能軟件提供來自盡可能多的來源的盡可能多的有效信息。這最終會(huì)成為人工智能成功融入業(yè)務(wù)系統(tǒng)的最佳機(jī)會(huì)。
嚴(yán)格且持續(xù)的測試
無論實(shí)施團(tuán)隊(duì)如何努力整合新的人工智能系統(tǒng)，仍然存在一些偏見會(huì)隨著時(shí)間流逝進(jìn)入流程的風(fēng)險(xiǎn)。為了避免這個(gè)，首席信息官們必須引入一個(gè)持續(xù)的測試和評估軟件的過程。應(yīng)該為最終用戶提供這樣的工具，這些工具可以在他們所使用的程序中檢測和糾正偏見——一旦他們發(fā)現(xiàn)偏見的話。人工智能可能是一種改變游戲規(guī)則的商業(yè)技術(shù)，但前提是我們始終對偏見保持警惕。
危機(jī)管理和應(yīng)對——做好準(zhǔn)備
最后，假設(shè)你并不總能把事情弄清楚。積極主動(dòng)地與法務(wù)、企業(yè)風(fēng)險(xiǎn)管理、人力資源，公司通信等一起，為處理災(zāi)難提供實(shí)用，久經(jīng)考驗(yàn)的計(jì)劃。坦誠面對你的偏見。自動(dòng)化是未來，但我們需要以開放的眼光和清晰的頭腦進(jìn)入未來。（作者：Michael Zammuto ）
（免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請進(jìn)一步核實(shí)，并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。
任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 ）
