IBM推出了一項(xiàng)軟件服務(wù)，可以掃描人工智能系統(tǒng)的工作情況，以便檢測(cè)偏見(jiàn)并為正在做出的自動(dòng)決策提供解釋，一定程度的透明度可能是合規(guī)目的所必需的，而不僅僅是公司自己的盡職調(diào)查。
新的信任和透明度系統(tǒng)運(yùn)行在IBM云上，并與從IBM作為各種流行的機(jī)器學(xué)習(xí)框架和AI構(gòu)建環(huán)境所構(gòu)建的模型一兼容，包括自己的Watson技術(shù)，以及Tensorflow、SparkML、AWS SageMaker和AzureML。
它表示，可以通過(guò)編程來(lái)定制服務(wù)以滿足特定的組織需求，以考慮“任何業(yè)務(wù)工作流程的獨(dú)特決策因素”。
完全自動(dòng)化的SaaS解釋了決策并在運(yùn)行時(shí)檢測(cè)AI模型中的偏見(jiàn)，這意味著它正在捕獲“發(fā)生時(shí)可能產(chǎn)生的不公平結(jié)果”。
它還會(huì)自動(dòng)建議添加到模型中的數(shù)據(jù)，以幫助減少已檢測(cè)到的任何偏見(jiàn)。
人工智能決策的解釋包括顯示哪些因素加重了某個(gè)方向的決策、對(duì)建議的信心和信心背后的因素。
IBM還表示該軟件會(huì)記錄AI模型的準(zhǔn)確性、性能和公平性，以及人工智能系統(tǒng)的系譜，這意味著它們可以“以客戶服務(wù)、監(jiān)管或合規(guī)原因輕松跟蹤和召回”。
關(guān)于合規(guī)方面的一個(gè)例子，歐盟的GDPR隱私框架參考了自動(dòng)決策，并且包括讓人們獲得有關(guān)算法在某些情況下如何工作的詳細(xì)解釋的權(quán)利，這意味著企業(yè)可能需要能夠?qū)徍怂麄兊腁I。
IBM AI掃描儀工具通過(guò)可視化儀表板提供自動(dòng)決策的細(xì)分，這是一種減少對(duì)“專業(yè)AI技能”依賴的方法。
然而，它也打算讓自己的專業(yè)服務(wù)人員與企業(yè)合作使用新的軟件服務(wù)。因此，它既可以銷售人工智能，也可以解決人工智能的不完美問(wèn)題，當(dāng)企業(yè)試圖修復(fù)他們的AI時(shí)，專家可以幫助消除任何問(wèn)題。這表明雖然AI確實(shí)會(huì)刪除一些工作，但自動(dòng)化將忙于創(chuàng)建其他類型的工作。
IBM也不是第一家發(fā)現(xiàn)AI偏見(jiàn)商業(yè)機(jī)會(huì)的專業(yè)服務(wù)公司。幾個(gè)月前，埃森哲公開(kāi)了一個(gè)公平的工具，用于識(shí)別和修復(fù)不公平AI。
因此，隨著對(duì)多個(gè)行業(yè)自動(dòng)化的大力推動(dòng)，設(shè)置和銷售服務(wù)以解決因增加AI的使用而出現(xiàn)的任何問(wèn)題，看起來(lái)也相當(dāng)龐大。
事實(shí)上，鼓勵(lì)更多企業(yè)對(duì)進(jìn)入自動(dòng)化更有信心。（在這方面，IBM引用了它所進(jìn)行的研究，發(fā)現(xiàn)雖然82％的企業(yè)正在考慮人工智能部署，但60％擔(dān)心責(zé)任問(wèn)題，63％缺乏內(nèi)部人才來(lái)自信地管理技術(shù)。）
除了推出自己的付費(fèi)AI審計(jì)工具之外，IBM表示，其研究部門將開(kāi)放采購(gòu)AI偏見(jiàn)檢測(cè)和緩解工具包，旨在鼓勵(lì)“圍繞解決AI中的偏見(jiàn)進(jìn)行全球合作”。
“IBM引領(lǐng)行業(yè)建立信任和透明度原則，以開(kāi)發(fā)新的AI技術(shù)?，F(xiàn)在是時(shí)候?qū)⒃瓌t付諸于實(shí)踐了，”IBM認(rèn)知解決方案高級(jí)副總裁David Kenny在一份聲明中表示?！拔覀冋跒槭褂萌斯ぶ悄懿⒚媾R任何有缺陷的決策產(chǎn)生最大潛在風(fēng)險(xiǎn)的企業(yè)提供新的透明度和控制權(quán)?！?/p>
（免責(zé)聲明：本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。
任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說(shuō)明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。 ）
