螞蟻集團首度公開“可信AI”架構體系 包括數(shù)據(jù)隱私保護、公平性等四方面

6月11日消息,日前,在“2021全球人工智能技術大會”上,螞蟻集團首席AI科學家漆遠首次提出了“可信AI”的技術架構體系,并分享了螞蟻集團基于該技術架構體系研發(fā)落地的多項應用成果。

漆遠表示,AI是數(shù)字經(jīng)濟的源動力,確保AI的安全性和公平性是行業(yè)共性課題。圍繞“可信AI”這一技術命題,他提出了包含“數(shù)據(jù)隱私保護”、“魯棒性”、“可解釋性與因果分析”和“公平性”四個方面的技術架構體系。

在“數(shù)據(jù)隱私保護”方面,傳統(tǒng)的數(shù)據(jù)保護方法客觀上形成了“數(shù)據(jù)孤島”,影響了如醫(yī)療、金融等領域的協(xié)同作戰(zhàn),也制約AI技術以及行業(yè)發(fā)展。因此,拓展數(shù)據(jù)價值的隱私計算技術,對實現(xiàn)“數(shù)據(jù)不動價值動”顯得尤為重要。

漆遠透露,截至今年3月,螞蟻集團隱私技術專利申請數(shù)量以740個位居全球第一,落地實踐成果豐富。比如營銷反作弊場景下,幫助超過1萬家合作伙伴識別薅羊毛風險,節(jié)省營銷資金超300億。

在提高模型“魯棒性”(Robustness)方面,為了應對黑產(chǎn)攻擊、并使得模型能適應復雜多變的數(shù)據(jù)環(huán)境,還需要引入博弈論思想生成攻擊手段,并進行智能防御,通過左右手互搏,加強抗打擊能力。據(jù)悉,螞蟻集團正在風險交易識別、黑灰賬戶身份識別等風控場景持續(xù)打磨這項能力。

關于“可解釋性與因果分析”,漆遠解釋,AI模型不能是黑盒。“人類希望知道模型背后的邏輯、收獲新的知識,并在它出現(xiàn)問題時踩好剎車,確保AI合規(guī)合法。”他認為,這背后需要數(shù)據(jù)驅動與模型推理能力結合起來,產(chǎn)生可解釋的結果。目前,螞蟻集團已經(jīng)將這項能力在智能風控、投訴審理,反洗錢等領域廣泛應用。

另外,漆遠透露,螞蟻集團已完成了“空中手勢”驗證碼識別方案的研發(fā),幫助視障人群通過“滑動驗證碼”關卡,該方案將免費開放給更多企業(yè)。

極客網(wǎng)企業(yè)會員

免責聲明:本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性,但不保證有關資料的準確性及可靠性,讀者在使用前請進一步核實,并對任何自主決定的行為負責。本網(wǎng)站對有關資料所引致的錯誤、不確或遺漏,概不負任何法律責任。任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權或存在不實內(nèi)容時,應及時向本網(wǎng)站提出書面權利通知或不實情況說明,并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網(wǎng)站在收到上述法律文件后,將會依法盡快聯(lián)系相關文章源頭核實,溝通刪除相關內(nèi)容或斷開相關鏈接。

2021-06-11
螞蟻集團首度公開“可信AI”架構體系 包括數(shù)據(jù)隱私保護、公平性等四方面
【TechWeb】6月11日消息,日前,在“2021全球人工智能技術大會”上,螞蟻集團首席AI科學家漆遠首次提出了“可

長按掃碼 閱讀全文