6月11日消息,日前,在“2021全球人工智能技術(shù)大會(huì)”上,螞蟻集團(tuán)首席AI科學(xué)家漆遠(yuǎn)首次提出了“可信AI”的技術(shù)架構(gòu)體系,并分享了螞蟻集團(tuán)基于該技術(shù)架構(gòu)體系研發(fā)落地的多項(xiàng)應(yīng)用成果。
漆遠(yuǎn)表示,AI是數(shù)字經(jīng)濟(jì)的源動(dòng)力,確保AI的安全性和公平性是行業(yè)共性課題。圍繞“可信AI”這一技術(shù)命題,他提出了包含“數(shù)據(jù)隱私保護(hù)”、“魯棒性”、“可解釋性與因果分析”和“公平性”四個(gè)方面的技術(shù)架構(gòu)體系。
在“數(shù)據(jù)隱私保護(hù)”方面,傳統(tǒng)的數(shù)據(jù)保護(hù)方法客觀上形成了“數(shù)據(jù)孤島”,影響了如醫(yī)療、金融等領(lǐng)域的協(xié)同作戰(zhàn),也制約AI技術(shù)以及行業(yè)發(fā)展。因此,拓展數(shù)據(jù)價(jià)值的隱私計(jì)算技術(shù),對(duì)實(shí)現(xiàn)“數(shù)據(jù)不動(dòng)價(jià)值動(dòng)”顯得尤為重要。
漆遠(yuǎn)透露,截至今年3月,螞蟻集團(tuán)隱私技術(shù)專利申請(qǐng)數(shù)量以740個(gè)位居全球第一,落地實(shí)踐成果豐富。比如營銷反作弊場景下,幫助超過1萬家合作伙伴識(shí)別薅羊毛風(fēng)險(xiǎn),節(jié)省營銷資金超300億。
在提高模型“魯棒性”(Robustness)方面,為了應(yīng)對(duì)黑產(chǎn)攻擊、并使得模型能適應(yīng)復(fù)雜多變的數(shù)據(jù)環(huán)境,還需要引入博弈論思想生成攻擊手段,并進(jìn)行智能防御,通過左右手互搏,加強(qiáng)抗打擊能力。據(jù)悉,螞蟻集團(tuán)正在風(fēng)險(xiǎn)交易識(shí)別、黑灰賬戶身份識(shí)別等風(fēng)控場景持續(xù)打磨這項(xiàng)能力。
關(guān)于“可解釋性與因果分析”,漆遠(yuǎn)解釋,AI模型不能是黑盒。“人類希望知道模型背后的邏輯、收獲新的知識(shí),并在它出現(xiàn)問題時(shí)踩好剎車,確保AI合規(guī)合法。”他認(rèn)為,這背后需要數(shù)據(jù)驅(qū)動(dòng)與模型推理能力結(jié)合起來,產(chǎn)生可解釋的結(jié)果。目前,螞蟻集團(tuán)已經(jīng)將這項(xiàng)能力在智能風(fēng)控、投訴審理,反洗錢等領(lǐng)域廣泛應(yīng)用。
另外,漆遠(yuǎn)透露,螞蟻集團(tuán)已完成了“空中手勢”驗(yàn)證碼識(shí)別方案的研發(fā),幫助視障人群通過“滑動(dòng)驗(yàn)證碼”關(guān)卡,該方案將免費(fèi)開放給更多企業(yè)。
- 蜜度索驥:以跨模態(tài)檢索技術(shù)助力“企宣”向上生長
- 百川智能發(fā)布全鏈路領(lǐng)域增強(qiáng)金融大模型Baichuan4-Finance,整體準(zhǔn)確率領(lǐng)先GPT-4o近20%
- 央視曝光未成年人可輕松繞開“防沉迷”系統(tǒng):租號(hào)玩游戲最低僅需4元
- 知乎發(fā)布2024“年度十問”:《黑神話:悟空》、諾貝爾物理學(xué)獎(jiǎng)等問題在列
- 李斌回應(yīng)螢火蟲三重奏大燈設(shè)計(jì):沒有參考iPhone
- 一周熱點(diǎn)匯總:特斯拉下月量產(chǎn)改款Model Y,阿里“甩賣”銀泰
- 蔚來第三品牌firefly螢火蟲首款車型正式亮相 預(yù)售價(jià)14.88萬元
- 首發(fā)線控轉(zhuǎn)向等多項(xiàng)技術(shù) 蔚來旗艦車型ET9正式上市:78.8萬元起
- 網(wǎng)信辦:從嚴(yán)打擊網(wǎng)上侵害未成年人合法權(quán)益行為
- 豆包大模型全面升級(jí),相關(guān)概念股瘋漲,字節(jié)發(fā)布緊急警示
- “小紅書封號(hào)”沖上熱搜,小米YU7無偽裝實(shí)車首次曝光
免責(zé)聲明:本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性,但不保證有關(guān)資料的準(zhǔn)確性及可靠性,讀者在使用前請(qǐng)進(jìn)一步核實(shí),并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏,概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí),應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明,并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后,將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí),溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。