以“萬(wàn)物智能”為主題，一年一度的百度世界2020大會(huì)于9月15日正式揭幕。在百度大腦分論壇上，百度副總裁馬杰發(fā)表了題為“智能為腦，安全為本”的主題演講，系統(tǒng)闡述了百度大腦在AI安全領(lǐng)域一系列能力布局和最新進(jìn)展。
眾所周知，隨著萬(wàn)物互聯(lián)和大規(guī)模智能協(xié)作的逐漸深入，人類正在進(jìn)入一個(gè)經(jīng)濟(jì)深度智能化的發(fā)展階段。作為其中的核心議題，AI在安全方面的諸多挑戰(zhàn)不僅關(guān)系到整個(gè)AI體系的穩(wěn)定可靠，直接影響到AI算力、算法和數(shù)據(jù)的落地應(yīng)用，也為相應(yīng)的安全能力建設(shè)提出了新的要求與新的思維方式。
(百度副總裁馬杰)
面對(duì)一系列全新的安全挑戰(zhàn)，馬杰在演講中將AI安全問(wèn)題劃分為Security、Safety和Privacy三個(gè)維度進(jìn)行考量，并由此探尋更具針對(duì)性的解決方案。
在Security，即在強(qiáng)對(duì)抗環(huán)境下的安全威脅層面，來(lái)自物理世界和數(shù)字世界的攻擊可能導(dǎo)致探測(cè)裝置和深度學(xué)習(xí)模型做出誤判，造成AI系統(tǒng)在工作過(guò)程中的“指鹿為馬”、“無(wú)中生有”和“有中生無(wú)”。
而來(lái)自非對(duì)抗條件下自然環(huán)境所產(chǎn)生的真實(shí)威脅、即Safety層面真實(shí)世界中環(huán)境因素對(duì)輸入數(shù)據(jù)的正常擾動(dòng)，也有可能對(duì)深度學(xué)習(xí)模型的分類和預(yù)測(cè)造成影響。
為此，百度推出了模型魯棒性體系化評(píng)估框架。從光照、空間變換、模糊、噪聲和天氣變化等多項(xiàng)安全屬性著手，根據(jù)不同模型任務(wù)場(chǎng)景制定評(píng)估標(biāo)準(zhǔn)，幫助行業(yè)更好地量化評(píng)估潛在的安全威脅與模型魯棒性。同時(shí)，百度還首創(chuàng)了AdvBox對(duì)抗樣本工具箱。從安全驗(yàn)證、模型加固、對(duì)抗樣本檢測(cè)、模型魯棒性形式化驗(yàn)證等多個(gè)方面，助力飛槳、TensorFlow等主流機(jī)器學(xué)習(xí)平臺(tái)快速提升模型的健壯性。
而在Privacy、即數(shù)據(jù)安全與隱私保護(hù)層面，貫穿于采集、處理、流通、計(jì)算整個(gè)數(shù)據(jù)生命周期，隱私合規(guī)檢測(cè)、差分隱私、AI自動(dòng)脫敏、聯(lián)邦計(jì)算、可信計(jì)算等安全技術(shù)的應(yīng)用將為百億級(jí)大規(guī)模數(shù)據(jù)的安全聯(lián)合計(jì)算創(chuàng)造可能，也將為金融、醫(yī)療、政務(wù)等領(lǐng)域的聯(lián)合分析、聯(lián)合風(fēng)控、聯(lián)合營(yíng)銷提供數(shù)據(jù)安全保障，進(jìn)一步釋放數(shù)據(jù)價(jià)值，擴(kuò)大AI時(shí)代大規(guī)模數(shù)據(jù)協(xié)作的信任邊界。
目前，依托PaddleFL聯(lián)邦學(xué)習(xí)開(kāi)源框架，百度領(lǐng)先的聯(lián)邦學(xué)習(xí)和有隱私保護(hù)的機(jī)器學(xué)習(xí)能力已與百度大腦深度融合，為飛槳在產(chǎn)業(yè)應(yīng)用中的跨組織數(shù)據(jù)合作提供重要的輔助工具支撐。
“我們希望通過(guò)長(zhǎng)期的研究與實(shí)踐，能夠跑到這些威脅造成重大危害之前。”對(duì)于百度在AI安全領(lǐng)域的持續(xù)發(fā)力，馬杰重申了加大這一投入的必要性。事實(shí)上，其已不止關(guān)乎于AI時(shí)代眾多安全攸關(guān)的關(guān)鍵場(chǎng)景，也已成為當(dāng)前世界亟需應(yīng)對(duì)的現(xiàn)時(shí)挑戰(zhàn)——例如，在備受爭(zhēng)議的AI換臉問(wèn)題上，百度研發(fā)并開(kāi)源的業(yè)內(nèi)首款A(yù)I換臉檢測(cè)工具，便可實(shí)現(xiàn)對(duì)深度偽造、合成技術(shù)的高效“打假”，為監(jiān)管部門阻斷電信網(wǎng)絡(luò)詐騙等違法行為提供助力。
當(dāng)然，圍繞算力、算法、數(shù)據(jù)的安全研究與解決方案，只是在百度大腦AI安全體系框架下的其中一環(huán)。面向更為廣泛的AI安全生態(tài)挑戰(zhàn)，基于全面開(kāi)源的“七種武器”BASS下一代人工智能安全技術(shù)棧等AI安全核心技術(shù)，百度正為解決AI生態(tài)中云、管、端及大數(shù)據(jù)和算法層面的一系列安全風(fēng)險(xiǎn)問(wèn)題提供支持。
正如本次百度世界大會(huì)“萬(wàn)物智能”的主題，作為百度大腦核心架構(gòu)之一，百度的AI安全能力將持續(xù)致力于為AI大生產(chǎn)平臺(tái)的升級(jí)和產(chǎn)業(yè)智能化變革保駕護(hù)航。并從Security、Safety及Privacy多個(gè)維度，打造更安全的AI，打造更安全的AI時(shí)代。
（免責(zé)聲明：本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。
任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書(shū)面權(quán)利通知或不實(shí)情況說(shuō)明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。 ）
